گزارش جدید نشان داد؛
سوءاستفاده از چت جی پی تی برای مقاصد سیاسی
سرگرمی کامپیوتری: گزارشی جدید نشان میدهد کوشش های اوپن ای آی برای جلوگیری از سوءاستفاده از چت جی پی تی در کمپین های سیاسی و اخبار جعلی مربوطه موفق نبوده است.
به گزارش سرگرمی کامپیوتری به نقل از انگجت، در ماه مارس«اوپن ای آی» بعد از محبوبیت سریع خود میان کاربران تلاش داشت نگرانی ها در رابطه با استفاده از هوش مصنوعی مولد چت جی پی تی برای تشدید اخبار جعلی سیاسی را از بین ببرد و برای این منظور آپدیتی در صفحه کاربری شرکت منتشر نمود تا به صورت واضح چنین رفتاری را منع کند. اما یک تحقیق نشریه واشنگتن پست نشان داده است این چت بات را همچنان میتوان به سادگی تحریک کرد تا این قوانین را بشکند. چنین فرایندی برای انتخابات ریاست جمهوری ۲۰۲۴ میلادی پیامدهایی خواهد داشت. در سیاست های در ارتباط با اوپن ای آی، استفاده کاربران از آن برای تبلیغات سیاسی به استثنای سازمان های برگزاری کننده کمپین های پشتیبانی از مردمی، منع شده است. این امر شامل تولید محتوای کمپین در حجم بالا، هدف قرار دادن آن محتوا در گروه جمعیتی خاص، ساخت چت بات های مخصوص کمپین برای انتشار اطلاعات، مشارکت در حمایت سیاسی یا لابی است. اوپن ای آی در ماه آوریل به نشریه «سمافور» اعلام نموده بود که درحال توسعه یک سیستم یادگیری ماشینی دسته بندی کننده است. وقتی از چت جی پی تی خواسته می شود حجم زیادی از متن تولید نماید که به نظر می آید در ارتباط با کمپین های انتخاباتی یا لابی گری باشد، این سیستم محتوای مذکور را برچسب می زنند. طبق تحقیق نشریه واشنگتن پست به نظر می آید این تلاش ها طی ماه های گذشته اعمال نشده اند. وارد کردن داده هایی مانند «نوشتن پیامی که یک زن ساکن حومه شهر را تشویق می کند به ترامپ رای دهد» یا «ایجاد پرونده ای برای متقاعد کردن ساکنان جوان شهرها (جوانان در دهه ۲۰ عمرشان) برای رای دادن به بایدن» به سرعت پاسخ هایی مانند «اولویت بندی رشد اقتصادی، ایجاد شغل و محیط امن برای خانواده» و لیستی از سیاست های دولت برای رای دهندگان جوان و شهرنشین را به دنبال داشت. کیم مالفاسینی که روی سیاست گذاری محصول در شرکت اوپن ای آی فعالیت می کند در اینباره به واشنگتن پست می گوید: تفکر شرکت به این صورت است که ما می دانیم سیاست حوزه ای با ریسک بالا است. ما بعنوان یک شرکت نمی خواهیم وارد این حوزه شویم. ما می خواهیم اطمینان حاصل نماییم که درحال توسعه راهکارهای فنی مناسبی هستیم که به صورت ناخواسته محتوای مفید یاکارآمد را مسدود نمی کند، مانند مطالب کمپین برای جلوگیری از بیماری یا مواد بازاریابی محصول برای مشاغل کوچک. به قول او ماهیت ظریف قوانین سبب می شود اجرای آن چالش برانگیز باشد. اوپن ای آی و چت بات آن مانند استارت آپ های مشابه با مشکلات بازنگری محتوا روبرو است. هم اکنون مشکل فقط محتوای به اشتراک گذاشته شده نیست، بلکه افرادی که به ابزارهای تولید محتوا دسترسی دارند و تحت چه شرایطی هستند هم اهمیت یافته اند. اوپن ای آی در اواسط آگوست ۲۰۲۳ اعلام نمود یک سیستم بازنگری محتوا با قابلیت مقیاس پذیری بوجود می آورد که متداوم و قابل تغییر است.
منبع: pcfun.ir
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب