کمیته جدید اوپن ای آی بدون سم آلتمن!
سرگرمی کامپیوتری: یک کمیته جدید برای نظارت بر هیئت مدیره شرکت اوپن ای آی با اختیارات قابل توجه تشکیل شده است که در کمال تعجب، سم آلتمن مدیرعامل این شرکت عضوی از آن نیست.
به گزارش سرگرمی کامپیوتری به نقل از ایسنا، شرکت اوپن ای آی(OpenAI) تغییرات قابل توجهی را در رویه های ایمنی و امنیتی خود همچون ایجاد یک کمیته جدید مستقل نظارت بر هیئت مدیره اعلام نموده است. این حرکت با یک تغییر قابل توجه همراه است؛ سم آلتمن مدیر عامل این شرکت عضوی از این کمیته ایمنی نیست که نشان دهنده تغییر نسبت به ساختار قبلی است.
زیکو کولتر(Zico Kolter) مدیر بخش فناوری یادگیری ماشینی در دانشگاه کارنگی ملون، ریاست این کمیته ایمنی و امنیت جدید را بر عهده خواهد داشت. دیگر اعضاء کلیدی آن نیز عبارتند از آدام دی آنجلو(Adam D'Angelo) مدیر اجرائی کورا(Quora)، پل ناکاسون(Paul Nakasone) ژنرال بازنشسته ارتش ایالات متحده، و نیکول سلیگمن(Nicole Seligman) مشاور عمومی شرکت سونی.
این کمیته جدید جایگزین کمیته ایمنی و امنیت قبلی می شود که در ژوئن ۲۰۲۴ تشکیل شده بود و سم آلتمن را نیز در بین اعضاء خود داشت. کمیته قبلی موظف به ارائه سفارش هایی در مورد تصمیمات حیاتی ایمنی و امنیتی برای پروژه ها و عملیات های شرکت اوپن ای آی بود.
حالا مسئولیت های این کمیته جدید فراتر از سفارش کردن است، چونکه صلاحیت نظارت بر ارزیابی های ایمنی برای عرضه مدلهای اصلی و اعمال نظارت بر عرضه مدلها را خواهد داشت. با اهمیت تر از همه، این کمیته این قدرت را خواهد داشت که انتشار مدلها را تا آن زمان که به نگرانی های ایمنی به اندازه کافی رسیدگی نشده است، به تعویق بیاندازد.
این تجدید ساختار بدنبال یک دوره بررسی دقیق در مورد تعهد اوپن ای آی به ایمنی هوش مصنوعی است. این شرکت در گذشته به سبب انحلال یک تیم ایمنی موسوم به سوپرالانمنت(Superalignment) و خروج پرسنل کلیدی متمرکز بر ایمنی با انتقاداتی روبرو شده است.
حالا بنظر می رسد حذف سم آلتمن از کمیته ایمنی تلاشی برای رفع نگرانی ها در مورد تضاد منافع احتمالی در نظارت بر ایمنی این شرکت باشد.
تازه ترین ابتکار ایمنی اوپن ای آی همین طور شامل برنامه هایی برای تقویت اقدامات امنیتی، افزایش شفافیت در مورد کارهای شرکت و همکاری با سازمان های خارجی است. این شرکت قبلاً با مؤسسات ایمنی هوش مصنوعی ایالات متحده و بریتانیا برای همکاری در مطالعه درباره ی خطرات و استانداردهای ایمنی درحال ظهور هوش مصنوعی برای توسعه هوش مصنوعی قابل اعتماد به توافق رسیده است.
منبع: سرگرمی كامپیوتری
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب