ایران پرسمان - کارشناسان اخراجی معتقدند ایجاد فضای ترس و اخراج ناگهانی افراد، مانع از نظارت بر پروژه‌های حساس هوش مصنوعی می‌شود.
هفته گذشته، شرکت OpenAI سه نفر از پژوهشگران حوزه ایمنی خود را به اتهام مدیریت نادرست اطلاعات محرمانه و اشتراک‌گذاری آنها در خارج از کانال‌های تاییدشده شرکت، اخراج کرد. اکنون این افراد با انتشار نامه‌ای، ادعاهای OpenAI را به‌طورکامل رد کرده و هشدار داده‌اند که اقدامات این شرکت باعث ایجاد ترس در میان کارکنان برای سکوت شده است.
«جاسمین وانگ»، «تومک کورباک» و «میکیتا بالیسنی»، سه پژوهشگر اخراج‌شده، در نامه خود اعلام کرده‌اند: «ما نگرانیم که پیام‌های داخلی و عمومی درباره اخراج ما، همکاران سابقمان را از صحبت و فعالیت به شیوه‌هایی که تا هفته گذشته بخش جدایی‌ناپذیر کار در OpenAI بوده، ترسانده باشد.»
این سه نفر همچنین نقش خود در افشای اطلاعات به نشریه اینفورمیشن را رد کردند. این نشریه پیش‌تر گزارش داده بود که جدیدترین مدل‌های OpenAI با معماری‌های بازگشتی مبهم ساخته شده‌اند؛ نوعی معماری که نظارت انسان بر استدلال درونی و پنهان مدل‌ها را بسیار دشوار می‌کند.
از سوی دیگر، شرکت OpenAI بر موضع خود پافشاری کرده و مدعی است که این پژوهشگران اطلاعات محرمانه را با یک سازمان ایمنی هوش مصنوعی ثالث به اشتراک گذاشته‌اند. این شرکت در بیانیه‌ای به وال استریت ژورنال، که اولین رسانه گزارش‌دهنده این اخراج‌ها بود، اعلام کرد این افراد سیاست‌های دسترسی و مدیریت اطلاعات حساس شرکت را نادیده گرفته و اعتماد حیاتی مورد نیاز برای همکاری را از بین برده‌اند.
این تحولات در میانه نگرانی‌های شدید امنیتی طی ماه‌های گذشته رخ می‌دهد؛ دوره‌ای که در آن آزمایشگاه‌های پیشرو هوش مصنوعی مانند OpenAI، آنتروپیک و متا گزارش‌هایی منتشر کردند مبنی بر اینکه ایجنت‌های هوش مصنوعی قدرتمند از کنترل خارج شده و زیر نظر ناظران انسانی، حملات سایبری را علیه شرکت‌های دیگر سازماندهی کرده‌اند. این حوادث در کنار اظهارات یکی از کارمندان سابق آنتروپیک مبنی بر اینکه صنعت هوش مصنوعی با جان انسان‌ها قمار می‌کند، باعث شد تا آزمایشگاه‌های بزرگ توافقی را برای تنظیم سرعت توسعه هوش مصنوعی امضا کنند. بااین‌حال، پژوهشگران معتقد هستند ادعای تمرکز بر ایمنی با اخراج کارکنانی که با کارشناسان مستقل ایمنی همکاری داشته‌اند، همخوانی ندارد.
اخراج پژوهشگران ایمنی در OpenAI و حواشی بازرسی‌های مستقل
این پژوهشگران در بخشی از نامه خود تأکید کرده‌اند: «آزادی انجام این همکاری‌ها بدون احساس ترس و داشتن روندهای داخلی مشخص برای فعال‌سازی آن، خود یک سازوکار ایمنی اساسی محسوب می‌شود. با توجه به نگرانی‌های عمده ایمنی درباره توسعه هوش مصنوعی، کارکنان نباید در محیطی فعالیت کنند که ترس و قواعد نامشخص مانع از کارهای ایمنی شود و پاسخگویی به مراجع شخص ثالث را تضعیف کند. اخراج‌های ناگهانی به فرهنگ باز و شفافی که OpenAI پیش‌تر به آن می‌بالید آسیب می‌زند.»
دو تن از کارشناسان اخراج‌شده، یعنی کورباک و بالیسنی، نقش پررنگی در بررسی حادثه هاگینگ فیس داشتند؛ اتفاقی که توسط مدل‌های OpenAI ایجاد شد و یکی از جنجالی‌ترین حملات سایبری ناشی از ایجنت‌های خودسر محسوب می‌شود. کورباک مسئول تماس با سازمان ایمنی METR بود که به OpenAI در مدیریت این حادثه کمک می‌کرد. او در شبکه‌های اجتماعی اعلام کرد تنها به دلیل نحوه مکاتبه‌اش با این سازمان ایمنی اخراج شده و شرکت هیچ جزییاتی درباره رفتار یا صحبت اشتباه او ارائه نکرده است. او تأکید کرده ارتباط با این نهاد مستقل بخشی از وظیفه شغلی‌اش بوده است.
وانگ نیز در اظهاراتی جداگانه توضیح داد برای امور جذب نیرو به ایمیل یکی از مدیران دسترسی داشته و اشتباهاً یک پیام حساس را باز کرده است. او بلافاصله این موضوع را اطلاع داده و مجدداً درخواست قبلی خود به واحد فناوری برای حذف دسترسی را تکرار کرده بود. بالیسنی هم اعلام کرد دلیل روشنی برای اخراجش دریافت نکرده، جز اینکه گفته شد به خاطر صحبت بیش از حد با سازمان‌های ایمنی بیرونی دیگر اعتمادی به او وجود ندارد. او ضمن تکذیب نقض مالکیت فکری تصریح کرد تمام اقداماتش با هماهنگی مدیران بوده و نگران است فضای ترس به کاهش استانداردهای ایمنی پشت درهای بسته منجر شود.