ایران پرسمان - آنتروپیک، شرکت سازنده هوش مصنوعی کلود، فاش کرد که اپراتور وابسته به دولت امارات با کمک این چتبات، ۳۰۰ حساب جعلی برای هدف قراردادن اخوانالمسلمین و منتقدان امارات راهاندازی کرده بود.
به گزارش خبرنگار مهر، چند روز پیش بشری شیخ، روزنامهنگار بریتانیایی فعال در شبکههای اجتماعی، توییتی منتشر کرد که خیلی زود در فضای مجازی دستبهدست شد. او گفته بود شرکت آنتروپیک، سازنده چتبات هوش مصنوعی معروف به کلود، یک عملیات تبلیغاتی را کشف کرده که به گفته خودِ این شرکت با اطمینان بالا به مقامات دولت امارات متحده عربی مرتبط است. طبق نوشته شیخ، در این عملیات از کلود برای ساختن صدها حساب جعلی در شبکههای اجتماعی استفاده شده بود، حسابهایی که هدفشان اخوانالمسلمین، جنگ داخلی سودان و منتقدان دولت امارات بوده است. او این ماجرا را نمونهای از تلاش یک دولت برای شکلدادن به افکار عمومی با کمک اکانتهای ساختگی و هوش مصنوعی عنوان کرد.
این توییت اشارهاش به یکی از مفصلترین گزارشهایی بود که تا امروز درباره سوءاستفاده دولتها از هوش مصنوعی منتشر شده است. برای اینکه بفهمیم دقیقاً چه اتفاقی افتاده، بهتر است مروری بر خود گزارش آنتروپیک داشته باشیم.
گزارش آنتروپیک از کجا آمد؟
روز پنجشنبه دهم سپتامبر، آنتروپیک چهارمین گزارش دورهای خودش را درباره سوءاستفاده از هوش مصنوعی منتشر کرد. این شرکت هر چند ماه یکبار گزارشی منتشر میکند که در آن نشان میدهد چه کسانی و با چه هدفی تلاش کردهاند از چتبات کلود در راستای اهداف مخرب استفاده کنند. گزارش تازه که بیش از صد و پنجاه صفحه است، بازه زمانی دسامبر دوهزار و بیستوپنج تا اوت دوهزار و بیستوشش را پوشش میدهد و هفت حوزه مختلف را دربر میگیرد؛ از حملات سایبری و جاسوسی گرفته تا کلاهبرداریهای مالی، تلاش برای ساخت سلاحهای زیستی و متعارف، و آنچه که موضوع اصلی ماست، یعنی عملیاتهای نفوذ و تأثیرگذاری بر افکار عمومی.
آنتروپیک توضیح داده که چنین گزارشهایی را منتشر میکند چون معتقد است وظیفهاش این است که سوءاستفاده از خدماتش را علنی کند، بهخصوص که هرچه مدلهای هوش مصنوعی قویتر میشوند، خطر استفاده نادرست از آنها هم بیشتر میشود.
ماجرای دقیق این عملیات چه بود؟
بر اساس یافتههای آنتروپیک، این عملیات را ظاهراً یک نفر اداره میکرده، فردی که برای خودش یک شخصیت مجازی هوش مصنوعی به نام دِدشات ساخته و آن را روی یک پلتفرم خصوصی نگهداری میکرده است. درون تنظیمات این شخصیت مجازی، یک سند بلندبالا بهعنوان دستورالعمل اصلی گنجانده شده بود که در صدها گفتوگوی جداگانه با کلود مشخص شده بود که وی هدایت یک عملیات هماهنگ در دو سوی اقیانوس اطلس و در سطح منطقه، با هدف از میان بردن جایگاه جهانی اخوانالمسلمین را پیگیری میکند.
همچنین بر اساس گزارش، این شخص، همزمان یک شبکه نزدیک به سیصد حساب جعلی در شبکههای اجتماعی میساخته و مدیریت میکرده، یک سازمان مردمنهاد کاملاً ساختگی راه انداخته بود که هویت یک نهاد واقعی سوئیسی را کپی کرده بود تا زیر پوشش آن، گزارشهای حقوق بشریای منتشر کند که در واقع محتوایشان توسط یک دولت نوشته شده بود. علاوه بر این، برای دو نفر متنهایی نوشته شده بود تا آنها را بهعنوان شهادت رسمی در شصتودومین نشست شورای حقوق بشر سازمان ملل ارائه کنند، متنهایی که بهدقت طوری نوشته شده بودند که هیچکدام حتی یک اشاره مستقیم به امارات نداشته باشند. در کنار همه اینها، این فرد تحقیقات مفصلی درباره هجده نماینده پارلمان اروپا و چند روزنامهنگار شناختهشده انجام داده و برای هرکدام یک پرونده شخصی تشکیل داده بود. او همچنین درباره گزارشگران ویژه سازمان ملل که نسبت به نقش امارات در بحران سودان انتقاد کرده بودند، شواهدی گردآوری کرده بود که هدفشان بیاعتبار کردن این منتقدان بود.
آنتروپیک در گزارشش نوشته که با وجود اینکه این عملیات طوری طراحی شده بود که ردیابی عامل اصلی سخت باشد، تحقیقات داخلی این شرکت با اطمینان بالایی نشان داده که این فعالیت به مقامات دولتی امارات مرتبط بوده است. نکته جالب این است که در همان سند دستورالعملی که کشف شده، اسم مقامات ارشد اماراتی بهصراحت بهعنوان گیرندگان نهایی این محتوا آمده بود. آنتروپیک همچنین گفته که همین فرد، هزینه مالی شبکه حسابهای جعلی را هم تأمین میکرده است. با این حال، این شرکت گفته که نمیتواند با قطعیت بگوید آیا آن شواهد و پرونده سازیها در نهایت واقعاً به دست مخاطبان هدفشان رسیدهاند یا نه.
چطور این ماجرا کشف شد؟
تا پیش از این، معمولاً روزنامهنگاران و پژوهشگران وقتی متوجه یک عملیات نفوذ میشدند که محتوای آن از قبل در شبکههای اجتماعی منتشر شده بود؛ یعنی زمانی که کار از کار گذشته بود. اما چون چت باتهایی مثل کلود دقیقاً همان مرحلهای هستند که محتوا ساخته و برنامهریزی میشود، آنتروپیک این امکان را دارد که گاهی یک عملیات را حتی پیش از آنکه محتوایش منتشر شود، شناسایی و متوقف کند.
پس از کشف این عملیات، آنتروپیک اعلام کرده که حسابهای مرتبط با آن را مسدود کرده، سازوکارهای ایمنی خود را بر اساس الگوهای رفتاریای که در این پرونده دیده تقویت کرده، و اطلاعات مربوط به آن را با نهادهای ذیربط و شرکای صنعتی در میان گذاشته است.
بازتاب این خبر در رسانههای جهان
این خبر خیلی زود در رسانههای معتبر بینالمللی پوشش داده شد. رسانههایی مانند سمافور و میدل ایست آی هرکدام بهطور جداگانه به این بخش از گزارش آنتروپیک پرداختند. سمافور نوشته که وزارت خارجه امارات به درخواست این رسانه برای اظهار نظر پاسخی نداده است. این رسانه یادآوری کرده که امارات از سال دوهزار و چهارده اخوانالمسلمین را یک سازمان تروریستی اعلام کرده و مبارزه با اسلام سیاسی را یکی از محورهای اصلی سیاست خارجی خود در منطقه قرار داده است.
میدل ایست آی بیشتر روی جزئیات فنی این عملیات متمرکز شده و نوشته که محتوای تولیدشده با دقت طراحی شده بود تا هیچ سخنرانی مستقیماً نام امارات را نبرد.
چرا این پرونده اهمیت دارد؟
آنچه افشاگری مربوط به امارات را مهم مکیند، این است که با وجود گستردگی و پیچیدگی زیادش، ظاهراً همه این کار توسط یک نفر انجام شده است. پیش از این، اجرای چنین عملیات چندلایهای، که همزمان شامل ساخت شبکه حساب جعلی، راهاندازی یک نهاد ساختگی، نوشتن شهادت رسمی برای سازمان ملل و پروندهسازی برای سیاستمداران اروپایی میشد، معمولاً به یک تیم کامل از کارشناسان رسانه، محقق و مترجم نیاز داشت. اما بر اساس همین گزارش، حالا یک فرد با دسترسی به یک ابزار هوش مصنوعی که هرکسی میتواند آن را بخرد، میتواند نقش کل آن تیم را بهتنهایی ایفا کند.
از سوی دیگر، این پرونده نشان میدهد که نهادهای بینالمللی مانند شورای حقوق بشر سازمان ملل، که اساساً برای شنیدن صدای شاهدان مستقل و مدنی طراحی شدهاند، میتوانند خودشان هدف مستقیم چنین عملیاتهایی قرار بگیرند.
آنتروپیک در پایان بخش مربوط به عملیاتهای نفوذ در گزارشش تأکید کرده که خیلی از این عملیاتها، از جمله همین یکی، شاید هرگز به یک مخاطب واقعی و گسترده نرسیده باشند، چون این شرکت موفق شده آنها را در همان مرحلهی تولید شناسایی و متوقف کند. اما در نهایت، این گزارش بهروشنی نشان میدهد که ابزارهای هوش مصنوعی حالا بخشی جداییناپذیر از جعبهابزار عملیاتهای تبلیغاتی دولتها و نهادهای شبهدولتی در سراسر جهان شدهاند.