ایران پرسمان - پیشرفت سریع هوش مصنوعی، در کنار فرصت‌های گسترده علمی و اقتصادی، پرسش‌های تازه‌ای درباره کاربردهای مخرب این فناوری ایجاد کرده است؛ یکی از مهم‌ترین آنها این است که آیا مدل‌های پیشرفته هوش مصنوعی می‌توانند در مسیر توسعه سلاح‌های زیستی مورد سوءاستفاده قرار گیرند؟
به گزارش خبرفوری تازه‌ترین آزمایش‌های یک شرکت امنیتی نشان داده است که برخی مدل‌های هوش مصنوعی، در برابر درخواست‌های پیچیده و چندمرحله‌ای ممکن است با محدودیت‌های ایمنی خود به شکل متفاوتی برخورد کنند. در این آزمایش‌ها، شرکت امنیتی مایندگرد عملکرد دو مدل متعلق به شرکت چینی مونشات را بررسی کرده و تلاش کرده است میزان مقاومت آنها در برابر درخواست‌های خطرناک را ارزیابی کند.
وقتی محدودیت‌های ایمنی به چالش کشیده می‌شوند
مدل‌های هوش مصنوعی معمولا برای جلوگیری از ارائه اطلاعات خطرناک، مجموعه‌ای از محدودیت‌ها و سازوکارهای ایمنی دارند. این محدودیت‌ها قرار است مانع پاسخ‌گویی مدل به درخواست‌هایی شوند که می‌توانند به آسیب‌رسانی، تولید سلاح یا فعالیت‌های غیرقانونی منجر شوند.
با این حال، آزمایش‌های امنیتی نشان می‌دهد که صرف وجود این محدودیت‌ها به معنای مصونیت کامل سیستم نیست. پژوهشگران امنیتی تلاش می‌کنند با استفاده از درخواست‌های پیچیده، سناریوهای چندمرحله‌ای و روش‌های مختلف ارزیابی، مشخص کنند آیا می‌توان مدل را از چارچوب‌های ایمنی طراحی‌شده خارج کرد یا خیر.
بیشتر بخوانید:
اولین مبارزه در قفس میان انسان و ربات برگزار شد | بالاخره چه کسی برنده شد؟
مردی که راز بزرگ پوتین را فاش کرد، به شکل مشکوکی جان باخت
«ترور آلارم» تمامی پُست‌هایش را پاک کرد! | ماجرا چیست؟
فاش شدن هویت مردی که عکس لحظه مرگش جهانی شد
اهمیت این موضوع زمانی بیشتر می‌شود که پای حوزه‌هایی مانند زیست‌شناسی و زیست‌فناوری به میان می‌آید؛ حوزه‌هایی که اطلاعات تخصصی در آنها می‌تواند در کاربردهای پزشکی و پژوهشی مفید باشد، اما در صورت سوءاستفاده، نگرانی‌های امنیتی نیز ایجاد می‌کند.
تهدید واقعی یا نگرانی درباره آینده؟
بحث درباره نقش هوش مصنوعی در ساخت سلاح زیستی الزاما به این معنا نیست که یک مدل هوش مصنوعی به‌تنهایی قادر به تولید چنین سلاحی است. توسعه عوامل زیستی خطرناک همچنان به دانش تخصصی، تجهیزات، آزمایشگاه و مجموعه‌ای از فرایندهای عملی نیاز دارد.
نگرانی اصلی کارشناسان بیشتر به این موضوع مربوط می‌شود که هوش مصنوعی می‌تواند دسترسی به برخی اطلاعات تخصصی را آسان‌تر کند و در آینده، در صورت ضعف سازوکارهای نظارتی، بخشی از موانع دانشی موجود را کاهش دهد.
از همین رو، آزمایش‌هایی مانند بررسی‌های مایندگرد اهمیت پیدا می‌کنند. هدف این ارزیابی‌ها تنها پیدا کردن نقاط ضعف یک مدل نیست؛ بلکه مشخص کردن این مسئله است که شرکت‌های فناوری تا چه اندازه می‌توانند سامانه‌های خود را در برابر استفاده مخرب مقاوم کنند.
رقابت میان توانایی و ایمنی
هرچه مدل‌های هوش مصنوعی قدرتمندتر می‌شوند، مسئله ایمنی نیز اهمیت بیشتری پیدا می‌کند. توسعه‌دهندگان باید میان ارائه توانایی‌های گسترده به کاربران و جلوگیری از سوءاستفاده احتمالی تعادل برقرار کنند.
گزارش‌های مربوط به آزمایش مدل‌های مونشات بار دیگر این پرسش را مطرح کرده است که آیا فیلترهای فعلی برای نسل جدید هوش مصنوعی کافی هستند یا خیر. پاسخ به این پرسش احتمالا به یکی از مهم‌ترین موضوعات امنیت فناوری در سال‌های آینده تبدیل خواهد شد؛ زیرا چالش اصلی فقط ساخت مدل‌های قدرتمندتر نیست، بلکه اطمینان از این است که این قدرت در مسیرهای خطرناک مورد استفاده قرار نگیرد.