ایران پرسمان - «عدالت الگوریتمی» یک شعار آرمانی نیست، بلکه یک ضرورت امنیت ملی است. الگوریتمی که تبعیض می‌کند، نه‌تنها حقوق شهروندی را نقض می‌کند، بلکه مشروعیت حاکمیت را نیز خدشه‌دار می‌سازد.
به گزارش ایران پرسمان به نقل از مرکز ملی فضای مجازی، جواد آزادی احمدآبادی مشاور دبیر شورای عالی و مدیرکل حوزه ریاست مرکز ملی فضای مجازی در یادداشتی نوشت: تصور کنید در یک آزمون استخدامی آنلاین شرکت کرده‌اید. رزومه شما درخشان است، اما سیستم هوش مصنوعی شرکت، درخواست شما را رد می‌کند. وقتی برای پیگیری دلیل تماس می‌گیرید، کارشناس منابع انسانی می‌گوید: «سیستم امتیاز شما را پایین ارزیابی کرده است و من هم نمی‌دانم چرا». در دنیای واقعی، انسان‌ها بر اساس سوگیری‌ها، تعصبات و گاه شانس تصمیم می‌گیرند، اما در عصر الگوریتم‌ها، این تصمیمات به ماشینی سپرده شده که گمان می‌کنیم «بی‌طرف» و «دقیق» است.
در سیزدهمین یادداشت این سلسله، از «جعبه سیاه الگوریتمی» و «مرگ حق دفاع» گفتیم و تأکید کردیم که شهروند دیجیتال، حق دارد بداند چگونه یک ماشین درباره آینده او تصمیم گرفته است. اما اکنون با یک پارادوکس جدی مواجهیم: اگر ما به آن «حق بر تبیین» دست پیدا کنیم و بفهمیم ماشین چگونه فکر می‌کند، اما متوجه شویم منطق درونی آن تبعیض‌آمیز است، چه باید کرد؟ اینجاست که «تبعیض الگوریتمی» به عنوان یک تهدید جدی برای امنیت ملی و اجتماعی ما وارد میدان می‌شود.
چرا الگوریتم‌ها تبعیض‌آمیز می‌شوند؟ برای پاسخ، باید به سراغ کتلین اونیل، ریاضیدان و متخصص علم داده، برویم. او در کتاب تأثیرگذار خود با عنوان «سلاح‌های کشتار ریاضی» استدلال می‌کند که الگوریتم‌ها لزوماً عینی نیستند؛ بلکه آن‌ها «نظراتی هستند که در قالب کد پیاده‌سازی شده‌اند». الگوریتم‌ها با داده‌های تاریخی آموزش می‌بینند. اگر داده‌های گذشته ما آکنده از تبعیض جنسیتی، نژادی یا طبقاتی باشد، هوش مصنوعی این تبعیض‌ها را نه‌تنها یاد می‌گیرد، بلکه در مقیاسی میلیون‌ها برابر، آن را بازتولید و تثبیت می‌کند.
ویرجینیا یوبانکس در «خودکارسازی نابرابری» نشان می‌دهد که چگونه سیستم‌های الگوریتمی در خدمات عمومی، فقرا را بیشتر تنبیه می‌کنند و ثروتمندان را در امان نگه می‌دارند. صفیه نوبل نیز در «الگوریتم‌های ستم» اثبات کرده است که موتور جستجوی گوگل، حتی وقتی کاربر به دنبال اطلاعاتی بی‌طرف است، کلیشه‌های نژادی و جنسیتی را بازتولید می‌کند. ما پیش‌تر در این سلسله از «حباب‌های فکری» و «امپریالیسم دیجیتال» گفتیم. اکنون درمی‌یابیم که استعمار داده، تنها غارت اطلاعات نیست؛ بلکه تحمیل یک «جهان‌بینی ریاضی‌شده» است.
رژیم‌های الگوریتمی موجود، توسط شرکت‌های فراملی و بر اساس منطق «حداکثرسازی سود» و «کارایی» طراحی شده‌اند، نه بر اساس منطق «عدالت». وقتی یک الگوریتم بومی تصمیم می‌گیرد از یک الگوریتم خارجی تقلید کند، به‌طور ناخودآگاه، ارزش‌ها و سوگیری‌های آن را نیز وارد اکوسیستم خود می‌کند. برای مثال، یک سیستم رتبه‌بندی اعتباری که بر اساس داده‌های کاربران آمریکایی آموزش دیده، ممکن است یک شهروند ایرانی را که در یک محله با درآمد متوسط زندگی می‌کند، به اشتباه «پرخطر» تشخیص دهد؛ صرفاً به این دلیل که الگوریتم، بستر فرهنگی و اقتصادی آن محله را نمی‌شناسد.
نظام‌های حقوقی و سیاست‌گذاری ما، هنوز ابزارهای لازم برای ممیزی این سوگیری‌ها را ندارند. اگر ما در سیاست‌گذاری فضای مجازی، به دنبال «حکمرانی فعال» و «شهرسازی دیجیتال» بر پایه ارزش‌های اسلامی هستیم، نباید اجازه دهیم که «عدالت» به یک شعار پوپولیستی تقلیل یابد. در اسلام، عدالت یک اصل بنیادین و یک حق شهروندی است. رهبر شهید انقلاب اسلامی (رضوان الله تعالی علیه) همواره بر «عدالت» به عنوان یکی از شعارهای اصلی انقلاب تأکید داشته‌اند. اگر قرار است فضای مجازی بر اساس معارف اسلامی حکمرانی شود، «الگوریتم عدالت‌محور» باید به یک الزام نهادی و فنی تبدیل شود.
اگر در یادداشت سیزدهم، «شبکه ملی اطلاعات» را به عنوان زیرساخت سخت و «پلتفرم‌های بومی» را به مثابه زیست‌بوم نرم در برابر نظام سلطه پلتفرمی معرفی کردیم، اکنون باید به لایه سوم و بنیادین حکمرانی، یعنی «معماری تنظیم‌گری» توجه کنیم. تحقق «الگوریتم عدالت‌محور» بدون یک نهاد تنظیم‌گر مستقل و دارای ابزارهای اجرایی، صرفاً یک آرمان خواهد بود. در این چارچوب، برای رفع خلأ موجود، ضروری است با همکاری نهادهای تقنینی و با تکیه بر ظرفیت‌های فقهی-حقوقی حوزه‌های علمیه، «چارچوب ملی ارزیابی عدالت الگوریتمی» تدوین و ابلاغ گردد.
این چارچوب نهادی باید واجد سه مؤلفه عملیاتی باشد: نخست، استقرار نظام «ممیزی الگوریتمی» دوره‌ای برای شناسایی و پایش سوگیری‌های سیستماتیک در سامانه‌های هوشمند؛ دوم، الزام پلتفرم‌ها به «شفافیت داده‌محور» و افشای ترکیب داده‌های آموزشی که مبنای تصمیم‌گیری ماشین قرار می‌گیرند؛ و سوم، طراحی سازوکارهای حقوقی و قضایی برای «جبران خسارت» و احیای حق اعتراض شهروندانی که قربانی تبعیض‌های ریاضی‌شده در خدمات بانکی، بیمه‌ای یا استخدامی شده‌اند. بدون این معماری تنظیم‌گری، زیست‌بوم بومی ما نیز در دام همان سوگیری‌های پلتفرم‌های فراملی گرفتار خواهد شد.
توسعه «پلتفرم‌های بومی» نیز باید بر پایه همین معیار باشد. این پلتفرم‌ها نباید صرفاً کپی‌برداری از نمونه‌های غربی باشند که در آن‌ها، «اقتصاد خشم» و «توجه» موتور محرکه است؛ بلکه باید الگوریتم‌هایی را توسعه دهند که «عدالت، انصاف و کرامت انسانی» را در اولویت قرار می‌دهند. برای مثال، یک پلتفرم بومی که به جای «محتوای قطبی‌کننده»، محتوای «وحدت‌آفرین» و «آموزنده» را تقویت می‌کند، در حال تمرین «عدالت الگوریتمی» است.
در جمع‌بندی، باید تأکید کنیم که «عدالت الگوریتمی» یک شعار آرمانی نیست، بلکه یک ضرورت امنیت ملی است. الگوریتمی که تبعیض می‌کند، نه‌تنها حقوق شهروندی را نقض می‌کند، بلکه مشروعیت حاکمیت را نیز خدشه‌دار می‌سازد. اگر ما با تکیه بر «ترازوی عدالت» و زیرساخت‌های بومی، بتوانیم الگوریتم‌هایی طراحی کنیم که در خدمت «انسان» باشند، آن‌گاه می‌توانیم ادعا کنیم که «حکمرانی فعال» را در عصر پلتفرم‌ها محقق کرده‌ایم. اما در این میان، یک پرسش بنیادین دیگر وجود دارد: اگر الگوریتم‌ها عادلانه شوند، آیا هویت ما نیز در این فضا محفوظ می‌ماند؟ در دنیایی که الگوریتم‌ها مدام ما را دسته‌بندی، پیش‌بینی و شکل می‌دهند، «من کیستم؟» این پرسشی است که در یادداشت بعدی با موضوع «هویت دیجیتال و شهروندی پلتفرمی» بدان خواهیم پرداخت؛ آیا ما در فضای مجازی، صاحب یک هویت مستقل هستیم یا نسخه‌ای بازسازی‌شده از داده‌هایمان هستیم؟