آیا ماشین می تواند عادل باشد؟ از سوگیری الگوریتمی تا عدالت ماشینی

از ارسطو تا رالز، عدالت همواره پرسشی درباره «داوری بی طرف» بوده است: اعطای هر حق به صاحب آن، بی آنکه داور از نتیجه داوری سودی ببرد. رالز با تصویر «پرده نادانی» می خواست داوری را از موقعیت اجتماعی داور جدا کند. اما امروز داور تازه ای برخاسته که ادعا می کند از هر انسانی بی طرف تر است: الگوریتم. پرسش این یادداشت این است: ماشینی که از گذشته ای تبعیض آلود یاد گرفته، چگونه می تواند درباره آینده ای عادلانه داوری کند؟

شواهد پاسخ، نگران کننده است. در ژوئن ۲۰۲۶، قاضی ریتا لین در کالیفرنیا رای داد که شرکت «ورک دی» غول نرم افزار منابع انسانی باید در دادگاهی دسته جمعی پاسخ گو باشد؛ نخستین پرونده ای در آمریکا که تصمیم گیری الگوریتمی یک نرم افزار استخدامی را به چالش می کشد. ادعا این است که ابزار غربالگری ورک دی با معیارهای نیابتی مانند «شکاف شغلی در رزومه»، عملا متقاضیان دارای بیماری یا معلولیت، سیاه پوستان، زنان و افراد بالای چهل سال را کنار می زند.

این یک استثنا نیست. پژوهش موسسه هوش مصنوعی انسان محور استنفورد که در مه ۲۰۲۶ منتشر شد، با بررسی چهار میلیون درخواست شغلی در ۱۵۰ شرکت نشان داد ابزار استخدامی یک شرکت پرکاربرد (پی متریکس) در حدود ۲۵ درصد مشاغل علیه متقاضیان سیاه پوست و در ۱۵ درصد مشاغل علیه متقاضیان آسیایی تبار تبعیض قائل می شود و چون بسیاری از شرکت ها از همان ابزار استفاده می کنند، «پنج شانس مستقل» متقاضی عملا به یک شانس تکراری فروکاسته می شود.

سوگیری به استخدام محدود نمی شود. تحلیل «زنان سازمان ملل» (ژوئن ۲۰۲۶) روی ۱۳۳ سامانه هوش مصنوعی نشان داد ۴۴ درصد آن ها سوگیری جنسیتی آشکار و ۲۶ درصد ترکیب سوگیری جنسیتی و نژادی دارند. پژوهشگران MIT دریافتند توصیه های مالی مدل های زبانی بزرگ برای مردان به ثروتی حدود ۵ درصد بیشتر در آستانه بازنشستگی می انجامد؛ شکافی که در طول عمر به ده ها هزار دلار می رسد. و بنچمارک «BBG» در سال ۲۰۲۵ روی ده مدل زبانی نشان داد خروجی خنثی این مدل ها فقط در ۴۹ تا ۶۹ درصد موارد رخ می دهد؛ یعنی ماشین در یک چهارم تا نیمی از موارد، جانب کلیشه را می گیرد.

ریشه این تبعیض، عمیق تر از یک خطای فنی است: مسئله «نمایندگی» در داده است. بانک جهانی در گزارش اکتبر ۲۰۲۶ خود درباره آمادگی هوش مصنوعی در آفریقا هشدار داد که مجموعه داده های آموزشی جهانی، کشورها، زبان ها و نهادهای آفریقایی را به طور چشمگیری کم نمایندگی می کنند؛ حدود ۵۶ درصد داده های آموزشی متن باز صرفا انگلیسی است و ۸۸ درصد زبان های آفریقایی در فناوری های پردازش زبان یا به شدت کم نمایندگی اند یا اصلا حضور ندارند. ماشینی که جهان را از پنجره زبان انگلیسی دیده، نمی تواند برای بقیه جهان عادلانه داوری کند. این همان «تکنوکراسی پنهان» است: سلطه ای که نه با زور، بلکه با معماری داده اعمال می شود.

از منظر حکمت اسلامی، عدل صفتی الهی و بنیاد مشروعیت هر داوری است: «لا تظلمون و لا تظلمون»؛ نه ظلم کنید و نه زیر بار ظلم بروید. فقه، داوری را امانتی می داند که داور باید هم «عادل» باشد و هم «آگاه به موضوع». الگوریتم آموزش دیده بر داده تبعیض آمیز، نه عادل است (چون گذشته ناعادلانه را بازتولید می کند) و نه به معنای واقعی آگاه (چون معیارهای نیابتی را به جای واقعیت می نشاند). نتیجه، شکلی نو از ظلم ساختاری است: ظلمی که هیچ کس «قصد» نکرده، اما همه در آن شریک اند همان «عاملیت توزیع شده» که مسئولیت را میان توسعه دهنده، کارفرما و تنظیم گر پخش می کند و پاسخ گویی را دشوار می سازد.

اینجا «حاکمیت داده = حاکمیت سیاسی» معنای عملی می یابد. وقتی ابزار استخدامی یا اعتبارسنجی ساخته شده در غرب، درباره جوان ایرانی داوری می کند، سوگیری های وارداتی آن از نام و لهجه تا الگوهای فرهنگی غایب در داده به تصمیمی سرنوشت ساز تبدیل می شود بی آنکه هیچ مرجعی پاسخ گو باشد. عدالت ماشینی، پیش از آنکه مسئله ای فنی باشد، مسئله ای تمدنی است: چه کسی داده را می سازد، چه کسی معیار عادل بودن را تعریف می کند، و چه کسی حق اعتراض دارد؟

جهان به تدریج در حال پاسخ گویی نهادی است. قانون هوش مصنوعی اتحادیه اروپا که اجرای مرحله ای آن از اوت ۲۰۲۶ آغاز شده، سامانه های استخدامی را «پرریسک» می داند و ارزیابی انطباق، مستندسازی و نظارت انسانی را الزامی می کند؛ جریمه ها تا ۱۵ میلیون یورو یا ۳ درصد درآمد جهانی می رسد. قانون محلی ۱۴۴ نیویورک از کارفرمایان «ممیزی سالانه سوگیری» توسط ارزیاب مستقل و انتشار عمومی نتایج می خواهد. قانون ایلینوی (اجراشده از ژانویه ۲۰۲۶) کارفرما را نه فقط فروشنده ابزار مسئول نتایج تبعیض آمیز می داند و استفاده از کدپستی به عنوان نیابتی نژاد را ممنوع کرده است. اما شکاف اجرا عمیق است: از ۳۹۱ کارفرمای مشمول در نیویورک، فقط ۱۸ کارفرما گزارش ممیزی منتشر کرده اند.

از این منظر، برای ایران و جوامعی در موقعیت مشابه، «عدالت الگوریتمی» نیازمند چارچوبی چهاررکنی است:

رکن نخست: داده عادلانه و حاکمیت داده. نمی توان با داده وارداتی، داوری عادلانه بومی ساخت. سرمایه گذاری در مجموعه داده های فارسی و بومی، مستندسازی منشا داده، و الزام به ارزیابی نمایندگی گروه ها، پیش شرط هر سامانه تصمیم ساز است.

رکن دوم: ممیزی مستقل و مستمر. عدالت ماشینی یک باره «تایید» نمی شود؛ مانند ترازو باید دوره ای کالیبره شود. ممیزی سالانه توسط ارزیاب مستقل با انتشار عمومی نتایج باید شرط به کارگیری هر ابزار تصمیم ساز در استخدام، اعتباردهی و پذیرش دانشگاهی باشد.

رکن سوم: انسان پاسخ گو در حلقه تصمیم. نظارت انسانی صوری دکمه ای که هیچ وقت فشرده نمی شود کافی نیست. هر تصمیم خودکار اثرگذار باید با بازبینی واقعی انسان، و حق اعتراض و بازنگری برای فرد متاثر، همراه باشد.

رکن چهارم: مسئولیت روشن و توزیع شده. قانون باید هم سازنده ابزار و هم به کارگیرنده آن را پاسخ گو بداند؛ تجربه ایلینوی نشان می دهد سپردن همه بار به «فروشنده» یا «کاربر نهایی»، راه فرار می سازد نه راه عدالت.

ماشین ذاتا ظالم نیست؛ اما ذاتا عادل هم نیست. ماشین آینه گذشته است، و گذشته ما عادلانه نبوده است. پرسش «آیا ماشین می تواند عادل باشد؟» پس در واقع پرسشی درباره ماست: آیا حاضریم آینه را بشکنیم و از نو بسازیم با داده ای که همه را نمایندگی کند، ممیزی ای که همه را ببیند، و انسانی که حرف آخر را بزند؟ عدالت ماشینی، اگر روزی محقق شود، نه محصول هوش مصنوعی، که محصول اراده انسانی برای عادل بودن خواهد بود.