حکمرانی الگوریتمی در بخش عمومی: از چالش های شفافیت و عدالت تا ضرورت های نظارتی

امروزه دولت ها در سراسر جهان با شتابی بی سابقه به سمت بهره گیری از هوش مصنوعی در فرآیندهای اداری حرکت میکنند. این گذار از مدیریت سنتی به مدیریت مبتنی بر داده، پتانسیل های شگرفی برای افزایش کارایی و بهینه سازی منابع فراهم آورده است. با این حال، انتقال اختیارات تصمیم گیری از انسان به سامانه های خودکار، پرسش های بنیادینی را در خصوص مشروعیت اداری و پاسخگویی دموکراتیک مطرح کرده است. این نوشتار به واکاوی «حکمرانی الگوریتمی» می پردازد و تلاش دارد توازنی میان نوآوری های فناورانه و حفظ حقوق بنیادین شهروندان ترسیم نماید.

۱. چارچوب نظری: صلاحدید اداری در عصر دیجیتال

در سنت حقوق اداری، «صلاحدید» به معنای قدرت اختیار نهادهای عمومی برای انتخاب میان گزینه های قانونی جهت تحقق منافع عمومی است. با ورود هوش مصنوعی، این صلاحدید در قالب های ریاضی کدگذاری شده است. مسئله اصلی اینجاست که هوش مصنوعی صرفا ابزاری برای اجرای تصمیمات نیست، بلکه خود به یک بازیگر فعال تبدیل شده است. این تغییر وضعیت، مرز میان کارایی فنی و مشروعیت اداری را مخدوش کرده و ضرورت بازتعریف نظارت بر قدرت الگوریتمی را بیش از پیش نمایان ساخته است.

۲. تحلیل چالشهای ساختاری

۲.۱. چالش عدم شفافیت و مسئله «جعبه سیاه»

یکی از موانع اصلی در مسیر حکمرانی هوشمند، «عدم شفافیت» یا همان چالش جعبه سیاه است. مدلهای یادگیری ماشین، به ویژه شبکه های عمیق، به دلیل پیچیدگی های محاسباتی، به سختی قابل تفسیر هستند. این امر منجر به نقض «شفافیت رویه ای» میشود، چرا که شهروندان حق دارند از مبانی منطقی تصمیماتی که زندگی آنها را تحت تاثیر قرار
میدهد، آگاه باشند. گذار به سمت «هوش مصنوع ی قابل تفسیر» برای بازگرداندن اعتماد عمومی به ساختارهای اداری ضروری است.

۲.۲. مسئولیت پذیری و فرسایش عاملیت انسانی

نظارت بر سیستم های خودکار اغلب به تایید صوری خروجیها توسط انسان (Rubber- stamping) محدود شده است. این پدیده، که منجر به «سوگیری اتوماسیون» میشود، عاملیت انسانی را تضعیف کرده و پیامدهای تصمیمات الگوریتمی را در یک خلاء مسئولیت پذیری رها می کند. برای مقابله با این وضعیت، استقرار «نظارت معنادار انسانی» ضروری است؛ به این معنا که اپراتورهای انسانی باید دارای اقتدار نهادی و ظرفیت شناختی لازم برای مداخله و بازنگری در تصمیمات ماشینی باشند.
۲.۳. عدالت الگوریتمی و نابرابری های نظام مند
هوش مصنوعی مستعد بازتولید نابرابری های تاریخی نهفته در داده های آموزشی است. این پدیده باعث شکل گیری «چرخه بازخوردی بی عدالتی» میشود؛ جایی که تصمیمات سوگیرانه، داده های جدیدی تولید کرده و تبعیض را به شکلی سیستماتیک نهادینه میکنند. مقابله با این وضعیت مستلزم اتخاذ راهکارهای فعالانه مانند «کاهش سوگیری» در تمامی مراحل چرخه حیات سیستم، از گردآوری داده تا نظارت مستمر بر خروجی هاست.

۳. بررسی راهکارهای نظارتی و استانداردهای جهانی

در مواجهه با این آسیبها، رویکرد نظارتی جهان از «حقوق نرم» به سمت «حقوق سخت» تغییر جهت داده است. «قانون هوش مصنوعی اتحادیه اروپا» نمونه ای بارز از یک «چارچوب مبتنی بر ریسک» است که الزامات سختگیرانه ای را برای سیستم های با ریسک بالا در حوزه های حساس
مانند آموزش و خدمات عمومی پیش بینی کرده است. سیاستگذاران برای ایجاد توازن میان نوآوری و امنیت، نیازمند اتخاذ رویکرد «نظار ت چابک» هستند؛ رویکردی که توانایی تکامل همگام با پیشرفتهای فناورانه را داشته باشد تا از عقبماندگی مقرراتی جلوگیری شود.

۴. نتیجه گیری و پیشنهادها

حکمرانی الگوریتمی فرصتی برای مدرن سازی دولت هاست، مشروط بر آنکه از سلطه ی منطق صرفا ریاضی خارج شود. پیشنهاد میشود نهادهای دولتی: ۱. از سیستم های شفاف و قابل تفسیر در تصمیمات اداری استفاده کنند. ۲. مسئولیت نهایی تصمیمات را در تمامی سطوح، به عاملیت انسانی پاسخگو گره بزنند. ۳. نظارت بر سوگیری ها را به یک استاندارد دائمی در فرآیند مدیریت عمومی تبدیل کنند.
با اتخاذ این تدابیر، می توان به فرصتی برای
الگویی از حکمرانی دست یافت که در آن تکنولوژی در خدمت عدالت و دموکراسی باشد، نه تهدیدی علیه آن.