اعتماد به هوش مصنوعی: چرا توضیح پذیری به تنهایی کافی نیست؟

سال هاست که پاسخ معمای «جعبه سیاه» را در یک کلمه خلاصه کرده ایم: توضیح پذیری. اگر مدل بتواند بگوید چرا چنین تصمیمی گرفته، گویی کار تمام است. قانون گذار اروپایی هم همین راه را رفته است؛ از اوت ۲۰۲۶، ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا ارائه دهندگان را ملزم می کند که کاربر بداند با هوش مصنوعی طرف است و محتوای تولیدشده به صورت ماشینی خوان علامت گذاری شود؛ تخلف هم تا ۱۵ میلیون یورو یا سه درصد گردش مالی جهانی جریمه دارد. اما پشت این راه حل به ظاهر بدیهی، پرسش دشوارتری خوابیده است: آیا توضیح، اعتماد موجه می سازد؟

فیلسوفان فناوری زودتر از مهندسان به این تردید رسیدند. زکری لیپتون در مقاله مشهور «افسانه تفسیرپذیری مدل» نشان داد که خود «تفسیرپذیری» مفهومی لغزنده است؛ ما هدف های گوناگونی را با هم قاطی می کنیم: اعتماد، علیت، انصاف، انتقال پذیری. شفافیت مدل با توضیح پسینی آن یکی نیست و هیچ کدام خودبه خود اعتماد تولید نمی کنند. تیم میلر یک گام جلوتر رفت و توضیح را یک «رابطه ارتباطی» دانست: پرسش درست این نیست که «آیا مدل شفاف است؟» بلکه این است که «آیا فرد متاثر می تواند توضیح را بفهمد، به چالش بکشد و بر اساس آن عمل کند؟» مارک کوکلبرگ هم اعتماد را پدیده ای اجتماعی و رابطه ای دانست، نه محصول صرف افشای الگوریتم؛ چیزی شبیه یک «قرارداد اجتماعی اعتماد» میان انسان و ماشین.

شواهد تجربی هم چندان به نفع توضیح پذیری ساده انگارانه نیست. پژوهش های ۲۰۲۵ و ۲۰۲۶ نشان می دهند ابزارهای پرکاربرد توضیح پسینی خودشان مسئله دارند: در مقایسه تجربی ۲۰۲۶، روش LIME در داده های با ابعاد بالا نوسان شدیدی داشت (ضریب تغییرات رتبه ای ۰٫۴۰)؛ چیزی که آلوارز-ملیس و یاکولا سال ها پیش محدودیتی بنیادین خوانده بودند. مرور نظام مند بالگیر و همکاران (۲۰۲۶) از «پارادوکس توضیح پذیری–عدم توازن» سخن می گوید: هرچه عدم توازن کلاس ها بیشتر شود، پایداری توضیح های SHAP و LIME کمتر می شود. و تلخ تر از همه: توضیح های پسینی در برابر دست کاری خصمانه آسیب پذیرند؛ می توان مدلی سوگیرانه ساخت که توضیحی بی ضرر و قانع کننده تحویل دهد.

فرض کنیم توضیح، صادقانه و پایدار هم باشد. آیا اعتماد موجه می سازد؟ پژوهش های سوگیری اتوماسیون پاسخ سردی می دهند: فن در وا و همکاران (۲۰۲۲) و ورد و همکاران (۲۰۲۳) نشان دادند توضیح ها سوگیری اتوماسیون را کم نکردند و گاهی بیشترش کردند. اسپیلنر و همکاران (۲۰۲۵) دریافتند شرکت کنندگان با دیدن توضیح نموداری، ۴٫۹ برابر بیشتر احتمال داشت نظرشان را عوض کنند — بی آنکه دقت تصمیم لزوما بهتر شود. به بیان دیگر، توضیح بیشتر وقت ها «پذیرش» را بالا می برد، نه «دقت» را؛ و اعتماد گزارش شده در این پژوهش ها اغلب اعتماد ادراک شده است، نه اعتماد موجه و کالیبره شده.

حقوق دارد همین مسیر را می رود، اما محتاط تر. دیوان دادگستری اروپا در پرونده CK علیه شهر وین (فوریه ۲۰۲۵) رای داد که فرد مشمول تصمیم خودکار، حق «اطلاعات معنادار درباره منطق به کاررفته» دارد؛ اما توضیح باید چنان باشد که فرد بتواند تصمیم را بفهمد و به چالش بکشد — نه لزوما افشای کد منبع. در آمریکا، پرونده موبلی علیه ورکدی (در جریان؛ ژوئن ۲۰۲۶ قاضی اجازه ادامه رسیدگی به ادعاهای تبعیض را داد) نشان می دهد دادگاه ها حاضرند ادعای تبعیض الگوریتمی را بشنوند، حتی آنجا که تصمیم «توضیح دار» به نظر می رسیده است.

از منظر حکمت اسلامی، این تردید ریشه دارتر است. اعتماد در سنت ما با «امانت» گره خورده است: رابطه ای میان امین و صاحب حق، نه خاصیتی از جنس شفافیت فنی. امین با صرف «توضیح دادن» از مسئولیت مبرا نمی شود؛ مسئولیت با پاسخ گویی واقعی، جبران خسارت و امکان عزل ادا می شود. قاعده احتیاط هم همین را می گوید: آنجا که جان، مال یا آبروی مردم در میان است، ارائه توضیح، جواز واگذاری تصمیم نیست. چنان که پیش تر گفته ام، هوش مصنوعی ابزار است نه فاعل اخلاقی؛ پس بار مسئولیت را نمی توان با یک صفحه توضیح، از دوش امین برداشت.

پس چه باید کرد؟ پیشنهاد من چارچوبی چهارلایه است؛ نه جایگزینی برای توضیح پذیری، بلکه کامل کننده آن:

۱. توضیح صادقانه و پایدار: توضیح باید به مدل وفادار باشد، در اجراهای مکرر نوسان نکند و در برابر دست کاری مقاوم باشد. توضیح ناپایدار، بدتر از بی توضیحی است چون توهم فهم می سازد.

۲. پاسخ گویی نهادی: همیشه باید روشن باشد در برابر تصمیم خطا «چه کسی» پاسخ می دهد: توسعه دهنده، به کارگیرنده یا نهاد ناظر. توضیح بدون مخاطب مسئول، نامه ای بی امضاست.

۳. حق اعتراض و ابطال: فرد متاثر باید بتواند تصمیم را بفهمد، به چالش بکشد و در صورت لزوم باطل کند. این همان چیزی است که دیوان اروپا «اطلاعات معنادار» نامید: توضیحی که به درد اعتراض بخورد، نه توضیحی که فقط به درد آرام کردن وجدان.

۴. نظارت انسانی واقعی: ناظری که نه وقت دارد، نه دانش کافی، نه اختیار توقف، ناظر نیست؛ تزئین است. نظارت واقعی به زمان، تخصص و اختیار ابطال نیاز دارد.

اعتماد موجه به ماشین، مثل اعتماد به انسان، در یک جمله خلاصه نمی شود. توضیح لازم است، اما کافی نیست؛ کافی آن است که توضیح در کنار مسئولیت روشن، حق اعتراض واقعی و نظارت دارای اختیار بنشیند. پرسش دقیق تر این نیست که «مدل چه گفت؟» بلکه این است: «اگر مدل اشتباه گفت، چه کسی پاسخ می دهد و من چگونه می توانم اعتراض کنم؟» تا این پرسش بی پاسخ بماند، هر توضیحی — هرچقدر هم فنی و دقیق — فقط پرده ای شیک بر همان جعبه سیاه است.