چالش های هوش مصنوعی در تصمیم گیری اخلاقی

وقتی ماشین ها باید اخلاق یاد بگیرند: چالش های هوش مصنوعی در تصمیم گیری اخلاقی

تصور کنید پشت فرمان یک خودروی خودران نشسته اید. ناگهان یک کودک از خیابان می دود و ماشین باید در کسری از ثانیه تصمیم بگیرد: ترمز شدید بزند و احتمال برخورد با خودروی پشت سر را افزایش دهد، یا مسیرش را تغییر دهد و احتمال برخورد با دیوار را بپذیرد. سوال اینجاست: 

چه کسی باید تعیین کند که ماشین در این شرایط بحرانی چه تصمیمی بگیرد؟

این سوال به قلب یکی از پیچیده ترین چالش های هوش مصنوعی می رسد: 

چگونه اخلاق را به ماشین بیاموزیم؟برخلاف مسائلی که جواب قطعی دارند، اخلاق پر از «اگر» و «اما» است؛ چیزهایی که در انسان ها با تجربه، فرهنگ و احساسات شکل می گیرد اما ماشین ها این ویژگی ها را ندارند.

شرکت هایی مانند Google، Tesla و دانشگاه های مطرح جهان سال هاست بر روی چارچوب های تصمیم گیری اخلاقی برای هوش مصنوعی کار می کنند. این چارچوب ها قوانین و اصولی هستند که به ماشین کمک می کنند در شرایط حساس رفتاری انسانی و منطبق با ارزش های اخلاقی داشته باشد. اما یک سوال مهم دیگر هم مطرح است: آیا ارزش های اخلاقی در همه فرهنگ ها یکسان است؟

پاسخ خیر است. آنچه در یک فرهنگ اخلاقی به حساب می آید، ممکن است در فرهنگ دیگر کاملا متفاوت باشد. این موضوع باعث شده است که آموزش اخلاق به ماشین به مثابه تربیت کودکی چندزبانه و چندفرهنگی باشد که باید در هر موقعیت بهترین و درست ترین تصمیم را بگیرد.

اما مشکل کجاست؟
پژوهش های دانشگاه MIT و پروژه های صنعتی نشان داده اند که حتی پیشرفته ترین الگوریتم های یادگیری ماشین در مواجهه با موقعیت های اخلاقی مبهم و متناقض، دچار سردرگمی می شوند و نمی توانند همیشه تصمیمات درستی بگیرند. به همین دلیل، نقش نهایی و حساس تصمیم گیری باید همچنان بر عهده انسان باقی بماند.

این مسئله محدود به خودروهای خودران نیست. از ربات های امدادگر گرفته تا سیستم های پزشکی هوش مصنوعی، همه در موقعیت هایی قرار می گیرند که قوانین خشک و ساده برنامه نویسی پاسخگو نیستند و نیاز به «فهم اخلاقی» دارند.

آینده هوش مصنوعی چگونه خواهد بود؟ آیا روزی می رسد که ماشین ها علاوه بر محاسبه و تحلیل، توانایی فهم اخلاقی هم پیدا کنند؟ پاسخ این سوال هنوز در هاله ای از ابهام است، اما واضح است که مسیر توسعه هوش مصنوعی بدون همراهی علوم انسانی، فلسفه و روانشناسی، ناقص خواهد بود.