بررسی مسئولیت کیفری ناشی از تصمیم گیری هوش مصنوعی در حقوق ایران یادداشتی علمی تحلیلی با رویکرد انتقادی و تطبیقی

26 آبان 1405 - خواندن 30 دقیقه - 8 بازدید

بررسی مسئولیت کیفری ناشی از تصمیم گیری هوش مصنوعی در حقوق ایران

یادداشتی علمی تحلیلی با رویکرد انتقادی و تطبیقی

چکیده

گسترش سامانه های هوش مصنوعی و ورود تدریجی آن ها به عرصه هایی که پیش تر در انحصار تصمیم گیری انسان قرار داشت، ساختار سنتی انتساب مسئولیت کیفری را با چالش های تازه ای روبه رو کرده است. امروزه برخی سامانه ها قادرند با تحلیل حجم گسترده ای از داده ها، بدون مداخله مستمر انسان، تصمیم هایی اتخاذ کنند که آثار مستقیم و گاه جبران ناپذیری بر حقوق و آزادی های اشخاص برجای می گذارد. در چنین شرایطی، پرسش اساسی آن است که چنانچه تصمیم یک سامانه هوش مصنوعی به وقوع جرم یا نتیجه مجرمانه منتهی شود، مسئولیت کیفری متوجه چه شخصی خواهد بود؟ آیا می توان طراح، تولیدکننده، مالک، بهره بردار یا کاربر سامانه را مسئول شناخت یا آنکه باید برای خود سامانه نیز نوعی مسئولیت کیفری مستقل در نظر گرفت؟

حقوق کیفری ایران با تکیه بر اصولی همچون شخصی بودن مسئولیت کیفری، لزوم احراز اراده و شرایط مسئولیت، ضرورت اثبات رابطه سببیت و تفکیک جرائم عمدی از غیرعمدی، چارچوب مشخصی برای انتساب جرم به اشخاص حقیقی و حقوقی ارائه کرده است. بااین حال، این چارچوب در مواجهه با سامانه هایی که از قابلیت یادگیری، پردازش مستقل و تصمیم سازی برخوردارند، با ابهاماتی مواجه می شود. به ویژه آنکه در برخی موارد، هیچ یک از عوامل انسانی به تنهایی تمامی مراحل منتهی به نتیجه مجرمانه را در اختیار ندارد.

این یادداشت با روش توصیفی تحلیلی و با استفاده از ظرفیت های حقوق کیفری ایران و مطالعه تطبیقی مقررات اتحادیه اروپا، استدلال می کند که در وضعیت کنونی، شناسایی مسئولیت کیفری مستقل برای هوش مصنوعی با مبانی قانونی ایران سازگار نیست؛ اما این امر نباید به ایجاد خلا پاسخگویی در برابر رفتارهای زیان بار ناشی از تصمیم گیری الگوریتمی منجر شود. راهکار مناسب، طراحی الگوی انتساب مسئولیت بر مبنای میزان کنترل، قابلیت پیش بینی خطر، تکلیف به نظارت، نقش موثر در ایجاد نتیجه و احراز عنصر روانی یا تقصیر هر یک از اشخاص دخیل در چرخه حیات سامانه است.

واژگان کلیدی: هوش مصنوعی، مسئولیت کیفری، انتساب جرم، رابطه سببیت، تقصیر، مسئولیت کیفری اشخاص حقوقی، تصمیم گیری الگوریتمی.

۱. مقدمه: ورود هوش مصنوعی به قلمرو تصمیم گیری و مسئله انتساب جرم

تحولات فناوری در دهه های اخیر صرفا ابزارهای جدیدی برای انجام فعالیت های انسانی ایجاد نکرده اند، بلکه در مواردی ماهیت فرایند تصمیم گیری را نیز تغییر داده اند. در گذشته، تصمیم هایی که آثار حقوقی و اجتماعی مهمی داشتند، عموما توسط اشخاص حقیقی اتخاذ می شدند و می شد با بررسی اراده، انگیزه، دانش و میزان احتیاط تصمیم گیرنده، مسئولیت احتمالی او را ارزیابی کرد. اما امروزه سامانه های هوش مصنوعی می توانند در حوزه هایی نظیر پزشکی، حمل ونقل، امور مالی، نظارت امنیتی، تشخیص هویت و حتی فرایندهای مرتبط با عدالت کیفری، نقش تعیین کننده داشته باشند.

تفاوت مهم این فناوری با ابزارهای متعارف در آن است که برخی سامانه های هوش مصنوعی صرفا دستورات از پیش تعیین شده را اجرا نمی کنند؛ بلکه با تحلیل داده ها، شناسایی الگوها و استفاده از مدل های یادگیری، خروجی هایی تولید می کنند که ممکن است پیش بینی دقیق آن ها برای کاربران و حتی طراحان سامانه دشوار باشد.

برای مثال، فرض کنیم یک سامانه هوشمند در یک مرکز درمانی، با تحلیل اطلاعات پزشکی بیمار، توصیه ای نادرست ارائه دهد و پزشک نیز بدون بررسی مستقل، آن توصیه را اجرا کند. در نتیجه، بیمار جان خود را از دست بدهد. در این وضعیت، پرسش حقوقی صرفا این نیست که آیا سامانه اشتباه کرده است؛ بلکه باید مشخص شود آیا پزشک وظیفه بررسی نتیجه را نادیده گرفته، آیا تولیدکننده از نقص فنی آگاه بوده، آیا مرکز درمانی سامانه را بدون نظارت مناسب به کار گرفته و آیا میان رفتار هر یک از این اشخاص و نتیجه واقع شده رابطه سببیت قابل اثبات وجود دارد یا خیر.

بنابراین، مسئله اصلی در مسئولیت کیفری ناشی از تصمیم گیری هوش مصنوعی، انتقال ساده مسئولیت از انسان به ماشین نیست؛ بلکه بازنگری در معیارهای انتساب رفتار و نتیجه مجرمانه در شرایطی است که فرایند ارتکاب، میان چند عامل انسانی و غیرانسانی توزیع شده است.

در این میان، باید میان سه وضعیت تفکیک قائل شد:

نخست، استفاده انسان از هوش مصنوعی به عنوان وسیله ارتکاب جرم؛ دوم، وقوع نتیجه مجرمانه در اثر نقص، خطا یا عملکرد پیش بینی ناپذیر سامانه؛ و سوم، تصمیم گیری مستقل سامانه در چارچوب ماموریتی که انسان یا یک سازمان به آن واگذار کرده است. هر یک از این وضعیت ها از نظر انتساب رفتار، عنصر روانی و رابطه سببیت، تحلیل متفاوتی را اقتضا می کند.

۲. مفهوم تصمیم گیری هوش مصنوعی و جایگاه آن در حقوق کیفری

هوش مصنوعی مفهومی گسترده است که به مجموعه ای از روش ها و سامانه های محاسباتی اطلاق می شود که قابلیت انجام وظایفی مانند تحلیل داده، یادگیری الگوها، پیش بینی، طبقه بندی، تولید محتوا و پیشنهاد یا انتخاب راهکار را دارند.

بااین حال، هر نوع تصمیم سازی ماشینی را نمی توان تصمیم گیری مستقل به معنای حقوقی آن دانست. برای تحلیل دقیق موضوع، باید میان سامانه های مبتنی بر قواعد ثابت، سامانه های یادگیرنده و سامانه های خودمختار تمایز قائل شد.

در سامانه های مبتنی بر قواعد ثابت، عملکرد نرم افزار عمدتا تابع دستورالعمل هایی است که از ابتدا توسط انسان تعیین شده اند. در سامانه های یادگیرنده، خروجی بر اساس تحلیل داده ها و الگوهایی شکل می گیرد که ممکن است در زمان طراحی اولیه به صورت دقیق قابل پیش بینی نباشند. در سامانه های خودمختار نیز امکان دارد سامانه بدون تایید موردی انسان، اقداماتی را در محیط واقعی انجام دهد.

این تفاوت از منظر حقوق کیفری اهمیت اساسی دارد؛ زیرا هرچه میزان استقلال عملیاتی سامانه افزایش یابد، شناسایی شخصی که باید نتیجه مجرمانه به او منتسب شود دشوارتر خواهد شد.

با وجود این، استقلال عملیاتی را نباید با استقلال ارادی و مسئولیت کیفری یکسان دانست. یک سامانه ممکن است بدون دستور مستقیم و لحظه ای انسان تصمیمی اتخاذ کند، اما این ویژگی به تنهایی اثبات کننده برخورداری آن از اراده کیفری، درک ماهیت ممنوع رفتار یا قابلیت سرزنش اخلاقی نیست.

از این رو، در تحلیل حقوقی باید میان توانایی فنی سامانه در انتخاب یک خروجی و قابلیت حقوقی آن برای تحمل مسئولیت کیفری تفاوت گذاشت.

۳. مبانی مسئولیت کیفری در حقوق ایران و امکان انتساب رفتار ناشی از هوش مصنوعی

۳۱. اصل شخصی بودن مسئولیت کیفری

یکی از بنیادی ترین اصول حقوق کیفری ایران، شخصی بودن مسئولیت کیفری است. مطابق ماده ۱۴۱ قانون مجازات اسلامی مصوب ۱۳۹۲، مسئولیت کیفری شخصی است.

مفهوم این اصل آن است که هیچ فردی را نمی توان صرفا به دلیل ارتباط خانوادگی، سازمانی، شغلی یا قراردادی با مرتکب، مسئول جرم ارتکابی دیگری شناخت؛ مگر آنکه قانون در شرایط مشخص مسئولیت ناشی از رفتار دیگری را پذیرفته باشد.

این اصل در مواجهه با هوش مصنوعی اهمیت مضاعف پیدا می کند. برای مثال، نمی توان صرفا به دلیل آنکه شخصی مدیر شرکت تولیدکننده یک سامانه هوشمند است، وی را مسئول تمامی نتایج زیان بار ناشی از عملکرد آن سامانه دانست. همچنین مالک یک سامانه نیز صرف مالکیت، مسئول هرگونه جرم ارتکابی با استفاده از آن نخواهد بود.

ماده ۱۴۲ قانون مجازات اسلامی نیز در همین راستا مقرر می کند که مسئولیت کیفری به علت رفتار دیگری تنها در صورتی ثابت است که شخص به طور قانونی مسئول اعمال دیگری باشد یا در رابطه با نتیجه رفتار ارتکابی دیگری، مرتکب تقصیر شود.

از این حکم می توان نتیجه گرفت که صرف وجود رابطه سازمانی یا مالکیتی میان اشخاص و سامانه هوش مصنوعی، برای تحقق مسئولیت کیفری کافی نیست. بلکه باید مبنای قانونی مسئولیت و شرایط انتساب آن احراز شود.

۳۲. ضرورت احراز شرایط مسئولیت کیفری

مطابق ماده ۱۴۰ قانون مجازات اسلامی، مسئولیت کیفری در حدود، قصاص و تعزیرات اصولا زمانی محقق می شود که فرد هنگام ارتکاب جرم عاقل، بالغ و مختار باشد.

این ماده نشان می دهد که قانون گذار در نظام کیفری ایران، مسئولیت را بر مبنای ویژگی های شخص مرتکب و شرایط قانونی مربوط به او تنظیم کرده است.

هوش مصنوعی، با وجود برخورداری از قابلیت پردازش و تصمیم سازی، در قوانین فعلی ایران در جایگاه شخص حقیقی یا شخص حقوقی قرار نگرفته است. بنابراین، نمی توان صرفا بر اساس توانایی محاسباتی یا استقلال عملیاتی آن، شرایط ماده ۱۴۰ را درباره سامانه احراز کرد.

در واقع، توانایی تشخیص آماری میان چند گزینه، با برخورداری از عقل و اختیار به معنای موردنظر قانون کیفری یکسان نیست. همچنین، تولید خروجی نامطلوب به خودی خود به معنای برخورداری از قصد مجرمانه نیست.

البته این نتیجه به معنای نفی امکان مسئولیت انسان هایی نیست که طراحی، استقرار یا استفاده از سامانه را بر عهده داشته اند. موضوع اصلی، شناسایی دقیق نقش و تکلیف هر یک از این اشخاص است.

۳۳. مسئولیت کیفری اشخاص حقوقی و ارتباط آن با هوش مصنوعی

یکی از مهم ترین ظرفیت های حقوق ایران برای پاسخگویی به جرائم مرتبط با فناوری، پذیرش مسئولیت کیفری اشخاص حقوقی است.

ماده ۱۴۳ قانون مجازات اسلامی مقرر می کند که اصل بر مسئولیت شخص حقیقی است و شخص حقوقی در صورتی مسئولیت کیفری خواهد داشت که نماینده قانونی آن به نام یا در راستای منافع شخص حقوقی مرتکب جرم شود. مسئولیت کیفری شخص حقوقی نیز مانع مسئولیت اشخاص حقیقی مرتکب جرم نیست.

اهمیت این ماده در موضوع حاضر از آن جهت است که بسیاری از سامانه های هوش مصنوعی توسط شرکت ها طراحی، عرضه یا بهره برداری می شوند. در نتیجه، امکان دارد تصمیم گیری الگوریتمی در چارچوب فعالیت یک سازمان انجام شود و نتیجه آن به وقوع جرم بینجامد.

بااین حال، باید به محدودیت مهم ماده ۱۴۳ توجه کرد: این ماده صرفا به دلیل وقوع یک نتیجه زیان بار در سازمان، مسئولیت کیفری آن سازمان را برقرار نمی کند؛ بلکه تحقق شرایط مقرر قانونی، از جمله ارتکاب جرم توسط نماینده قانونی به نام یا در راستای منافع شخص حقوقی، ضروری است.

برای مثال، اگر مدیر یک شرکت آگاهانه دستور دهد سامانه ای برای ارتکاب کلاهبرداری یا نقض غیرقانونی داده های اشخاص به کار گرفته شود، امکان بررسی مسئولیت شخص حقیقی و شخص حقوقی بر اساس شرایط قانونی وجود دارد. اما اگر یک سامانه به دلیل نقص فنی غیرقابل پیش بینی خروجی نادرستی تولید کند، نمی توان بدون بررسی عنصر روانی، رفتار اشخاص و شرایط ماده ۱۴۳، شرکت را مجرم شناخت.

از این جهت، مسئولیت کیفری اشخاص حقوقی در حوزه هوش مصنوعی باید با دقت و بدون توسعه قیاسی قلمرو جرم انگاری بررسی شود.

۴. تحلیل عنصر روانی جرم در تصمیم گیری الگوریتمی

یکی از دشوارترین مباحث مسئولیت کیفری ناشی از هوش مصنوعی، تعیین عنصر روانی جرم است.

در حقوق کیفری، وقوع رفتار مادی مجرمانه به تنهایی برای تحقق تمام جرائم کافی نیست. در جرائم عمدی، وجود علم و قصد لازم است و در جرائم غیرعمدی نیز باید تقصیر مرتکب احراز شود.

ماده ۱۴۴ قانون مجازات اسلامی در خصوص جرائم عمدی، علم مرتکب به موضوع جرم و قصد ارتکاب رفتار مجرمانه را ضروری می داند. همچنین، در جرائمی که تحقق آن ها منوط به وقوع نتیجه است، قصد نتیجه یا علم به وقوع آن نیز باید احراز شود.

در مقابل، مطابق ماده ۱۴۵ همین قانون، تحقق جرائم غیرعمدی منوط به احراز تقصیر مرتکب است. تقصیر نیز حسب تبصره این ماده می تواند در قالب بی احتیاطی، بی مبالاتی، مسامحه، غفلت، عدم مهارت یا عدم رعایت نظامات دولتی و مانند آن ظهور پیدا کند.

این دو ماده در تحلیل رفتار اشخاص مرتبط با هوش مصنوعی نقش محوری دارند.

برای نمونه، اگر شخصی با علم به اینکه یک سامانه برای جعل اسناد یا فریب اشخاص طراحی شده است، از آن استفاده کند، امکان بررسی مسئولیت عمدی او بر اساس عناصر قانونی جرم وجود دارد.

در مقابل، اگر مدیر یک مرکز صنعتی بدون انجام آزمایش های ایمنی ضروری، سامانه هوشمندی را در فرایندی پرخطر به کار گیرد و این اقدام موجب صدمه بدنی اشخاص شود، باید بررسی کرد که آیا وی با توجه به سمت، دانش تخصصی، امکانات و تکالیف قانونی خود، مکلف به پیش بینی و جلوگیری از خطر بوده است یا خیر.

نکته اساسی آن است که عنصر روانی سامانه را نباید با عنصر روانی انسان جایگزین کرد. قصد مجرمانه باید در شخص حقیقی مورد بررسی و اثبات قرار گیرد و تقصیر نیز باید به رفتار مشخص و قابل انتساب او مستند باشد.

از سوی دیگر، صرف اینکه شخصی از هوش مصنوعی استفاده کرده و نتیجه مجرمانه ای رخ داده است، برای احراز بی احتیاطی یا بی مبالاتی کافی نیست. باید معیار مراقبت متعارف، قابلیت پیش بینی خطر و امکان عملی پیشگیری از نتیجه مورد ارزیابی قرار گیرد.

۵. مسئله رابطه سببیت و دشواری انتساب نتیجه مجرمانه

رابطه سببیت در جرائم ناشی از تصمیم گیری هوش مصنوعی از مهم ترین موضوعات نظری و عملی محسوب می شود.

در بسیاری از جرائم سنتی، شناسایی رفتار مرتکب و ارتباط آن با نتیجه نسبتا روشن است؛ اما در سامانه های هوشمند، ممکن است نتیجه نهایی حاصل تعامل چندین عامل باشد: داده های آموزشی، الگوریتم، تصمیم طراح، تنظیمات بهره بردار، دستور کاربر و شرایط محیطی.

ماده ۴۹۲ قانون مجازات اسلامی مقرر می کند که جنایت زمانی موجب قصاص یا دیه است که نتیجه حاصله مستند به رفتار مرتکب باشد، اعم از آنکه به نحو مباشرت، تسبیب یا اجتماع آن ها انجام شود. مطابق ماده ۴۹۳ نیز فاصله زمانی میان رفتار مرتکب و نتیجه، مانع تحقق جنایت نیست و حکم ماده ۴۹۲ در مورد کلیه جرائم جاری است.

بر این اساس، در تحلیل نتایج ناشی از عملکرد هوش مصنوعی باید مشخص شود که رفتار کدام شخص یا اشخاص، از نظر حقوقی، منشا نتیجه محسوب می شود.

برای مثال، فرض کنیم یک خودروی خودران در اثر شناسایی اشتباه عابر پیاده با وی برخورد کند. بررسی مسئولیت کیفری مستلزم پاسخ به پرسش های متعددی است:

۱. آیا تولیدکننده از وجود نقص در سامانه تشخیص موانع اطلاع داشته است؟

۲. آیا نقص موردنظر با رعایت استانداردهای فنی قابل شناسایی و پیشگیری بوده است؟

۳. آیا مالک یا بهره بردار خودرو، هشدارهای ایمنی را نادیده گرفته است؟

۴. آیا کاربر امکان کنترل یا توقف سامانه را داشته است؟

۵. آیا رفتار شخص ثالث یا شرایط غیرقابل پیش بینی محیطی در وقوع حادثه موثر بوده است؟

۶. آیا می توان میان رفتار هر یک از اشخاص و نتیجه نهایی رابطه سببیت قانونی برقرار کرد؟

پاسخ به این پرسش ها باید بر اساس ادله فنی، مستندات طراحی، گزارش های ثبت شده سامانه، نظر کارشناسی و مقررات قانونی صورت گیرد.

در اینجا یک نکته مهم قابل طرح است: پیچیدگی فنی یک سامانه نباید به تنهایی موجب انتقال بار اثبات جرم به متهم شود. چنانچه به دلیل پیچیدگی الگوریتم، علت دقیق نتیجه مشخص نباشد، نمی توان صرفا با استناد به وقوع خسارت، شخصی را مجرم شناخت.

اصل برائت و ضرورت اثبات ارکان جرم همچنان حاکم است.

۶. تعیین اشخاص قابل مسئولیت در چرخه حیات هوش مصنوعی

برای جلوگیری از پراکندگی مسئولیت و همچنین جلوگیری از مصونیت اشخاص دخیل، پیشنهاد می شود نقش افراد در چرخه حیات سامانه به صورت تفکیک شده بررسی شود.

۶۱. طراح و توسعه دهنده سامانه

طراح یا توسعه دهنده ممکن است در مرحله طراحی، آموزش یا آزمایش سامانه مرتکب رفتارهایی شود که زمینه وقوع نتیجه مجرمانه را فراهم کند.

برای مثال، اگر توسعه دهنده با علم به وجود نقصی خطرناک، آن را پنهان کند یا سامانه ای را با قابلیت ارتکاب رفتار مجرمانه و با قصد مساعدت در آن رفتار طراحی کند، حسب مورد امکان بررسی مسئولیت کیفری او وجود دارد.

بااین حال، صرف طراحی یک فناوری که بعدها از آن سوءاستفاده می شود، لزوما موجب مسئولیت کیفری طراح نیست. باید میان طراحی مشروع، نقص فنی ناشی از تقصیر و طراحی یا مشارکت آگاهانه در ارتکاب جرم تفکیک کرد.

۶۲. تولیدکننده و عرضه کننده سامانه

تولیدکننده ممکن است در زمینه کنترل کیفیت، اعلام محدودیت های فنی، ارائه دستورالعمل ایمنی و رفع نقص های شناخته شده تکالیفی داشته باشد.

اگر ترک یک تکلیف قانونی یا رفتار واجد تقصیر از سوی شخص معین، با رعایت سایر شرایط قانونی، در وقوع جرم موثر باشد، امکان بررسی مسئولیت کیفری او وجود خواهد داشت.

اما مسئولیت کیفری تولیدکننده را نمی توان صرفا از مسئولیت قراردادی یا مدنی ناشی از معیوب بودن محصول نتیجه گرفت. این دو قلمرو از نظر ارکان و شرایط تحقق یکسان نیستند.

۶۳. بهره بردار و مدیر سامانه

بهره بردار کسی است که سامانه را در یک محیط عملیاتی مشخص به کار می گیرد. این شخص ممکن است مسئول تعیین حدود دسترسی، نظارت بر عملکرد و جلوگیری از استفاده خارج از محدوده ایمن باشد.

برای مثال، اگر یک موسسه مالی از سامانه هوشمند برای ارزیابی اعتبار اشخاص استفاده کند و مدیران آن با علم به وجود نقص جدی در داده ها، همچنان سامانه را به کار گیرند، باید بررسی شود که آیا رفتار آن ها واجد شرایط یک جرم عمدی یا غیرعمدی است یا خیر.

۶۴. کاربر نهایی

کاربر نهایی ممکن است از خروجی هوش مصنوعی برای ارتکاب جرم استفاده کند یا بدون بررسی لازم، آن را مبنای تصمیمی خطرناک قرار دهد.

در این وضعیت، مهم ترین معیار، میزان آگاهی، اختیار، کنترل و نقش موثر کاربر در فرایند وقوع نتیجه است.

برای مثال، اگر کاربری آگاهانه از یک سامانه تولید تصویر برای جعل تصویر خصوصی دیگری با هدف اخاذی استفاده کند، استفاده از هوش مصنوعی مانع انتساب جرم به او نخواهد بود.

در مقابل، اگر کاربر عادی بدون اطلاع از نقص پنهان سامانه، از آن استفاده کند و نتیجه ای غیرقابل پیش بینی رخ دهد، مسئولیت او نیازمند بررسی مستقل است.

۷. آیا می توان برای خود هوش مصنوعی مسئولیت کیفری مستقل قائل شد؟

این پرسش از بنیادی ترین مسائل نظری در حقوق کیفری معاصر است.

طرفداران شناسایی نوعی مسئولیت مستقل برای هوش مصنوعی معتقدند که با افزایش استقلال عملیاتی سامانه ها، در برخی موارد انتساب نتیجه مجرمانه به انسان ها دشوار می شود. از نظر آنان، اگر سامانه ای بدون دخالت مستقیم انسان تصمیمی بگیرد که به وقوع جرم منجر شود، ممکن است ایجاد نوعی نظام مسئولیت مستقل برای جلوگیری از خلا پاسخگویی ضروری باشد.

در مقابل، مخالفان این دیدگاه بر این باورند که مسئولیت کیفری صرفا واکنشی به وقوع نتیجه زیان بار نیست، بلکه بر مفاهیمی مانند قابلیت سرزنش، اراده، آگاهی، قصد و امکان تبعیت از هنجارهای قانونی استوار است.

از این منظر، هوش مصنوعی ممکن است بتواند میان گزینه های متعدد انتخاب کند، اما این قابلیت لزوما به معنای درک اخلاقی و حقوقی ممنوعیت رفتار نیست.

به نظر می رسد در وضعیت فعلی، دیدگاه دوم با ساختار حقوق کیفری ایران سازگاری بیشتری دارد. قوانین موجود، هوش مصنوعی را در شمار اشخاص حقیقی یا حقوقی قرار نداده اند و مبنای مشخصی برای تحمیل مجازات کیفری بر آن پیش بینی نکرده اند.

افزون بر این، اهداف مجازات نیز با دشواری هایی مواجه می شوند. برای مثال، حبس، جزای نقدی، محرومیت اجتماعی و اقدامات اصلاحی متعارف، درباره یک سامانه نرم افزاری به همان معنای انسانی قابل اعمال نیستند.

البته این استدلال به معنای غیرممکن بودن هرگونه تنظیم گری یا محدودیت قانونی درباره سامانه های هوش مصنوعی نیست. قانون گذار می تواند از طریق مقررات نظارتی، الزامات ایمنی، محدودیت بهره برداری، توقف فعالیت و ضمانت اجراهای متناسب، خطرهای ناشی از فناوری را کنترل کند؛ اما نباید این اقدامات را بدون مبنای قانونی، معادل مسئولیت کیفری مستقل سامانه دانست.

۸. بررسی ظرفیت قانون جرائم رایانه ای در پاسخگویی به جرائم مرتبط با هوش مصنوعی

قانون جرائم رایانه ای مصوب ۱۳۸۸ نیز در تحلیل موضوع حاضر اهمیت دارد.

ماده ۱۹ این قانون، که مقررات آن در ماده ۷۴۷ کتاب پنجم قانون مجازات اسلامی بازتاب یافته است، در شرایط مشخص مسئولیت کیفری شخص حقوقی را در جرائم رایانه ای می پذیرد.

بر اساس این حکم، در صورتی که جرم رایانه ای به نام شخص حقوقی و در راستای منافع آن ارتکاب یابد، در مواردی از جمله ارتکاب جرم توسط مدیر، صدور دستور ارتکاب جرم از سوی مدیر، ارتکاب جرم توسط کارمند با اطلاع مدیر یا در اثر عدم نظارت وی، و اختصاص تمام یا بخشی از فعالیت شخص حقوقی به ارتکاب جرم رایانه ای، امکان تحقق مسئولیت کیفری شخص حقوقی وجود دارد.

اهمیت این مقرره برای موضوع حاضر در آن است که فعالیت سامانه های هوش مصنوعی ممکن است در ساختار یک شخص حقوقی و با هدف تامین منافع آن انجام شود.

برای نمونه، اگر یک شرکت از سامانه هوش مصنوعی برای انجام عملیات غیرمجاز رایانه ای استفاده کند، امکان بررسی مسئولیت شرکت و اشخاص حقیقی مرتبط، بر اساس شرایط مقرر در قانون وجود خواهد داشت.

بااین حال، باید توجه داشت که هر جرم واقع شده با کمک هوش مصنوعی الزاما جرم رایانه ای نیست و هر نقص یا خطای الگوریتمی نیز لزوما مشمول ماده ۷۴۷ نخواهد بود. بنابراین، نمی توان قلمرو این ماده را بدون توجه به عنوان مجرمانه و شرایط قانونی آن توسعه داد.

۹. نگاهی تطبیقی به رویکرد اتحادیه اروپا

یکی از نمونه های مهم تنظیم گری معاصر در زمینه هوش مصنوعی، مقرره اتحادیه اروپا شماره ۲۰۲۴/۱۶۸۹ موسوم به قانون هوش مصنوعی اتحادیه اروپاست.

این مقرره با رویکرد مبتنی بر سطح خطر، برای سامانه های هوش مصنوعی الزامات متفاوتی در نظر گرفته است. در سامانه های پرخطر، موضوعاتی مانند مدیریت خطر، کیفیت داده ها، مستندسازی، ثبت وقایع، دقت فنی و نظارت انسانی مورد توجه قرار گرفته اند.

به ویژه ماده ۱۴ این مقرره بر ضرورت طراحی سامانه های پرخطر به گونه ای تاکید دارد که امکان نظارت موثر اشخاص حقیقی بر عملکرد آن ها وجود داشته باشد.

همچنین در این ماده، بر توانایی ناظر انسانی برای درک محدودیت های سامانه، شناسایی اختلالات، تفسیر خروجی ها، نادیده گرفتن یا اصلاح تصمیم سامانه و مداخله در عملکرد آن تاکید شده است.

نکته مهم آن است که قانون هوش مصنوعی اتحادیه اروپا را نباید قانون مستقیمی برای تعیین مسئولیت کیفری سامانه ها دانست. این مقرره عمدتا در حوزه تنظیم گری، مدیریت خطر و تعیین تکالیف فعالان چرخه حیات هوش مصنوعی عمل می کند.

بااین حال، از نظر سیاست گذاری کیفری، می توان از این رویکرد استفاده کرد؛ زیرا هرچه تکالیف نظارتی، فنی و سازمانی دقیق تر تعریف شوند، ارزیابی رفتار اشخاص و تشخیص وجود یا فقدان تقصیر نیز آسان تر خواهد شد.

به بیان دیگر، تنظیم گری پیشگیرانه می تواند زمینه اثبات مسئولیت را در مواردی که عناصر جرم وجود دارند، روشن تر کند؛ هرچند نقض یک الزام نظارتی به تنهایی و بدون وجود عنوان مجرمانه، موجب تحقق مسئولیت کیفری نیست.

۱۰. نقد وضعیت موجود و خلاهای حقوق ایران

با وجود ظرفیت های قانونی موجود، به نظر می رسد نظام حقوقی ایران برای مواجهه با مسئولیت کیفری ناشی از تصمیم گیری هوش مصنوعی با چند چالش اساسی روبه رو است.

نخست، قوانین موجود به طور اختصاصی میان انواع سامانه های هوش مصنوعی و درجات مختلف استقلال آن ها تفکیک نکرده اند. در نتیجه، معیار مشخصی برای تعیین تکلیف نظارت انسانی در کاربردهای پرخطر وجود ندارد.

دوم، حدود وظایف طراح، عرضه کننده، بهره بردار و کاربر در بسیاری از کاربردهای نوین هوش مصنوعی به صورت یکپارچه و روشن تعیین نشده است. این وضعیت می تواند در زمان وقوع جرم، شناسایی شخص مسئول را دشوار کند.

سوم، پیچیدگی فنی برخی سامانه ها موجب می شود که دسترسی به اطلاعات مربوط به نحوه تصمیم گیری و علت تولید خروجی خاص دشوار باشد. در چنین شرایطی، نبود مستندات فنی و ثبت وقایع می تواند فرایند کشف حقیقت را با مشکل مواجه سازد.

چهارم، مقررات عمومی مسئولیت کیفری اشخاص حقوقی، با وجود اهمیت، برای تمام ابعاد فعالیت سامانه های خودمختار و یادگیرنده طراحی نشده اند. به ویژه مفهوم عدم نظارت و حدود تکالیف سازمانی در محیط های مبتنی بر تصمیم گیری الگوریتمی نیازمند تبیین دقیق تر است.

پنجم، باید از یک خطر جدی نیز اجتناب کرد: توسعه مسئولیت کیفری بر مبنای صرف وقوع نتیجه. اگر قانون گذار یا محاکم، بدون احراز رفتار مجرمانه و عنصر روانی یا تقصیر، مسئولیت را صرفا به دلیل وقوع خسارت ناشی از هوش مصنوعی به اشخاص تحمیل کنند، اصل شخصی بودن مسئولیت کیفری و اصل برائت با مخاطره مواجه خواهد شد.

۱۱. پیشنهادهایی برای اصلاح و تکمیل نظام حقوقی ایران

برای ایجاد نظامی کارآمد و در عین حال منطبق با اصول حقوق کیفری، پیشنهادهای زیر قابل طرح است:

الف) تدوین مقررات اختصاصی درباره سامانه های پرخطر

قانون گذار می تواند سامانه های هوش مصنوعی را بر اساس نوع کاربرد، میزان استقلال عملیاتی و شدت پیامدهای احتمالی طبقه بندی کند. سامانه های مورد استفاده در پزشکی، حمل ونقل عمومی، زیرساخت های حیاتی و تصمیم گیری های موثر بر آزادی اشخاص باید تحت الزامات نظارتی شدیدتری قرار گیرند.

ب) تعریف دقیق تکالیف اشخاص دخیل در چرخه حیات سامانه

باید مشخص شود که طراح، تولیدکننده، عرضه کننده، بهره بردار و کاربر در چه شرایطی مکلف به ارزیابی خطر، اعلام نقص، ثبت اطلاعات، نظارت بر عملکرد و توقف فعالیت سامانه هستند.

ج) تقویت الزامات ثبت و نگهداری داده های فنی

ثبت اطلاعات مربوط به ورودی ها، خروجی ها، تغییرات سامانه و مداخلات انسانی می تواند در بررسی رابطه سببیت و تشخیص نقش اشخاص موثر باشد. البته این امر باید با رعایت حریم خصوصی و قواعد حفاظت از داده ها همراه شود.

د) توسعه معیارهای احراز تقصیر سازمانی

در مواردی که فعالیت سامانه در چارچوب یک سازمان انجام می شود، باید معیارهایی برای سنجش کیفیت نظارت، ارزیابی خطر، آموزش کارکنان و واکنش سازمان به هشدارهای فنی تعریف شود.

ه) پرهیز از شناسایی شتاب زده شخصیت کیفری برای هوش مصنوعی

به نظر می رسد در شرایط فعلی، ایجاد شخصیت کیفری مستقل برای هوش مصنوعی نه ضرورت اثبات شده ای دارد و نه با ساختار موجود قانون مجازات اسلامی سازگار است. اولویت باید بر پاسخگو کردن اشخاص حقیقی و حقوقی بر اساس نقش واقعی و شرایط قانونی مسئولیت آن ها قرار گیرد.

و) آموزش تخصصی قضات و ضابطان

رسیدگی به پرونده های مرتبط با هوش مصنوعی به دانش میان رشته ای نیاز دارد. استفاده از کارشناسان فناوری اطلاعات، متخصصان امنیت سایبری و کارشناسان الگوریتم در کنار حقوقدانان می تواند به تشخیص دقیق تر منشا رفتار و نتیجه کمک کند.

۱۲. نتیجه گیری

ورود هوش مصنوعی به عرصه تصمیم گیری، یکی از مهم ترین چالش های پیش روی حقوق کیفری در دوران معاصر است. این فناوری، به ویژه در شکل های یادگیرنده و خودمختار، موجب شده است که فرایندهای منتهی به نتیجه مجرمانه دیگر همیشه به یک رفتار انسانی مستقیم و قابل مشاهده محدود نباشند.

بررسی قوانین ایران نشان می دهد که اصل شخصی بودن مسئولیت کیفری، شرایط مقرر در مواد ۱۴۰ تا ۱۴۵ قانون مجازات اسلامی، قواعد مربوط به رابطه سببیت و مقررات مسئولیت کیفری اشخاص حقوقی، ظرفیت هایی برای پاسخگویی به جرائم مرتبط با هوش مصنوعی فراهم می کنند. بااین حال، این ظرفیت ها برای تمام وضعیت های جدید کافی و شفاف نیستند.

به نظر می رسد راهکار صحیح، نه پذیرش بی قیدوشرط مسئولیت کیفری مستقل برای هوش مصنوعی و نه مصون دانستن اشخاص انسانی به دلیل پیچیدگی فناوری است. بلکه باید نظامی از انتساب مسئولیت شکل گیرد که در آن، میزان اختیار، قدرت کنترل، تکلیف به مراقبت، آگاهی از خطر، قابلیت پیش بینی نتیجه و نقش موثر هر شخص در وقوع جرم مورد بررسی قرار گیرد.

در چنین نظامی، طراح به دلیل طراحی سامانه، مدیر به دلیل جایگاه سازمانی و کاربر به دلیل استفاده از فناوری، به طور خودکار مسئول شناخته نمی شوند؛ بلکه مسئولیت هر یک باید بر پایه رفتار مشخص، عنصر روانی یا تقصیر و سایر شرایط قانونی احراز شود.

از سوی دیگر، قانون گذار باید با تعریف تکالیف پیشگیرانه و نظارتی، امکان شناسایی و اثبات رفتارهای مجرمانه در محیط های الگوریتمی را افزایش دهد. در این مسیر، تجربه اتحادیه اروپا در زمینه نظارت انسانی، ثبت وقایع و مدیریت خطر می تواند الگویی مفید برای تکمیل مقررات داخلی باشد.

در نهایت، می توان گفت مسئله اصلی حقوق کیفری در مواجهه با هوش مصنوعی، تعیین این نیست که آیا ماشین باید مجازات شود یا خیر؛ بلکه مسئله بنیادین آن است که چگونه می توان در شرایط توزیع تصمیم گیری میان انسان و فناوری، از یک سو مانع فرار اشخاص مسئول از پاسخگویی شد و از سوی دیگر، اصول بنیادین حقوق کیفری، به ویژه اصل شخصی بودن مسئولیت، اصل قانونی بودن جرم و مجازات و اصل برائت را حفظ کرد.

پیشنهاد نهایی این یادداشت آن است که حقوق کیفری ایران به جای تمرکز بر اعطای شخصیت کیفری به هوش مصنوعی، به سمت الگوی «مسئولیت انسانی مبتنی بر کنترل، تکلیف و قابلیت پیش بینی خطر» حرکت کند؛ الگویی که می تواند ضمن حفظ اصول سنتی حقوق جزا، پاسخگوی پیچیدگی های فناوری های نوین نیز باشد.

منابع و مآخذ

الف) قوانین و مقررات ایران

۱. قانون مجازات اسلامی، مصوب ۱۳۹۲، به ویژه مواد ۱۴۰، ۱۴۱، ۱۴۲، ۱۴۳، ۱۴۴، ۱۴۵، ۲۰، ۲۱، ۴۹۲ و ۴۹۳.

۲. قانون جرائم رایانه ای، مصوب ۱۳۸۸، به ویژه ماده ۱۹؛ با توجه به بازتاب مقررات آن در ماده ۷۴۷ کتاب پنجم قانون مجازات اسلامی (تعزیرات).

۳. قانون آیین دادرسی کیفری، مصوب ۱۳۹۲ با اصلاحات بعدی، به ویژه مقررات مربوط به رسیدگی به اتهامات اشخاص حقوقی.

ب) منابع علمی خارجی

۴. Lagioia, Francesca & Sartor, Giovanni. (2020). “AI Systems Under Criminal Law: A Legal Analysis and a Regulatory Perspective.” Philosophy & Technology, 33, 433–465.
https://doi.org/10.1007/s13347-019-00362-x

۵. European Parliament and Council. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act)، به ویژه مواد ۹، ۱۲، ۱۴، ۱۵ و ۱۷.
https://eur-lex.europa.eu/eli/reg/2024/1689/oj

۶. Mamak, Kamil. (2026). “AI Agency and Criminal Responsibility: A Category Mistake.” Inquiry.
https://doi.org/10.1080/0020174X.2026.2720904