مسئولیت حقوقی ناشی از خطاهای هوش مصنوعی در تنظیم قراردادهای تجاری

تحول دیجیتال در دهه اخیر موجب ورود گسترده سامانه های مبتنی بر هوش مصنوعی به عرصه فعالیت های اقتصادی و تجاری شده است. یکی از مهم ترین حوزه های کاربرد این فناوری، تنظیم، بازبینی و مدیریت قراردادهای تجاری است. امروزه شرکت ها و موسسات اقتصادی از ابزارهای هوش مصنوعی برای تهیه پیش نویس قراردادها، تحلیل ریسک های قراردادی، پیشنهاد شروط قراردادی و حتی مذاکره خودکار استفاده می کنند. بهره گیری از این فناوری اگرچه موجب کاهش هزینه های معاملاتی، افزایش سرعت انعقاد قراردادها و ارتقای کارایی اقتصادی شده است، اما در عین حال مسائل حقوقی جدیدی را نیز مطرح ساخته است. یکی از مهم ترین این مسائل، مسئولیت حقوقی ناشی از خطاهای هوش مصنوعی در فرآیند تنظیم قراردادهای تجاری است. پرسش اساسی آن است که در صورتی که یک سامانه هوش مصنوعی در تنظیم قرارداد مرتکب اشتباه شود و این اشتباه منجر به ورود خسارت به یکی از طرفین قرارداد گردد، چه شخصی مسئول جبران خسارت خواهد بود و قواعد سنتی حقوق قراردادها و مسئولیت مدنی تا چه اندازه قادر به پاسخگویی به این چالش نوظهور هستند.

در نظام های حقوقی کلاسیک، مسئولیت حقوقی بر مبنای فرض وجود اراده انسانی شکل گرفته است. قواعد مربوط به قراردادها، مسئولیت مدنی و جبران خسارت همگی بر این پیش فرض استوارند که تصمیمات و اعمال حقوقی توسط اشخاص حقیقی یا حقوقی اتخاذ می شوند. در مقابل، سامانه های هوش مصنوعی دارای ویژگی هایی نظیر خودآموزی، تحلیل مستقل داده ها و تولید خروجی هایی هستند که در بسیاری از موارد قابل پیش بینی کامل توسط کاربران یا توسعه دهندگان آنها نیست. همین ویژگی موجب شده است که تعیین مسئولیت ناشی از خطاهای این سامانه ها با دشواری های قابل توجهی مواجه گردد.

در حقوق ایران، مطابق ماده ۱۰ قانون مدنی، قراردادهای خصوصی نسبت به کسانی که آن را منعقد نموده اند در صورتی که مخالف صریح قانون نباشد نافذ است. همچنین ماده ۱۹۰ قانون مدنی شرایط اساسی صحت معاملات را شامل قصد و رضای طرفین، اهلیت، موضوع معین و مشروعیت جهت معامله می داند. در فرضی که متن قرارداد توسط سامانه هوش مصنوعی تهیه شده باشد، اصل اعتبار قرارداد از بین نمی رود؛ زیرا اراده نهایی همچنان متعلق به اشخاص انسانی است. با این حال، اگر سامانه هوش مصنوعی به دلیل تحلیل نادرست اطلاعات، درج شرطی نامتعارف یا حذف یک بند اساسی موجب ورود خسارت گردد، مسئله مسئولیت جبران خسارت مطرح می شود.

یکی از دیدگاه های مطرح در این زمینه آن است که مسئولیت باید متوجه کاربری باشد که از سامانه هوش مصنوعی استفاده کرده است. بر اساس این دیدگاه، هوش مصنوعی صرفا ابزاری در اختیار کاربر محسوب می شود و همان گونه که استفاده کننده از یک نرم افزار سنتی مسئول نتایج حاصل از کاربرد آن است، استفاده کننده از سامانه هوش مصنوعی نیز باید مسئولیت آثار حقوقی و اقتصادی تصمیم خود را بپذیرد. این رویکرد با اصول سنتی حقوق مدنی سازگار است؛ زیرا شخصیت حقوقی مستقلی برای هوش مصنوعی قائل نیست و مسئولیت را به اشخاص انسانی منتسب می کند.

در مقابل، برخی نویسندگان معتقدند که در مواردی که خطا ناشی از نقص طراحی، آموزش نامناسب الگوریتم یا ضعف فنی سامانه باشد، توسعه دهنده یا تولیدکننده فناوری باید مسئول شناخته شود. این دیدگاه از نظریه مسئولیت ناشی از تولید کالاهای معیوب الهام گرفته است. مطابق این رویکرد، هنگامی که یک سامانه هوش مصنوعی به بازار عرضه می شود، تولیدکننده باید از ایمنی و قابلیت اعتماد آن اطمینان حاصل کند و در صورت ورود خسارت ناشی از نقص فنی، مسئولیت جبران را بر عهده گیرد.

در حقوق اتحادیه اروپا، رویکرد جدیدی نسبت به تنظیم گری هوش مصنوعی در حال شکل گیری است. مقررات جدید هوش مصنوعی اتحادیه اروپا، موسوم به EU AI Act، بر مبنای مدیریت ریسک طراحی شده است. در این چارچوب، سامانه های هوش مصنوعی بر اساس میزان خطر بالقوه دسته بندی می شوند و ارائه دهندگان آنها موظف به رعایت الزامات مشخصی در زمینه شفافیت، نظارت انسانی و مدیریت ریسک هستند. هرچند این مقررات مستقیما قواعد مسئولیت مدنی را تعیین نمی کند، اما می تواند مبنای احراز تقصیر یا تخلف در دعاوی جبران خسارت قرار گیرد. از این منظر، عدم رعایت الزامات قانونی توسط ارائه دهنده سامانه می تواند زمینه مسئولیت وی را فراهم سازد.

در ایالات متحده نیز گرچه قانون فدرال جامعی درباره هوش مصنوعی وجود ندارد، اما دادگاه ها و حقوقدانان عمدتا از قواعد سنتی مسئولیت مدنی و مسئولیت تولیدکنندگان برای حل اختلافات ناشی از فناوری های نوظهور استفاده می کنند. در این نظام حقوقی، چنانچه ثابت شود که خسارت ناشی از نقص طراحی یا هشدار ناکافی درباره محدودیت های سامانه بوده است، امکان انتساب مسئولیت به تولیدکننده وجود دارد. از سوی دیگر، اگر کاربر برخلاف دستورالعمل ها از سامانه استفاده کرده باشد، مسئولیت ممکن است متوجه وی گردد.

تحلیل اقتصادی حقوق نیز در این زمینه نتایج قابل توجهی ارائه می کند. از منظر تحلیل اقتصادی، هدف اصلی نظام مسئولیت مدنی باید کاهش هزینه های اجتماعی ناشی از خطا و ایجاد انگیزه برای پیشگیری از خسارت باشد. بر اساس این رویکرد، مسئولیت باید بر عهده شخصی قرار گیرد که با کمترین هزینه قادر به جلوگیری از وقوع زیان است. در بسیاری از موارد، توسعه دهنده سامانه بیش از کاربر نهایی توانایی اصلاح الگوریتم ها و کاهش احتمال بروز خطا را دارد؛ بنابراین انتساب مسئولیت به وی می تواند موجب افزایش سطح ایمنی فناوری شود. در مقابل، در مواردی که کاربر بدون بررسی کافی به خروجی سامانه اعتماد کرده و از نظارت انسانی لازم خودداری نموده است، تحمیل مسئولیت به کاربر می تواند انگیزه لازم برای استفاده محتاطانه از فناوری را ایجاد کند.

در حقوق ایران، قانون مسئولیت مدنی مصوب ۱۳۳۹ مبنای مهمی برای تحلیل این موضوع محسوب می شود. مطابق ماده ۱ این قانون، هر کس بدون مجوز قانونی عمدا یا در نتیجه بی احتیاطی به جان، سلامتی، مال یا حقوق دیگران لطمه ای وارد نماید که موجب ضرر مادی یا معنوی شود، مسئول جبران خسارت است. اگرچه قانون گذار در زمان تصویب این قانون فناوری هوش مصنوعی را مدنظر نداشته است، اما مفاهیم تقصیر، بی احتیاطی و رابطه سببیت همچنان قابلیت اعمال در دعاوی ناشی از خطاهای الگوریتمی را دارند. چالش اصلی در این زمینه، اثبات رابطه سببیت میان رفتار اشخاص و عملکرد سامانه ای است که بخشی از تصمیمات خود را به صورت مستقل اتخاذ می کند.

یکی دیگر از مباحث مهم، مسئله قابلیت پیش بینی خطاهای هوش مصنوعی است. در بسیاری از موارد، سامانه های مبتنی بر یادگیری ماشین رفتارهایی از خود نشان می دهند که حتی برای توسعه دهندگان آنها نیز به طور کامل قابل پیش بینی نیست. این ویژگی موجب تضعیف مبانی سنتی تقصیر می شود؛ زیرا یکی از عناصر اساسی مسئولیت مبتنی بر تقصیر، امکان پیش بینی نتایج زیان بار رفتار است. به همین دلیل برخی نویسندگان پیشنهاد کرده اند که در خصوص سامانه های پرخطر هوش مصنوعی، به جای مسئولیت مبتنی بر تقصیر از الگوهای مسئولیت محض استفاده شود؛ بدین معنا که صرف ورود خسارت و احراز رابطه سببیت برای ایجاد مسئولیت کافی باشد.

با وجود این، پذیرش مسئولیت محض در همه موارد با ملاحظات اقتصادی سازگار نیست. توسعه فناوری های نوآورانه نیازمند محیطی است که ریسک های معقول را تحمل کند. اگر مسئولیت بیش از حد بر دوش توسعه دهندگان قرار گیرد، ممکن است انگیزه سرمایه گذاری در فناوری های جدید کاهش یابد. از این رو، بسیاری از صاحب نظران بر ضرورت ایجاد نظامی متوازن تاکید می کنند که ضمن حمایت از زیان دیدگان، مانع توسعه نوآوری نیز نشود.

به نظر می رسد در وضعیت کنونی، مناسب ترین راهکار برای نظام حقوقی ایران پذیرش یک الگوی مسئولیت ترکیبی است. در این الگو، مسئولیت بر اساس منشا خطا میان بازیگران مختلف توزیع می شود. چنانچه خسارت ناشی از نقص فنی سامانه باشد، مسئولیت متوجه توسعه دهنده خواهد بود. اگر خسارت نتیجه استفاده نادرست یا اتکای غیرمتعارف کاربر به خروجی سامانه باشد، کاربر مسئول شناخته می شود. همچنین در مواردی که هر دو عامل در ایجاد زیان نقش داشته باشند، می توان از نهاد مسئولیت مشترک بهره گرفت. این رویکرد علاوه بر انطباق با اصول عدالت، با ملاحظات کارایی اقتصادی نیز سازگار است.

در نهایت باید پذیرفت که گسترش استفاده از هوش مصنوعی در تنظیم قراردادهای تجاری، نظام های حقوقی را با چالش های بی سابقه ای مواجه ساخته است. قواعد سنتی حقوق قراردادها و مسئولیت مدنی هنوز ظرفیت قابل توجهی برای پاسخگویی به این مسائل دارند، اما تحولات فناوری ضرورت بازنگری و تکمیل این قواعد را آشکار کرده است. تجربه اتحادیه اروپا و ایالات متحده نشان می دهد که حرکت به سوی نظامی مبتنی بر مدیریت ریسک، شفافیت الگوریتمی و نظارت انسانی می تواند راهکار مناسبی برای مواجهه با این چالش باشد. در حقوق ایران نیز تدوین مقررات اختصاصی درباره مسئولیت ناشی از هوش مصنوعی، تعیین تکالیف ارائه دهندگان سامانه ها و تبیین معیارهای انتساب مسئولیت می تواند گامی مهم در جهت تامین امنیت حقوقی و حمایت از توسعه اقتصاد دیجیتال محسوب شود.

منابع:

1. کاتوزیان، ناصر. قواعد عمومی قراردادها، جلد ۱ و ۲.
2. صفایی، سیدحسین؛ رحیمی، حبیب الله. مسئولیت مدنی.
3. قانون مدنی جمهوری اسلامی ایران.
4. قانون مسئولیت مدنی مصوب ۱۳۳۹.
5. European Union, Regulation (EU) 2024/1689 (AI Act).
6. UNCITRAL Model Law on Electronic Commerce (1996).
7. Eidenmüller, Horst. “Smart Contracts and Artificial Intelligence”, Oxford Journal of Legal Studies.
8. Abbott, Ryan. The Reasonable Robot: Artificial Intelligence and the Law, Cambridge University Press.
9. Turner, Jacob. Robot Rules: Regulating Artificial Intelligence, Palgrave Macmillan.
10. Barfield, Woodrow & Pagallo, Ugo (eds.), Research Handbook on the Law of Artificial Intelligence, Edward Elgar.
11. Calo, Ryan. “Artificial Intelligence Policy: A Primer and Roadmap”, UC Davis Law Review.
12. European Parliament, Civil Liability Regime for Artificial Intelligence Reports.