مسئولیت دولت ها و هوش مصنوعی

مسئولیت بین المللی دولت ها در قبال کاربرد هوش مصنوعی در عملیات نظامی و حملات سایبری

نظام حقوق بین الملل در سده اخیر بر پایه مفروضاتی بنیادین شکل گرفته است که مهم ترین آنها، کنش گری انسان ها به عنوان موضوع و عامل حقوقی است. با ورود هوش مصنوعی به عرصه تصمیم گیری های نظامی و سایبری، این مفروضات با چالشی وجودی مواجه شده اند. سامانه های خودمختار هم اکنون قادرند بدون دخالت مستقیم انسان، اهداف را شناسایی، رهگیری و مورد حمله قرار دهند و یا حملات سایبری پیچیده ای را طراحی و اجرا کنند . این تحول، پرسش های بنیادینی درباره نسبت دادن رفتار زیانبار به دولت ها، شناسایی ناقض تعهدات بین المللی، و امکان جبران خسارت پدید آورده است.

گروه کارشناسان دولتی سازمان ملل در حوزه سامانه های مرگبار خودمختار تاکید کرده است که «هر فعل متخلفانه بین المللی دولت ها، از جمله در حوزه سامانه های مرگبار خودمختار، مسئولیت بین المللی آن دولت را به دنبال دارد» . بیانیه «کاربرد مسئولانه هوش مصنوعی در حوزه نظامی» نیز بر این اصل صحه گذاشته که «انسان ها مسئول و پاسخگوی کاربرد و آثار کاربردهای هوش مصنوعی در حوزه نظامی باقی می مانند و مسئولیت و پاسخ گویی هرگز به ماشین ها قابل انتقال نیست» . اما این اصول کلی، از توانایی پاسخ به سوالات عینی تر مانند چگونگی انتساب در شرایطی که سیستم به صورت مستقل و فراتر از اختیارات تعیین شده عمل می کند، عاجزند.

اهمیت موضوع از آن جهت است که هوش مصنوعی به دلیل ماهیت دوگانه کاربردی (dual-use) خود، مرزهای میان کاربردهای غیرنظامی و نظامی را در هم ریخته است . توسعه هوش مصنوعی عمدتا در بخش تجاری و غیرنظامی صورت می گیرد، اما کاربردهای آن در تمام طول چرخه حیات فناوری (از طراحی تا کاراندازی) به عرصه های نظامی و امنیتی راه یافته است. این امر، خلاهای نظارتی قابل توجهی ایجاد کرده و امکان «مرکزخریدی» (forum shopping) برای فرار از نظارت را فراهم آورده است . نمونه هایی مانند استفاده از منظومه ماهواره ای استارلینک در پشتیبانی از ارتباطات نظامی اوکراین، یا استفاده از مدل هوش مصنوعی کلود توسط ایالات متحده در عملیات دستگیری مادورو در ونزوئلا، گویای این واقعیت است که فناوری های تجاری به سرعت در حال نظامی شدن هستند .

۲. مبانی نظری مسئولیت بین المللی دولت ها در قبال سامانه های هوش مصنوعی

۲-۱. ارکان مسئولیت بین المللی دولت ها

مسئولیت بین المللی دولت ها یکی از نهادهای بنیادین حقوق بین الملل است که به موجب آن، دولتی که فعل یا ترک فعل متخلفانه ای مرتکب می شود، ملزم به جبران خسارت ناشی از آن خواهد بود. کمیسیون حقوق بین الملل در سال ۲۰۰۱، پس از سال ها تلاش، «مواد مسئولیت دولت ها در قبال اعمال متخلفانه بین المللی» (ARSIWA) را تدوین کرد که امروزه به عنوان مهم ترین سند در این حوزه شناخته می شود و بخش عمده ای از آن بازتاب دهنده عرف بین الملل است .

ماده ۲ ARSIWA دو رکن اساسی برای تحقق فعل متخلفانه بین المللی تعیین کرده است: نخست، انتساب رفتار به دولت؛ و دوم، نقض یک تعهد بین المللی . این دو رکن در حوزه سامانه های هوش مصنوعی با چالش های جدی مواجه هستند. از یک سو، پرسش اصلی آن است که آیا رفتار یک سامانه خودمختار را می توان به دولتی نسبت داد؟ از سوی دیگر، چگونه می توان نقض تعهدات بین المللی توسط سیستمی را اثبات کرد که فرآیند تصمیم گیری آن در «جعبه سیاه» الگوریتم ها پنهان است؟

ماده ۴ ARSIWA رفتار هر ارگان دولتی را که در چارچوب اختیارات خود عمل کند، قابل انتساب به آن دولت می داند. همچنین ماده ۸، رفتار شخص یا گروهی را که با دستورالعمل یا تحت کنترل دولت عمل می کند، قابل انتساب می داند . در خصوص سامانه های هوش مصنوعی، دیدگاه غالب آن است که تا زمانی که سامانه ها تحت «کنترل موثر» انسان های مسئول عمل می کنند، می توان رفتار آنها را به دولت منتسب کرد. اما پیچیدگی زمانی افزایش می یابد که سامانه به صورت خودمختار و فراتر از اختیارات تعیین شده عمل کند .

۲-۲. قواعد اولیه قابل اعمال بر سامانه های هوش مصنوعی نظامی و سایبری

برای تحقق مسئولیت بین المللی، علاوه بر انتساب رفتار، باید نقض یک تعهد بین المللی (قاعده اولیه) احراز شود. در حوزه عملیات نظامی، مهم ترین قواعد اولیه عبارتند از:

الف) حقوق بین الملل بشردوستانه (IHL): اصول تفکیک، تناسب، احتیاط، و ممنوعیت ایجاد رنج زائد بر عملیات نظامی مبتنی بر هوش مصنوعی نیز حاکم است . چالش اساسی آن است که سامانه های هوش مصنوعی فاقد درک انسانی از مفاهیمی مانند «غیرنظامی» یا «خسارت جانبی بیش از حد» هستند و ممکن است در شرایط پیش بینی نشده، تصمیماتی اتخاذ کنند که با این اصول در تعارض باشد . نمونه عملیاتی «تار عنکبوت» در اوکراین نشان داد که پهپادهای مجهز به هوش مصنوعی، علیرغم حضور غیرنظامیان در محل هدف، به ماموریت خود ادامه دادند، زیرا این سناریو در آموزش آنها گنجانده نشده بود .

ب) منع توسل به زور (jus ad bellum): بر اساس ماده ۲(۴) منشور ملل متحد و قاعده عرفی مربوط، دولت ها از تهدید یا توسل به زور علیه تمامیت ارضی یا استقلال سیاسی دولت ها منع شده اند. در صورتی که یک سامانه هوش مصنوعی به طور خودمختار اقدام به حمله مسلحانه کند، پرسش آن است که آیا این اقدام قابل انتساب به دولت است و آیا دولت می تواند از «قوه قاهره» (force majeure) به عنوان عامل رافع مسئولیت استفاده کند؟ ماده ۲۳ ARSIWA مقرر می دارد که در صورت وقوع نیروی قاهر یا رویداد پیش بینی نشده که انجام تعهد را به طور مادی غیرممکن سازد، مسئولیت دولت مرتفع می شود . اما این دفاع در صورتی پذیرفته نیست که دولت خود در ایجاد آن وضعیت نقش داشته یا ریسک وقوع آن را پذیرفته باشد .

ج) حقوق حاکم بر فضای سایبر: حملات سایبری مبتنی بر هوش مصنوعی نیز تابع اصول حاکمیت، عدم مداخله، و منع توسل به زور هستند . با این حال، چالش انتساب در فضای سایبر به دلیل ماهیت ناشناس و فرامرزی حملات، مضاعف است. هوش مصنوعی مولد (Generative AI) با تسریع چرخه های هدف گیری، توسعه شناسایی سایبری، و پردازش بی درنگ حجم عظیمی از داده های عملیاتی، نه تنها کارایی حملات سایبری را افزایش داده، بلکه تشخیص منبع حمله و استانداردهای قابل قبول برای انتساب را نیز پیچیده تر ساخته است .

۲-۳. مفهوم «کنش گری شناختی» (Cognitive Agency)

در مواجهه با چالش های فوق، پژوهشکده حقوق و سیاست بین المللی هاروارد (HLS PILAC) مفهوم «کنش گری شناختی» را ارائه کرده است که از اهمیت ویژه ای برخوردار است. بر اساس این چارچوب، برای اجرای تعهدات دولت ها در مخاصمات مسلحانه، فرض بر این است که: (۱) فقط انسان ها قادر به اداره اجرای این تعهدات هستند؛ و (۲) انسان های مسئول باید «کنش گری شناختی» - یعنی انجام عملیات آگاهانه، عمدی و باوجدان ذهنی - را اعمال کنند . این چارچوب به درستی نشان می دهد که آنچه در حقوق موجود اهمیت دارد، نه صرفا «حضور فیزیکی» انسان در حلقه تصمیم گیری، بلکه اعمال «عاملیت شناختی» توسط انسان هاست؛ به گونه ای که بتوانند وظایف شناختی مورد نیاز هر تعهد را اجرا کنند . این رویکرد تاکید می کند که ماشین ها نمی توانند جانشین قضاوت انسانی شوند، اما می توانند در اجرای برخی وظایف شناختی (مانند پردازش داده ها) به انسان ها کمک کنند.

---

۳. چالش های حقوقی کاربرد هوش مصنوعی در عملیات نظامی و حملات سایبری

۳-۱. چالش انتساب (Attribution)

مسئله انتساب در حوزه سامانه های هوش مصنوعی نظامی، از چالش برانگیزترین مباحث حقوق بین الملل معاصر است. پژوهشگران این حوزه، طیفی از سناریوها را شناسایی کرده اند که از کنترل کامل انسانی تا خودمختاری کامل را در بر می گیرد. برنیس بوتن چهار سناریو را ترسیم کرده است: (۱) سیستم هایی که انسان ها به طور مستقیم کنترل می کنند؛ (۲) سیستم هایی که به صورت خودمختار در چارچوب اختیارات مشخص عمل می کنند اما امکان لغو دستور توسط انسان وجود دارد؛ (۳) سیستم هایی که کارکرد کمکی در تصمیم گیری انسانی دارند؛ و (۴) سیستم های کاملا خودمختار که فراتر از اختیارات تعیین شده عمل می کنند .

در سه سناریوی نخست، به نظر می رسد انتساب رفتار به دولت از طریق تصمیم فرمانده نظامی به استقرار چنین سامانه ای، قابل احراز است. اما در سناریوی چهارم - جایی که سیستم به گونه ای مستقل و فراتر از اختیارات خود عمل می کند - پرسش اصلی آن است که آیا رابطه علیت میان عملکرد سامانه و خسارت وارده به اندازه ای روشن است که بتوان دولت را مسئول دانست . در مقابل، پائولا گائتا با بسط معیارهای بوتن، حتی رفتار سیستم های کاملا خودمختار را نیز به دلیل استقرار اولیه آنها توسط نهاد دولتی، قابل انتساب به دولت می داند .

نکته حائز اهمیت آنکه در حقوق مسئولیت بین المللی، برخلاف نظام های حقوق داخلی، «رابطه علیت» به معنای مادی آن، مبنای مسئولیت نیست. کمیسیون حقوق بین الملل در شرح مواد خود به صراحت بیان کرده است که «سببیت مادی» مبنایی برای مسئولیت دولت ها محسوب نمی شود . از این منظر، تمرکز بر رفتار انسانی مستقرکننده سامانه، به جای تلاش برای اثبات رابطه علی میان عملکرد سامانه و خسارت، می تواند راهگشا باشد.

با این حال، دیدگاه دیگری نیز وجود دارد که با افزایش خودمختاری سیستم ها، ممکن است روزی به نقطه ای برسیم که اعمال مسئولیت بر خالق یا مالک سیستم که هیچ گونه آگاهی یا کنترلی بر اقدامات آن نداشته، دشوار شود . این دیدگاه نگران «شکاف مسئولیتی» (Responsibility Gap) است که در آن هیچ بازیگر انسانی به اندازه کافی بر عملکرد سامانه کنترل ندارد تا بتوان او را مسئول دانست .

۳-۲. چالش استاندارد مراقبت (Standard of Care)

در صورت احراز انتساب، پرسش بعدی آن است که دولت برای اجتناب از مسئولیت، چه سطحی از مراقبت باید در طراحی، توسعه و استقرار سامانه های هوش مصنوعی اعمال کند. اشلی دیکس در مقاله خود با عنوان «مسئولیت دولت در قبال اشتباهات هوش مصنوعی در توسل به زور» استدلال می کند که اگرچه قواعد ماهوی (primary rules) روشن هستند، اما حقوق بین الملل درباره استاندارد مراقبتی که دولت ها باید برای تحقق تعهدات خود رعایت کنند، بسیار کم حرف است .

دیکس با طرح سه سناریوی متفاوت (سیستم هوش مصنوعی معیوب، سیستم مسموم شده، و سیستم های رقیب)، نشان می دهد که در هر یک از این موارد، استاندارد مراقبت ایجاب می کند که دولت «با حسن نیت و به طور عینی معقولانه» عمل کند . این استاندارد مبتنی بر «معقولیت» (reasonableness) است که در سنت حقوقی آنگلو-آمریکن ریشه دارد و در حقوق بین الملل نیز به عنوان معیاری برای سنجش رفتار دولت ها پذیرفته شده است. با این حال، تفسیر «معقولیت» در زمینه سامانه های هوش مصنوعی با پیچیدگی هایی مواجه است؛ زیرا معقول بودن یک تصمیم نظامی مبتنی بر هوش مصنوعی، نه صرفا بر اعمال قضاوت، بلکه بر «اعتماد کالیبره و موجه» تصمیم گیرندگان نظامی به سامانه های پشتیبان تصمیم گیری استوار است .

ماده ۳۶ پروتکل اول الحاقی به کنوانسیون های ژنو (۱۹۷۷) دولت ها را متعهد می کند که در مطالعه، توسعه، کسب یا اتخاذ سلاح های جدید، قانونی بودن آنها را از منظر حقوق بین الملل بررسی کنند . این تعهد در حوزه سامانه های هوش مصنوعی از اهمیت مضاعفی برخوردار است، زیرا نه تنها سلاح، بلکه «روش های» جدید جنگ افزاری را نیز شامل می شود. پروژه DILEMA در گزارشی برای وزارت امور خارجه هلند، خلاهای هنجاری و تفسیری در کاربرد حقوق بین الملل برای فناوری های نوظهور مانند پهپادهای مسلح، پهپادهای گروهی (سوارم) و سامانه های خودمختار را شناسایی کرده است .

۳-۳. ماهیت دوگانه کاربردی (Dual-Use) هوش مصنوعی و چالش های نظارتی

هوش مصنوعی به دلیل ماهیت دوگانه کاربردی خود، چالش های نظارتی منحصربه فردی ایجاد کرده است. برخلاف فناوری های قبلی که عمدتا تحت کنترل دولت ها توسعه می یافتند، توسعه هوش مصنوعی عمدتا توسط بخش خصوصی و با انگیزه های تجاری هدایت می شود . این امر، دولت ها را با وضعیت بی سابقه ای مواجه کرده است که در آن فناوری های حیاتی نظامی توسط شرکت های خصوصی و با سرعتی سرسام آور توسعه می یابند.

نگرانی دیگر آن است که رویکردهای نظارتی کنونی عمدتا به صورت «بخش ای» (siloed) طراحی شده اند و میان کاربردهای غیرنظامی و نظامی تفکیک قائل می شوند. برای مثال، قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) صراحتا سامانه های هوش مصنوعی مورد استفاده برای اهداف نظامی، دفاعی یا امنیت ملی را از شمول خود خارج کرده است . همچنین مجمع عمومی سازمان ملل در ایجاد هیئت علمی مستقل بین المللی در مورد هوش مصنوعی و گفتگوی جهانی در مورد حکمرانی هوش مصنوعی، اختیارات آنها را صراحتا «محدود به حوزه غیرنظامی» دانسته و به هوش مصنوعی برای اهداف نظامی اشاره نکرده است . این تفکیک مصنوعی، با توجه به ماهیت دوگانه کاربردی هوش مصنوعی، ناکارآمد و حتی خطرناک به نظر می رسد.