مسئولیت بین المللی دولت ها

مسئولیت بین المللی دولت ها در قبال کاربرد هوش مصنوعی در عملیات نظامی و حملات سایبری

کاربرد فزاینده هوش مصنوعی در عملیات نظامی و حملات سایبری، نظام سنتی مسئولیت بین المللی دولت ها را با چالش های بی سابقه ای مواجه ساخته است. پرسش بنیادین آن است که در شرایطی که تصمیم گیری های مرگ بار به سامانه های خودمختار واگذار می شود، چگونه می توان رفتار زیانبار را به دولتی نسبت داد؟ مقاله حاضر با روش توصیفی-تحلیلی و با تکیه بر مواد کمیسیون حقوق بین الملل درباره مسئولیت دولت ها (ARSIWA)، قواعد حقوق بشردوستانه و حقوق سایبری، به بررسی ابعاد این مسئله می پردازد. یافته های تحقیق نشان می دهد که اگرچه مواد کمیسیون بر رفتار انسانی به عنوان پیش شرط انتساب استوار است، اما نظام حقوقی موجود از ظرفیت کافی برای پاسخ گویی برخوردار است؛ به شرط آنکه «کنش گری شناختی» انسان ها در اداره اجرای تعهدات بین المللی حفظ شود. چالش اصلی نه در ناکارآمدی قواعد ثانویه، بلکه در نبود نهادی شایسته برای بررسی مصادیق نقض و پیچیدگی انتساب در فضای سایبری و «جعبه سیاه» الگوریتم هاست. مقاله نتیجه می گیرد که تحقق مسئولیت بین المللی در عصر هوش مصنوعی، نیازمند تفسیر پویا از قواعد موجود، طراحی سازوکارهای شفافیت و نظارت، و انعقاد معاهده ای بین المللی برای تعیین استانداردهای طراحی و سطح کنترل انسانی بر سامانه های خودمختار است. رویکرد کنونی مبتنی بر «کنترل موثر انسانی» باید به عنوان شرط اساسی مشروعیت عملیات نظامی و سایبری مبتنی بر هوش مصنوعی تثبیت شود.

نظام حقوق بین الملل در سده اخیر بر پایه مفروضاتی بنیادین شکل گرفته است که مهم ترین آنها، کنشگری انسان ها به عنوان موضوع و عامل حقوقی است. با ورود هوش مصنوعی به عرصه تصمیم گیری های نظامی و سایبری، این مفروضات با چالشی وجودی مواجه شده اند. سامانه های خودمختار هم اکنون قادرند بدون دخالت مستقیم انسان، اهداف را شناسایی، رهگیری و مورد حمله قرار دهند و یا حملات سایبری پیچیده ای را طراحی و اجرا کنند. این تحول، پرسش های بنیادینی درباره نسبت دادن رفتار زیانبار به دولت ها، شناسایی ناقض تعهدات بین المللی، و امکان جبران خسارت پدید آورده است.

گروه کارشناسان دولتی سازمان ملل در حوزه سامانه های مرگبار خودمختار در سال ۲۰۲۲ تاکید کرده است که «هر فعل متخلفانه بین المللی دولت ها، از جمله در حوزه سامانه های مرگبار خودمختار، مسئولیت بین المللی آن دولت را به دنبال دارد». بیانیه «کاربرد مسئولانه هوش مصنوعی در حوزه نظامی» در سال ۲۰۲۴ نیز بر این اصل صحه گذاشته که «انسان ها مسئول و پاسخگوی کاربرد و آثار کاربردهای هوش مصنوعی در حوزه نظامی باقی می مانند و مسئولیت و پاسخگویی هرگز به ماشین ها قابل انتقال نیست». اما این اصول کلی، از توانایی پاسخ به سوالات عینی تر مانند چگونگی انتساب در شرایطی که سیستم به صورت مستقل و فراتر از اختیارات تعیین شده عمل می کند، عاجزند.

۲. چارچوب نظری: مبانی مسئولیت بین المللی دولت ها

۲-۱. مفهوم و ارکان مسئولیت بین المللی دولت ها

مسئولیت بین المللی دولت ها یکی از نهادهای بنیادین حقوق بین الملل است که به موجب آن، دولتی که فعل یا ترک فعل متخلفانه ای مرتکب می شود، ملزم به جبران خسارت ناشی از آن خواهد بود. کمیسیون حقوق بین الملل در سال ۲۰۰۱، پس از سال ها تلاش، «مواد مسئولیت دولت ها در قبال اعمال متخلفانه بین المللی» (ARSIWA) را تدوین کرد که امروزه به عنوان مهم ترین سند در این حوزه شناخته می شود و بخش عمده ای از آن بازتاب دهنده عرف بین الملل است.

ماده ۲ ARSIWA دو رکن اساسی برای تحقق فعل متخلفانه بین المللی تعیین کرده است: نخست، انتساب رفتار به دولت؛ و دوم، نقض یک تعهد بین المللی. از منظر رویه قضایی بین المللی، پرونده هایی مانند «فعالیت های نظامی و شبه نظامی در نیکاراگوئه» (۱۹۸۶) و «کاربرد کنوانسیون منع و مجازات جنایت نسل کشی» (۲۰۰۷) معیارهای مهمی برای احراز انتساب، به ویژه در مواردی که دولت ها از طریق گروه های غیردولتی عمل می کنند، ارائه داده اند.

۲-۲. قواعد انتساب رفتار به دولت (مواد ۴ تا ۱۱ ARSIWA)

مواد ۴ تا ۱۱ ARSIWA، قواعد تفصیلی انتساب را شامل می شوند. ماده ۴ مقرر می دارد که رفتار هر نهاد دولتی، چه در قوای مجریه، مقننه یا قضائیه، به دولت قابل انتساب است. ماده ۵ نیز رفتار اشخاص یا نهادهایی را که اگرچه نهاد دولتی نیستند اما اختیارات حاکمیتی را اعمال می کنند، قابل انتساب می داند. ماده ۸ به انتساب رفتار اشخاص یا گروه هایی می پردازد که تحت «جهت دهی یا کنترل» دولت عمل می کنند؛ این ماده به ویژه در زمینه حملات سایبری و عملیات از طریق بازیگران غیردولتی اهمیت می یابد.

نکته حائز اهمیت آنکه ماده ۷ مقرر می دارد حتی اگر نهاد یا شخص مذکور فراتر از اختیارات خود یا برخلاف دستور صریح عمل کند، تا زمانی که در ظاهر وظایف دولتی عمل کرده باشد، رفتارش به دولت قابل انتساب است. این قاعده که «مسئولیت به رغم تجاوز از اختیار» نامیده می شود، در حوزه هوش مصنوعی و سامانه های خودمختار از اهمیت ویژه ای برخوردار است؛ زیرا ممکن است سامانه ای که برای هدف خاصی طراحی و مستقر شده، فراتر از آنچه مدنظر فرماندهان نظامی بوده عمل کند و مرتکب نقض تعهدات بین المللی شود.

بااین حال، قواعد سنتی انتساب بر اساس «رفتار انسانی» بنا شده اند. اشاره های ARSIWA به «نهادها»، «اشخاص» و «گروه ها»، همگی برای شناسایی انسان پشت رفتار است. این امر طبیعی است، زیرا ARSIWA در دوره ای تدوین شده که هوش مصنوعی خودمختار در حد داستان های علمی-تخیلی بود. اینجاست که چالش اصلی پدیدار می شود: آیا می توان سامانه هوش مصنوعی را به مثابه «نهاد دولت» تلقی کرد یا باید از طریق رفتار انسانی مرتبط با طراحی، توسعه و استقرار آن، مسئولیت را احراز نمود؟

۲-۳. قواعد ثانویه در برابر قواعد اولیه

ARSIWA مجموعه ای از «قواعد ثانویه» است؛ یعنی به تعیین عواقب حقوقی فعل متخلفانه می پردازد، اما خود تعهدات اولیه ای که ممکن است نقض شوند را تعریف نمی کند. در حوزه هوش مصنوعی و حملات سایبری، بسیاری از تعهدات اولیه همچنان نامشخص یا محل مناقشه اند. برای مثال، اینکه کدام حملات سایبری مصداق «استفاده از زور» مشمول ماده ۲(۴) منشور ملل متحد هستند، یا اینکه اصل تفکیک در حقوق بشردوستانه چگونه در فضای سایبری اعمال می شود، هنوز موضوع اختلاف نظر است.

این خلا در تعهدات اولیه، کاربست قواعد ثانویه مسئولیت را با دشواری مواجه می سازد.

---

۳. کاربرد هوش مصنوعی در عملیات نظامی: چالش های حقوق بشردوستانه و مسئولیت

۳-۱. سامانه های تسلیحاتی خودمختار (LAWS) و کنترل انسانی

سامانه های تسلیحاتی مرگبار خودمختار (Lethal Autonomous Weapon Systems - LAWS) یکی از چالش برانگیزترین مصادیق کاربرد هوش مصنوعی در عملیات نظامی هستند. این سامانه ها قادرند بدون مداخله انسانی، اهداف را شناسایی، انتخاب و مورد حمله قرار دهند. از منظر حقوق بشردوستانه بین المللی، این سامانه ها باید با اصولی چون تفکیک، تناسب، و احتیاط در حمله سازگار باشند.

اصل تفکیک که در ماده ۴۸ پروتکل اول الحاقی (۱۹۷۷) و نیز ماده ۵۷ آن به عنوان اصل بنیادین حقوق بشردوستانه مورد تاکید قرار گرفته، مستلزم آن است که طرفین درگیری همواره بین غیرنظامیان و رزمندگان و نیز اشیاء غیرنظامی و اهداف نظامی تمایز قائل شوند. پرسش آن است که آیا سامانه های هوش مصنوعی با معماری «جعبه سیاه» خود، توانایی انجام این تمایز را با درجه اطمینان مورد نیاز حقوق بشردوستانه دارند؟ به ویژه که الگوریتم های یادگیری ماشین ممکن است بر اساس داده های آموزشی دارای سوگیری عمل کنند و این سوگیری ها را در تصمیم گیری های جنگی بازتولید نمایند.

اصل تناسب نیز که در ماده ۵۱(۵)(ب) و ۵۷(۲)(۳) پروتکل اول پیش بینی شده، حمله ای را که موجب تلفات غیرنظامی یا خسارت به اشیاء غیرنظامی می شود و این خسارت در مقایسه با مزیت نظامی ملموس و مستقیم مورد انتظار، بیش از حد است، ممنوع می کند. محاسبه تناسب در عملیات مبتنی بر هوش مصنوعی با پیچیدگی های خاصی روبه روست، زیرا سامانه های هوش مصنوعی ممکن است نتوانند پیش بینی دقیقی از تلفات جانبی ارائه دهند یا توانایی تحلیل کیفی مزیت نظامی را نداشته باشند. پروژه DILEMA (حقوق بین الملل و اخلاق هوش مصنوعی نظامی) تلاش کرده است مدلی محاسباتی برای ارزیابی تناسب حملات بر اساس حقوق بشردوستانه طراحی کند که نشان دهنده پیچیدگی های این حوزه است.

در این زمینه، مفهوم «کنش گری شناختی» (Cognitive Agency) که توسط پژوهشکده حقوق و سیاست بین المللی هاروارد (HLS PILAC) ارائه شده، از اهمیت ویژه ای برخوردار است. بر اساس این چارچوب، برای اجرای تعهدات دولت ها در مخاصمات مسلحانه، فرض بر این است که: (۱) فقط انسان ها قادر به اداره اجرای این تعهدات هستند؛ و (۲) انسان های مسئول باید «کنش گری شناختی» - یعنی انجام عملیات آگاهانه، عمدی و باوجدان ذهنی - را اعمال کنند. این چارچوب به درستی نشان می دهد که آنچه در حقوق موجود اهمیت دارد، نه صرفا «حضور فیزیکی» انسان در حلقه تصمیم گیری، بلکه اعمال «عاملیت شناختی» توسط انسان هاست؛ به گونه ای که بتوانند وظایف شناختی مورد نیاز هر تعهد را اجرا کنند.

۳-۲. انتساب رفتار سامانه های هوش مصنوعی در مخاصمات مسلحانه

مسئله انتساب در حوزه سامانه های هوش مصنوعی نظامی، از چالش برانگیزترین مباحث حقوق بین الملل معاصر است. دکتر برنیس بوتن، پژوهشگر برجسته این حوزه، چهار سناریو را شناسایی کرده است: (۱) سیستم هایی که انسان ها به طور مستقیم کنترل می کنند؛ (۲) سیستم هایی که به صورت خودمختار در چارچوب اختیارات مشخص عمل می کنند اما امکان لغو دستور توسط انسان وجود دارد؛ (۳) سیستم هایی که کارکرد کمکی در تصمیم گیری انسانی دارند؛ و (۴) سیستم های کاملا خودمختار که فراتر از اختیارات تعیین شده عمل می کنند.

در سه سناریوی نخست، به نظر می رسد انتساب رفتار به دولت از طریق تصمیم فرمانده نظامی به استقرار چنین سامانه ای، قابل احرار باشد. اما در سناریوی چهارم - جایی که سیستم به گونه ای مستقل و فراتر از اختیارات خود عمل می کند - بوتن معتقد است که رابطه علیت چندان روشن نیست و دولت را نمی توان به سادگی مسئول دانست. بااین حال، پائولا گائتا با بسط معیارهای بوتن، حتی رفتار سیستم های کاملا خودمختار را نیز به دلیل استقرار اولیه آنها توسط نهاد دولتی، قابل انتساب به دولت می داند.

از منظر دیگر، برخی محققان مانند جایمین لی معتقدند با افزایش خودمختاری سیستم ها، ممکن است روزی به نقطه ای برسیم که اعمال مسئولیت بر خالق یا مالک سیستم که هیچ گونه آگاهی یا کنترلی بر اقدامات آن نداشته، دشوار شود. در مقابل، گروه دیگری از پژوهشگران (از جمله مولف مقاله مرجع) معتقدند که حقوق موجود ظرفیت کافی برای پاسخ گویی دارد و مشکل اصلی نه در قواعد، بلکه در نحوه اعمال آنهاست.

نکته حائز اهمیت آنکه در حقوق مسئولیت بین المللی، برخلاف نظام های حقوق داخلی، «رابطه علیت» مبنای مسئولیت نیست. کمیسیون حقوق بین الملل در شرح مواد خود به صراحت بیان کرده است که «سببیت مادی» مبنایی برای مسئولیت دولت ها محسوب نمی شود.

از این منظر، تمرکز بر رفتار انسانی مستقرکننده سامانه، به جای تلاش برای اثبات رابطه علی میان عملکرد سامانه و خسارت، می تواند راهگشا باشد.

۳-۳. تعهد به بازنگری حقوقی تسلیحات نوین (ماده ۳۶ پروتکل اول)

ماده ۳۶ پروتکل اول الحاقی به کنوانسیون های ژنو (۱۹۷۷) دولت ها را متعهد می کند در مطالعه، توسعه، کسب یا اتخاذ سلاح های جدید، قانونی بودن آنها را از منظر حقوق بین الملل بررسی کنند. این تعهد در حوزه سامانه های هوش مصنوعی از اهمیت مضاعفی برخوردار است، زیرا نه تنها سلاح، بلکه «روش های» جدید جنگ افزاری را نیز شامل می شود.

پروژه DILEMA در گزارشی برای وزارت امور خارجه هلند در سال ۲۰۲۰، خلاهای هنجاری و تفسیری در کاربرد حقوق بین الملل برای فناوری های نوظهور مانند پهپادهای مسلح، پهپادهای گروهی (سوارم) و سامانه های خودمختار را شناسایی کرده است. این گزارش بر لزوم تدوین رهنمودهای تفسیری و یا ابزارهای جدید حقوقی برای پر کردن این خلاها تاکید دارد.

چالش اصلی در بازنگری حقوقی سامانه های هوش مصنوعی، «جعبه سیاه» بودن آنهاست. به بیان دیگر، در بسیاری از موارد نه تنها کاربران، بلکه حتی طراحان نیز از فرآیند دقیق تصمیم گیری الگوریتم ها آگاهی ندارند. این ناشفافی، ارزیابی قانونی بودن و انطباق با موازین حقوق بشردوستانه را با دشواری مواجه می سازد. از این رو، کلاودیا کلونوسکا نتیجه گیری کرده است که «معقول بودن» در کاربرد حقوق هدف گیری، نمی تواند صرفا بر اعمال قضاوت استوار باشد، بلکه باید بر «اتکای سنجیده و موجه» تصمیم گیرندگان نظامی به سامانه های پشتیبان تصمیم گیری مبتنی باشد.

---

۴. حملات سایبری مبتنی بر هوش مصنوعی و مسئله انتساب

۴-۱. کاربرد حقوق بین الملل در فضای سایبری

کاربرد حقوق بین الملل در فضای سایبری یکی از پیچیده ترین و بحث برانگیزترین موضوعات حقوق بین الملل معاصر است. «راهنمای تالین» (Tallinn Manual) که توسط گروهی از متخصصان حقوق بین الملل به سرپرستی مایکل اشمیت تدوین شده، مهم ترین تلاش برای تطبیق قواعد موجود با فضای سایبری محسوب می شود. نسخه دوم این راهنما که در سال ۲۰۱۷ منتشر شد، قواعد حاکم بر عملیات سایبری را در دو بخش زمان صلح و زمان مخاصمه مسلحانه تبیین کرده است.

مبنای اصلی کاربرد حقوق بین الملل در فضای سایبری، اصل منع توسل به زور (ماده ۲(۴) منشور ملل متحد) و اصل عدم مداخله در امور داخلی دولت هاست. بر اساس راهنمای تالین، یک عملیات سایبری در صورتی که آثار آن با عملیات نظامی متعارف قابل قیاس باشد، می تواند مصداق «استفاده از زور» تلقی شود. حملات سایبری سال ۲۰۰۷ به استونی و عملیات استاکس نت علیه تاسیسات هسته ای ایران، نمونه هایی از عملیات سایبری با اثرات مخرب گسترده هستند.

بااین حال، بسیاری از عملیات سایبری در «منطقه خاکستری» بین صلح و جنگ قرار می گیرند؛ یعنی اقداماتی که حاکمیت دولت ها را تضعیف کرده و ثبات را به خطر می اندازند، اما به آستانه کاربرد زور سنتی نمی رسند. این منطقه خاکستری، به ویژه در عصر هوش مصنوعی که حملات با هزینه کمتر و تاثیر گسترده تر قابل اجرا هستند، چالش های حقوقی و امنیتی جدی ایجاد کرده است.

۴-۲. چالش انتساب (Attribution) در حملات سایبری

انتساب یک حمله سایبری به دولتی خاص، شاید مهم ترین چالش عملی در این حوزه باشد. در فضای سایبری، حملات اغلب از طریق سرورهای پروکسی، شبکه های بات نت، رایانه های درگیر (compromised systems) و مسیرهای پنهان انجام می شوند که ردیابی مبدا را تقریبا غیرممکن می سازد. فناوری های پیشرفته مانند تغییر امضای دیجیتال، استفاده از VPNها یا مسیرهای مخفی، تشخیص و اثبات هویت مهاجم را با دشواری مواجه می سازد.

در شرایطی که هوش مصنوعی در طراحی حملات سایبری به کار می رود، پیچیدگی انتساب افزایش می یابد. سامانه های هوش مصنوعی می توانند حملاتی را طراحی کنند که آثار آن عمدی به نظر برسد اما در واقع نتیجه «تصمیم گیری» مستقل الگوریتم باشد. آیا در چنین مواردی می توان دولتی را مسئول دانست که سامانه را توسعه و استقرار داده، اما از قصد حمله ای خاص بی اطلاع بوده است؟ این «فاصله مسئولیت» (Responsibility Gap) یکی از مهم ترین چالش های نظری حقوق بین الملل است.

علاوه بر این، حملات سایبری اغلب از طریق بازیگران غیردولتی یا شرکت های خصوصی انجام می شوند که یا دولت ها آنها را به کار می گیرند یا هیچ کنترل موثری بر آنها ندارند. بر اساس ماده ۸ ARSIWA، انتساب رفتار یک بازیگر غیردولتی به دولت مستلزم احراز «جهت دهی یا کنترل» دولت بر آن رفتار است. اما در فضای سایبری، اثبات چنین کنترلی، به ویژه وقتی سامانه های خودمختار درگیر باشند، بسیار دشوار است. دولت ها ممکن است با استفاده از ساختارهای پیچیده و واسطه ها، از مسئولیت بین المللی فرار کنند.

۴-۳. اصل دقت نظر (Due Diligence) در پیشگیری از حملات سایبریاصل دقت نظر که ریشه در پرونده تاریخی «کانال کورفو» (۱۹۴۹) دارد، دولت ها را ملزم می کند از استفاده از قلمرو خود برای اقدامات زیانبار علیه سایر دولت ها جلوگیری کنند. راهنمای تالین ۲.۰ این اصل را در زمینه عملیات سایبری نیز معتبر می داند و دولت ها را به کنترل فعالیت های سایبری در قلمرو خود متعهد می سازد.

بااین حال، اعمال این اصل در حوزه هوش مصنوعی با چالش های جدی مواجه است. سامانه های هوش مصنوعی به ویژه مدل های یادگیری ماشین، اغلب به صورت «جعبه سیاه» عمل می کنند و فرآیند تصمیم گیری آنها شفاف نیست. این ناشفافی، تشخیص اینکه آیا حملات سایبری از قلمرو دولتی نشات گرفته و آیا دولت اقدامات معقولانه برای پیشگیری به کار گرفته، را با دشواری مواجه می سازد. از سوی دیگر، بازیگران غیردولتی مانند هک تیویست ها اغلب حملات مخرب سایبری را از قلمرو دولت ها راه اندازی می کنند و در پرتو احتمال استفاده تروریست ها از فضای سایبری، تعهد دولت ها به کنترل فعالیت های سایبری در قلمرو خود اهمیت ویژه ای می یابد.