مسئولیت بین المللی ناشی از ارائه پشتیبانی الگوریتمی و داده ای در پرتو حقوق بشردوستانه بین المللی

مسئولیت بین المللی ناشی از ارائه پشتیبانی الگوریتمی و داده ای در پرتو حقوق بشردوستانه بین المللی
از میدان نبرد سنتی تا جنگ های مبتنی بر داده و هوش مصنوعی

مقدمه
جنگ دیگر صرفا رویارویی سرباز، تانک و موشک نیست. میدان نبرد قرن بیست ویکم در لایه های پنهان داده، الگوریتم و هوش مصنوعی شکل می گیرد؛ جایی که تصمیم درباره مرگ و زندگی انسان ها ممکن است نه در اتاق فرماندهی، بلکه در هسته یک سامانه پردازش داده اتخاذ شود. امروزه دولت ها برای شناسایی اهداف، تحلیل تهدید، پیش بینی رفتار دشمن و هدایت عملیات نظامی، به الگوریتم هایی متکی اند که حجم عظیمی از داده ها را در چند ثانیه تحلیل می کنند.
در این میان، پرسش بنیادین حقوق بین الملل آن است که اگر یک حمله غیرقانونی بر پایه داده های اشتباه یا تحلیل الگوریتمی معیوب انجام شود، مسئولیت متوجه چه کسی خواهد بود؟ آیا دولت استفاده کننده مسئول است؟ شرکت طراحی کننده الگوریتم؟ دولت ارائه دهنده داده؟ یا همه این بازیگران به طور مشترک در نقض حقوق بشردوستانه سهیم اند؟
این مسئله، یکی از پیچیده ترین و در عین حال خطرناک ترین چالش های حقوق بین الملل معاصر است؛ زیرا برای نخستین بار، عنصر «تصمیم انسانی» در حال واگذاری به سامانه هایی است که فاقد وجدان، اخلاق و ادراک انسانی اند.

تحول ماهیت جنگ؛ از سلاح فیزیکی تا سلاح داده محور
در گذشته، قدرت نظامی با شمار سربازان، حجم تسلیحات و توان لجستیکی سنجیده می شد؛ اما در جنگ های مدرن، داده به سلاح تبدیل شده است. دولت ها دیگر تنها با موشک و هواپیما نمی جنگند، بلکه با:
• سامانه های تحلیل کلان داده؛
• الگوریتم های تشخیص هدف؛
• هوش مصنوعی پیش بینی کننده رفتار؛
• سامانه های خودمختار تصمیم یار؛
• فناوری های شناسایی زیستی و ماهواره ای؛
• شبکه های پردازش ابری نظامی؛
به مدیریت میدان نبرد می پردازند.
در چنین ساختاری، کسی که داده را کنترل می کند، عملا بخشی از جنگ را کنترل می کند. به همین دلیل، ارائه داده و الگوریتم دیگر یک «کمک فنی ساده» نیست، بلکه می تواند نوعی مشارکت مستقیم در عملیات نظامی تلقی شود.


مفهوم پشتیبانی الگوریتمی و داده ای در مخاصمات مسلحانه
پشتیبانی الگوریتمی به هرگونه کمک فناورانه ای اطلاق می شود که در فرآیند تصمیم گیری نظامی نقش موثر ایفا کند. این پشتیبانی ممکن است شامل:
• تحلیل اطلاعات میدانی؛
• شناسایی و اولویت بندی اهداف؛
• پردازش تصاویر ماهواره ای؛
• رهگیری تحرکات انسانی؛
• پیش بینی حملات؛
• یا حتی انتخاب خودکار اهداف نظامی باشد.
خطر اصلی آنجاست که این سامانه ها معمولا بر مبنای الگوهای آماری و داده های آموزشی عمل می کنند، نه بر پایه درک انسانی از ارزش جان انسان ها. الگوریتم، مفهوم «غیرنظامی» را مانند یک فرمانده نظامی درک نمی کند؛ بلکه صرفا الگوها را تحلیل می کند. همین موضوع می تواند به فجایع انسانی گسترده منجر شود.

بحران بنیادین؛ آیا ماشین می تواند مسئول باشد؟
یکی از بزرگ ترین بحران های حقوقی عصر هوش مصنوعی، مسئله انتساب مسئولیت است. در حقوق بین الملل کلاسیک، تصمیم گیرنده انسان است؛ بنابراین انتساب رفتار متخلفانه دشوار نیست. اما در جنگ های الگوریتم محور، فاصله میان انسان و نتیجه عملیاتی روزبه روز بیشتر می شود.
فرض کنید: یک سامانه مبتنی بر هوش مصنوعی، ساختمانی را به عنوان مرکز فرماندهی دشمن شناسایی می کند. حمله انجام می شود و بعدا مشخص می گردد که ساختمان، بیمارستان بوده است. اکنون پرسش اصلی این است:
• آیا مسئولیت متوجه اپراتور انسانی است؟
• آیا دولت استفاده کننده پاسخگوست؟
• آیا توسعه دهنده الگوریتم شریک در مسئولیت محسوب می شود؟
• آیا شرکت ارائه دهنده داده های ماهواره ای نیز مسئول است؟
حقوق بین الملل هنوز پاسخ قطعی و منسجمی برای این وضعیت ندارد، اما یک اصل همچنان پابرجاست:
«مسئولیت حقوقی قابل انتقال به ماشین نیست.»
ماشین فاقد شخصیت حقوقی، اراده مستقل و قابلیت پاسخگویی اخلاقی است؛ بنابراین دولت ها نمی توانند پشت «خطای الگوریتم» پنهان شوند.


مسئولیت دولت ها در پرتو طرح مسئولیت بین المللی دولت ها (ARSIWA)
بر اساس طرح مسئولیت بین المللی دولت ها مصوب کمیسیون حقوق بین الملل 2001، هرگاه:
1. رفتاری به دولت قابل انتساب باشد؛
2. آن رفتار ناقض تعهد بین المللی تلقی گردد؛
مسئولیت بین المللی ایجاد می شود.
در حوزه پشتیبانی الگوریتمی، مسئله انتساب اهمیت ویژه ای پیدا می کند. اگر دولتی:
• داده های هدف گیری ارائه دهد؛
• الگوریتم تحلیل حمله فراهم کند؛
• زیرساخت پردازش اطلاعات نظامی ایجاد نماید؛
و بداند که این فناوری در عملیات ناقض حقوق بشردوستانه استفاده خواهد شد، می تواند بر اساس ماده 16 طرح مسئولیت دولت ها، شریک در عمل متخلفانه بین المللی تلقی شود.
ماده 16 تصریح می کند:
دولتی که با علم به شرایط، در ارتکاب عمل متخلفانه بین المللی به دولت دیگر کمک یا معاونت کند، مسئول خواهد بود.
بنابراین حمایت فناورانه، در صورت وجود علم و آگاهی، می تواند به مسئولیت مستقیم بین المللی منجر شود.


اصل تفکیک و فروپاشی قطعیت انسانی در تصمیم گیری نظامی
اصل تفکیک، ستون فقرات حقوق بشردوستانه بین المللی است. مطابق این اصل، طرف های مخاصمه باید همواره میان اهداف نظامی و غیرنظامیان تمایز قائل شوند.
اما الگوریتم ها بر پایه احتمالات عمل می کنند، نه یقین انسانی. سامانه ای که بر اساس الگوهای رفتاری تصمیم می گیرد، ممکن است:
• تجمع غیرنظامیان را فعالیت نظامی تشخیص دهد؛
• زیرساخت غیرنظامی را مرکز عملیاتی قلمداد کند؛
• یا افراد عادی را به عنوان عناصر تهدید شناسایی نماید.
مشکل اصلی این است که بسیاری از الگوریتم ها «جعبه سیاه» هستند؛ یعنی حتی طراحان آن ها نیز دقیقا نمی دانند سامانه چگونه به نتیجه نهایی رسیده است. این فقدان شفافیت، اصل پاسخگویی را به شدت تضعیف می کند.


سوگیری داده ای؛ تهدید خاموش حقوق بشردوستانه
الگوریتم ها به اندازه داده هایی که دریافت می کنند عادلانه اند. اگر داده های آموزشی ناقص، جهت دار یا آلوده باشند، خروجی سامانه نیز منحرف خواهد شد.
برای مثال:
• داده های ناقص قومی یا جغرافیایی می تواند به هدف گیری تبعیض آمیز منجر شود؛
• اطلاعات اشتباه ماهواره ای ممکن است مناطق مسکونی را هدف مشروع نشان دهد؛
• تحلیل رفتاری معیوب می تواند غیرنظامیان را در دسته نیروهای دشمن قرار دهد.
در این وضعیت، خطرناک ترین مسئله آن است که خطای انسانی پشت ظاهر «بی طرفی فناوری» پنهان می شود. در حالی که الگوریتم ها برخلاف تصور عمومی، خنثی نیستند؛ بلکه بازتاب داده ها، منافع و پیش فرض های طراحان خود هستند.


نقش شرکت های فناوری؛ بازیگران پنهان جنگ های مدرن
یکی از تحولات بنیادین مخاصمات معاصر، ورود شرکت های فناوری به قلب عملیات نظامی است. امروزه بسیاری از سامانه های هوش مصنوعی نظامی توسط شرکت های خصوصی طراحی می شوند، نه دولت ها.
شرکت هایی که:
• زیرساخت ابری فراهم می کنند؛
• الگوریتم های تحلیل هدف توسعه می دهند؛
• سامانه های شناسایی چهره طراحی می کنند؛
• یا داده های عملیاتی پردازش می نمایند؛
عملا بخشی از زنجیره تصمیم گیری نظامی محسوب می شوند.
با وجود این، حقوق بین الملل هنوز رژیم مسئولیت شفافی برای این بازیگران ایجاد نکرده است. همین خلا، یکی از بزرگ ترین ضعف های نظام حقوقی کنونی به شمار می رود.


تسلیحات خودمختار و زوال کنترل انسانی

سیستم های تسلیحاتی خودمختار (LAWS) شاید خطرناک ترین جلوه جنگ الگوریتمی باشند. این سامانه ها قادرند بدون مداخله مستقیم انسان:
• هدف را شناسایی کنند؛
• تصمیم به حمله بگیرند؛
• و عملیات را اجرا نمایند.
هرچه استقلال سامانه بیشتر شود، کنترل انسانی کاهش می یابد. در این نقطه، حقوق بشردوستانه با یک بحران فلسفی مواجه می شود:
آیا می توان اختیار کشتن انسان ها را به ماشین واگذار کرد؟
بخش مهمی از جامعه بین المللی معتقد است حذف کنترل انسانی موثر، با اصول بنیادین حقوق بشردوستانه ناسازگار است؛ زیرا مفاهیمی مانند تناسب، ضرورت نظامی و احتیاط، نیازمند قضاوت انسانی اند، نه صرفا محاسبه آماری.


اصل احتیاط و تعهد دولت ها به ارزیابی فناوری
مطابق ماده 36 پروتکل الحاقی اول 1977، دولت ها موظف اند مشروعیت هر سلاح جدید را پیش از استفاده بررسی کنند.
این تعهد در مورد سامانه های مبتنی بر هوش مصنوعی اهمیت دوچندان دارد. دولت ها باید:
• قابلیت پیش بینی رفتار سامانه را ارزیابی کنند؛
• احتمال خطا را بسنجند؛
• امکان کنترل انسانی را حفظ نمایند؛
• و آثار انسانی فناوری را بررسی کنند.
بی توجهی به این الزامات می تواند خود نوعی قصور بین المللی تلقی شود.

آینده مسئولیت بین المللی در عصر جنگ های هوشمند
حقوق بین الملل در آستانه یک تحول تاریخی قرار دارد. ساختار سنتی مسئولیت که بر محور انسان و دولت طراحی شده بود، اکنون با شبکه ای پیچیده از:
• دولت ها؛
• شرکت های فناوری؛
• ارائه دهندگان داده؛
• توسعه دهندگان الگوریتم؛
• و سامانه های خودمختار؛
مواجه است.
احتمال زیادی وجود دارد که در آینده:
• اصل «کنترل انسانی موثر» به قاعده عرفی تبدیل شود؛
• مسئولیت مشترک دولت ها و شرکت ها توسعه یابد؛
• شفافیت الگوریتمی به تعهد حقوقی بدل گردد؛
• و محدودیت های بین المللی سخت گیرانه ای بر تسلیحات هوش مصنوعی اعمال شود.


نتیجه گیری
جنگ های آینده نه تنها در آسمان و زمین، بلکه در لایه های نامرئی داده و الگوریتم جریان خواهند داشت. در این نبردها، یک خطای نرم افزاری یا داده ای می تواند به اندازه یک بمب، ویرانگر باشد.
پشتیبانی الگوریتمی و داده ای دیگر فعالیتی حاشیه ای نیست؛ بلکه بخشی از سازوکار اصلی عملیات نظامی است. هرجا که داده و الگوریتم در شکل گیری حمله غیرقانونی نقش موثر داشته باشند، مسئولیت بین المللی نیز متولد می شود.
حقوق بین الملل امروز با یک انتخاب تاریخی روبه روست: یا قواعد سنتی خود را با واقعیت جنگ های هوشمند تطبیق دهد،
یا در برابر سرعت فناوری، به نظامی ناکارآمد و عقب مانده تبدیل شود.
در نهایت، مهم ترین خطر عصر هوش مصنوعی نظامی این نیست که ماشین ها هوشمند شوند؛ بلکه این است که انسان ها مسئولیت اخلاقی و حقوقی تصمیمات خود را پشت ماشین ها پنهان کنند.