واکاوی وضعیت حقوقی سیستم های تسلیحاتی خودمختار (LAWS) در پرتو اصول حقوق بشردوستانه بین المللی

واکاوی وضعیت حقوقی سیستم های تسلیحاتی خودمختار (LAWS) در پرتو اصول حقوق بشردوستانه بین المللی

مقدمه
تحولات سریع فناوری های نوین نظامی، به ویژه در حوزه هوش مصنوعی و رباتیک، موجب ظهور نسل جدیدی از تسلیحات شده است که تحت عنوان «سیستم های تسلیحاتی خودمختار» یا Lethal Autonomous Weapons Systems (LAWS) شناخته می شوند. این سامانه ها قادرند بدون مداخله مستقیم انسان، اهداف را شناسایی، انتخاب و منهدم کنند. گسترش چنین فناوری هایی، مباحث عمیق حقوقی، اخلاقی و انسانی را در عرصه حقوق بین الملل، به ویژه حقوق بشردوستانه بین المللی، ایجاد کرده است.
مسئله اصلی این است که آیا واگذاری تصمیم مرگ و زندگی به ماشین ها با اصول بنیادین حقوق بشردوستانه بین المللی سازگار است یا خیر. بسیاری از دولت ها و سازمان های بین المللی معتقدند که فقدان کنترل انسانی موثر بر این سامانه ها می تواند اصول اساسی حقوق جنگ را نقض کند. در مقابل، برخی دولت ها بر این باورند که این فناوری ها در صورت استفاده صحیح، حتی ممکن است موجب کاهش تلفات انسانی شوند.

این یادداشت تلاش دارد وضعیت حقوقی سیستم های تسلیحاتی خودمختار را در پرتو اصول بنیادین حقوق بشردوستانه بین المللی بررسی و چالش های ناشی از به کارگیری آن ها را تحلیل کند.

مفهوم و ویژگی های سیستم های تسلیحاتی خودمختار
سیستم های تسلیحاتی خودمختار به تسلیحاتی گفته می شود که پس از فعال سازی، بدون دخالت مستقیم انسان قادر به تصمیم گیری درباره استفاده از نیروی قهریه هستند. این سامانه ها با استفاده از الگوریتم های هوش مصنوعی، داده های محیطی را تحلیل کرده و درباره هدف گیری تصمیم می گیرند.
برخلاف تسلیحات نیمه خودکار یا کنترل ازراه دور مانند پهپادهای سنتی، در LAWS نقش انسان به حداقل می رسد. به همین دلیل، موضوع «کنترل انسانی معنادار» یا Meaningful Human Control به یکی از مباحث محوری حقوقی تبدیل شده است.
ویژگی های اصلی این سیستم ها عبارت اند از:
استقلال عملیاتی در انتخاب و حمله به هدف ، استفاده از هوش مصنوعی و یادگیری ماشینی ، سرعت بالای تصمیم گیری ، کاهش نقش مستقیم انسان در فرآیند کشتار و قابلیت عملکرد در محیط های پیچیده جنگی

مبانی حقوق بشردوستانه بین المللی

حقوق بشردوستانه بین المللی مجموعه قواعدی است که در زمان مخاصمات مسلحانه برای محدودسازی آثار جنگ و حمایت از افراد غیرنظامی اعمال می شود. مهم ترین منابع این حقوق شامل:
کنوانسیون های چهارگانه ژنو ۱۹۴۹
پروتکل های الحاقی ۱۹۷۷
حقوق بین الملل عرفی
اصول کلی حقوقی
می باشد.

در ارزیابی مشروعیت LAWS، چند اصل بنیادین حقوق بشردوستانه نقش اساسی دارند:

اصل تفکیک (Distinction)
اصل تفکیک مهم ترین اصل حقوق بشردوستانه است. مطابق این اصل، طرف های مخاصمه باید همواره میان اهداف نظامی و افراد غیرنظامی تمایز قائل شوند و حملات صرفا متوجه اهداف نظامی باشد.
سیستم های خودمختار با چالش جدی در تشخیص دقیق غیرنظامیان مواجه اند؛ زیرا محیط جنگی اغلب پیچیده، متغیر و مبتنی بر قضاوت انسانی است. تشخیص رفتارهای انسانی، وضعیت تسلیم، جراحت یا حضور غیرنظامیان، نیازمند تحلیل اخلاقی و انسانی است؛ امری که ماشین ها فاقد آن هستند.
برای مثال، یک کودک در حال حمل شیء فلزی ممکن است توسط سامانه به عنوان تهدید شناسایی شود، در حالی که انسان قادر به تشخیص تفاوت میان اسباب بازی و سلاح واقعی است.
در نتیجه، بسیاری از حقوقدانان معتقدند LAWS ممکن است با اصل تفکیک ناسازگار باشد.

اصل تناسب (Proportionality)
بر اساس اصل تناسب، حمله نظامی نباید موجب خسارات جانبی بیش از حد نسبت به مزیت نظامی مورد انتظار شود.
اجرای این اصل نیازمند ارزیابی انسانی، اخلاقی و ذهنی است. تعیین اینکه چه میزان خسارت غیرنظامی «بیش از حد» محسوب می شود، صرفا یک محاسبه عددی نیست بلکه مبتنی بر قضاوت انسانی است.
سیستم های خودمختار فاقد درک اخلاقی و انسانی اند و نمی توانند ارزش جان انسان ها یا آثار انسانی حملات را همانند انسان تحلیل کنند. بنابراین احتمال نقض اصل تناسب در عملیات این سامانه ها افزایش می یابد.

اصل احتیاط در حمله (Precaution)
مطابق حقوق بشردوستانه، طرف های مخاصمه موظف اند تمام اقدامات احتیاطی ممکن را برای کاهش آسیب به غیرنظامیان اتخاذ کنند.
این اصل مستلزم:
ارزیابی مداوم شرایط میدان نبرد
امکان توقف یا لغو حمله
تحلیل رفتار غیرمنتظره
واکنش متناسب به تغییر وضعیت
است.
در حالی که سامانه های خودمختار بر اساس داده های برنامه ریزی شده عمل می کنند، شرایط جنگی همواره غیرقابل پیش بینی است. احتمال خطای نرم افزاری، اختلال سایبری یا تصمیم گیری اشتباه می تواند آثار فاجعه باری ایجاد کند.

اصل مسئولیت پذیری
یکی از پیچیده ترین مسائل حقوقی درباره LAWS، موضوع مسئولیت بین المللی و کیفری است.
در صورت ارتکاب جنایت جنگی توسط یک سیستم خودمختار، تعیین مسئولیت دشوار خواهد بود:
آیا فرمانده نظامی مسئول است؟
آیا برنامه نویس نرم افزار مسئولیت دارد؟
آیا دولت سازنده مسئول است؟
یا تولیدکننده خصوصی پاسخگو خواهد بود؟
حقوق کیفری بین المللی بر مبنای عنصر معنوی و قصد مجرمانه استوار است؛ اما ماشین فاقد اراده و قصد کیفری است. این موضوع می تواند خلا جدی مسئولیت ایجاد کند و اصل پاسخگویی را تضعیف نماید.

ماده ۳۶ پروتکل اول الحاقی و بررسی مشروعیت سلاح ها
ماده ۳۶ پروتکل اول الحاقی ۱۹۷۷ دولت ها را موظف می کند پیش از به کارگیری هر سلاح جدید، مشروعیت آن را با قواعد حقوق بین الملل بررسی کنند.
در خصوص LAWS، این ارزیابی شامل موارد زیر است:
قابلیت رعایت اصل تفکیک
امکان کنترل انسانی
قابلیت پیش بینی رفتار سامانه
احتمال نقض حقوق بشر و حقوق بشردوستانه
بسیاری از کارشناسان معتقدند به دلیل غیرقابل پیش بینی بودن رفتار سامانه های مبتنی بر یادگیری ماشینی، ارزیابی حقوقی کامل آن ها دشوار است.

مواضع دولت ها و سازمان های بین المللی
موضوع LAWS در چارچوب «کنوانسیون برخی سلاح های متعارف» (CCW) در سازمان ملل متحد مورد بررسی قرار گرفته است.

کشورهای خواهان ممنوعیت
برخی کشورها و سازمان های حقوق بشری خواهان ممنوعیت کامل LAWS هستند؛ زیرا معتقدند این سامانه ها کرامت انسانی را نقض می کنند. کمپین بین المللی «Stop Killer Robots» نیز در همین راستا فعالیت می کند.

کشورهای مخالف ممنوعیت
برخی قدرت های نظامی مانند ایالات متحده امریکا ، روسیه و چین با ممنوعیت کامل مخالف اند و بر تنظیم مقررات محدودکننده به جای ممنوعیت تاکید دارند.
این کشورها معتقدند فناوری خودمختار می تواند:
دقت حملات را افزایش دهد
تلفات نیروهای نظامی را کاهش دهد
سرعت واکنش دفاعی را بالا ببرد

چالش های اخلاقی سیستم های خودمختار
فراتر از مباحث حقوقی، LAWS چالش های عمیق اخلاقی ایجاد کرده اند. مهم ترین پرسش اخلاقی این است که آیا می توان تصمیم درباره حیات انسان را به ماشین سپرد؟
منتقدان معتقدند حذف عنصر انسانی از فرآیند کشتار:
کرامت انسانی را تضعیف می کند
جنگ را غیرانسانی تر می سازد
آستانه توسل به زور را کاهش می دهد
مسئولیت اخلاقی را مبهم می کند
در مقابل، حامیان این فناوری استدلال می کنند که ماشین ها ممکن است کمتر از انسان دچار احساسات، انتقام یا خطاهای ناشی از خشم شوند.

ارزیابی نهایی وضعیت حقوقی LAWS
در حال حاضر هیچ معاهده بین المللی خاصی که سیستم های تسلیحاتی خودمختار را صراحتا ممنوع کرده باشد وجود ندارد. با این حال، این سامانه ها همچنان تابع قواعد کلی حقوق بشردوستانه بین المللی هستند.
مشروعیت حقوقی LAWS وابسته به میزان توانایی آن ها در رعایت اصول:
تفکیک
تناسب
احتیاط
مسئولیت پذیری
است.
با توجه به محدودیت های فعلی فناوری هوش مصنوعی، بسیاری از حقوقدانان معتقدند سامانه های کاملا خودمختار هنوز قادر به رعایت کامل این اصول نیستند. از همین رو، ضرورت تدوین مقررات بین المللی الزام آور برای کنترل یا ممنوعیت این تسلیحات بیش از پیش احساس می شود.

نتیجه گیری
سیستم های تسلیحاتی خودمختار یکی از پیچیده ترین چالش های حقوق بین الملل معاصر محسوب می شوند. پیشرفت فناوری هوش مصنوعی موجب شده جنگ های آینده بیش از هر زمان دیگری به تصمیم گیری ماشینی وابسته شوند. با وجود مزایای نظامی احتمالی، این سامانه ها خطرات جدی برای اصول بنیادین حقوق بشردوستانه بین المللی ایجاد می کنند.
مهم ترین نگرانی ها شامل ناتوانی در تشخیص دقیق غیرنظامیان، دشواری اجرای اصل تناسب، فقدان قضاوت انسانی و ابهام در مسئولیت کیفری است. در نتیجه، جامعه بین المللی با ضرورت ایجاد چارچوب حقوقی روشن برای تنظیم یا محدودسازی این فناوری مواجه است.
به نظر می رسد تا زمانی که «کنترل انسانی موثر» بر تصمیم گیری مرگبار تضمین نشود، مشروعیت حقوقی سیستم های تسلیحاتی کاملا خودمختار همچنان محل تردید جدی خواهد بود.