آیا ماشین می تواند قاتل باشد؟ درباره مسئولیت کشتار در عصر سلاح های خودگردان

پرسشی که از آزمایشگاه به میدان جنگ آمده است

در سال ۲۰۰۷، رابرت اسپارو، فیلسوف استرالیایی، مقاله ای نوشت با عنوان «ربات های قاتل» که یک پرسش ساده و ویرانگر مطرح می کرد: اگر سلاحی چنان خودگردان شود که دیگر نتوان عمل آن را به اراده ی یک انسان معین نسبت داد، وقتی یک انسان بی گناه کشته می شود، چه کسی را باید سرزنش کرد؟ آن روزها این پرسش بوی علمی تخیلی می داد؛ امروز، در پاییز ۲۰۲۶، از جنس گزارش های روزانه ی جنگ است.

چند نشانه از ماه های اخیر را کنار هم بگذاریم. در ژوئیه ی ۲۰۲۶، گزارش شد که یک پهپاد تهاجمی «خودگردان» در کریمه ی اشغالی به کار رفته؛ تحلیل گران همان جا هشدار دادند که با انتخاب خودکار هدف، دیگر حتی اخلال گرهای رادیویی هم نمی توانند جلوی پهپاد را بگیرند. در همان ماه، در ژاپوریژیا، یک پهپاد هدایت شده با هوش مصنوعی به دیوار یک پمپ بنزین کوبید و سه غیرنظامی کشته شدند. شبکه ی الجزیره در سپتامبر ۲۰۲۶ نوشت که روسیه و اوکراین در مسابقه ای برای «جنگ پهپادی کاملا خودگردان» افتاده اند؛ هر دو طرف قابلیت های خودکار را به کار گرفته اند، اما هیچ آمار قابل اتکایی از تعداد حملات کاملا خودگردان وجود ندارد.

در غزه، ماجرا شکل دیگری گرفته است: بر اساس گزارش های تحقیقی رسانه های اسرائیلی، سامانه هایی مثل «لاوندر» به افراد نمره ی احتمال می دهند و «گاسپل» روزانه تا صدها هدف ساختمانی پیشنهاد می کند؛ جنجال اصلی این است که آیا بررسی انسانی این پیشنهادها یک داوری واقعی است یا فقط مهر تاییدی بر تصمیم ماشین. هیچ آمار مستقلی هم از قربانیانی که مستقیما به تصمیم این سامانه ها نسبت داده شوند، در دست نیست؛ اما خود این ابهام، مسئله است.

و در عرصه ی دیپلماسی، در سحرگاه پنجم سپتامبر ۲۰۲۶، ۱۲۸ کشور عضو کنوانسیون تسلیحات متعارف (CCW) در ژنو بر گزارشی نهایی — هرچند غیرالزام آور — به اجماع رسیدند؛ گزارشی که اصولی را ثبت کرد: کنترل و داوری انسانی بر کاربرد زور، و این که «پاسخگویی را نمی توان به ماشین منتقل کرد». گام بعدی، کنفرانس بازنگری هفتم در نوامبر ۲۰۲۶ است؛ جایی که معلوم می شود آیا جهان از توصیه به معاهده ی الزام آور می رسد یا نه.

قاب فلسفی: شکاف مسئولیت

اسپارو همان پرسش ۲۰۰۷ را با دقتی فلسفی صورت بندی کرد: سلاح به اندازه ی کافی خودگردان می تواند وضعیتی بسازد که در آن هیچ کس را نتوان «به عدالت» مسئول یک کشتار ناروا دانست. وقتی هیچ کس مسئول نیست، خود سلاح به معنای عمیق تری نامشروع است. پیتر آسارو همین استدلال را از زاویه ی کرامت انسانی پیش برد: سپردن تصمیم مرگ وزندگی به ماشین، با کرامتی که کنوانسیون های ژنو برای انسان قائل اند، ناسازگار است. در برابر، رونالد آرکین — که خود روی معماری «حاکم اخلاقی» برای ربات های نظامی کار کرده — می گوید سامانه های خودگردان به دقت مهارشده شاید بتوانند خطاهای نامشروع سربازان انسانی را کمتر کنند؛ اما حتی او این را مشروط به نظارت انسانی می داند.

کمیته ی بین المللی صلیب سرخ (ICRC) موضع روشنی گرفته: هر ممنوعیتی باید «تفویض اختیار آغاز نیروی مرگبار به یک فرایند خودکار خارج از نظارت و اختیار مستقیم انسانی» را هدف بگیرد. در اکتبر ۲۰۲۶، رئیس این کمیته گفت: «هوش مصنوعی برای خود در جنگ حد و مرز تعیین نخواهد کرد؛ دولت ها باید این کار را بکنند.»

نکته ی فلسفی ماجرا این است: ماشین می تواند بکشد، اما نمی تواند پاسخ بدهد. کشتن بدون فاعلی که بتواند بگوید «چرا»، دیگر فقط یک عمل جنگی نیست؛ یک رویداد بی صاحب است. و تاریخ نشان داده که خشونت بی صاحب، سریع تر از خشونت مسئولانه گسترش می یابد.

لنز فقهی ایرانی: مباشرت، تسبیب و احتیاط در دماء

فقه اسلامی برای همین مسئله، دو مفهوم دقیق دارد: «مباشرت» و «تسبیب». مباشر کسی است که مستقیما عمل را انجام می دهد؛ مسبب کسی است که زمینه و سبب آن را فراهم می کند. ماشین نه مباشر عاقل است، نه قاصد و مختار؛ قتل عمد در فقه، «قصد» و «فاعل مختار» می خواهد، و هیچ کدام در الگوریتم نیست. پس ماشین قاتل نیست؛ اما این به معنای بی مسئولی کسی نیست. کسی که ماشین را می سازد، برنامه می دهد، فرماندهی می کند و به میدان می فرستد، «مسبب» است؛ و مسبب در فقه، تماشاگر نیست.

از این مهم تر، قاعده ی «احتیاط در دماء» است: در امور مربوط به خون و جان انسان، اصل بر احتیاط و توقف است، نه بر تساهل. سپردن تصمیم کشتن به فرایندی که نه می فهمد، نه قصد دارد و نه می تواند پاسخ گو باشد، با این اصل سازگار نیست. حیات انسان در نگاه اسلامی، حرمت دارد؛ و حرمت، یعنی نمی توان آن را به محاسبه ی آماری یک مدل سپرد.

این جا پیوند مسئله با دغدغه ی «حاکمیت» هم روشن می شود. چنان که «حاکمیت داده برابر با حاکمیت سیاسی» است، «حاکمیت بر تصمیم مرگ» نیز برابر با حاکمیت انسانی است. ملتی که داوری نهایی مرگ وزندگی را به ماشین های ساخته ی دیگران بسپارد، در حساس ترین نقطه ی اقتدار خود، مستاجر شده است. خودآگاهی تمدنی ایجاب می کند که ایران، هم در عرصه ی دیپلماتیک (از جمله در کنفرانس نوامبر ۲۰۲۶) و هم در دکترین دفاعی خود، موضعی روشن و مستقل درباره ی سلاح های خودگردان داشته باشد: دفاع مشروع، آری؛ تفویض کور تصمیم قتل به ماشین، نه.

چارچوب تجویزی: چهار لایه برای مهار ماشین کشنده

لایه ی یکم مرز ممنوعه: سامانه هایی که بدون نظارت و اختیار مستقیم انسانی، هدف را انتخاب و درگیر می کنند، باید ممنوع شوند. این دقیقا همان خطی است که ICRC ترسیم کرده و کنفرانس بازنگری نوامبر ۲۰۲۶ باید آن را از «توصیه» به «تعهد الزام آور» ارتقا دهد.

لایه ی دوم کنترل معنادار انسان: کنترل انسانی واقعی، بیش از یک دکمه ی اضطراری یا یک انسان در زنجیره ی فرماندهی است. یعنی انسان سامانه را بفهمد، بتواند اهداف و شرایط را محدود کند، داوری مرتبط اعمال کند و در هر لحظه، اقدام نامقبول را متوقف کند. هر جا «بررسی انسانی» به مهر تایید خودکار بر خروجی ماشین تنزل یابد همان چیزی که در ماجرای غزه محل مناقشه است کنترل معنادار وجود ندارد.

لایه ی سوم زنجیره ی بی شکاف مسئولیت: از طراح الگوریتم تا فرمانده ی میدان، باید زنجیره ای پیوسته از پاسخگویی وجود داشته باشد؛ هیچ «حفره ی سیاه پاسخگویی» پذیرفتنی نیست. هر کشوری که چنین سامانه هایی را به کار می گیرد از جمله در چارچوب بازبینی های حقوقی ملی مشابه «دستورالعمل ۳۰۰۰.۰۹» وزارت دفاع آمریکا باید پیش از استقرار، ارزیابی حقوقی و اخلاقی الزامی انجام دهد.

لایه ی چهارم ثبت، تحقیق و جبران: هر درگیری خودگردان باید ثبت شود؛ قربانیان چنین حملاتی باید امکان تحقیق و جبران داشته باشند. چنان که پژوهشگران حقوق بین الملل تاکید کرده اند، بازگرداندن «انسان» به مرکز ماجرا، یعنی بازگرداندن قربانی به مرکز ماجرا.

سخن پایانی

وحشت جنگ همیشه وحشت انسانی بوده است؛ اما دست کم، انسانی بوده که می توانست پاسخ گو باشد. روزی که تصمیم کشتن را به ماشین بسپاریم، وحشت شاهد خود را از دست می دهد و جنگ، آخرین حد انسانی خود را. مسئله، توقف فناوری نیست که نه ممکن است و نه مطلوب؛ مسئله این است که دستی که حکم مرگ را امضا می کند، همچنان دست انسان بماند. این، کمترین چیزی است که کرامت انسانی و حکمت اسلامی، هر دو، از ما می طلبد.