Skip to main content

فيما تلوح الروبوتات القاتلة في الأفق، تتزايد المطالب لإبقاء تحكم البشر باستخدام القوة

© 2020 Brian Stauffer for Human Rights Watch

 

في 2020، عليك التنبه إلى... الرفض الدولي المتزايد لـ "الروبوتات القاتلة" – الأسلحة التي قد تقتل بدون تحكم بشري حقيقي – وتزايد الدعوات لمعاهدة جديدة لحظرها استباقيا.

يبدو السماح للآلات باختيار واستهداف هدف بشري دون تدخل بشري جزء من فيلم خيال علمي مروع. لكننا ومن عدة نواحي قد اقتربنا من هذا الأمر: دول مثل إسرائيل، وروسيا، والصين، وكوريا الجنوبية، والمملكة المتحدة، والولايات المتحدة تعمل بالفعل على تطوير ونشر نماذج أولية لأسلحة مستقلة بالكامل، كالطائرات المسلحة بلا طيار الموجهة عن بعد بواسطة الإنسان. تستثمر هذه البلدان بشكل كبير في تطبيقات الذكاء الاصطناعي العسكرية لتحقيق تفوق تكنولوجي في الجيل القادم من الأسلحة المستقلة في ساحة المعركة.

هذه هي نفس الدول التي تتصدى لمطالب عشرات الدول بمعاهدة حظر جديدة تضمن تحكما بشريا حقيقيا باستخدام القوة. تصف الدول الجهود المبذولة لتنظيم الروبوتات القاتلة بأنها "مبكرة"، وترفض المخاوف من تهديد هذه الأسلحة للحق في الحياة ومبادئ الكرامة الإنسانية، أو عدم تلبيتها معايير القانون الدولي، بما فيها قواعد التمييز، والتناسب، والضرورة العسكرية.

لكن التغيير قادم مع ازدياد الزخم من أجل التنظيم. تُعتبر الروبوتات القاتلة الآن من أكبر التهديدات الوجودية التي يُواجهها الكوكب. يدعم الآن عدد متزايد من الدول وبعض الحلفاء غير المتوقعين حملة لمعاهدة جديدة تحظر منظومات الأسلحة المستقلة الفتاكة، والتي يحذر الفائزون بـ "جائزة نوبل للسلام" من تجاوزها للقيم "الأخلاقية".

في سبتمبر/أيلول 2019 في اجتماع رفيع المستوى للجمعية العامة للأمم المتحدة، حددت مبادرة "التحالف من أجل تعددية الأطراف" بقيادة فرنسا وألمانيا بالإضافة إلى العشرات من وزراء الخارجية، الروبوتات القاتلة كواحدة من ست قضايا "ذات صلة سياسة" تتطلب استجابة عاجلة متعددة الأطراف. (تشمل القضايا الأخرى تغير المناخ والمساواة الجندرية في التعليم).

منذ 2014، وجدت الاجتماعات الثمانية حول الروبوتات القاتلة بموجب "اتفاقية الأسلحة التقليدية" توافقا واسعا بين جميع الدول الـ 80 المشاركة بشأن الحاجة إلى إبقاء شكل من أشكال التحكم البشري باستخدام القوة. تروج 30 دولة الآن بقوة لمعاهدة الحظر باعتبارها ضرورية لإلغاء التحكم البشري في منظومات الأسلحة.

يشعر الأمين العام للأمم المتحدة أنطونيو غوتيريش بالقلق من "حلول الروبوتات القاتلة محل الجنود". كما اعتبر احتمالية وجود آلات لديها السلطة وصلاحية التقدير لسلب حياة البشر "بغيضة أخلاقيا وسياسيا"، ودعا إلى التفاوض من أجل معاهدة جديدة، وعرض دعم الأمم المتحدة لتحقيق هذا الهدف، كما ورد بالتفصيل في "خطته لنزع السلاح".

يطالب كبار خبراء الذكاء الاصطناعي، وأخصائيو الروبوتات، والعلماء، والعاملين في قطاع التكنولوجيا في "غوغل" وغيرها من الشركات بالتنظيم. ويُحذرون من أن تُغذى الخوارزميات ببيانات تعكس حتما تحيزات اجتماعية متعددة، والتي، إذا طُبقت على الأسلحة، قد تؤدي إلى استهداف أشخاص بمواصفات معينة بشكل غير متناسب. قد تكون الروبوتات القاتلة عرضة للقرصنة والهجمات التي قد تؤدي فيها التعديلات الطفيفة على مدخلات البيانات إلى "خداعها بطرق لا يُخدع بها أي إنسان".

كما بدأت المخاوف بشأن الروبوتات القاتلة تؤثر على التسلح والتطوير العسكريين؛ أصبح مخططو الدفاع المذعورون أكثر ترددا بشأن تخصيص ملايين الدولارات لمنظومات الأسلحة المستقلة التي قد تُحظر حتى قبل صنعها. مثلا، في 2019، دعت مجموعة صناعة ألمانية كبرى مؤلفة من شركات ومقاولين في مجال الدفاع بما فيها "راينميتال" الحكومة للعمل من أجل معاهدة جديدة لحظر الروبوتات القاتلة.

يوضح ذلك كيف أن التنظيم من خلال معاهدة جديدة هو أفضل الطرق لمعالجة الشكوك المتزايدة حول ما هو مقبول وغير مقبول بخصوص منظومات الأسلحة المستقلة المعقدة المتزايدة.

قريبا، مع ضغط الرأي العام، ستصبح الدعوات إلى معاهدة جديدة لحظر الروبوتات القاتلة أكبر من أن تحتويها القوى العسكرية في منتدى اتفاقية الأسلحة التقليدية العاجز. لا تقف عند هذا الحد: انضم إلى حملة وقف الروبوتات القاتلة وطالب بمعاهدة الحظر الآن.