لماذا يجب علينا الحد من استقلالية الأسلحة التي تدعم الذكاء الاصطناعي؟

لقد تم استخدام الأسلحة القادرة على تحديد الأهداف ومهاجمتها تلقائيًا منذ أكثر من 80 عامًا. ومن الأمثلة المبكرة على ذلك، مارك 24 فيدو، وهو طوربيد أمريكي مضاد للغواصات ومجهز بميكروفونات لتوجيه الأهداف، والذي تم نشره لأول مرة ضد الغواصات الألمانية في عام 1943.

أضواء على الطبيعة: الروبوتات

تم تصميم هذه الأنظمة المستقلة “للموجة الأولى” لاستخدامها في سيناريوهات محددة بدقة وبرمجتها للعمل استجابة لإشارات مثل انبعاثات الترددات الراديوية لأهداف محددة. شهدت السنوات العشر الماضية تطوير أنظمة أكثر تقدمًا يمكنها استخدام الذكاء الاصطناعي للتنقل وتحديد وتدمير الأهداف دون تدخل بشري يذكر أو بدون تدخل بشري. وقد أدى هذا إلى تزايد الدعوات من جانب جماعات حقوق الإنسان لحظر أو تنظيم هذه التكنولوجيات.

تعمل نيهال بوتا، أستاذة القانون الدولي في جامعة إدنبرة بالمملكة المتحدة، على التحقيق في شرعية وأخلاقيات الأسلحة المستقلة لأكثر من عقد من الزمن. وكان من مؤلفي أ تقرير عن الاستخدام المسؤول للذكاء الاصطناعي وقد قدمها رئيس الوزراء الهولندي ديك شوف إلى مجلس الأمن التابع للأمم المتحدة الشهر الماضي.

تقول بوتا إن الأسلحة المستقلة، وخاصة تلك التي تدعم الذكاء الاصطناعي، تثير مخاوف أخلاقية وقانونية متعددة، بما في ذلك تحديد المسؤولية عن فشل النظام واحتمال تشجيع جمع البيانات المدنية بشكل متطفل. ويقول إنه لا يزال هناك وقت أمام المجتمع الدولي للاتفاق على مبادئ وأنظمة للحد من المخاطر، ويحذر من احتمال حدوث سباق تسلح إذا فشل في القيام بذلك.

ما هي الأطر والمبادئ القانونية التي تنطبق حاليًا على أنظمة الأسلحة الذاتية التشغيل؟

ولا يوجد إطار قانوني محدد ينطبق على استخدام الاستقلالية أو الذكاء الاصطناعي في هذه الأنظمة. وبموجب القانون الإنساني الدولي، استنادا إلى اتفاقيات لاهاي واتفاقيات جنيف، التي تحدد معا القانون الدولي بشأن الحرب وجرائم الحرب، يجب أن تكون الأسلحة قابلة للاستخدام بطريقة يمكن أن تميز بين الأهداف المدنية والعسكرية. يجب ألا تؤدي الهجمات إلى ضرر غير متناسب للمدنيين، ويجب على المقاتلين اتخاذ الاحتياطات اللازمة للتحقق من أنهم قد أصابوا الهدف الصحيح وتقليل خطر إلحاق الأذى بالمدنيين. تنطبق هذه القوانين الدولية على جميع الأسلحة، بما في ذلك استخدام الأنظمة المستقلة المتقدمة، مثل الطائرات بدون طيار التي نشرتها أوكرانيا في يونيو/حزيران، والتي استخدمت التعلم الآلي لاختيار وتحديد وضرب أهداف في عمق روسيا على أساس تعليمات مبرمجة مسبقا.

ما هي المخاطر المرتبطة بالأسلحة المستقلة؟

وقد يؤدي عدم الاهتمام الكافي بتطويرها ونشرها إلى الإضرار بالامتثال لمبدأي التمييز والتناسب. هل يمكن للنظام توليد الكثير من النتائج الإيجابية الخاطئة عند تحديد الأهداف؟ فهل يمكن لسلاح مستقل أن يحسب أن أعدادا كبيرة من القتلى المدنيين هو ثمن مقبول يجب دفعه عند استهداف جندي عدو مشتبه به؟ نحن لا نعرف حقًا حتى الآن لأنها تقنية غير ناضجة، لكن هذه مخاطر كبيرة. هناك أيضًا خطر يتمثل في أنه إذا فشل النظام في معالجة البيانات الواردة بدقة في بيئة سريعة التغير، فقد يستهدف القوات أو المدنيين الخطأ.

ولجعل هذه الأنظمة فعالة، عليك الحصول على كميات كبيرة من البيانات، بما في ذلك المعلومات البيومترية والمكالمات الصوتية ورسائل البريد الإلكتروني وتفاصيل الحركات الجسدية. وهذا مصدر قلق إذا تم ذلك دون موافقة المعنيين. كلما أردت أن تفعل المزيد، زادت البيانات التي تحتاجها. وهذا يخلق حافزًا لجمع البيانات بشكل أكثر تدخلاً.

من المسؤول قانونيًا وأخلاقيًا عندما تقتل الأسلحة المستقلة؟

أعتقد أنه من المحتمل أن تقوم بعض الدول ذات السيادة في المستقبل بنشر أسلحة قادرة على اتخاذ قرارات القتل. والسؤال هو ما إذا كانت البلدان ترغب في تنظيم مثل هذه الأنظمة. تتطلب الأطر القانونية الفعالة طرقًا لإسناد المسؤولية عن الانتهاكات. قد يصبح من الصعب مع أنظمة الأسلحة المستقلة المعقدة تحديد الأفراد المسؤولين عن الإخفاقات والانتهاكات.

قد لا يتم تدريب مشغلي الأنظمة المستقبلية بشكل كافٍ على الوقت المناسب لتجاهل توصيات النظام. وقد يطورون أيضًا تحيزًا للأتمتة، مما يجعلهم غير راغبين في التشكيك في الآلة المتقدمة تقنيًا. يمكن أن يكون النظام متحيزًا بشكل منهجي في كيفية حصوله على الأهداف – وفي هذه الحالة، تقع المسؤولية في مكان ما بين المطور والمسؤولين العسكريين الذين يأذنون باستخدامه.

هناك خطر من أن تصبح المساءلة منتشرة إلى حد كبير بحيث يصعب تحديد الأفراد أو مجموعات الوكلاء المسؤولين عن الانتهاكات والإخفاقات. وهذه مشكلة شائعة في التقنيات الحديثة المعقدة، وأعتقد أن الإجابة تكمن في اعتماد أطر تنظيمية لتطوير واستخدام أنظمة الأسلحة المستقلة.

ماذا تقول لأولئك الذين يطالبون بحظر الأسلحة المستقلة؟