خطأ من الذكاء الاصطناعي كاد يتسبب في مواجهة عسكرية بين أمريكا والصين.. تفاصيل الواقعة

كاد تقرير استخباراتي أمريكي أُعد بمساعدة الذكاء الاصطناعي أن يدفع الولايات المتحدة إلى تنفيذ عملية عسكرية ضد سفينة صينية في الشرق الأوسط، بعدما خلص بشكل خاطئ إلى أن السفينة كانت تنقل مكونات مرتبطة ببرنامج للأسلحة النووية، وفقًا لتحقيق حصري نشرته شبكة CNN، استنادًا إلى أربعة مصادر مطلعة على الواقعة.

وحدثت الواقعة خلال الربيع الماضي، بالتزامن مع الحرب مع إيران، عندما أثار التقرير الاستخباراتي حالة تأهب داخل الجيش الأمريكي، ودفع القوات إلى وضع خطط لاعتراض السفينة، فيما كانت عناصر مسلحة تستعد للصعود على متنها، بينما كانت طائرات عسكرية أمريكية تحلق بالفعل في الجو، بحسب مصدرين مطلعين على التطورات.

ولم يكتشف المسؤولون الخطأ إلا قبيل بدء العملية المخطط لها، بعدما أعادوا التدقيق في التقرير الذي أعده محلل تابع لقيادة العمليات الخاصة، ليتبين أن التقرير أُنتج بمساعدة أداة للذكاء الاصطناعي، وأن روبوت المحادثة الذي استخدمه المحلل أخطأ في تحديد طبيعة المواد التي كانت تحملها السفينة.

ولم تتمكن CNN من تحديد ماهية الشحنة التي جرى تفسيرها بشكل خاطئ، لكن أحد المصادر وصف التقرير بأنه كان «خاطئًا تمامًا»، وقال في الوقت نفسه إن الواقعة «كادت تشعل حربًا»، نظرًا إلى أن أي عملية أمريكية ضد سفينة صينية كان يمكن أن تحمل خطر الانزلاق إلى مواجهة مسلحة بين واشنطن وبكين.

كيف وقع الخطأ؟

بحسب المصادر التي تحدثت إلى CNN، طرح المحلل سؤالًا على روبوت محادثة بشأن معلومات استخباراتية تتعلق بقائمة شحنات السفينة، وكانت البيانات الأصلية قد صدرت عن قيادة العمليات الخاصة الأمريكية في منطقة المحيط الهادئ، التي تتمركز في هاواي.

ولم يتضح ما إذا كان روبوت المحادثة المستخدم متاحًا تجاريًا أو تابعًا للحكومة الأمريكية.

وقال مسؤول أمريكي سابق رفيع المستوى، مطلع على أنظمة الذكاء الاصطناعي المستخدمة من جانب محللي الجيش وأجهزة الاستخبارات، إن الأدوات الداخلية المستخدمة في معظمها عبارة عن نسخ من برامج تجارية أُدخلت عليها تحسينات شكلية.

وقام روبوت المحادثة بدمج معلومات استخباراتية متاحة من مصادر مفتوحة مع معلومات سرية جُمعت عبر إشارات الاتصالات الموجودة في حوزة الحكومة الأمريكية، قبل أن يتوصل إلى استنتاج خاطئ بشأن طبيعة المواد التي كانت السفينة تنقلها.

ولم يتوقف الأمر عند ذلك، إذ استخدم المحلل الذكاء الاصطناعي مرة أخرى لصياغة النتائج في صورة تقرير استخباراتي قياسي، وهو النوع من التقارير الذي يعتمد عليه المسؤولون العسكريون، قبل أن يجري تعميم التقرير داخل المؤسسات المعنية.

الذكاء الاصطناعي والجيش

تأتي الواقعة في وقت تسعى فيه وزارة الدفاع الأمريكية ومجتمع الاستخبارات إلى توسيع استخدام الذكاء الاصطناعي في مختلف جوانب العمل العسكري والاستخباراتي، بدءًا من تحليل الكميات الهائلة من البيانات الخام التي تجمعها الولايات المتحدة وتحديد الأهداف، وصولًا إلى تطبيقات أكثر روتينية مثل إدارة الميزانيات والخدمات اللوجستية وسلاسل الإمداد.

ويتمثل أحد مبررات تسريع هذا الاستخدام في قدرة الذكاء الاصطناعي على مساعدة الجيش في اتخاذ القرارات الميدانية بوتيرة أسرع، مثل تحديد الأهداف التي ينبغي ضربها أو أماكن نقل الأصول العسكرية.

ويقول مسؤولون أمريكيون إن الولايات المتحدة لا تستطيع تحمل التأخر في دمج هذه التكنولوجيا، خشية أن تضطر في المستقبل إلى خوض حرب ضد الصين أو خصم آخر يستطيع استخدام الذكاء الاصطناعي للبقاء متقدمًا عليها بخطوة.

وفي يناير/كانون الثاني، أصدر وزير الدفاع الأمريكي بيت هيغسيث استراتيجية لوزارته حملت اسم «استراتيجية تسريع الذكاء الاصطناعي»، بهدف دفع الجيش إلى تسريع استخدام هذه التكنولوجيا.

وقال هيغسيث، في كلمة أعلن خلالها الاستراتيجية: «سنطلق العنان للتجريب، ونزيل العقبات البيروقراطية، ونركز استثماراتنا، ونُظهر نهج التنفيذ اللازم لضمان ريادتنا في مجال الذكاء الاصطناعي العسكري».

وتدفع الاستراتيجية نحو استخدام الذكاء الاصطناعي على نطاق واسع داخل مختلف قطاعات الجيش، إذ تأمر وزارة الدفاع بإتاحة هذه التكنولوجيا عبر برامج متعددة، بما يسمح بإجراء تجارب الذكاء الاصطناعي وعمليات التحول الرقمي داخل الوزارة، ووضع نماذج الذكاء الاصطناعي الأمريكية بين أيدي نحو ثلاثة ملايين موظف مدني وعسكري، وعلى مختلف مستويات التصنيف الأمني.

غياب معايير موحدة

لكن هذه الجهود لا تزال تتسم بدرجة كبيرة من اللامركزية، وفقًا لمسؤولين أمريكيين مطلعين على سير العمليات، إذ تستخدم جهات حكومية مختلفة أدوات متنوعة وتخضع لأوامر ومعايير سلامة متفاوتة.

ولا توجد، بحسب المصادر، مجموعة موحدة من المعايير التي تتبعها الولايات المتحدة للتحقق من صحة المعلومات التي تنتجها أدوات الذكاء الاصطناعي.

كما أن كثرة أنظمة الذكاء الاصطناعي وتنوعها داخل المؤسسات العسكرية والاستخباراتية يؤديان إلى تفاوت واضح في مستويات الموثوقية والفاعلية، ما يثير تساؤلات حول الجهة المسؤولة عن مراجعة المعلومات التي تنتجها هذه الأدوات قبل الاعتماد عليها في قرارات حساسة.

وأشارت CNN إلى أن أحد أبرز الأسئلة التي تثيرها الواقعة يتمثل في كيفية التحقق من المعلومات عندما يلعب الذكاء الاصطناعي دورًا في إنتاج تقرير استخباراتي يمكن أن تُبنى عليه عملية عسكرية.

خطر «الهلوسة»

لطالما حذر محللون من أن الاعتماد على بيانات ضعيفة أو مغلوطة في الأنظمة التي تستخدمها الدول خلال الحروب يمكن أن يؤدي إلى سوء تقدير كارثي، لكن واقعة السفينة الصينية سلطت الضوء على صورة أكثر مباشرة لهذا الخطر: أن يتخذ البشر قرارًا عسكريًا بالغ الخطورة اعتمادًا على معلومات خاطئة أنتجها نظام للذكاء الاصطناعي.

وفي هذه الحالة، أدت ما يعرف بـ«الهلوسة»، أي توليد النظام معلومات أو استنتاجات غير صحيحة، إلى توصيف خاطئ لطبيعة شحنة سفينة صينية، قبل أن يجري اكتشاف الخطأ في اللحظات الأخيرة التي سبقت تنفيذ العملية.

وقال مصدر آخر مطلع على السياسات الحالية للجيش إن استخدام الذكاء الاصطناعي في تحديد الأهداف يشهد توسعًا متزايدًا، لكنه أشار إلى عدم وجود توجيهات واضحة بشأن الطريقة التي يمكن من خلالها لضمان وجود عنصر بشري في عملية اتخاذ القرار أن يمنع وقوع إصابات بين المدنيين أو حوادث نيران صديقة.

وبحسب أحد المصادر، فإن نوع «الهلوسة» الذي ظهر في التقرير لم يكن حادثة معزولة داخل مجتمع الاستخبارات منذ بدء انتشار أدوات الذكاء الاصطناعي في المؤسسات الحكومية.

ضغط السرعة

وبالنسبة إلى بعض مسؤولي الاستخبارات الأكبر سنًا، بمن فيهم مؤيدون على نطاق واسع لاستخدام الذكاء الاصطناعي داخل الجيش، فرضت هذه التكنولوجيا ضغوطًا إضافية على المحللين لإنتاج المعلومات الاستخباراتية وتعميمها بوتيرة أسرع، وهو ما قد يفتح الباب أمام وقوع أخطاء.

وأشارت عدة مصادر إلى أن المحللين الشباب، على وجه الخصوص، نشأوا وهم معتادون على استخدام هذه الأدوات، ما قد يجعلهم أكثر ميلًا إلى الثقة بمخرجاتها دون إخضاعها بالقدر الكافي للتقييم النقدي.

ويأتي ذلك بينما انخرط صانعو السياسات في واشنطن خلال الأسابيع الأخيرة في نقاشات مكثفة بشأن الذكاء الاصطناعي، بعد سلسلة تحذيرات أطلقها مهندسون ورؤساء تنفيذيون في قطاع التكنولوجيا حول المخاطر المحتملة لخروج الأنظمة المتقدمة عن السيطرة البشرية.

لكن واقعة السفينة الصينية تكشف خطرًا مختلفًا وأكثر إلحاحًا، يتمثل في إمكانية أن يستخدم البشر هذه الأنظمة بطريقة تجعلهم يصلون إلى قرارات خطيرة بسرعة أكبر، بدلًا من أن تكون التكنولوجيا مجرد وسيلة لتحسين دقة القرار.

ولخص أحد المصادر هذا الخطر بعبارة مباشرة قائلًا: «إن الذكاء الاصطناعي يتيح لك الوصول إلى فكرة سيئة بسرعة أكبر».

ولم ترد قيادة العمليات الخاصة الأمريكية في منطقة المحيط الهادئ ووزارة الدفاع الأمريكية على طلب CNN للتعليق على الواقعة.