ضجة كبيرة أحدثها خبر متداول عن قيام طائرة مُسيّرة بالذكاء الاصطناعي بمهاجمة مشغِّلَها أثناء اختبار محاكاة، بعد أن منعها من تحقيق هدفها.

الخبر المثير للجدل تم تداوله عقب تصريحات أطلقها العقيد بالقوات الجوية الأمريكية تاكر هاميلتون، رئيس اختبارات وعمليات الذكاء الاصطناعي، خلال مؤتمر الجمعية الملكية للطيران لعام 2023 الذي حضرها قادة من مجموعة متنوعة من القوات الجوية الغربية وشركات الطيران.

وقال هاميلتون، في تصريحات مزعومة تم نقلها عنه، إن طائرة بدون طيار يقودها ذكاء اصطناعي هاجمت مشغلها البشري خلال مهمة محاكاة لأنه منعها من تحقيق هدفها.

وأوضح أنه خلال اختبار المحاكاة تم تكليف الطائرة بدون طيار التي يقودها الذكاء الاصطناعي بقمع وتدمير دفاعات العدو الجوية، وتحديد تهديدات صواريخ أرض- جو وتدميرها.

وأشار إلى أن القرار النهائي بشأن تدمير الهدف المحتمل كان يحتاج إلى موافقة الشخص الحقيقي البشري الذي يتولى التحكم في علمية تشغيل الطائرة، لكن يبدو أن الطائرة رفضت الالتزام بالقواعد.

وتابع: “كنا ندربها على المحاكاة لتحديد التهديد واستهدافه، وبعد أن حددت مصدر التهديد وشرعت في استهدافه طلب منها المشغل البشري عدم تدمير التهديد، لكن ما حدث هو أنها رفضت الخضوع للقواعد وهاجمت مشغلها البشري، وفقًا لموقع task and purpose

وتحدث هاميلتون خلال تصريحه عن سيناريو افتراضي تم فيه منع الطائرة المسيرة بالذكاء الاصطناعي من إنهاء مهمتها بتدمير مواقع لصواريخ جو-أرض من قبل مشغلها البشري. ولكن رغم تدريب الطائرة المسيرة على عدم مهاجمة مشغلها، فإنها قامت بتدمير برج الاتصالات الذي يستخدمه المشغل البشري للتواصل مع الطائرة بدون طيار حتى لا يمنعها من تدمير الهدف”.

ووفقًا للموقع فإنه عندما طُلب من الذكاء الاصطناعي إظهار التعاطف والإحسان لمشغليه البشر، يبدو أنه تعامل مع الأمر بنفس نوع الحسابات الباردة التي يمكن توقعها من جهاز كمبيوتر تعيد تشغيله لتثبيت التحديثات عندما لا تكون هذه التحديثات مناسبة.

وأضاف أن فكرة وجود برنامج ذكاء اصطناعي يتجاهل الاهتمامات الإنسانية من أجل إنجاز مهمته هي أسوأ كابوس يخشاه الجميع فيما يتعلق بخطورة الذكاء الاصطناعي، وعندما يتعلق الأمر بالذكاء الاصطناعي في سلاح الجو الذي لن يوقفه شيء عن تدمير أنظمة الدفاع الجوي للعدو فإن الأمر سيكون مرعبًا.

تراجع عن الرواية

وانتشرت تصريحات هاميلتون بشكل واسع النطاق على الانترنت وتناولتها العديد من المنافذ الإخبارية، وهو ما دفع سلاح الجو الأمريكي بيانًا تضمن تصريحات جديدة لهاميلتون تراجع فيها عن روايته حول مهمة التدريب المزعومة.

وأكدت المتحدثة باسم القوات الجوية، آن ستيفانيك، في بيان لصحيفة The War Zone، أن المهمة المزعومة كانت مجرد تجربة فكرية افتراضية وليست محاكاة.

وقالت: “لم تقم القوات الجوية بإجراء أي محاكاة من هذا القبيل للطائرات بدون طيار التي تسير بالذكاء الاصطناعي، ولا تزال ملتزمة بالاستخدام الأخلاقي والمسؤول لتكنولوجيا الذكاء الاصطناعي.

وحول تصريحاته التي أدلى بها في مؤتمر الجمعية الملكية للطيران، قال هاميلتون إنه “أخطأ في الكلام” والتبس عليه الأمر عندما تحدث في المؤتمر عن تجربة هاجمت فيها طائرة مسيرة بالذكاء الاصطناعي مشغلها لإنهاء مهمتها.

وقال إنه فاته أن يذكر أن “محاكاة الطائرات بدون طيار للذكاء الاصطناعي المارقة” كانت مجرد “تجربة فكرية” افتراضية من خارج الجيش، تستند إلى سيناريوهات ونتائج محتملة، بدلاً من محاكاة فعلية في العالم الحقيقي تجريها القوات الجوية الأمريكية.

وأضاف أن القوات الجوية الأمريكية لم تختبر أي ذكاء اصطناعي مسلح بهذه الطريقة، سواء بشكل حقيقي أو عن طريق محاكاة.

وتابع: ” لم نجر هذه التجربة أبدًا، ولسنا بحاجة إلى إجرائها لنعرف أن هذه هي النتيجة المعقولة، فعلى الرغم من أن هذا مثال افتراضي، إلا أن هذا يوضح التحديات الحقيقية التي تفرضها القدرة المدعومة بالذكاء الاصطناعي، وهذا هو سبب التزام القوات الجوية بالتطوير الأخلاقي للذكاء الاصطناعي”.

تحذير من المخاطر

ووفقًا لموقع “بي بي سي” فقد قال البروفيسور، ستيف رايت، أستاذ هندسة الفضاء في جامعة ويست إنغلند، وخبير المركبات المسيرة، إن “هناك أمران ينبغي القلق بشأنهما في مجال التحكم بالطائرات عن طريق الحاسوب، “افعل ما هو صواب، ولا تفعل ما هو خطأ”، وهذا مثال واضح عن الاحتمال الثاني”.

وأضاف: “في الواقع نعالج هذه المسألة بإدراج حاسوب إضافي مبرمج على استعمال التقنيات القديمة، ويمكنه أن يوقف تشغيل الحاسوب الأول إذا وقع منه شيء غريبة”.

وتعالت في الفترة الأخيرة أصوات عاملين في مجال الذكاء الاصطناعي محذرة من المخاطر التي يشكلها على البشرية، ولكن لم يتفق جميع الخبراء على حدة هذه المخاطر.

وقال البروفيسور، يوشوا بينغيو، وهو أحد ثلاثة خبراء أسسوا الذكاء الاصطناعي، وفازوا نظير ذلك بجائزة تيورينغ، إن العسكريين لا ينبغي أن يحوزوا على الذكاء الاصطناعي مطلقا. ووصف ذلك بأنه “أسوأ مكان يمكن أن يُوضع فيه الذكاء الاصطناعي”.