أعلنت شركة “OpenAI”، صاحبة برنامج إنتاج النصوص “ChatGPT”، أنها أنشأت أداة يمكنها التمييز بين النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي (AI) والنص المكتوب بواسطة الإنسان.

الأداة الجديدة باعتراف الشركة ذاتها ليس دائمًا دقيقًا بنسبة 100٪ في التمييز بين النص البشري والنص المنتج بواسطة الآلة، وفقًا لما نشرته صحيفة “The Hill“.

قالت الشركة في منشور: “في حين أنه من المستحيل اكتشاف جميع النصوص المكتوبة بواسطة الذكاء الاصطناعي بشكل موثوق، فإننا نعتقد أن الأدوات الجيدة يمكن أن تظهر الادعاءات الكاذبة بأن النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي قد كتبه إنسان”.

يأتي هذا الإعلان بعد أن ارتفعت شعبية “ChatGPT” بسرعة، خاصة بين الطلاب، لقدرته على إعطاء ردود شبيهة بالبشر على الأسئلة وتحويل الردود إلى أشياء مثل المقالات أو رسائل البريد الإلكتروني.

أثار البرنامج أيضًا موجة من الجدل في التعليم حيث يقدم “ChatGPT” إجابات مختلفة لنفس الأسئلة، مما يجعل من المستحيل معرفة ما إذا كان الطالب قد استخدم “ChatGPT” لكتابة مقاله أو واجبه المدرسي.

We’re developing a new tool to help distinguish between AI-written and human-written text. We’re releasing an initial version to collect feedback and hope to share improved methods in the future. https://t.co/4dQE3dX6vX

— OpenAI (@OpenAI) January 31, 2023

نتيجة لذلك، حظرت مدارس مدينة نيويورك وسياتل العامة برنامج الدردشة الآلي من خوادمها، مشيرة إلى مخاوف من الغش ونقص مهارات التفكير النقدي اللازمة في ظل وجود هذا البرنامج.

ردت الشركة بالقول إنها تعمل مع المدارس لتخفيف مخاوفهم، وأشارت إلى أن الأداة الجديدة تعدّ بمثابة استجابة “غير موثوق بها للغاية” لفحص نص تم إنشاؤه بواسطة الذكاء الاصطناعي أقل من 1000 حرف، ولكنه يصبح أكثر موثوقية كلما كان النص أطول، وفقًا للشركة.

أضافت الشركة: “في تقييماتنا على مجموعة التحدي للنصوص الإنجليزية، تحدد الاداة بشكل صحيح 26٪ من النصوص المكتوبة بالذكاء الاصطناعي (إيجابيات حقيقية) على أنها من المحتمل أن تكون مكتوبة بالذكاء الاصطناعي، بينما يصنف بشكل غير صحيح النص المكتوب بواسطة الذكاء الاصطناعي على أنه مكتوب بالذكاء الاصطناعي بنسبة 9٪ الوقت (إيجابيات كاذبة)”.

وقالت الشركة إنها تطلق الأداة غير المثالية للحصول على التعليقات وستواصل العمل على طرق اكتشاف نصوص الذكاء الاصطناعي.

ليس من الواضح ما إذا كانت أدوات مثل هذه ستخفف من مخاوف المعلمين، حيث يقول بعض الطلاب إن الأساتذة قد غيروا بالفعل كيفية إجراء المهام بسبب “ChatGPT”.

كتبت الشركة: “نحن نتواصل مع المعلمين في الولايات المتحدة لمعرفة ما يرونه في فصولهم الدراسية ولمناقشة قدرات ChatGPT والقيود المفروضة عليه، وسنواصل توسيع نطاق وصولنا”، وتابعت: “هذه محادثات مهمة يجب إجراؤها كجزء من مهمتنا وهي نشر نماذج لغوية كبيرة بأمان، في اتصال مباشر مع المجتمعات المتأثرة”.