لماذا تفضل روبوتات الدردشة بالذكاء الاصطناعي اختلاق الأشياء بدلاً من قول "لا أعرف"

اطرح على روبوت دردشة بالذكاء الاصطناعي سؤالاً واقعياً لا يستطيع الإجابة عليه، فنادراً ما يرد بـ”لا أعرف”. وفي كثير من الأحيان ينتج رداً واثقاً وطليقاً ومختلقاً بالكامل. ويسمي الباحثون هذا هلوسة، وتقدم ورقة جديدة نُشرت على arXiv، خادم المسودات الأولية حيث يشارك العلماء النتائج المبكرة، تفسيراً من نظرية المعلومات لسبب حدوث ذلك.

الحجة الأساسية بديهية بشكل مفاجئ. فعندما يُدرَّب نموذج لغوي على إنتاج نص يبدو محتملاً، غالباً ما يكون تخمين شيء معقول رهاناً أكثر أماناً من الرفض. فقول “لا أعرف” الجاف يحمل معلومات قليلة، ويظهر في بيانات التدريب أقل بكثير من إجابة طليقة. وتصوغ الورقة المشكلة من حيث فضاء المخرجات الممكنة: إذ تُحسَّن النماذج لتقليل الخطأ في النص الذي تراه، وتكافئ هذه الهدف بهدوء الاختلاق الواثق على الصمت الصادق.

وقد ظهر نقاش مفصل حول العمل على Zhihu، وهي منصة أسئلة وأجوبة صينية غالباً ما توصف بأنها نظير Quora في البلاد، حيث شرح أحد مؤلفي الورقة للقراء الدافع وراء البحث. ووصف المؤلف كيف بدأ المشروع بقراءة نقدية لأعمال سابقة حول سلوك النماذج، بما في ذلك تحليلات لسبب هلوسة النماذج اللغوية، وانتقل تدريجياً من الحدود المجردة في نظرية المعلومات نحو الأحجية العملية لروبوتات الدردشة التي لا تعترف بالجهل.

يهم هذا التفسير لأن الهلوسة من أكبر العقبات أمام الثقة بأنظمة الذكاء الاصطناعي. فنموذج يختلق استشهاداً قانونياً أو جرعة طبية أو تاريخاً تاريخياً يمكن أن يضلل المستخدمين الذين لا يملكون طريقة سهلة للتحقق. وإذا كان هذا الميل متجذراً في طريقة تدريب هذه الأنظمة وتقييمها، فإن مجرد إخبار المستخدمين بأن “يتحققوا من كل شيء” ليس حلاً كاملاً.

ومن التبعات أن الإصلاح قد يحتاج إلى البدء في مرحلة التدريب. فلو كوفئت النماذج على التعبير عن عدم اليقين، أو لو عومل رفض الإجابة كنتيجة صالحة بل ومرغوبة، لضعف الحافز إلى الاختلاق. وقد اقترح بعض الباحثين تعليم النماذج أن تقول “لست متأكداً” أكثر، لكن فعل ذلك دون جعلها حذرة بشكل غير مفيد توازن دقيق.

كما تطرق نقاش Zhihu إلى موضوع أوسع: كيف ينتقل البحث التقني إلى الفهم العام. فالورقة المكتوبة للمتخصصين يمكن أن تصل إلى ملايين القراء عندما يترجمها مؤلف أو معلّق مطلع إلى لغة بسيطة. وفي هذه الحالة، جذب النقاش الانتباه ليس بسبب أي إطلاق منتج بل لأن السؤال — لماذا يختلق ذكاؤنا الاصطناعي الأشياء؟ — سؤال يطرحه المستخدمون العاديون كل يوم.

وفي الوقت الحالي، الورقة مسودة أولية، أي أنها لم تكمل بعد مراجعة الأقران الرسمية، وستُختبر استنتاجاتها ويُجادل فيها باحثون آخرون. لكن التأطير مفيد: فقد لا تكون الهلوسة عيباً يمكن ببساطة ترقيعه. قد تكون نتيجة متوقعة لطريقة بناء هذه الأنظمة وتقييمها، وفهم ذلك هو الخطوة الأولى نحو بناء ذكاء اصطناعي يعرف حدود ما يعرفه.