إحدى التحديات الكبيرة التي تواجه أنظمة الذكاء الاصطناعي التوليدية مثل شات جي بي تي هي تأكيدها بثقة على معلومات خاطئة، وهذه الظاهرة تُعرف بالهلوسة. هذا السلوك يشكل عائقًا أمام فعالية تلك الأنظمة.
في محاولة لمعالجة هذه المشكلة، نشر فريق من الباحثين في جامعة أكسفورد ورقة بحثية في دورية نيتشر يصفون فيها أسلوبًا جديدًا لاكتشاف متى يُحتمل أن تهلوس أنظمة الذكاء الاصطناعي. تمكنت هذه المنهجية من التفريق بين الإجابات الصحيحة والخاطئة بنسبة 79%، وهي نسبة أعلى من الأساليب الرائدة الأخرى بحوالي 10 نقاط مئوية.
على الرغم من أن هذا الأسلوب يعالج سببًا واحدًا فقط من أسباب الهلوسة، ويتطلب قوة حوسبة أكبر بعشر مرات من المحادثات العادية، إلا أن هذه النتائج قد تمهد الطريق لأنظمة ذكاء اصطناعي أكثر موثوقية في المستقبل القريب، كما أشار تقرير مجلة تايم.
مصطلح "الهلوسة" أصبح شائعًا في مجال الذكاء الاصطناعي، لكنه مثير للجدل لأنه يوحي بأن لدى النماذج خبرة ذاتية، وهذا غير موجود. المصطلح يصف عدة فئات من الأخطاء، مما يجعله غير دقيق. لذلك، ركز فريق أكسفورد على فئة واحدة أطلقوا عليها "التخريف"، حيث يصدر النموذج إجابات خاطئة على الأسئلة المتعلقة بالحقائق.
الأسلوب الذي استخدمه الفريق لاكتشاف التخريف بسيط نسبيًا. يطلب الباحثون من الروبوت أن يصدر عدة إجابات على نفس السؤال، ثم يستخدمون نموذجًا لغويًا مختلفًا لتصنيف تلك الإجابات بناءً على معناها. بعد ذلك، يحسب الباحثون "الأنتروبيا الدلالية"، وهي مقياس لتشابه أو اختلاف معاني الإجابات. إذا كانت الإجابات تحمل معاني مختلفة، تكون الأنتروبيا مرتفعة، مما يشير إلى التخريف.
تفوق أسلوب رصد الأنتروبيا الدلالية على العديد من الأساليب الأخرى، مثل الأنتروبيا البدائية وتقييم النموذج لصحة إجاباته. يقترح الفريق البحثي أن هذا الأسلوب يمكن أن يتيح لشركة أوبن إيه آي إضافة خيار في شات جي بي تي يمنح المستخدم درجة من التأكد حول دقة الإجابة.
رغم تفاؤل الفريق البحثي، يحذر بعض الخبراء من المبالغة في تقدير تأثير هذا الأسلوب الفوري، مشيرين إلى صعوبة دمجه في التطبيقات الحقيقية الحالية. كلما أصبحت نماذج الذكاء الاصطناعي أكثر قدرة، سيحاول الناس استخدامها في مهام أكثر تعقيدًا، مما يزيد من احتمالية الفشل.
إرسال تعليق