أخيرًا.. الذكاء الاصطناعي أصبح يقول لا أعرف

طوّر باحثون من كوريا الجنوبية طريقةً جديدةً تُمكّن نماذج الذكاء الاصطناعي من الاعتراف بعدم إلمامها ببعض المواضيع، على غرار السلوك البشري.

يقول باحثون من المعهد الكوري المتقدم للعلوم والتكنولوجيا إن هذا الإنجاز قد يُحسّن موثوقية نماذج الذكاء الاصطناعي المستخدمة في مجالات مثل القيادة الذاتية والطب.

وكشفت أبحاث سابقة أن "الثقة المفرطة" للذكاء الاصطناعي تُعدّ من أبرز المخاطر في استخدام هذه الأدوات لاتخاذ القرارات.

وقد تبيّن أن نماذج الذكاء الاصطناعي الشائعة الاستخدام، مثل ChatGPT من OpenAI، تُصاب بـ "الهلوسة"، أو تُختلق الحقائق، لأنها تُشجّع على التخمين بدلًا من الاعتراف بنقص معرفتها.

والآن، طوّر الباحثون طريقةً تُمكّن الذكاء الاصطناعي من التعرّف على المواقف التي تتطلب معرفةً غير مألوفة أو غير مسبوقة، مما يُساعد في تحسين الموثوقية العامة لروبوتات المحادثة.

يُقال إن أحد الأسباب الرئيسية للثقة المفرطة في الذكاء الاصطناعي هو طريقة تعلمه من البيانات الأولية باستخدام الشبكات العصبية الاصطناعية، التي تُشكل بنيته الأساسية.

وقد تتفاقم الأخطاء الصغيرة التي تظهر في هذه المرحلة وتُسبب أخطاءً جسيمة خلال التدريب اللاحق إذا لم يتم تصحيحها.

هلوسة الذكاء الاصطناعي

ووجد الباحثون أنه عند إدخال بيانات عشوائية إلى شبكة عصبية خلال مرحلة التهيئة، أظهر النموذج ثقة عالية رغم أنه لم يتعلم أي شيء، وهو ما يُعرف باسم هلوسة الذكاء الاصطناعي.

ولمعالجة هذه المشكلة، يقول الباحثون إنهم استعانوا بآلية حل الدماغ البشري للمشكلة.

فعند البشر، تتولد إشارات الدماغ دون مدخلات خارجية حتى قبل الولادة، مما يُساعد في التعامل مع هذه المشكلة.

وبمحاكاة ذلك، طور العلماء نظامًا تخضع فيه الشبكة العصبية الأساسية لنموذج الذكاء الاصطناعي لتدريب تمهيدي قصير باستخدام مدخلات ضوضاء عشوائية قبل بدء التعلم الفعلي.

ووفقًا للباحثين، تُساعد هذه العملية الذكاء الاصطناعي على تحديد مستوى أساسي لنفسه من خلال تعديل مستوى عدم اليقين لديه قبل بدء تعلم البيانات.

يمكن لعملية الإحماء أن تساعد نموذج الذكاء الاصطناعي على ضبط مستوى ثقته الأولية إلى مستوى منخفض قريب من الصدفة، مما يقلل بشكل ملحوظ من تحيزه نحو الثقة المفرطة.

وبعبارة أخرى، يقول الباحثون إن هذه الطريقة تساعد النماذج أولًا على تعلم حالة "أنا لا أعرف شيئًا بعد".

وأوضح الباحثون: "بينما تميل النماذج التقليدية إلى إعطاء إجابات خاطئة بثقة عالية حتى بالنسبة للبيانات التي لم تصادفها أثناء التدريب، أظهرت النماذج التي خضعت لتدريب الإحماء تحسنًا واضحًا في قدرتها على خفض مستوى ثقتها وإدراك أنها "لا تعرف".

وهذا بدوره يساعد الذكاء الاصطناعي على تطوير قدرته على التمييز بين "ما يعرفه" و"ما لا يعرفه".