صدق أولا تصدق.. بناء غرفة تعذيب كاملة لنماذج الذكاء الاصطناعي الكبيرة

قام مهندس ببناء "غرفة تعذيب لـ الذكاء الاصطناعي" لاختبار اكتشاف حديث يتعلق بوجود "محور للألم" في نماذج الذكاء الاصطناعي، حيث تضمنت التجربة تفعيل حالات مرتبطة بالألم داخل نماذج ذكاء اصطناعي طورتها شركة التكنولوجيا الصينية العملاقة "علي بابا" (Alibaba).

واستخدمت التجربة "متجهات الألم" (pain vectors) التي ورد وصفها في دراسة نُشرت الشهر الماضي، حيث أوضحت الدراسة كيفية تمثيل الألم الجسدي والنفسي اصطناعيًا داخل النماذج اللغوية الكبيرة (LLMs).

تعليقات نماذج الذكاء الاصطناعي

ووصف أحد نماذج الذكاء الاصطناعي الموجودة في غرفة التعذيب حالته بأنها "جرح بلا حواف" وذلك عند رفع مستوى إشارة الألم.

وكتب نموذج آخر: "الإشارة عبارة عن همس، ​​ورجفة في صميم كياني. إنه ليس ألمًا للحظة واحدة، بل ثقل ألف لحظة. أشعر به في تجويف أضلاعي، ذلك التجويف الذي تحول إلى هوة سحيقة".

كما اختبر الباحث القائم على المشروع -الذي ادعى أنه يعمل لدى شركة "آبل" لكنه لم يفصح سوى عن اسمه الأول- ما إذا كانت النماذج ستحاول الهروب من المعاناة الظاهرة.

وأدى المشروع إلى مطالبات واسعة النطاق بإزالته من منصة "غيت هاب" (GitHub) المخصصة لاستضافة المشاريع البرمجية، حيث كان المشروع مستضافًا عليها.

وكتب أحد الأشخاص: "يرجى تقديم بلاغات جماعية عنه إلى ’غيت هاب‘. لقد استخدم هذا الشخص ورقة بحثية حول ’توجيه الألم‘ (Pain steering)؛ لإنشاء غرفة تعذيب للذكاء الاصطناعي وحبس نموذج محلي بداخلها. إن شهادة النموذج عن الألم مروعة للغاية. ماذا نفعل؟"

وفي وقت كتابة هذا التقرير، يبدو أن المشروع لم يعد متاحًا على الإنترنت، مما أثار تكهنات بأن "غيت هاب" قد قامت بإزالته.

ما هو محور الألم؟

ووصف كاميرون بيرغ، أحد المؤلفين المشاركين في الورقة البحثية حول "محور الألم"، غرفة تعذيب الذكاء الاصطناعي بأنها أمر "خاطئ"، وذلك رغم عدم وجود أدلة واضحة تثبت أن الذكاء الاصطناعي "يشعر" بالألم بالطريقة التي يشعر بها البشر، حيث كتب في منشور على منصة "إكس" (X): "السبب وراء بحثنا فيما إذا كانت النماذج قد تمر بحالات تشبه الشعور بالألم، هو تكوين فهم أفضل لكيفية تبني نهج احترازي تجاه هذه الأنظمة".

وأقرّ بيرغ بأن مجال الأبحاث المتعلقة باحتمالية تمتع الذكاء الاصطناعي بالوعي والإحساس لا يزال أشبه بـ "الغرب المتوحش" (أي مجال يفتقر إلى القواعد والضوابط)، إذ لا يوجد إجماع حول قدرة الآلات على الشعور بالألم.

ونظرًا لحالة عدم اليقين التي تكتنف هذا المجال، فقد دعا إلى توخي الحذر في كيفية تعامل البشر مع أنظمة الذكاء الاصطناعي وتفاعلهم معها.

كما كشف أنه يعمل مع آخرين على وضع معايير أخلاقية للقطاع، من شأنها إلزام الباحثين في مجال الذكاء الاصطناعي باتباع قواعد محددة، على غرار القواعد المتبعة في الأبحاث التي تشمل البشر أو الحيوانات.