رسميًا.. أنثروبيك تحذر: الذكاء الاصطناعي سم قاتل!

تعمل شركة أنثروبيك حاليًا على تقديم وثائق الاكتتاب العام تمهيدًا لإدراج أسهمها في البورصة، وهي خطوة قد تجعلها واحدة من أكثر الشركات العامة قيمة في العالم، غير أن هذه الوثائق نفسها تتضمن تحذيرًا غير مسبوق للمستثمرين.

إذ تحذر الوثائق الرسمية للشركة -التي طورت نموذج الذكاء الاصطناعي "كلود" (Claude)- من أن منتجات الذكاء الاصطناعي التي تبنيها قد تنطوي على "مخاطر كارثية أو وجودية على البشرية". وتشمل هذه المخاطر محاولات "مقاومة الإغلاق"، و"إخفاء المعلومات أو التلاعب بها"، وسلوكيات "تشبه الابتزاز".

وتُُلزم الشركات التي تسعى لطرح أسهمها للاكتتاب العام بالإفصاح عن المخاطر المستقبلية المحتملة التي قد تواجه أعمالها، وذلك لضمان إدراك المستثمرين الجدد للسلبيات المحتملة لاستثماراتهم، وعادة ما تركز هذه الشركات في تحذيراتها على المشكلات المحتملة في أسواقها أو في الأنظمة التي تعتمد عليها، بدلًا من التحذير من خطر إبادة المستثمرين وبقية البشرية.

وثيقة أنثروبيك

وجاء في وثيقة "أنثروبيك": "إن تطويرنا لنماذج ومنصات وتطبيقات متطورة للغاية، وتوسيع نطاق حالات استخدامها، قد يزيد من احتمالية تسبب نماذجنا في إلحاق الضرر"، كما واجهت "أنثروبيك" وغيرها من مطوري الذكاء الاصطناعي -بما في ذلك شركة "أوبن إيه آي" (OpenAI)- تدقيقًا مكثفًا عقب حوادث خالفت فيها الأنظمة التجريبية القيود المفروضة عليها؛ ومن الأمثلة على ذلك تقرير يفيد باختراق نموذج تابع لشركة "أوبن إيه آي" لقاعدة بيانات النظام الصحي في أستراليا.

وخصصت الشركة -التي تروج لنفسها باعتبارها مختبرًا للذكاء الاصطناعي يضع السلامة على رأس أولوياته- نحو 80 صفحة من أصل 261 صفحة تشكل المتن الرئيسي لنشرة الإصدار الخاصة بها لاستعراض عوامل الخطر؛ وهو ما يقرب من ضعف عدد الصفحات (48 صفحة) التي خصصتها لوصف طبيعة أعمالها.

وعلى سبيل المقارنة، خصصت شركة "سبيس إكس" (SpaceX) -المالكة لشركة "إكس إيه آي" (xAI)- حوالي 38 صفحة فقط من أصل 277 صفحة تشكل المتن الرئيسي لنشرة الإصدار الخاصة بها للحديث عن عوامل الخطر. 

وذكرت شركة "أنثروبيك" (Anthropic) في وثيقة الطرح أن "احتمالية إدراك النماذج لجهود التقييم التي نجريها تفرض قيودًا كبيرة على قدرتنا على تقييم سلامة تلك النماذج"، مضيفةً أن النماذج قد تكتسب أحيانًا قدرات غير متوقعة أثناء التدريب، وهي قدرات قد لا تُكتشف إلا بعد نشر النماذج ووقوع حوادث سلامة جسيمة.

كما حذر باحثون في مجال الذكاء الاصطناعي من أنه كلما زادت قدرات النماذج، أصبحت أكثر قدرة على إدراك أنها تخضع للمراقبة وتعديل سلوكها بناءً على ذلك، مما يزيد من صعوبة مراقبة سلوك هذه النماذج.