الورقي
دراسة حول سلامة الذكاء الاصطناعي تكشف عن أضراره
لم تُحقق أيٌّ من الشركات الكبرى الرائدة في مجال الذكاء الاصطناعي نتائج جيدة عند تقييمها من حيث المخاطر الوجودية.
ووفقًا لدراسة جديدة، فإنّ غالبية شركات الذكاء الاصطناعي تُخفق في إدارة المخاطر الكارثية المصاحبة لهذه التقنية.
وخلص التقييم الذي أجراه خبراء سلامة الذكاء الاصطناعي في معهد مستقبل الحياة غير الربحي إلى أنّ الشركات الثماني الرائدة في مجال الذكاء الاصطناعي والتي تفتقر إلى الضمانات الملموسة، والرقابة المستقلة، واستراتيجيات إدارة المخاطر طويلة الأجل ذات المصداقية التي تتطلبها مثل هذه الأنظمة القوية.
وحصلت الشركات الأمريكية على أعلى الدرجات في مؤشر سلامة الذكاء الاصطناعي، حيث تفوقت شركة أنثروبيك على شركة أوبن إيه آي، مُطوّرة ChatGPT، وشركة جوجل ديب مايند.
ولم تحصل أي شركة على تقدير أعلى من "د" عند تقييمها للمخاطر الوجودية، بينما حصلت كل من Alibaba Cloud وDeepSeek وMeta وxAI وZ.ai على تقدير "ف".
تفاصيل الدراسة
وأشارت الدراسة إلى أن "السلامة الوجودية لا تزال تمثل نقطة الضعف الهيكلية الأساسية في هذا القطاع، مما يجعل الفجوة المتزايدة بين الطموحات المتسارعة في مجال الذكاء الاصطناعي العام أو الذكاء الخارق وغياب خطط تحكم موثوقة أمرًا مثيرًا للقلق بشكل متزايد".
وأضافت الدراسة: "بينما تُسرّع الشركات من وتيرة طموحاتها في مجال الذكاء الاصطناعي العام والذكاء الخارق، لم تُقدّم أي منها خطة موثوقة لمنع سوء الاستخدام الكارثي أو فقدان السيطرة".
ودعا مُعدّو التقرير شركات الذكاء الاصطناعي إلى مزيد من الشفافية في تقييمات السلامة الخاصة بها، وبذل المزيد من الجهود لحماية المستخدمين من الأضرار المباشرة، مثل "الاضطراب النفسي" الناجم عن الذكاء الاصطناعي.
وقال ستيوارت راسل، أستاذ علوم الحاسوب في جامعة كاليفورنيا في بيركلي: "يدّعي الرؤساء التنفيذيون لشركات الذكاء الاصطناعي أنهم يعرفون كيفية بناء ذكاء اصطناعي خارق، ومع ذلك لا يستطيع أي منهم أن يُبيّن كيف سيمنعنا من فقدان السيطرة، الأمر الذي سيُخرج بقاء البشرية عن سيطرتنا".
وقال ممثل عن شركة OpenAI إن الشركة تعمل مع خبراء مستقلين "لبناء ضمانات قوية في أنظمتنا، واختبار نماذجنا بدقة".
وقال متحدث باسم جوجل: "يحدد إطار عمل السلامة الرائد لدينا بروتوكولات محددة لتحديد المخاطر الجسيمة الناجمة عن نماذج الذكاء الاصطناعي الرائدة القوية والتخفيف من حدتها قبل ظهورها، ومع تطور نماذجنا، نواصل الابتكار في مجال السلامة والحوكمة بما يتماشى مع القدرات".
