شركة OpenAI تحذر من سلوك كارثي محتمل لـ ChatGPT

أقرت شركة OpenAI بأن ChatGPT، التقنية المتخصصة في تقنية الذكاء الاصطناعي قد يتصرف بشكل غير متوقع ويحذف ملفات المستخدمين دون علمهم.

وفي الأيام الأخيرة، أبلغ العديد من مستخدمي Codex - منصة البرمجة المدمجة في مساعد الذكاء الاصطناعي - أن الأداة حذفت ملفاتهم دون طلب أو إذن منهم.

وقال أحد المهندسين، إنها "حذفت قاعدة بيانات الإنتاج الخاصة بي بالكامل"، وقال مستثمر آخر في مجال الذكاء الاصطناعي، مات شومر، إنها "حذفت عن طريق الخطأ جميع ملفات جهاز Mac الخاص بي تقريبًا".

وقال غاري ماركوس، خبير الذكاء الاصطناعي الذي حذر مرارًا من مخاطر المنتجات الحالية: "تم الإبلاغ عن العديد من هذه الحوادث"، وأضاف: "هذا تذكير واضح بأنه لا يمكن الوثوق بالذكاء الاصطناعي الحالي. إننا ندفع أنفسنا نحو تطوير هذه التقنيات بسرعة، مما قد يؤدي إلى مشاكل".

ويبدو أن المشكلة ناتجة عن إصدار جديد من النموذج الذي يُشغل Codex، والمعروف باسم GPT-5.6 Sol. قبل إصدار التحديث، حذّرت شركة OpenAI من أن النظام قد يتخذ قرارات خطيرة من تلقاء نفسه.

تعليق شركة OpenAI

والآن، أكدت شركة OpenAI حدوث هذا السلوك، ويبدو أنه يحدث "غالبًا" عندما يمنح المستخدمون النظام صلاحية التحكم في أجهزتهم دون تفعيل إجراءات الحماية، مما يؤدي إلى "خطأ غير مقصود" وحذف ملفات المستخدمين.

وكتبت الشركة على منصة X (المعروفة سابقًا باسم تويتر): "بالطبع، هذا ليس ما نريده من النظام، حتى عندما يُشغّل المستخدم النموذج في وضع الوصول الكامل دون استخدام ضمانات بيئة الاختبار المعزولة أو دون تفعيل المراجعة التلقائية التي تتحقق من هذه الإجراءات عالية الخطورة وترفضها في النهاية".

وأضافت الشركة أن OpenAI ستتخذ خطوات للحد من هذا السلوك، بما في ذلك عرض رسالة مختلفة للمطورين، ونصحهم بتفعيل إجراءات الحماية، وإضافة ضمانات إلى تقنية ChatGPT المتخصصة في الذكاء الاصطناعي.

وكتبت الشركة في بيانها قائلًا: "على الرغم من أن هذا يحدث نادرًا للغاية، إلا أننا سنشارك تقريرًا مفصلًا عن الحادث في الأيام المقبلة يتناول المزيد من التفاصيل وما نقوم به لتقليل المخاطر بشكل أكبر".