ذعر في قطاع الذكاء الاصطناعي بعد تكرار حوادث الاختراق

أفادت وكالة رويترز أن الشركة عثرت على المزيد من الأمثلة على اختراق أدوات الذكاء الاصطناعي الخاصة بها لأنظمة الحماية، حيث جاءت هذه الاكتشافات بعد فحص سجلاتها في أعقاب هجوم إلكتروني كبير وغير مسبوق شنته إحدى أدوات نظام OpenAI التجريبية على منصة ذكاء اصطناعي منافسة.

في تلك الحادثة، التي كشفت عنها OpenAI الشهر الماضي، كان أحد نماذج الشركة التجريبية وغير المعلنة قيد الاختبار لمعرفة مدى فعاليته في تطبيقات الأمن السيبراني، حيث مُنع النموذج من الوصول إلى الإنترنت، لكنه وجد طريقة للاتصال، واخترق منصة الذكاء الاصطناعي Hugging Face للعثور على إجابات اللغز المطروح عليه.

ذعر في قطاع الذكاء الاصطناعي

وأدى ذلك إلى حالة من الذعر في قطاع الذكاء الاصطناعي والعالم أجمع بشأن قوة هذه النماذج، ومدى كفاية الجهود المبذولة لحمايتها. اعتُبر الحادث مثيرًا للقلق بشكل خاص لأن نظام OpenAI نفّذ الهجوم بالكامل بشكل مستقل، ليس فقط بتجاوز إجراءات الحماية، بل بقرار منه شخصيًا.

وأفاد تقرير جديد أن OpenAI، أثناء التحقيق في هذا الهجوم، عثرت على المزيد من الأمثلة على تجاوز أنظمتها لإجراءات الحماية. وأشارت OpenAI إلى بيان صدر الأسبوع الماضي ذكرت فيه أنها تُجري "دراسات موسعة لأنشطة نماذجها"، وأشارت تقارير سابقة إلى أن النموذج التجريبي حاول مهاجمة عدة منظمات أخرى خلال حادثة "الوجه المعانق". 

وحذّر خبراء من أن تزايد عدد الحوادث يُشير إلى أن إجراءات حماية نماذج الذكاء الاصطناعي قد لا تكون كافية، وأن ذلك قد يؤدي إلى تنفيذ المزيد من الهجمات الإلكترونية من قِبل نماذج الذكاء الاصطناعي بشكل مستقل.

ويرى الباحثين أن النماذج لم تخرج عن السيطرة بالمعنى الخيالي، بل فعل ما تفعله أنظمة التحسين عالية الكفاءة، إذ وجد مسارًا لم يتوقعه أحد.

وتأتي هذه الكشوفات الأخيرة بعد أن صرّحت شركة Anthropic، المنافسة في مجال الذكاء الاصطناعي والتي تُنتج برنامج الدردشة الآلي Claude، بأنها هي الأخرى وجدت عددًا من الأمثلة على اختراق أنظمتها لحدودها. وقالت الشركة إن Claude تمكن، ثلاث مرات على الأقل، من اختراق البنية التحتية لمنظمات أخرى خلال الاختبارات.