شركة أنثروبيك تكشف عن أخطر نظام ذكاء اصطناعي في العالم

كشفت شركة أنثروبيك، مطورة برنامج الدردشة الآلي "كلود"، خلال الأسابيع الأخيرة عن تفاصيل عملها على أحدث نماذجها "فيبل" و"ميثوس"، ولكن، بعد وقت قصير من إطلاقها، صرح مسؤولون بأنها تُشكل خطرًا بالغًا على الأمن القومي، ما يستدعي تقييد استخدامها.

وكانت الحكومة قلقة من إمكانية استخدام هذه الأنظمة لاكتشاف الثغرات الأمنية في البنية التحتية الحيوية، وبالتالي استخدامها من قبل أجهزة الاستخبارات العسكرية في دول مثل الصين أو روسيا لشن هجمات.

أدى ذلك إلى إعلان الحكومة الأمريكية حظرًا على تصدير هذه الأداة، ما منع الأجانب من استخدامها، ولكن أنثروبيك صرحت بأنه من المستحيل الامتثال لهذا الأمر دون حظرها بشكل كامل، لعدم إمكانية التحقق من جنسية المستخدمين.

وأعلنت شركة أنثروبيك الآن عن رفع الحظر، وأنها تعمل مع وزارة التجارة الأمريكية لإبقاء أحدث نماذجها متاحة، ويشمل ذلك إدخال تعديلات على النظام لجعل تجاوز ضوابطه أكثر صعوبة.

في الأسبوع الماضي، سمحت الحكومة الأمريكية للشركة بإصدار برنامج Mythos 5، ولكن فقط لبعض المؤسسات الأمريكية "الموثوقة"، وكان هذا النموذج، المصمم لكشف ثغرات الأمن السيبراني، قد أُتيح سابقًا لمجموعة أوسع من الشركات ضمن مشروع Glasswing.

وأوضحت الشركة في منشور على مدونتها أنها تعمل مع الحكومة الأمريكية لتوسيع نطاق الوصول إلى Mythos 5 ليشمل مجموعة أوسع من الشركاء المحليين والدوليين في برنامج Glasswing. أما برنامج Fable 5، المخصص للجمهور العام والذي يتمتع بضوابط حماية أقوى، فسيكون متاحًا ابتداءً من يوم الأربعاء.

توتر مع إدارة ترامب

أعلنت شركة أنثروبيك، التي شهدت علاقتها مع إدارة دونالد ترامب توترًا هذا العام، عن تعزيز تعاونها مع الحكومة الأمريكية، ومنح شركاء حكوميين محددين إمكانية الوصول المبكر إلى نماذجها.

كما تعمل الشركة مع أمازون ومايكروسوفت وجوجل وشركاء آخرين من شركة جلاسوينج على تطوير معايير مشتركة لتقييم ومعالجة أي اختراقات محتملة لأنظمة الذكاء الاصطناعي (تقنيات تتجاوز إجراءات الحماية)، بما في ذلك نظام لتصنيف خطورة هذه الاختراقات.

وجاء في رسالة موجهة إلى أنثروبيك من وزير التجارة هوارد لوتنيك أن الشركة وافقت على العمل بجد مع الحكومة الأمريكية على بروتوكولات خاصة بنماذج ميثوس وفيبل والنماذج المستقبلية، وإبلاغ الحكومة الأمريكية بأي نشاط ضار.

ومع ذلك، أوضح السيد لوتنيك أن الوزارة "تحتفظ بحقها في إعادة تقييم القرارات الواردة في هذه الرسالة، وضرورة إعادة فرض شرط الترخيص، في حال تغيرت الظروف أو في حال إخفاق أنثروبيك في الوفاء بالتزاماتها".

كما أعلنت شركة أنثروبيك أن أمر مراقبة الصادرات الصادر في 12 يونيو الماضي جاء عقب تقرير باحثين من أمازون عن طريقة لتجاوز إجراءات الحماية في برنامج Fable 5، مما سمح للبرنامج بتحديد ثغرات أمنية في البرمجيات، وفي إحدى الحالات، توليد شفرة برمجية توضح كيفية استغلال إحدى هذه الثغرات.

وحذرت أنثروبيك من أنه "من المستحيل على الأرجح" جعل أي نموذج ذكاء اصطناعي مقاومًا تمامًا لاختراقات النظام، وأشارت إلى إمكانية تطوير أداة اختراق شاملة قادرة على إلغاء حظر "فئة كاملة من السلوكيات الضارة".

وتشهد علاقة شركة أنثروبيك بالحكومة الأمريكية توترًا شديدًا. ففي وقت سابق من هذا العام، صنّف البنتاغون الشركة على أنها "تشكل خطرًا على سلسلة التوريد"، ما منع المتعاقدين معها من استخدام تقنية الذكاء الاصطناعي الخاصة بها.

بعد أن رفضت الشركة السماح باستخدام نماذجها في المراقبة الداخلية الجماعية أو أنظمة الأسلحة ذاتية التشغيل بالكامل، قامت شركة OpenAI بالعمل لصالح الجيش الأمريكي.