شركة عالمية تُشير إلى تطورات مُقلقة في نظام الذكاء الاصطناعي

تحذّر شركة أنثروبيك من احتمال فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي في المستقبل القريب، إذا استمر هذا التطور المُقلق في نموذج "كلود"، وكشفت الشركة الناشئة، التي تبلغ قيمتها تريليون دولار، أن "كلود" يكتب الآن أكثر من 80% من شفرته البرمجية بنفسه، بعد أن كانت النسبة أقل من 10% في فبراير من العام الماضي.

وتُؤكد أنثروبيك أن الشفرة البرمجية التي يكتبها "كلود" تُضاهي حاليًا الشفرة البرمجية التي يكتبها البشر، ومن المتوقع أن تتحسن بشكل ملحوظ خلال العام المقبل.

وكتبت أنثروبيك: يشير هذا التطور إلى نظام ذكاء اصطناعي قادر على تصميم وتطوير نظام بديل له بشكل كامل ومستقل، فالذكاء الاصطناعي القادر على تطوير نفسه بنفسه سيمثل تطورًا هائلًا في تاريخ التكنولوجيا، إذ يُمكن أن يُحقق فوائد جمّة للعالم في مجالات العلوم والرعاية الصحية وغيرها.

فقدان السيطرة على الذكاء الاصطناعي

ولكنّ التطوير الذاتي المتكرر الكامل قد يزيد أيضًا من مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي.

وأشارت شركة أنثروبيك إلى أن التطورات في مجال الذكاء الاصطناعي، حتى وقت قريب، كانت تعتمد كليًا على المهندسين والمطورين البشريين، لكن الشركة تُفوّض الآن بشكل متزايد تطوير أنظمة الذكاء الاصطناعي الخاصة بها إلى هذه الأنظمة نفسها سعيًا منها لتسريع وتيرة التقدم.

وتضع هذه التطورات نظام كلود على مسار "التحسين الذاتي المتكرر"، ما قد يُتيح له تحسين نفسه دون تدخل بشري.

وأضافت أنثروبيك أنه "من المرجح أن يكون من المفيد" إبطاء تطوير هذه التقنية بشكل فعّال لإتاحة المزيد من الوقت للتعامل مع التداعيات المحتملة.

ويتطلب إبطاء أو إيقاف تطوير الذكاء الاصطناعي توافقًا واسعًا في القطاع، فضلًا عن تعاون سياسي في ظل ضغوط ومنافسات جيوسياسية حادة.

وذكرت أنثروبيك في منشورها: "يتطلب الإبطاء أو الإيقاف الفعلي وجود مختبرات متعددة ذات موارد جيدة في أو بالقرب من طليعة هذا المجال، في دول متعددة، تتفق على التوقف وفقًا للشروط نفسها".

وأضافت: "كما يتطلب أن يكون بإمكان كل مختبر التحقق من توقف المختبرات الأخرى بالفعل... ليس أي من هذا مستحيلًا من حيث المبدأ - فقد أنشأ العالم أنظمة تحقق لتقنيات معقدة أخرى - لكن هذه الأنظمة... استغرقت الأنظمة عقودًا لبناء البنية التحتية والثقة معًا، وليس لدينا متسع من الوقت.

وأعلنت شركة أنثروبيك أنها تخطط للتعاون مع صانعي السياسات والباحثين وشركات الذكاء الاصطناعي الأخرى خلال الأشهر القادمة، استعدادًا لظهور أنظمة الذكاء الاصطناعي ذاتية التطوير.

وليست هذه المرة الأولى التي تُطالب فيها جهاتٌ بتعليق تطوير الذكاء الاصطناعي، فقد دعا آلاف التقنيين إلى وقف تدريب الذكاء الاصطناعي لمدة ستة أشهر في عام ٢٠٢٣ عقب إطلاق برنامج ChatGPT.

وأشارت الرسالة المفتوحة، التي نظمتها مؤسسة "معاهد مستقبل الحياة" غير الربحية، إلى خطر فقدان السيطرة على الذكاء الاصطناعي على مستوى المجتمع، إلا أنه لم يتم التوصل إلى أي وقف.