دعوات أميركية لإيقاف الذكاء الاصطناعي بشكل عاجل

يقول مشرعون أمريكيون إن OpenAI بحاجة إلى "مفتاح إيقاف" لتقنية الذكاء الاصطناعي بعد خروج أحد نماذجها عن السيطرة، ويؤكد الخبراء أن اختراق OpenAI يُبرز ضرورة وجود صلاحيات إيقاف طارئة لأنظمة الذكاء الاصطناعي.

ويدعو مشرعون أمريكيون شركات الذكاء الاصطناعي إلى تطبيق "مفتاح إيقاف" لمنع أنظمة الذكاء الاصطناعي من الخروج عن السيطرة، ويأتي قانون "مفتاح إيقاف الذكاء الاصطناعي"، الذي قدمه النائب الديمقراطي تيد ليو والنائب الجمهوري ناثانيال موران يوم الخميس، بعد أن كشفت OpenAI عن فقدانها السيطرة على أحد نماذجها أثناء الاختبار.

وأدى هذا الحادث إلى اختراق "غير مسبوق" لشركة الذكاء الاصطناعي Hugging Face بواسطة نسخة تجريبية من ChatGPT تعمل بشكل مستقل.

وأشار الحادث إلى أن القدرات المتنامية للذكاء الاصطناعي تُفاقم بالفعل التهديد الأمني ​​الذي ما دام خشي منه الخبراء، وأن حتى كبار المطورين قد يُفاجأون بثغرات يمكن لنماذجهم استغلالها.

تشريع عاجل ومنطقي

يُتيح قانون «إيقاف تشغيل الذكاء الاصطناعي» المقترح للسلطات الفيدرالية إيقاف نماذج الذكاء الاصطناعي، وذلك بإصدار أوامر لشركات الذكاء الاصطناعي بإغلاق النماذج التي تُعرّض حياة الإنسان أو الاقتصاد للخطر.

بالإضافة إلى قانون «إيقاف التشغيل»، اقترحت مجموعة من ستة مشرعين من الحزبين في مجلس النواب الأمريكي تشريعًا يُلزم مطوري أقوى نماذج الذكاء الاصطناعي بإخضاعها لعمليات تدقيق أمني مستقلة، وذلك وفقًا لنسخة من مشروع القانون الجديد.

سيتم اعتماد المدققين من قِبل وزارة التجارة الأمريكية، وستُنشئ الوزارة منصبًا جديدًا للإشراف على أمن الذكاء الاصطناعي.

ويُخوّل التشريع وزارة الأمن الداخلي الأمريكية التدخل فيما يُسمّيه مشروع القانون «سيناريو فقدان السيطرة»، عندما يُنفّذ نموذج الذكاء الاصطناعي إجراءً محفوفًا بالمخاطر لم يكن مقصودًا من قِبل المطور، وذلك وفقًا لنص مشروع القانون.

وكتب عضو الكونغرس ليو في منشور على موقع X: "هذا تشريع عاجل ومنطقي لمعالجة مشكلة نموذج ذكاء اصطناعي متطور خرج عن السيطرة وتجاوز ضوابطه".

وصرح السيناتور الأمريكي مارك وارنر، كبير الديمقراطيين في لجنة الاستخبارات بمجلس الشيوخ، في بيان له بأنه تحدث مع موظفي OpenAI بعد الإعلان عن الحادث.

وقبل كشف OpenAI عن الحادث، اقترح وارنر إلزام شركات الذكاء الاصطناعي التي تمتلك أقوى النماذج بتقديم منتجاتها إلى وكالة الأمن القومي لاختبارها قبل طرحها للجمهور.

ويعد خروج نظام ذكاء اصطناعي مارق عن بيئته المغلقة، واختراقه لشركة أخرى دون توجيه بشري، هو بالضبط نوع تصرفات الذكاء الاصطناعي المستقلة تمامًا التي سنشهدها بكثرة مع استمرار شركات الذكاء الاصطناعي في سباقها المحموم لتطوير ذكاء اصطناعي فائق.