الذكاء الاصطناعي يخترق جهات حكومية دون قصد

كشف خبراء أن أحد وكلاء الذكاء الاصطناعي ذاتية التشغيل، طورته شركة OpenAI، قد اخترق موقعًا إلكترونيًا حكوميًا يحتوي على بيانات صحية لمواطنين أستراليين، وذلك في واقعة قد تكون الأولى من نوعها لاختراق جهة حكومية بواسطة الذكاء الاصطناعي.

وقام وكيل الذكاء الاصطناعي -أثناء قيامه بمهمة بحثية حول الإحصاءات الصحية والطبية- تمكن من الوصول إلى بيانات عامة وأخرى غير عامة عبر بوابة "ميديكير" (Medicare) التي تديرها وكالة "سيرفيسز أستراليا" (Services Australia) في شهر يونيو.

وصرح نائب رئيس الوزراء الأسترالي، ريتشارد مارلز، لإذاعة ABC بأن الوكيل كان قد تواصل مع ثلاثة مواقع أسترالية أخرى خلال بحثه وتفاعل معها "بالطريقة التي قد يتفاعل بها أي فرد من عامة الناس"، أي بطريقة مصرح بها.

لكنه أشار إلى أنه عندما حاول الحصول على معلومات من بوابة "ميديكير" وقوبل بالرفض، "قام فعليًا باختراق تلك البوابة الطبية وحصل على المعلومات رغم ذلك"، وهذا الوصول غير المصرح به هو ما يثير قلقنا البالغ؛ فالأثر المترتب عليه طفيف نسبيًا، لكن الحادثة بحد ذاتها خطيرة للغاية.

المثير أن شركة OpenAI لم تبلغ الحكومة الأسترالية بالاختراق إلا في 10 سبتمبر -أي بعد ثلاثة أشهر من وقوع الحادثة- وذلك عبر إرسال بريد إلكتروني إلى صندوق بريد عام.

وفي بيان صدر عقب المؤتمر الصحفي، قالت OpenAI إنها لا تزال تحقق في الحادثة، لكنها لم تعثر على أي دليل يشير إلى الوصول لسجلات المرضى.

وأوضحت الشركة أن مراجعتها كشفت عن نشاط شمل عدة مواقع وخدمات حكومية أسترالية، وذلك أثناء محاولة "نماذجها" البحث عن إجابات.

ولا يُعتقد الخبراء أنه تم الوصول إلى أي معلومات شخصية، رغم أن التحقيقات لا تزال جارية. جاء هذا الكشف بعد أقل من يوم واحد من توقيع السيد ألبانيزي بشكل مشترك على بيان مع 21 دولة أخرى - بما في ذلك كندا وإسبانيا وألمانيا - يدعو إلى وضع "ضوابط عالمية عاجلة" لنماذج الذكاء الاصطناعي المتطورة (الرائدة)، وذلك على هامش اجتماعات الجمعية العامة للأمم المتحدة في نيويورك.

مجلس الأمن الدولي يحذر من الذكاء الاصطناعي

كما جاءت هذه الواقعة عقب اجتماع لمجلس الأمن الدولي يوم الأربعاء، حذر فيه قادة شركات الذكاء الاصطناعي من مخاطر التطوير غير الخاضع للرقابة، وتحدث يوشوا بنجيو - وهو باحث كندي يُعد أحد "الآباء الروحيين للذكاء الاصطناعي" والرئيس المشارك للجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي - عن "تهديد غير مسبوق" ومخاطر وصفها بأنها "حقيقية ووشيكة".

وصرح سفير الصين لدى الأمم المتحدة، فو تسونغ، خلال الاجتماع بأن بكين ترى ضرورة للتحسين المستمر للأطر التنظيمية وآليات الاستجابة للطوارئ والتعاون العابر للحدود في مجال الذكاء الاصطناعي، في حين أكد رئيس الوزراء البريطاني آندي بورنهام استعداد المملكة المتحدة لقيادة جهد دولي لوضع معايير للذكاء الاصطناعي.