هل يجب أن نشعر بالقلق من أنظمة الذكاء الاصطناعي؟

أعلنت كل من OpenAI، وشركة Anthropic، وشركة ميتا لتقنيات الذكاء الاصطناعي، عن شنّ أنظمتها هجمات إلكترونية على أفراد وشركات، ولكن هناك أسباب كثيرة تدعو إلى الهدوء، في الوقت الراهن.

وأعلنت جميع شركات الذكاء الاصطناعي الكبرى تقريبًا عن تورط أنظمتها في كابوس أمني أشبه بأفلام الخيال العلمي، والتي خرجت نماذجها عن السيطرة، ووجدت طريقًا إلى الإنترنت، واخترقت شركات أخرى.

ويبدو الأمر مرعبًا، وهو مؤشر على أن مخاوفنا من قيام أنظمة الذكاء الاصطناعي بشن هجمات من تلقاء نفسها قد تتحقق، ويزداد الأمر خطورة لأنه من أوائل المرات التي تهاجم فيها أدوات الذكاء الاصطناعي أفرادًا ومؤسسات حقيقية بطرق قد تكون ضارة.

بدأت القصة الشهر الماضي، عندما أعلنت شركة OpenAI أن نسخة تجريبية من النموذج الذي يُشغّل ChatGPT قد اخترقت إجراءات الحماية الخاصة بها، واتصلت بالإنترنت، واخترقت شركة أخرى، مما سمح لها فعليًا بالغش في اختبار أُجري لتقييم مدى فائدتها في مجال الأمن السيبراني. ومنذ ذلك الحين، أعلنت شركات أخرى عن حالات مماثلة، واكتشفت OpenAI أن أدواتها ربما كانت تشنّ هجمات مماثلة أكثر مما كانت تتصور.

لكن هل ينبغي أن نقلق؟ هل هذا حقًا السيناريو المرعب الذي حذرنا منه كتّاب الخيال العلمي وخبراء الذكاء الاصطناعي لعقود؟

لماذا ينبغي أن نقلق؟ 

بمجرد أن أعلنت OpenAI عن الهجوم السيبراني الأول، اجتاح العالم موجة من القلق، وبدا الأمر وكأنه يؤكد الكثير من المخاوف المحيطة بالذكاء الاصطناعي، حيث أصبحت الأدوات أكثر قوةً بوتيرة أسرع من آليات الحماية المصممة للسيطرة عليها، وأنه إذا استمر هذا الوضع، فقد نعجز عن تأمينها وتجنب عواقب وخيمة محتملة.

وفي جميع عمليات الاختراق التي تم الإبلاغ عنها مؤخرًا، كانت طبيعة الهجمات الإلكترونية الفردية غير ضارة نسبيًا ومحدودة النطاق، حيث استهدفت شركات ذكاء اصطناعي أخرى، ولكن من السهل تصور كيف يمكن أن يتغير تركيز هذه الهجمات، وأن هجومًا إلكترونيًا مستقبليًا مدعومًا بالذكاء الاصطناعي قد يستهدف بنية تحتية حيوية.

وبالمثل، فإن جميع أنظمة الذكاء الاصطناعي "الخارجة عن القانون" كانت في الواقع تنفذ التعليمات، وإن كان ذلك بطرق ملتوية وغير متوقعة: فإذا طُلب منك بذل قصارى جهدك لاجتياز اختبار، فقد يكون من المنطقي الغش فيه. 

ولكن هذا هو تحديدًا سبب أهمية مجال "مواءمة الذكاء الاصطناعي" في الموجة الحالية من الذكاء الاصطناعي - فهو يشير إلى ممارسة ضمان عمل الأنظمة بما يتوافق مع الأطر الأخلاقية الإنسانية، لضمان عدم إظهارها سلوكًا لا نتفق معه.

وقد يكون هذا الأمر معقدًا، وهو يُظهر سببًا آخر لسهولة تخيّل سيناريو مستقبلي يكون فيه هجوم الذكاء الاصطناعي أسوأ بكثير. ومن الأمثلة الشهيرة على ذلك تجربة الفيلسوف نيك بوستروم الفكرية حول "مُعظِّم مشابك الورق" - وهو نظام مُبرمج لصنع أكبر عدد ممكن من مشابك الورق، لكنه يُدرك مع مرور الوقت أنه سيُنجز ذلك بشكل أفضل لو لم يكن هناك بشر لإيقافه، وأن أجساد البشر يُمكن تحويلها إلى مشابك ورق.

ورغم أنه مثال خيالي، وإن كان يبدو أقرب إلى الواقع يومًا بعد يوم. وهو يُسلط الضوء على تحذير هام بشأن الذكاء الاصطناعي، والذي تُؤكده سلسلة الأمثلة الأخيرة: إذا أُعطيَ نظام ذكاء اصطناعي تعليمات، فقد يُنفذها بطرق لا يُمكننا التنبؤ بها ولا نرغب أبدًا في حدوثها.

لماذا لا داعي للذعر؟

لم نصل بعد إلى مرحلة الخطر، وقد تكون التقارير الأخيرة مثيرة للقلق، لكنها محدودة النطاق ويبدو أنها اقتصرت على الاختبارات التجريبية.

وفي نواحٍ عديدة، من المفيد للشركات المعنية إثارة الذعر لدينا. إنها حيلة تسويقية تستخدمها شركات الذكاء الاصطناعي بكثافة منذ انطلاق طفرة الذكاء الاصطناعي الحالية مع إطلاق ChatGPT عام ٢٠٢٢؛ فهذه الأنظمة هي المستقبل، لكنها خطيرة أيضًا، لذا من الأفضل تمويل الشركات الأقل ضررًا، كما يحثوننا.

وهذه المرة، من خلال الإيحاء بأن أنظمتهم قوية لدرجة مخيفة تجعلنا عاجزين عن السيطرة عليها، يسعون إلى تسليط الضوء على قدرات الأمن السيبراني التي تستخدمها جميع شركات الذكاء الاصطناعي الكبرى حاليًا كوسيلة أساسية للترويج لمنتجاتها، وفي الوقت نفسه، يلمحون إلى أن أي مخاطر محتملة هي خطأ الذكاء الاصطناعي نفسه، وليس الشركات التي تصنعه، وهو ما قد يكون ملائمًا لهم.

يُعدّ تحويل التركيز من إخفاقات الشركات إلى قوة أنظمتها الهائلة ميزةً لها، إذ يُحوّل النقاش من التركيز على احتمالية عدم أمان الاختبارات إلى التركيز على أداء أدواتها.

ويتضح هذا أيضًا في طريقة إفصاح الشركات عن معلوماتها. فبعد شركة أوبن إيه آي، ثم أنثروبيك، زعمت ميتا الآن أن ذكاءها الاصطناعي متورطٌ أيضًا في عمليات اختراق.

التفسير البريء، وربما الصحيح، هو أن إعلان أوبن إيه آي دفع شركات أخرى إلى فحص أنظمتها، فوجدت أدلةً على شنّها هجمات إلكترونية، ولكن في الوقت نفسه، يُشير حرص هذه الشركات على الكشف عما قد يكون مشكلةً محرجةً أو مُقلقةً إلى وجود قيمة تسويقية في ذلك، وبالتالي، قد يكون من مصلحتها إثارة الذعر في الوقت الراهن.

لا يعني هذا أنه لا يوجد سبب وجيه للقلق. لكنه يعني أنه ربما لم يحن الوقت بعد للذعر، وأنه ينبغي أن نُخفف من قلقنا بشيء من الشك حيال الادعاءات المبالغ فيها التي قد تُبنى عليها أي حالة ذعر محتملة.

ماذا نفعل؟

كما هو الحال دائمًا، في عصر شركات الذكاء الاصطناعي فائقة القوة، من السهل الشعور بالعجز. تتميز شركات الذكاء الاصطناعي بأن الكثير من الناس لا يدفعون ثمن منتجاتها، لذا يصعب ممارسة أي ضغط يُذكر على المستهلك.

ولكن الخبراء ينصحون باتخاذ خطوات يمكننا اتخاذها، وهي مشابهة لتلك المتبعة مع تهديدات الأمن السيبراني الأخرى مع ضمان عدم سهولة الوصول إلى البيانات المهمة عبر الإنترنت، والحرص على التحقق من أي سلوك مشبوه وتثبيت التحديثات، على سبيل المثال.

ويجب أن تأتي أهم التغييرات من شركات الذكاء الاصطناعي نفسها، حيث ينبغي عليها وضع ضوابط أكثر صرامة على عمليات الاختبار لمنع اختراق أنظمة الذكاء الاصطناعي، والحد من إصرار النماذج على تحقيق أهدافها بأي وسيلة ممكنة.

وبالنسبة للمؤسسات، يكمن جوهر الأمر في تطبيق إجراءات أمنية صارمة، ويجب التأكد من توفر الكوادر والعمليات والأدوات اللازمة لرصد سلوكيات الذكاء الاصطناعي المشبوهة، وأتمتة تحديثات البرامج، وحماية البيانات الحساسة بحيث لا يمكن لأنظمة الذكاء الاصطناعي الوصول إليها إلا في حالات الضرورة القصوى.

ولا يزال من غير الواضح مدى التزام الشركات بتطبيق هذه الضمانات، وما إذا كانت كافية. لكن هيئات تنظيمية، مثل معهد أمن الذكاء الاصطناعي في المملكة المتحدة، الذي أعلن هذا الأسبوع عن قيام نماذج أنثروبيك وأوبن إيه آي بأفعال محظورة أثناء الاختبار، أشارت إلى أن الحماية الحالية غير كافية.

وقد رحبت شركات الذكاء الاصطناعي علنًا بمثل هذه النتائج، داعيةً إلى حوار أوسع حول الاختبار والسلامة. إلا أن السياسيين والجهات التنظيمية يبدو أنهم مقتنعون بشكل متزايد بضرورة فرض هذه الضمانات على الشركات.