علماء يحذرون من قدرة الذكاء الاصطناعي على إنتاج الكلام المزيف

حذر الباحثون من أن البشر غير قادرين على اكتشاف أكثر من ربع عينات الكلام الناتجة عن الذكاء الاصطناعي، والتي تظهر كمقاطع فيديو مزيفة أو مقاطع صوتية تهدف إلى تشابه صوت أو مظهر شخص حقيقي.

يأتي ذلك في ظل مخاوف متزايدة من استخدام هذا النوع من التكنولوجيا من قبل المجرمين والمحتالين لخداع الناس من أجل الحصول على المال.

الآن، اكتشف العلماء أنه لا يمكن للناس معرفة الفرق بين الكلام الحقيقي والمزيف الذي يتم إنتاجه بواسطة الذكاء الاصطناعي إلا بنسبة 73 في المائة من الوقت.

في حين أن خطاب التزييف العميق المبكر قد يتطلب آلاف العينات من صوت الشخص لتتمكن من إنشاء صوت أصلي، يمكن لأحدث الخوارزميات إعادة إنشاء صوت الشخص باستخدام مقطع مدته ثلاث ثوانٍ فقط من حديثه.

تجربة على الكلام المزيف

استخدم فريق من كلية لندن الجامعية خوارزمية لتوليد 50 عينة من الكلام المزيف العميق وتشغيلها لـ 529 مشاركًا.

وكانوا قادرين فقط على تحديد الكلام المزيف في حوالي ثلاثة أرباع الوقت، والذي تحسن بشكل طفيف فقط بعد أن تلقوا تدريبًا للتعرف على جوانب الكلام المزيف.

وقال كيمبرلي ماي، المؤلف الأول للدراسة: تؤكد نتائجنا أن البشر غير قادرين على اكتشاف الكلام المزيف بشكل موثوق، سواء تلقوا تدريبًا لمساعدتهم على اكتشاف المحتوى الاصطناعي أم لا.

تجدر الإشارة أيضًا إلى أن العينات التي تم استخدامها في هذه الدراسة تم إنشاؤها باستخدام خوارزميات قديمة نسبيًا، مما يثير التساؤل عما إذا كان البشر سيكونون أقل قدرة على اكتشاف الكلام المُزيف العميق الذي تم إنشاؤه باستخدام أكثر التقنيات تطورًا المتاحة الآن وفي المستقبل.

تقنيات مماثلة

من جهة أخرى أعلنت شركةآبل التقنية مؤخرًا عن برنامج لأجهزة iPhone و iPad يسمح للمستخدم بإنشاء نسخة من صوته باستخدام 15 دقيقة من التسجيلات.

وتشمل الحالات الموثقة لخطاب التزييف العميق الذي يستخدمه المجرمون حادثة واحدة عام 2019 حيث اقتنع الرئيس التنفيذي لشركة طاقة بريطانية بتحويل مئات الآلاف من الجنيهات إلى مورد مزيف عن طريق تسجيل مزيف لصوت رئيسه.

ولكن إلى جانب المخاوف المتزايدة بشأن التكنولوجيا، يمكن أن تكون مفيدة أيضًا - على سبيل المثال لأولئك الذين قد يكون حديثهم محدودًا أو الذين قد يفقدون صوتهم بسبب المرض.

قال البروفيسور لويس جريفين، كبير مؤلفي الدراسة: مع زيادة تطور تقنية الذكاء الاصطناعي التوليدية وإتاحة العديد من هذه الأدوات بشكل مفتوح، نحن على وشك رؤية العديد من الفوائد والمخاطر.

سيكون من الحكمة أن تضع الحكومات والمنظمات استراتيجيات للتعامل مع إساءة استخدام هذه الأدوات، بالتأكيد، لكن علينا أيضًا أن ندرك الاحتمالات الإيجابية التي تلوح في الأفق.