دولتان إسلاميتان تحظران تطبيق لتقنية الذكاء الاصطناعي لأسباب أخلاقية

أصبحت إندونيسيا وماليزيا أول دولتين بالعالم تحظران تطبيق "جروك" التابع لرجل الأعمال إيلون ماسك بسبب قدرة أداة الذكاء الاصطناعي على إنتاج صور جنسية لأشخاص دون رضاهم.

ويُستخدم برنامج الدردشة الآلي " جروك "، الذي طورته شركة "إكس إيه آي" التابعة لرجل الأعمال إيلون ماسك، والمتاح عبر منصة التواصل الاجتماعي "إكس"، لإنتاج آلاف الصور لأشخاص حقيقيين في أوضاع غير لائقة، بمن فيهم أطفال.

وأعلنت دولتا جنوب شرق آسيا عن الحظر خلال عطلة نهاية الأسبوع، بينما يدرس المسؤولون في المملكة المتحدة وأوروبا وأستراليا وكندا والهند اتخاذ إجراءات مماثلة.

وصرح وزير الاتصالات والشؤون الرقمية الإندونيسي، موتيا حفيظ، في بيان له أن الحظر يهدف إلى "حماية النساء والأطفال وعامة الناس من مخاطر المحتوى الإباحي المُزيّف المُولّد باستخدام تقنية الذكاء الاصطناعي".

وأبلغ مسؤولون ماليزيون وسائل الإعلام المحلية أن الحظر جاء عقب إساءة استخدام تطبيق جروك بشكل متكرر لإنشاء صور فاحشة، وجنسية صريحة، وغير لائقة، ومسيئة للغاية، وصور مُعدّلة دون موافقة، بما في ذلك محتوى يتضمن نساءً وقاصرين.

وأعلنت هيئة الاتصالات والوسائط المتعددة الماليزية أنها وجّهت إشعارات إلى شركتي X وxAI في وقت سابق من هذا الشهر، مطالبةً بوضع ضمانات أكثر فعالية ضد المستخدمين الذين يُنشئون صورًا جنسية لأشخاص حقيقيين.

ما هو تطبيق جروك لتقنية الذكاء الاصطناعي؟

أطلق السيد ماسك تطبيق Grok في عام 2023، مُسوّقًا له كبديل جريء لبرامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي "المُراعية للسياسة" مثل ChatGPT من OpenAI.

وأثارت أداة الذكاء الاصطناعي جدلًا واسعًا الصيف الماضي بعد أن أشاد تحديثٌ لها بأدولف هتلر ودعم محرقة ثانية.

وهدف تحديث لاحق إلى معالجة مشكلة المحتوى المتطرف، إلا أن إضافة "وضع جريء" بعد أسابيع قليلة سمحت لها بإنشاء محتوى للبالغين.

ويرى خبراء التكنولوجيا والاتصال أنه لا بد من حجب أعمال شركة xAI بموجب قانون السلامة على الإنترنت والذي يمنح العديد من الدول صلاحية حجب خدماتها في حال رفضها الامتثال للقانون، ومن المتوقع أن تعمل بعض الدول خلال الأسابيع القادمة على تفعيل صلاحيات تجريم إنشاء صور حميمة دون موافقة أصحابها.