منصة جروك تتدخل ضد صور العري المنتشرة بالذكاء الاصطناعي

أعلنت منصة X التابعة لإيلون ماسك أنها ستمنع استخدام أداة جروك للذكاء الاصطناعي لتعديل صور أشخاص حقيقيين ليظهروا بملابس سباحة أو ملابس كاشفة.

جاءت هذه الخطوة في نفس اليوم الذي أعلنت فيه ولاية كاليفورنيا أنها ستُجري تحقيقًا مع جروك في إطار فضيحة متفاقمة تزعم أن أداة الذكاء الاصطناعي وراء سلسلة من الصور الجنسية.

كتب فريق السلامة في X في منشور يوم الأربعاء: "لقد طبقنا إجراءات تقنية لمنع حساب جروك من السماح بتعديل صور أشخاص حقيقيين يرتدون ملابس كاشفة مثل ملابس السباحة. يسري هذا التقييد على جميع المستخدمين".

وأضافت الشركة: "بالإضافة إلى ذلك، أصبح إنشاء الصور وتعديلها عبر حساب جروك على منصة X متاحًا الآن للمشتركين المدفوعين فقط." يُضيف هذا الإجراء طبقة حماية إضافية، إذ يُساعد على ضمان محاسبة الأفراد الذين يُحاولون إساءة استخدام حساب جروك لانتهاك القانون أو سياساتنا.

ويأتي التحقيق الذي أعلنته ولاية كاليفورنيا، في أعقاب حالة من الاستياء العالمي إزاء ظاهرة جروك المزعومة، والتي دفعت دولًا مثل ماليزيا وإندونيسيا إلى حظر برنامج الدردشة الآلي في الأيام الأخيرة، بينما فتحت دول أخرى، مثل المملكة المتحدة، تحقيقات مماثلة.

وتوصلت منظمة AI Forensics، وهي منظمة غير ربحية مقرها باريس، مؤخرًا إلى نتائج مماثلة، حيث خلصت إلى أن أكثر من نصف الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي على منصة X هي لبالغين وأطفال تم إزالة ملابسهم رقميًا.

وقال بول بوشو، الباحث في منظمة AI Forensics: "يُظهر تحليلنا لعشرات الآلاف من الصور التي أنشأها برنامج Grok مدى الإساءة".

وأضاف: "إن الصور الجنسية غير الرضائية للنساء، والتي تظهر أحيانًا في سن مبكرة جدًا، منتشرة على نطاق واسع وليست استثناءً، إلى جانب محتوى محظور آخر مثل الدعاية النازية والداعشية - وكلها تُظهر غياب آليات أمان فعّالة".

وتأتي هذه المخاوف في ظل تزايد انتشار برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي في الحياة اليومية والمؤسسات الكبرى. وقد أعلن البنتاغون هذا الأسبوع عن خطط لدمج برنامج جروك في سير عمله.

تعليق إيلون ماسك

كتب ماسك على منصة X يوم الأربعاء: "لستُ على علم بأي صور عارية لقاصرين تم إنشاؤها بواسطة Grok. حرفيًا، لا شيء."

وأضاف: "عندما يُطلب من Grok إنشاء صور، سيرفض إنتاج أي شيء غير قانوني، لأن مبدأ عمله هو الالتزام بقوانين أي دولة أو ولاية. قد تحدث أحيانًا عمليات اختراق خصومية لتطبيق جروك تؤدي إلى نتائج غير متوقعة. في هذه الحالة، نقوم بإصلاح الخلل فورًا."

واتهم ماسك الدول التي تُخضع منصة X للتدقيق، مثل المملكة المتحدة، بالسعي إلى "قمع حرية التعبير".