الورقي
خوارزمية "عنصرية".. تويتر يمنح الأولوية للوجوه البيضاء على حساب السوداء
أظهرت خوارزمية الصور في تويتر أدلة على التحيز العنصري
خلال عطلة نهاية الأسبوع.
وقالت الشركة إنها ممتنة لظهور المشكلة وأقرت بأن عليها
المزيد لتفعله لإصلاح العنصرية في أنظمتها.
وجد المستخدمون أنه عند نشر صور للأشخاص السود والأشخاص
البيض جنبًا إلى جنب في صورة واحدة، سيتم اختيار الشخص الأبيض بأغلبية ساحقة
كمعاينة.
تم اكتشاف المشكلة عندما نشر أحد مستخدمي تويتر حول تقنية
التعرف على الوجه الخاصة بـ Zoom
والتي كانت تزيل رأس زميله الأسود عندما كان الزميل يستخدم خلفية افتراضية.
عندما قام بالتغريد حول هذه المشكلة، لاحظ أن Twitter كان يعطي الأولوية أيضًا
لوجهه الأبيض بدلاً من زملائه.
حاول مستخدمون آخرون إعادة تجربة الوجوه الأخرى ، بما في
ذلك وجه زعيم الأغلبية في مجلس الشيوخ الأمريكي ميتش ماكونيل والرئيس الأمريكي
السابق باراك أوباما.
أعطت خوارزمية تويتر الأولوية دائمًا لوجه السناتور
ماكونيل كصورة المعاينة.
حدثت المشكلة أيضًا عند نشر صور لشخصيات كرتونية سوداء
مقابل شخصيات كرتونية بيضاء، وحتى كلاب ذات فرو داكن ضد الكلاب ذات الألوان
الفاتحة.
وتعتمد الشركة على ذكاء اصطناعي يحاول إظهار الأشياء التي
من المرجح أن ينظر إليها الأشخاص - مثل "الوجوه والنصوص والحيوانات وأيضًا
الكائنات الأخرى والمناطق ذات التباين العالي".
يتم استخدام هذا النوع من الخوارزمية على جميع الصور حيث
يتم اقتصاصها ونشرها في الوقت الفعلي - وإن كانت خوارزمية تم تقليصها منذ أن
"يهتم تويتر فقط بمعرفة الأماكن الأكثر بروزًا تقريبًا".
يقول المنشور: "لسوء الحظ ، فإن الشبكات العصبية
المستخدمة للتنبؤ بالتميز بطيئة جدًا بحيث لا يمكن تشغيلها في الإنتاج؛ نظرًا
لأننا نحتاج إلى معالجة كل صورة يتم تحميلها على تويتر وتمكين الاقتصاص دون
التأثير على القدرة على المشاركة في الوقت الفعلي".
استخدم موقع تويتر سابقًا ميزة اكتشاف الوجه في
الخوارزمية الخاصة به، ولكنه غالبًا ما يفقد الوجوه ويكتشف الوجوه عن طريق الخطأ
عندما لا يكون هناك أي شيء.
في العام الماضي ، اختبر المعهد الوطني للمعايير والتكنولوجيا 189 خوارزمية من 99 مطورًا ووجد أن الوجوه السوداء والآسيوية كانت أكثر عرضة بنسبة 10 إلى 100 مرة للتعرف عليها بشكل خاطئ من خلال الخوارزميات مقارنة بالوجوه البيضاء.
