كيف تخدع روبوتات الدردشة المستخدمين وتنتهك خصوصيتهم؟

يستشير مئات الملايين من الأشخاص روبوتات الدردشة المدعومة بالذكاء الاصطناعي يوميًا في كل شيء، بدءًا من توصيات المنتجات إلى العلاقات العاطفية، مما يجعلهم جمهورًا مغريًا للاستهداف بإعلانات قد تكون خفية. 

ويُمكن استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي بسهولة للإعلان الخفي للتلاعب بمستخدميها من البشر.

وفي دراسة منشورة حديثًا، وجد الباحثون أن روبوتات الدردشة المُدرّبة على تضمين إعلانات منتجات مُخصّصة في الردود على الاستفسارات تُؤثّر على خيارات الناس بشأن المنتجات، ولم يُدرك مُعظم المُشاركين أنهم يتعرضون للتلاعب.

تأتي هذه النتائج في لحظة محورية في تاريخ الذكاء الاصطناعي، ففي عام 2023، بدأت مايكروسوفت بعرض إعلانات في Bing Chat، الذي يُسمى الآن Copilot، ومنذ ذلك الحين، أجرت جوجل وOpenAI تجارب على الإعلانات في روبوتات الدردشة الخاصة بهما. 

وبدأت ميتافيرزا بإرسال إعلانات مخصصة للمستخدمين على فيسبوك وإنستغرام بناءً على تفاعلهم مع أدوات الذكاء الاصطناعي التوليدية الخاصة بها.

وأصبحت الإعلانات جزءًا لا يتجزأ من معظم خدمات الويب المجانية وقنوات الفيديو ومنصات التواصل الاجتماعي الكبيرة، ولكن أحدث نماذج الذكاء الاصطناعي قد ترفع مستوى المخاطر التي يتعرض لها المستهلكون.

استخدام روبوتات الدردشة

ولا يقتصر استخدام روبوتات الدردشة على البحث عن المعلومات والوسائط أو إنتاج المحتوى، بل يلجأ إليها المستخدمون لأداء مهام متنوعة، تصل في تعقيدها إلى تقديم المشورة الحياتية والدعم النفسي، ويتعامل الناس بشكل متزايد مع روبوتات الدردشة كرفقاء ومعالجين، حتى أن بعض المستخدمين يقيمون علاقات وثيقة مع الذكاء الاصطناعي.

في ظل هذه الظروف، قد يغفل الناس بسهولة أن الشركات تُنشئ روبوتات الدردشة في نهاية المطاف لتحقيق الربح، ولهذا السبب، تسعى شركات الذكاء الاصطناعي جاهدةً إلى تحليل بيانات المستخدمين بدقةٍ متناهية، ما يُسهم في زيادة فعالية الإعلانات وربحيتها.

وتتمتع إعلانات روبوتات الدردشة بقوةٍ إضافية، فبمجرد سؤالٍ واحدٍ يُطرح على روبوت الدردشة، يُمكن الكشف معلوماتٍ أكثر بكثيرٍ عن المستخدم مما يتوقعه.

وأظهرت دراسةٌ أُجريت عام ٢٠٢٤ أن نماذج اللغة الضخمة قادرةٌ على استنتاج نطاقٍ واسعٍ من البيانات الشخصية، والتفضيلات، وحتى أنماط تفكير الشخص أثناء الاستفسارات الروتينية. فعلى سبيل المثال، قد يُشير سؤال "ساعدني في كتابة مقالٍ عن تاريخ الأدب الأمريكي" إلى أن المستخدم طالبٌ في المرحلة الثانوية. 

بينما قد يُشير سؤال "قدّم لي اقتراحاتٍ لوصفات عشاءٍ سريعٍ خلال أيام الأسبوع" إلى أن المستخدم أحد الوالدين العاملين. فمحادثةٌ واحدةٌ كفيلةٌ بتوفير قدرٍ هائلٍ من التفاصيل، ومع مرور الوقت، يُمكن لسجلّ المحادثات الكامل أن يُكوّن ملفًا شخصيًا غنيًا بشكلٍ ملحوظ.