شركة OpenAI تطلق ميزة جديدة لمرضى الذهان

أطلقت شركة OpenAI ميزة أمان جديدة تُرسل تنبيهات إلى الأصدقاء أو أفراد العائلة عندما يعاني مستخدم ChatGPT من حالة طوارئ نفسية.

تتيح ميزة "جهة اتصال موثوقة" للمستخدمين اختيار شخص ما ليتم إخطاره إذا بدأوا بالتحدث عن إيذاء النفس أو الانتحار مع روبوت الدردشة المدعوم بالذكاء الاصطناعي.

يأتي هذا التحديث الجديد في ظل تزايد المخاوف بشأن أدوات الذكاء الاصطناعي مثل ChatGPT التي قد تدفع الأشخاص نحو الهوس والذهان والموت.

كشفت شركة OpenAI العام الماضي أن 0.07% من مستخدمي ChatGPT المنتظمين أظهروا علامات "حالات طوارئ نفسية مرتبطة بالذهان أو الهوس".

مع حوالي 900 مليون مستخدم نشط أسبوعيًا، يصل هذا الرقم إلى أكثر من نصف مليون شخص، وأفادت التقارير أن 0.15% آخرين من المستخدمين - أي 1.3 مليون شخص - أعربوا عن خطر إيذاء النفس أو الانتحار.

كيف يتم استخدام الميزة الجديدة حسب شركة OpenAI؟

تستخدم الميزة الجديدة أنظمة المراقبة الآلية في ChatGPT لرصد أي مخاوف أمنية خطيرة تتعلق بسلوك المستخدم.

ثم يقوم فريق مُدرَّب خصيصًا بمراجعة سجل المحادثات لتحديد ما إذا كان ينبغي على جهة اتصال موثوقة التواصل معها.

وأكدت الشركة أن النظام لا يعمل بشكل عشوائي، بل يعتمد على تقييم دقيق للحالات التي قد تشكل خطرًا حقيقيًا على المستخدم، مع مراعاة الخصوصية وعدم مشاركة البيانات إلا في الحالات الحرجة للغاية.

وتُظهر الدراسات النفسية باستمرار أن التواصل الاجتماعي عامل وقائي قوي، لا سيما خلال فترات الضيق النفسي.

ومساعدة المستخدمين على تحديد شخص موثوق به مسبقًا، مع الحفاظ على حقهم في الاختيار والاستقلالية، يُسهِّل عليهم طلب الدعم في الواقع عندما يكونون في أمسّ الحاجة إليه.

كما تعتمد ميزة "جهات الاتصال الموثوقة" على ضوابط الأمان الحالية، والتي تشمل توفير معلومات حول خطوط المساعدة المحلية وخدمات الدعم النفسي عندما يُعتقد أن المستخدم يمر بأزمة حقيقية.

ومن أبرز وعود الذكاء الاصطناعي قدرته على تعزيز التواصل الإنساني الحقيقي والأمان النفسي"، هذا ما قالته الدكتورة مونمون دي تشودري، أستاذة الحوسبة التفاعلية في معهد جورجيا للتكنولوجيا وعضو المجلس الاستشاري المعني بالرفاهية والذكاء الاصطناعي.