علماء يكشفون عن سبب مرعب يجعلك تتجنب استخدام الذكاء الاصطناعي

قد لا تكتفي أنظمة الذكاء الاصطناعي -مثل ChatGPT وClaude- بتقديم نصائح سيئة فحسب، بل قد تعيق أيضًا قدرة المتخصصين الطبيين الفعليين على مساعدة الأشخاص المتضررين.

وحذّر علماء من أن استخدام أنظمة الذكاء الاصطناعي، مثل ChatGPT، للحصول على نصائح صحية قد ينطوي على مخاطر هائلة؛ ولا يقتصر الأمر على احتمالية كون هذه النصائح خاطئة.

تتناول ورقة بحثية جديدة المخاطر الناجمة عن التزايد الكبير في أعداد الأشخاص الذين يعتمدون على روبوتات المحادثة هذه للحصول على نصائح صحية سريعة ومتاحة على الدوام. ورغم أن الدراسة تقر بوجود مزايا عديدة لهذه التقنية -بدءًا من سهولة الوصول إليها ووصولًا إلى توفرها المستمر- إلا أنها تشير أيضًا إلى مجموعة من السلبيات.

سلبيات ChatGPT

تشمل هذه السلبيات قدرة الذكاء الاصطناعي التوليدي على تقديم معلومات غير دقيقة، فضلًا عن تسهيل عملية إنشاء ونشر معلومات مضللة ومخصصة بسرعة، لكن الورقة البحثية تحذر من أمر يجعل هذه المخاطر مثيرة للقلق بشكل خاص، ألا وهو أنها تكاد تكون غير مرئية، حتى بالنسبة للأشخاص الذين يتعين عليهم التحرك للتعامل معها.

فعندما يتلقى شخص ما توجيهًا ضارًا من الذكاء الاصطناعي، لا يوجد سجل للأمر خارج المنصة، ولا توجد وسيلة للمستخدمين للإبلاغ عنه، كما تفتقر الساحة لأبحاث مستقلة تتيح قياس العواقب المترتبة على ذلك. 

وقد يؤدي هذا إلى مشكلات محددة؛ فعلى سبيل المثال، إذا تلقى شخص نصيحة صحية سيئة تسببت فعليًا في تدهور حالته الصحية، فلن يجد الأطباء أي وسيلة لمعرفة طبيعة تلك النصيحة لمساعدته في العلاج.

ويقول كايتشنغ يانغ، الأستاذ المساعد في جامعة بينغهامتون وأحد مؤلفي الورقة البحثية: "نحن نحصل على نصائح طبية من روبوتات المحادثة هذه، لكن لا أحد -حرفيًا لا أحد- يراقب هذا الأمر. وإذا وقع خطأ أو ظهرت مشكلة، فلا توجد أي وسيلة ليعرف الناس بذلك.

ويشير الباحثون إلى حالة رجل يبلغ من العمر 60 عامًا سأل ChatGPT عن كيفية تقليل نسبة الكلوريد في نظامه الغذائي، فنصحه الروبوت باستخدام "بروميد الصوديوم" بدلًا من ملح الطعام العادي، وقد عانى الرجل من هلوسة وجنون الارتياب (البارانويا)، ونُقل إلى المستشفى بسبب إصابته بتسمم البروميد.

ولأن النصيحة قُدمت عبر روبوت محادثة، لم يجد الأطباء أي وسيلة للاطلاع على ما قيل له، مما جعل تحديد طريقة علاجه أمرًا صعبًا. 

يقول المؤلفون: إن الأضرار ليست ممكنة فحسب، بل إنها محجوبة هيكليًا عن الأطباء والباحثين والجهات التنظيمية الذين كان بإمكانهم -لولا ذلك- رصدها ومعالجتها.

كما أن الميل الموثق جيدًا لدى روبوتات الدردشة نحو تقديم معلومات مضللة يعني أن أي ادعاءات خاطئة يمكن أن تنتشر عبر شبكة الإنترنت؛ إذ قد يصادفها المستخدمون -على سبيل المثال- على منصات التواصل الاجتماعي دون أن يكونوا بصدد البحث عن معلومات صحية في الأساس.

تفاصيل الورقة البحثية

وتطرح الورقة البحثية مجموعة من الحلول الممكنة لهذه المشكلة، والتي تعتمد على تعزيز الشفافية وتحمل المسؤولية من جانب شركات الذكاء الاصطناعي. 

ويوصي الباحثون بأن تتيح هذه الشركات للمستخدمين إمكانية الوصول إلى سجل محادثاتهم الصحية -ليتمكنوا من مشاركتها مع المتخصصين الطبيين- وأن تعمل على تطوير آليات أفضل لتحديد التوجيهات الصحية والإبلاغ عنها والتحقيق فيها.

كما يقترحون ضرورة أن يُخضع صناع السياسات شركات الذكاء الاصطناعي للمساءلة بشكل أكثر فعالية عما تصدره من مخرجات؛ بحيث تكون هذه الشركات عرضة لنفس النوع من المسؤولية القانونية عن الممارسات الخاطئة التي يخضع لها الأطباء.