منشئو نظام الدردشة الذكية: الذكاء الاصطناعي كان متحيزًا ومسيئًا

يقول منشئو نظام الدردشة من خلال الذكاء الاصطناعي إن النظام كان "متحيزًا سياسيًا ومهينًا" و"مرفوضًا بطريقة أخرى"، وقد التزم بتغيير طريقة عمله.

تتضمن هذه التغييرات زيادة احتمالية أن يقول النظام أشياء قد يختلف معها الناس بشدة، والسماح لأدوات جديدة للسماح للأشخاص بتخصيص سلوكه.

منذ أن تم إصدار ChatGPT نظام الدردشة من خلال الذكاء الاصطناعي في أواخر العام الماضي، وبدأ الملايين من الناس استخدامه كل يوم، وبدأ البعض في الشكوى والقلق بشأن أنواع الأشياء التي يمكن أن يقولها. 

وانتقدها البعض لظهورها لصالح جوانب معينة من المناقشات السياسية - حيث أشار بعض المعلقين اليمينيين إلى أنها كانت متحيزة ضد دونالد ترامب وتجاه جو بايدن، على سبيل المثال - وكذلك يبدو أنها تتخذ مواقف خلافية بشأن بعض الموضوعات.

سلوك غير معتاد 

وقد جذب إصدار ChatGPT نظام الدردشة من خلال الذكاء الاصطناعي الذي تم دمجه في Bing مزيدًا من الاهتمام لسلوكه غير المعتاد والمسيء في بعض الأحيان، حيث وجد المستخدمون أنه يبدو أنه يهاجمهم ويتهمهم بالكذب وأكثر من ذلك.

قالت شركة OpenAI إنها تعتقد أنه "في كثير من الحالات، نعتقد أن المخاوف التي أثيرت كانت صحيحة وكشفت عن قيود حقيقية لأنظمتنا نريد معالجتها". ولم يذكر بالتحديد المخاوف التي يتفق عليها أو الأمثلة التي كان يستجيب لها، لكنه قال إنه سيعمل على حل تلك المشاكل في المستقبل، من خلال تعديلات على النظام.

في الوقت الحالي، يتم إنشاء نماذج مثل ChatGPT نظام الدردشة من خلال الذكاء الاصطناعي من خلال تزويدها بكمية هائلة من النصوص، والتي من خلالها يمكنهم معرفة الكلمة التالية الأكثر احتمالًا في الجملة. ثم يمر بجملة ثانية من الضبط الدقيق، حيث يساعد المراجعون البشريون في تضييق نطاق سلوك النظام بحيث يتصرف بشكل مناسب.

قالت شركة OpenAI إن هذه العملية "تشبه تدريب الكلاب أكثر من البرمجة العادية". على هذا النحو، فإن الشركة لا تعطيها تعليمات صريحة، بل توجيهات عامة تتبعها بعد ذلك في تفاعلها مع الناس.

لكن شركة OpenAI قالت إنها تتخذ قرارًا بمشاركة بعض الإرشادات التي يتم تقديمها إلى هؤلاء المراجعين والتي تساعد بالتالي في تدريب النظام. بعد نشرهم على الإنترنت، ويقولون باختصار إن النظام يجب أن يتجنب الانحياز إلى جانب في الموضوعات الخلافية، وأنه يجب بدلًا من ذلك محاولة مساعدة المستخدمين بأسئلة إعلامية.

لكنها أشارت إلى أنه يمكن عمل المزيد لتجنب هذه المواقف، وأنه سيعمل بجد أكبر لتغيير سلوك النظام.