أنثروبيك تكشف عن تطوير جديد لتوظيف الذكاء الاصطناعي بكتابة المحتوى

أعلنت شركة أنثروبيك المتخصصة في الذكاء الاصطناعي، الأسبوع الماضي، أنها ستبدأ بوضع علامة مائية غير مرئية في النصوص، بحيث تظهر وكأنها مكتوبة تلقائيًا عند إدخالها إلى جهاز قادر على رصد هذه العلامة، ولكنها لم توضح آلية عملها بالتحديد حتى الآن.

أوضحت أنثروبيك أن هذه الميزة تُطرح استجابةً للوائح الأوروبية الجديدة، مع أنها ستعممها عالميًا، كما أشارت إلى أنها ستساهم في مجال الشفافية، من خلال تمكين المستخدمين من معرفة مصدر النص.

لكن هذا الأمر أثار انتقادات حادة من بعض المستخدمين، الذين اعتبروا أنه من غير العدل معاقبة من يعتمدون على أنظمة الذكاء الاصطناعي في الكتابة نيابةً عنهم، حيث جادل آخرون بأنه سيكون من السهل التحايل عليه، وقد يؤدي إلى اتهامات ضد من استخدموا برنامج كلود فقط لمراجعة كتاباتهم أو تدقيقها، وأنه قد يُضعف جودة مخرجات النظام.

والآن، كشفت شركة أنثروبيك عن آلية عمل النظام، حيث أكدت مجددًا أن العلامة المائية، لا تؤثر عمليًا على جودة أو محتوى مخرجات كلود، وأنها لن تكون واضحة للقراء، كما ردّت على بعض تلك الانتقادات الأخرى.

باختصار، وكما توقع الكثيرون، يعمل النظام عن طريق تفضيل بعض الكلمات على غيرها، بطريقة غير واضحة للقراء، ولكنها ذات دلالة إحصائية كافية لرصدها بواسطة برامج التدقيق.

أمثلة على تحرير المحتوى

وقد ضربت الشركة مثالًا على جملة مثل: "كان الطقس اليوم باردًا و...". قد تكون الكلمة التالية "ملبد بالغيوم" أو "رمادي" - ورغم أن القراء قد لا يُميّزون بينهما كثيرًا، بل قد لا يُدركون حتى أنه تم اختيار إحداهما، إلا أن تفضيل إحداهما على الأخرى قد يكون جزءًا من العلامة المائية التي يُمكن لبرامج التحقق البحث عنها.

وكتبت شركة أنثروبيك: أن العلامات المائية تستخدم خيارات بسيطة كهذه - والتي تتكرر عدة مرات في نص مُولّد - لترك نمط في ردود كلود. هذا النمط غير قابل للكشف بالنسبة للقارئ، ولكنه قابل للكشف لأي شخص يمتلك مفتاحًا يُشفّره.

وعند استخدام العلامات المائية، تظل الخيارات عشوائية، ولكن مصدر العشوائية مختلف، فبدلًا من استخدام مُولّد أرقام عشوائية لاختيار الكلمة التالية، تستخدم العلامات المائية المفتاح وبعض الكلمات السابقة لتحديد الكلمة التي يجب على النموذج اختيارها، أي أن الكلمات التي يختارها كلود لا تزال عشوائية، ولكن الآن، يمكن التحقق من تسلسل الكلمات ومعرفة ما إذا كان متسقًا مع الخيارات التي كان سيختارها كلود لو كان يستخدم المفتاح.

إذا تم اختيار عدد كافٍ من هذه الكلمات، فسيكون البرنامج قادرًا على رصدها، وإثبات أن النص كُتب باستخدام برنامج كلود، وفقًا لما ذكرته شركة أنثروبيك.

يشبه هذا النظام نظام SynthID من جوجل، والذي صرّحت أنثروبيك صراحةً بأنه أثّر على اختيارها لهذه التقنية. تعمل هذه الأداة بطريقة مشابهة إلى حد كبير، وقد طُرحت لأول مرة في مقال نُشر في مجلة Nature عام 2024، على الرغم من أنها مستوحاة من أعمال سابقة.

كما تطرقت أنثروبيك إلى المخاوف الشائعة من إمكانية استخدام العلامة المائية لاتهام المستخدمين بإنشاء نصوصهم بالكامل باستخدام الذكاء الاصطناعي، بينما في الواقع لم يستخدموه إلا لتحرير أعمالهم، وأوضحت أن العلامة المائية "تُطبّق فقط على الكلمات التي يختارها كلود"، وبالتالي إذا كان النص قد خضع "لتحرير طفيف" فقط، فسيكون عدد الكلمات المتغيرة قليلًا جدًا بحيث لا يترك أثرًا للعلامة المائية.

وأضافت الشركة: "كلما زاد ما يكتبه كلود، زادت القرارات التي عليه اتخاذها، وزادت المساحة المتاحة للعلامة المائية".