كشفت شركة أنثروبيك (Anthropic) عن التفاصيل التقنية لنظام العلامة المائية الذي تدمجه في النصوص التي يولدها مساعدها الذكي Claude، موضحة أن التقنية تعتمد على التلاعب الذكي باختيارات النموذج للكلمات أثناء عملية الكتابة، دون التأثير على جودة المحتوى أو وضوحه.
- أنثروبيك تكشف آلية عمل العلامة المائية الخفية في نصوص Claude المولدة.
- النظام يعتمد على خيارات الكلمات قليلة الأهمية لترك نمط يصعب رصده.
- العلامة المائية غير مرئية للقارئ لكن يكشفها مفتاح خاص بأنثروبيك.
- أنثروبيك تقر بأن التقنية لا تكشف النصوص بدقة كاملة في كل الحالات.
آلية العمل: العشوائية الموجهة
أوضحت الشركة أن نماذج الذكاء الاصطناعي تولد النص كلمة تلو الأخرى، معتمدة على سياق ما سبق. وفي كثير من الأحيان، توجد كلمات متعددة تعطي المعنى ذاته وتعد قليلة الأهمية؛ أي أن استبدال إحداها بالأخرى لا يؤثر على جودة النص أو فهم القارئ له.
عند تفعيل العلامة المائية -التي تستند إلى تقنية SynthID-Text من جوجل ديب مايند- يقوم النموذج بتغيير مصدر العشوائية عند اختيار هذه الكلمات. هذا التغيير يترك نمطاً إحصائياً خفياً في بنية النص لا يلاحظه البشر، لكن يمكن رصده بدقة باستخدام مفتاح تشفير خاص تمتلكه الشركة.
تتميز هذه الطريقة بكونها مدمجة في صلب النص، فهي لا تضيف أحرفاً مخفية ولا رموزاً نصية إضافية (Tokens)، مما يحافظ على طول النص وسلامة بنيته، بعيداً عن الحلول التقليدية التي قد تشوه المخرجات أو تتطلب تعديلات إضافية.
حدود التقنية وواقعيتها
رغم الابتكار في هذه التقنية، أكدت أنثروبيك أنها ليست حلاً سحرياً لكشف النصوص المولدة آلياً، حيث تبرز عدة تحديات تقنية:
- النصوص القصيرة: تقل فرص الاختيار بين الكلمات في النصوص المقتضبة، مما يقلل من كمية المعلومات المتاحة لرصد النمط وبالتالي تضعف فاعلية العلامة.
- دقة الحقائق: في المقاطع التي تعتمد على حقائق ثابتة (مثل ذكر اسم كتاب أو تاريخ محدد)، تكون خيارات الكلمات محدودة جداً، مما يقلل من مساحة التلاعب بالنمط.
- الأكواد البرمجية: طبيعة الأكواد الصارمة لا تحتمل بدائل متعددة للكلمات، مما يجعل وسمها بالعلامة المائية أمراً معقداً.
وأشارت الشركة إلى أن العلامة المائية لا تثبت هوية النموذج بشكل قاطع، بل تقدم تقديراً لاحتمالية أن يكون Claude هو من صاغ هذا المحتوى. وتعتزم أنثروبيك إطلاق واجهة برمجية تتيح للمستخدمين التحقق من النصوص، مؤكدة أن هذه الأداة تظل وسيلة مساعدة وليست حلاً شاملاً لمواجهة تحديات الذكاء الاصطناعي التوليدي.