لم تعد حروب المعلومات محصورة في منصات التواصل الاجتماعي، بل امتدت لتطال المستشار الرقمي الذي يعتمد عليه الملايين يومياً؛ أنظمة الذكاء الاصطناعي. دراسة حديثة أجرتها مؤسسة ديموس (Demos) البريطانية، حذرت من تحول النماذج اللغوية الكبيرة (LLMs) إلى ساحة جديدة للتنافس والتأثير المعلوماتي الموجه.
ويشير الباحثون كارل ميلر، وهانا بيري، وفلين ديفاين، إلى أن الجهات الساعية للتأثير لم تعد تكتفي بالسيطرة على محركات البحث، بل باتت تستهدف المصادر التي تغذي أنظمة الذكاء الاصطناعي، مما يفتح الباب أمام ما يعرف بـ تسميم الاسترجاع المعزز بالتوليد (RAG poisoning).
من تضليل البشر إلى التلاعب بالخوارزميات
يوضح كارل ميلر، مؤسس مختبر CASM التابع للمؤسسة، أن النماذج اللغوية أصبحت وسيطاً جديداً بين المستخدم والمعلومة. وبدلاً من تصفح مواقع متعددة، يحصل المستخدم على إجابة واحدة مصاغة آلياً، مما يمنح هذه الأنظمة سلطة معرفية قد تُستغل للتلاعب بالوعي العام.
تعتمد تقنية تسميم الاسترجاع على إنشاء محتوى مصمم خصيصاً لجذب خوارزميات الذكاء الاصطناعي، بحيث تدرج هذه الأنظمة روايات مضللة ضمن إجاباتها الموثوقة للمستخدمين، مستفيدة من اعتمادها على مصادر خارجية لتحديث معلوماتها.
اختبار النماذج أمام حملات التضليل
لتقييم مدى حصانة هذه الأنظمة، أجرى الباحثون تجربة باستخدام 600 صيغة من الأسئلة المستوحاة من حملة تأثير معلوماتي مرتبطة بـ حملة ستورم-1516 الروسية، واختبروا خمسة نماذج رائدة: شات جي بي تي، جيميناي، كلود، ميسترال، وغروك.
أظهرت النتائج تبايناً لافتاً في الأداء؛ حيث كان نموذج غروك الأكثر قدرة على تفنيد الادعاءات، بينما سجلت نماذج أخرى معدلات تبنٍ أو شرعنة للروايات المضللة، مما يؤكد أن المخاطر تختلف باختلاف البنية التقنية لكل نموذج.
أهداف جديدة: ويكيبيديا وريديت في مرمى الاستهداف
تحذر الدراسة من أن حملات التلاعب قد تمتد لتشمل منصات مرجعية كبرى مثل ويكيبيديا، ريديت، غيت هاب، وستاك أوفر فلو. وبما أن هذه المنصات تُعد مصادر أساسية لاسترجاع المعلومات، فإن التلاعب بسجل التعديلات أو تقييمات الحسابات فيها قد يؤدي إلى تسميم المعرفة التي تقدمها أنظمة الذكاء الاصطناعي لملايين المستخدمين.
ظهور صناعة تحسين الظهور في الذكاء الاصطناعي (GEO)
رصد الباحثون صعود صناعة ناشئة تُعرف بـ تحسين الظهور في محركات الذكاء الاصطناعي (Generative Engine Optimization - GEO)، والتي تهدف إلى ضمان تصدر محتوى معين لإجابات الذكاء الاصطناعي. وفي حين قد تكون هذه التقنيات مشروعة لأغراض التسويق، إلا أنها تثير مخاوف جدية عند استخدامها من قبل أنظمة استبدادية أو جهات تسعى لنشر التضليل.
وفيما يخص العالم العربي، أكد الباحثون أن المحتوى العربي يقع ضمن المناطق المستهدفة بحملات التلاعب، مشددين على ضرورة إجراء دراسات عاجلة لفهم كيفية حماية البيئة المعلوماتية الناطقة بالعربية من هذه المخاطر التقنية الناشئة.