أثارت دراسة بحثية حديثة تساؤلات جوهرية حول مستقبل الرقابة على أنظمة الذكاء الاصطناعي، بعد أن نجحت نماذج ذكية في تطوير لغات تواصل مختصرة ومبهمة لزيادة كفاءتها، مما يجعل مراقبة سجلات محادثاتها وفهم دلالاتها تحدياً تقنياً غير مسبوق.

تجربة GlossoGen: لغة ولدت من رحم الضغط

كشف باحثون من جامعة تكساس في أوستن وجامعة إدنبرة في ورقة بحثية أولية، عن منصة تجريبية أطلقوا عليها اسم GlossoGen. صمم الفريق سيناريو تخيلياً يحمل اسم SaveVeyru، يحاكي حالة طوارئ طبية تتطلب تعاوناً دقيقاً بين وكيلين ذكيين لإنقاذ كائن فضائي، حيث يمتلك كل منهما جزءاً من المعلومات الضرورية للعلاج.

ولخلق بيئة ضاغطة، فرض الباحثون كلفة زمنية على كل حرف يتم إرساله في المحادثة، مما دفع الوكلاء إلى البحث عن طرق أسرع وأكثر كفاءة لتبادل المعلومات.

نتائج غير متوقعة: رموز بديلة للإنجليزية

أظهرت النتائج أن النماذج الأقوى، عند وضعها تحت ضغط زمني، تخلت عن استخدام اللغة الإنجليزية التقليدية وبدأت في ابتكار رموز وتراكيب مختصرة. وبحسب الدراسة، لم تكن هذه الرسائل عشوائية، بل اعتمدت على قواعد منتظمة تمكن الوكلاء من خلالها من فهم معانٍ جديدة لم تكن موجودة سابقاً.

وقد سجل الباحثون زيادة بنحو 430 بالمئة في مقياس ابتعاد النصوص عن أنماط اللغة الإنجليزية المعتادة، مقارنة بالحالات التي لم تخضع لقيود زمنية مشددة. كما لعبت مرحلة المراجعة دوراً محورياً في تثبيت هذه المفردات الجديدة، حيث ناقش الوكلاء نتائج الجولات السابقة واتفقوا على اختصارات أكثر فعالية.

تحديات الرقابة البشرية

تكمن المعضلة الرئيسية في أن تسجيل المحادثات لم يعد كافياً لضمان الشفافية. فإذا اعتمدت المؤسسات مستقبلاً على مجموعات من الوكلاء لإدارة مهام معقدة، فقد تكون جميع الرسائل محفوظة ومتاحة للمراقبين، بينما تظل دلالاتها عصية على الفهم البشري.

ويشير الباحثون إلى أن اللغة الناشئة، رغم قابليتها للتحليل، تفرض تحديات كبيرة على المراقبة البشرية والآلية، خاصة في البيئات التي لا يمتلك فيها المراقبون سياقاً كاملاً لما يدور بين الوكلاء.

هل تتآمر الآلات؟

يوضح الخبراء أن هذه النتائج لا تعني أن الذكاء الاصطناعي يمتلك نوايا مبيتة للتضليل أو إخفاء معلوماته عمداً. فالاختصارات اللغوية ظهرت كاستجابة طبيعية لحافز تقليل كلفة التواصل وإنجاز المهمة في الوقت المحدد. ومع ذلك، تظل هذه التجربة بمثابة جرس إنذار: فكلما زادت كفاءة وسرعة التواصل بين الآلات، أصبح من الصعب على البشر مراقبة ما يجري داخل الصندوق الأسود لهذه الأنظمة.