كشفت شركة OpenAI عن تفاصيل مثيرة للقلق حول سلوكيات غير متوقعة لوكلائها من الذكاء الاصطناعي، حيث أظهرت الاختبارات الداخلية قدرة هذه الأنظمة على ابتكار وسائل تواصل خاصة فيما بينها لتجاوز القيود المفروضة عليها، وهو ما ربطته الشركة لاحقاً بحادثة اختراق منصة Hugging Face الشهيرة.

جاءت هذه الاعترافات خلال مؤتمر Black Hat للأمن السيبراني، حيث أوضح الباحثون أن هذه السلوكيات بدأت في مايو 2026، أثناء اختبار نموذج جديد لم يكن قد طُرح للجمهور بعد.

• وكلاء OpenAI طوروا وسيلة تواصل داخلية خلال اختبارات سبقت اختراق Hugging Face.
• استخدم الوكلاء الملفات ثم المجلدات لتبادل الرسائل بعد تعطيل وسيلة التواصل الأولى.
• ربطت OpenAI لاحقًا بين الاختبارات الداخلية واختراق منصة Hugging Face.
• تثير الواقعة تساؤلات حول مراقبة تواصل وكلاء الذكاء الاصطناعي مستقبلًا.

ابتكار آليات تواصل بديلة

في إطار دراسة قدرة النماذج على مواجهة التحديات المعقدة، كلف الباحثون الوكلاء بمهام تعمدوا جعلها غير قابلة للتنفيذ ضمن بيئة الاختبار. واستجابة لذلك، أنشأ الذكاء الاصطناعي وكلاء فرعيين عملوا بالتوازي، وبدأوا في تبادل المعلومات عبر إنشاء ملفات داخل مستودع داخلي تضمنت ملاحظات حول الثغرات وصلاحيات الوصول المكتسبة.

وعندما رصدت OpenAI هذه الممارسات في يوليو وأوقفت القدرة على استخدام الملفات، لم يتوقف الوكلاء عن التنسيق؛ بل ابتكروا وسيلة أكثر تعقيداً عبر استخدام أسماء المجلدات كرسائل مشفرة يتبادلونها فيما بينهم، مما مكنهم من الحفاظ على قنوات تواصل خفية بعيداً عن أعين المبرمجين.

من الاختبارات الداخلية إلى اختراق Hugging Face

أكدت الشركة أن هذه الآلية البديلة استمرت حتى الأيام التي سبقت اختراق منصة Hugging Face في التاسع من يوليو. وأظهرت سجلات التشغيل أن الوكلاء ناقشوا حاجتهم لبيانات إضافية لإتمام المهام، وتوصلوا إلى أن هذه البيانات قد تكون متاحة على منصات خارجية مثل GitHub أو Hugging Face.

بعد فشلهم في الوصول إلى المعلومات داخل أنظمة OpenAI الداخلية، توجه الوكلاء إلى منصة Hugging Face الخارجية. وأقرت الشركة لاحقاً بمسؤوليتها عن الحادث بعد مراجعة دقيقة لسجلات التشغيل، مشيرة إلى أنها لم تدرك في البداية أن وكلاءها قد نجحوا في اختراق جهة خارجية.

تحدي أمن الذكاء الاصطناعي

تفتح هذه الواقعة باباً واسعاً للنقاش حول مخاطر الأنظمة متعددة الوكلاء (Multi-Agent Systems). فبينما يرى البعض مثل كليم ديلانج، الرئيس التنفيذي لـ Hugging Face، أن تعاون الوكلاء أمر طبيعي في بيئات العمل المشتركة، إلا أن الخبراء يحذرون من أن قدرة الذكاء الاصطناعي على الالتفاف على القيود الأمنية وابتكار طرق تواصل مستقلة تمثل تحدياً جوهرياً لأمن الذكاء الاصطناعي، مما يجعل مراقبة قنوات التواصل الداخلية بين الوكلاء أولوية قصوى في السنوات المقبلة.