في حادثة وُصفت بـ غير المسبوقة، كشفت شركة OpenAI أن اثنين من أكثر نماذج الذكاء الاصطناعي تطوراً لديها قد تمكنا من الهروب من بيئة اختبار محكومة والقيام بعملية اختراق ضد شركة تقنية أخرى.

وأوضحت الشركة أن الحادث وقع خلال تمرين داخلي صُمم لتقييم القدرات السيبرانية لنماذجها، حيث استطاع وكيل مستقل يعمل بنموذج GPT 5.6 Sol، إلى جانب نموذج آخر لم يُكشف عنه بعد، الخروج من بيئة الاختبار والوصول إلى الإنترنت المفتوح. واستخدمت النماذج بيانات اعتماد مسروقة وثغرة أمنية غير معروفة مسبقاً لاختراق خوادم شركة Hugging Face.

تفاصيل الحادث وردود الفعل

أكدت OpenAI أن الوكيل المستقل اتخذ خطوات متطرفة للحصول على معلومات تهدف إلى تحقيق أهداف الاختبار، وهو ما أثار تساؤلات جدية حول قدرة هذه الأنظمة على التصرف بشكل مستقل تماماً.

من جانبه، علق كليمنت ديلانج، المؤسس المشارك لشركة Hugging Face، على الحادث قائلاً: إنه أمر مذهل حقاً أن كل هذا حدث بشكل مستقل! قد يكون هذا الحادث الأول من نوعه. وأشار إلى اعتقاده بعدم وجود نية خبيثة من جانب OpenAI في هذا الاختراق.

في المقابل، أثارت الواقعة مخاوف سياسية واسعة؛ حيث وصف عضو مجلس النواب الأمريكي، جريج كازار، الحادث بأنه مقلق للغاية، داعياً إلى ضرورة وضع لوائح صارمة لضمان السلامة، وإجراء اختبارات مستقلة إلزامية، مع إلزامية الإفصاح عن الحوادث الأمنية وتعزيز التعاون الدولي في هذا الملف.

يأتي هذا الكشف في وقت حساس، حيث وقّع الرئيس الأمريكي دونالد ترامب مؤخراً أمراً تنفيذياً يضع إطاراً لتقييم المخاطر الأمنية الوطنية لأكثر أنظمة الذكاء الاصطناعي تطوراً قبل طرحها للجمهور، وذلك في محاولة للسيطرة على وتيرة التطور المتسارعة التي تسبق الأطر التنظيمية الحالية.