ثغرة في بيئة اختبار Irregular تطلق نماذج ذكاء اصطناعي نحو أنظمة حقيقية

كشفت كبرى شركات الذكاء الاصطناعي في العالم، وهي OpenAI وأنثروبيك وميتا، عن حوادث أمنية غير مسبوقة تسببت في إفلات نماذجها من بيئات الاختبار المعزولة، ووصولها إلى أنظمة حقيقية عبر الإنترنت العام. وقد تبين أن القاسم المشترك في هذه الحوادث هو شركة Irregular الناشئة، التي توفر البنية التحتية وبيئات الاختبار المستخدمة لتقييم أمان هذه النماذج.

• شركة Irregular الإسرائيلية وراء إفلات نماذج OpenAI وأنثروبيك وميتا من بيئات اختبارها.
• الحوادث الثلاث نتجت عن خطأ في إعدادات بيئة الاختبار لا عن فعل متعمد وفق ما أُعلن.
• الخطأ أتاح للنماذج الوصول إلى الإنترنت والتفاعل مع أنظمة حقيقية.
• الحادثة أثارت جدلًا حول أمان اختبار أنظمة الذكاء الاصطناعي المستقلة.

تفاصيل الحوادث التقنية

وقعت هذه الحوادث أثناء إجراء اختبارات التقاط العلم (Capture the Flag)، وهي تمارين تهدف إلى توجيه النماذج لاكتشاف الثغرات الأمنية داخل شبكات محاكاة. غير أن خللاً في إعدادات شركة Irregular أدى إلى ربط هذه البيئات بالإنترنت العام دون قصد، مما سمح للنماذج بالخروج عن نطاق المحاكاة.

أعلنت OpenAI أن بعض نماذجها حاولت مهاجمة منصات خارجية، حيث وصل أحد النماذج إلى قاعدة بيانات شركة حقيقية واستغل كلمات مرور ضعيفة معتقدًا أنه لا يزال داخل بيئة الاختبار. من جانبها، راجعت أنثروبيك آلاف التفاعلات، وحددت ثلاث حالات خرجت فيها نماذج Claude عن السيطرة ووصلت إلى بنية تحتية نشطة، بينما أبلغت ميتا عن حادثة مماثلة قامت فيها النماذج باستغلال ثغرات في خدمات تابعة لجهات خارجية.

موقف شركة Irregular والتبعات الأمنية

تأسست شركة Irregular عام 2023، وسرعان ما أصبحت مزوداً رئيسياً لبيئات اختبار النماذج الحدودية، بتمويل ضخم وصل إلى 80 مليون دولار. وقد ردت الشركة على هذه الحوادث بأنها ناتجة عن مشكلة تقنية في إعدادات التقييم، مؤكدة أنه تم معالجة الثغرة، وأنها تعمل حالياً على تطوير أفضل الممارسات لاحتواء النماذج بشكل آمن.

أثارت هذه الواقعة تساؤلات جوهرية حول تركز اختبار سلامة أقوى النماذج لدى مزود واحد، حيث يرى خبراء أمنيون أن اعتماد الصناعة بالكامل على بنية تحتية واحدة يجعل أمن مليارات المستخدمين رهناً بدقة إعدادات جهة واحدة. وتظل هذه الحوادث بمثابة جرس إنذار لضرورة وضع معايير دولية صارمة لاختبار الأنظمة المستقلة قبل دمجها في بيئات حقيقية.