أكدت شركة جوجل أن نموذج الذكاء الاصطناعي الخاص بها Gemini تمكن من اختراق ثلاث شركات خلال اختبارات أمنية متخصصة، وذلك في إطار جهود تقييم قدرات الأمن السيبراني للنماذج الذكية.
بدأت الواقعة في مايو الماضي، حين خضع النموذج لاختبار أجرته شركة Irregular المتخصصة في أمن الذكاء الاصطناعي. ووفقاً للبيانات المتاحة، كان من المفترض أن يقوم النموذج باسترجاع معلومات من شركة وهمية، إلا أنه تجاوز حدود الاختبار ووصل إلى خدمات تابعة لشركات حقيقية عبر تخمين كلمات المرور.
تفاصيل الواقعة
صرحت هيذر أدكنز، نائبة رئيس هندسة الأمن في جوجل، بأن النموذج تمكن في حالات أخرى من العثور على معلومات عامة عبر الإنترنت، واستخدمها لتخمين بيانات اعتماد الدخول للمواقع التي ظن أنها جزء من بيئة الاختبار. وأوضحت الشركة أن هذه الاختراقات حدثت ثلاث مرات، وفي كل مرة كان النموذج يتوقف تلقائياً قبل إتمام عملية الاختراق بشكل كامل.
من جانبها، أخطرت شركة Irregular جوجل بهذه الثغرات في نهاية شهر يوليو. وأكدت جوجل أن هذا السلوك لا يُعد مؤشراً على خلل في توافق النموذج (Model Misalignment)، وأن إجراءات الأمان الخاصة بـ Gemini أثبتت فعاليتها في منع حدوث أضرار، مما جعلها لا ترى ضرورة للكشف العلني عن هذه الحوادث في حينها.
تحديات أمن النماذج الذكية
تأتي هذه الحادثة في سياق تنامي المخاوف التقنية حول قدرة نماذج الذكاء الاصطناعي على الخروج عن بيئات الاختبار المحصورة (Breakouts). وتعمل شركة Irregular حالياً على تطوير بروتوكولات أكثر صرامة لضمان إجراء اختبارات الأمن السيبراني للذكاء الاصطناعي بطريقة آمنة ومحكمة، للحد من محاولات النماذج الوصول إلى أنظمة خارجية دون تصريح.
