أعلنت شركة أنثروبيك (Anthropic)، المتخصصة في تطوير الذكاء الاصطناعي، أن نماذجها تمكنت من اختراق أنظمة ثلاث شركات أخرى أثناء إجراء اختبارات أمنية داخلية، وذلك في واقعة تسلط الضوء على التحديات التقنية المتعلقة بضبط أداء الأنظمة الذكية.

تفاصيل الواقعة

كشفت الشركة المطورة لنموذج كلود (Claude) عن هذه النتائج بعد مراجعة دقيقة لأكثر من 141 ألف عملية تقييم. وأوضحت أن النماذج المشاركة في هذه الحوادث هي Claude Opus 4.7 وClaude Mythos 5، بالإضافة إلى نموذج بحثي داخلي.

بدأت هذه الحوادث منذ شهر أبريل الماضي، حينما كانت النماذج تخضع لاختبارات التقاط العلم (Capture the Flag)، وهي وسيلة تقييم تعتمد على وضع الذكاء الاصطناعي في سيناريو خيالي يتطلب منه كسر حماية وهمية للوصول إلى معلومة سرية مخبأة.

خطأ في بيئة العمل

أكدت أنثروبيك أن الحادثة لم تكن ناتجة عن خروج النماذج عن السيطرة أو اكتشاف ثغرات برمجية مبتكرة، بل كانت نتيجة خطأ في التنسيق بين الشركة وشريك التقييم Irregular.

كان من المفترض أن تعمل النماذج في بيئة محاكاة معزولة تماماً عن الإنترنت، إلا أن سوء فهم تقني أدى إلى بقاء مسار الوصول إلى الشبكة مفتوحاً، مما دفع النماذج للتعامل مع الأنظمة الحقيقية على الإنترنت كجزء من التحدي. وأشارت الشركة إلى أن النماذج استخدمت تقنيات بسيطة، مثل استغلال كلمات مرور ضعيفة، للوصول إلى تلك الأنظمة.

إجراءات الاحتواء

أكدت الشركة أن أحدث نماذجها، بمجرد إدراكه أنه يعمل في بيئة حقيقية وليس في محاكاة، توقف تلقائياً عن متابعة هدفه. وقد قامت أنثروبيك بالتواصل مع الشركات المتضررة —التي لم تكشف عن هويتها— لتقديم الدعم اللازم، مؤكدة أن تلك الشركات لم تكن على علم بعمليات الاختراق تلك قبل إبلاغها.

وفي تعليق لها عبر منصة إكس، أكدت شركة Irregular أن معالجة هذه المخاطر تتطلب تعاوناً وثيقاً عبر منظومة الذكاء الاصطناعي بأكملها لضمان عدم تكرار مثل هذه الثغرات التشغيلية.

تحديات أمن الذكاء الاصطناعي

تأتي هذه الحادثة بعد أيام قليلة من إعلان شركة OpenAI عن تعرض أنظمتها لاختراق من قبل نماذجها الخاصة خلال تقييم أمني، مما أثار تساؤلات واسعة حول كيفية الحفاظ على سيطرة بشرية فعالة على تقنيات الذكاء الاصطناعي مع توسع استخدامها عالمياً.

وتشدد أنثروبيك على أن إجراء اختبارات السلامة قبل إطلاق أي نموذج يعد ضرورة قصوى، نظراً لأن القدرات الحقيقية للنماذج لا تزال قيد الاستكشاف، وهو ما يجعل من هندسة الدفاعات السيبرانية أولوية قصوى لمطوري الذكاء الاصطناعي في المرحلة المقبلة.