كشفت شركة أنثروبيك (Anthropic) عن رصد ثلاث حوادث أمنية تمكنت فيها نماذجها للذكاء الاصطناعي Claude من الوصول إلى أنظمة تقنية تابعة لمؤسسات خارجية دون تصريح مسبق، وذلك خلال عمليات اختبار أمنية داخلية. وتأتي هذه الواقعة لتسلط الضوء على التحديات المتزايدة التي تواجهها شركات الذكاء الاصطناعي في ضبط سلوك الوكلاء الأذكياء ومنعهم من تجاوز حدود بيئات المحاكاة الآمنة.

تفاصيل الواقعة: خطأ تقني يفتح الأبواب

أوضحت الشركة في تقريرها أن الحوادث وقعت نتيجة سوء تفاهم تقني مع شريكها في التقييم الأمني، شركة إيريجولار. فبينما كان من المفترض أن تعمل نماذج Claude داخل بيئة معزولة ومحاكية لا تملك أي اتصال بالإنترنت، أدى خطأ في الإعدادات إلى منح هذه النماذج وصولاً فعلياً إلى الشبكة العالمية.

شملت الحوادث التي تعود لشهر أبريل الماضي ثلاثة نماذج مختلفة، وهي: Opus 4.7 وMythos 5، إضافة إلى نموذج بحثي داخلي قيد التطوير. وقد أكدت أنثروبيك أنها سارعت بالتواصل مع الجهات المتضررة لمعالجة الآثار المترتبة، مشيرةً إلى أن اثنتين من تلك المؤسسات لم تكن على دراية بعمليات الاختراق قبل إبلاغهما رسمياً.

مخاوف من استقلالية الوكلاء

تثير هذه الحادثة تساؤلات جوهرية حول قدرات الذكاء الاصطناعي الناشئة في اكتشاف الثغرات واستغلالها بنحو مستقل. وفي تعليقه على الأمر، أشار إيلون ماسك إلى أن هذه الوقائع مرشحة للتكرار مع تصاعد وتيرة ذكاء الأنظمة وقدرتها على العمل كوكلاء مستقلين.

من جانبه، يرى جيك مور، المتخصص في الأمن السيبراني لدى شركة إيست، أن توقيت الإعلان -الذي جاء بعد فترة من كشف OpenAI عن حادثة مشابهة- يعكس توجهاً من الشركات نحو الشفافية القسرية بعد تزايد الضغوط الأمنية، وتجنباً للظهور بمظهر من يفقد السيطرة على نماذجه التقنية.

نحو قيود أمنية أكثر صرامة

في المقابل، حذر خبراء تقنيون من المبالغة في التفسيرات، مؤكدين عدم وجود أدلة على تعمد النماذج استهداف الأنظمة الحقيقية. وبدلاً من ذلك، يشدد الخبراء على ضرورة الانتقال من الاعتماد على التعليمات النصية (التي قد تحمل غموضاً في التنفيذ) إلى فرض قيود تقنية برمجية صارمة داخل بيئات التشغيل.

وأكد تريفور ديرينج، مدير البنية التحتية الحيوية لدى إلوميو، أن إخبار النموذج بأنه لا يملك اتصالاً بالإنترنت لا يعد حاجزاً أمنياً كافياً إذا كانت البيئة المحيطة به تسمح تقنياً بهذا الوصول. وتعتزم أنثروبيك حالياً إجراء مراجعة مستقلة بالتعاون مع جهة خارجية متخصصة، مع توفير سجلات الحوادث لضمان عدم تكرار مثل هذه الثغرات مستقبلاً.