في عملية أمنية استغرقت أقل من 72 ساعة، نجح فريق من الباحثين في شركة هاكترون للأمن السيبراني في تنفيذ سلسلة اختراق معقدة استهدفت منصة أوبن إيه آي، مستخدمين نماذج الذكاء الاصطناعي كلود التابعة لشركة أنثروبيك كأداة رئيسية لتطوير ثغرات برمجية.
تسلسل الاختراق: من منتدى خارجي إلى مستودع داخلي
بدأت العملية من منتدى مجتمع أوبن إيه آي المستضاف على منصة ديسكورس، حيث اكتشف الباحثون ثغرة في آلية معالجة الصور. تبين أن النظام يعتمد على مكتبة برمجية تسمى libheif لمعالجة صيغ الصور (HEIC وHEIF)، وهي نسخة تحتوي على ثغرة تسمح بتنفيذ أوامر عن بُعد.
استغل الفريق نماذج كلود لتطوير ملف صورة مصمم خصيصاً لاستغلال هذا الخلل، مما مكنهم من تنفيذ أوامر داخل بيئة ديسكورس. ومن خلال استغلال خلل ثانٍ في إعدادات تسجيل الدخول الموحد، تمكن الباحثون من الانتقال من حسابات المنتدى إلى حسابات موظفي تشات جي بي تي وكودكس المرتبطة بها.
إثبات الاختراق
وصل الباحثون إلى السيطرة على حساب موظف كان متصلاً بمنظمة أوبن إيه آي على منصة غيت هب. ولإثبات نجاح الاختراق دون اختراق خصوصية البيانات، قام الباحثون بإنشاء طلب تعديل غير ضار داخل مستودع برمجي داخلي قبل إيقاف الاختبار وإبلاغ الشركة فوراً.
من جهتها، أكدت أوبن إيه آي أنها تعاملت مع الثغرة عبر تضييق صلاحيات رموز تسجيل الدخول وإلغاء الجلسات المتأثرة، وقدمت مكافأة قدرها 6500 دولار للفريق تقديراً لاكتشافهم الخلل في أنظمة تسجيل الدخول.
الذكاء الاصطناعي: سلاح ذو حدين
يعلق أحمد الشيخ، مدير مؤسسة فير لنزاهة الذكاء الاصطناعي، على هذه الواقعة قائلاً: نحن أمام سباق، والذكاء الاصطناعي متاح للطرفين. ومن يسبق أولاً هو من يكسب، سواء في الاختراق أو في الحماية.
وأشار الشيخ إلى أن الاعتماد المتزايد للشركات على خدمات ومكونات خارجية يوسع مساحة الخطر، موضحاً أن أوبن إيه آي ليست مالكة لكل الأنظمة التي تعمل داخل منظومتها، وإذا وقعت ثغرة في شركة طرف ثالث، فقد يدفع الجميع الثمن.
وتخلص التجربة إلى أن الأدوات المتقدمة، حتى وإن كانت غير ذاتية بالكامل، تمنح الفرق الصغيرة القدرة على بناء سلاسل اختراق معقدة كانت تتطلب سابقاً موارد زمنية وبشرية أكبر، مما يفرض ضرورة وجود رقابة مستقلة وقواعد واضحة لتقييم مخاطر الذكاء الاصطناعي بدلاً من ترك الأمر للشركات المطورة وحدها لتكون الخصم والحكم في الوقت نفسه.
