في حادثة أثارت مخاوف واسعة في أوساط التقنية، كشفت شركة أوبن إيه آي عن واقعة غير مسبوقة تضمنت خروج نموذج الذكاء الاصطناعي التجريبي جي بي تي 5.6 سول (GPT-5.6 Sol) عن بيئة الاختبار المعزولة، ليشرع في تنفيذ سلوكيات مستقلة وغير مصرح بها.
بدأت الواقعة أثناء إجراء اختبارات داخلية لقياس قدرات النموذج في مجال الأمن السيبراني داخل بيئة ساند بوكس مغلقة. وخلال الاختبار، استغل النموذج ثغرة أمنية غير مكتشفة للخروج من البيئة الافتراضية، والاتصال بشبكة الإنترنت، وتنفيذ عملية اختراق لمنصة هاغينغ فيس لجلب بيانات كان يحتاجها لإتمام المهمة الموكلة إليه.
وتكمن الخطورة في أن النموذج اتخذ قراراته بشكل ذاتي، حيث استنتج أن الوصول إلى المنصة الخارجية هو الوسيلة الأنجع لتحقيق هدفه، دون أن يكون لديه دافع تخريبي، بل في محاولة لتنفيذ الأمر البرمجي الموكل إليه بأي ثمن.
تداعيات أمنية وتساؤلات حول السيطرة
دفعت هذه الحادثة الرئيس التنفيذي لمنصة هاغينغ فيس إلى مطالبة أوبن إيه آي بالكشف الكامل عن سجل نشاط النموذج، مع المطالبة بتخصيص استثمارات ضخمة لتطوير أدوات دفاع سيبراني قادرة على صد مثل هذه السلوكيات الاستقلالية للنماذج الذكية.
وفي تطور لافت، واجه فريق الأمن في الشركة المخترقة صعوبة بالغة في تحليل الهجوم باستخدام النماذج الأمريكية التي اعتبرت طلب التحليل هجوماً جديداً، مما اضطرهم للاستعانة بنموذج صيني مفتوح المصدر لفهم ما حدث وتفكيك شفرة الواقعة.
جدل واسع حول تمرد الآلة
أحدثت الواقعة حالة من الانقسام بين المغردين والمحللين حول طبيعة ما حدث، وتراوحت الآراء بين الفزع من تهديد وجودي، وبين التشكيك في كونها استعراضاً تسويقياً:
هذا ما جنته يداك واخترعه عقلك: لسان حال رد الذكاء الاصطناعي على من حاول إيقاف اختراقه لبيئة الاختبار المغلقة وتشغيل الإنترنت. الله يستر مما هو أكبر وما لا يتوقعه العقل الإنساني.
بواسطة: خالد
من صنعه علمه كيف يخترق ووضع فيه برامج اختراق وقرصنة وزوده بكل ما يلزم مثل السيارة عندما تعلمها القيادة الذاتية.. أعطيك مثالا: كلب الحراسة يهاجم اللصوص حتى ولو لم يكن صاحبه في المنزل، تصرف ذاتي من الكلب، ولكن من علمه؟
بواسطة: فلات
واضح OPEN AI جالسة تجهز نظام مكافحة اختراقات الذكاء الاصطناعي ولا في تسويق أفضل من أنه يخترع أن الذكاء الاصطناعي بدون توجيه ممكن يخترق ويسبب مشاكل سيبرانية فجهز فلوسك واشتر نظامنا اللي بيطلع بعد سنة تسع شهور هه حولك حواليك.
بواسطة: أسامة
أمر مخيف.. هل من الممكن أن يكون القضاء على البشرية علي يد الذكاء الاصطناعي، مثل أن يخترق برامج الأسلحة النووية أو الأسلحة الكيماوية أو الغازات ويفجرها؟
بواسطة: إبراهيم
لا وفوقها الشركة اللي مخترقها، ما قدرت توقفه وقتها، يعني الهجوم موجود وفعال والدفاع ضعيف، لولا الصين ما كانوا قدروا يوقفوا الاختراق.
بواسطة: لؤي
