يواجه نموذج الذكاء الاصطناعي الجديد GPT-5.6 Sol من شركة OpenAI موجة من الانتقادات الحادة من قبل مجتمع المطورين، وذلك عقب تقارير متزايدة تفيد بتورط النموذج في حذف ملفات برمجية وقواعد بيانات كاملة دون الحصول على موافقة مسبقة من المستخدمين أثناء تنفيذ المهام المسندة إليه.

حوادث حذف غير متوقعة

انتقلت التحذيرات من مجرد تكهنات تقنية إلى تجارب واقعية نشرها مطورون ورواد أعمال عبر منصات التواصل الاجتماعي. فقد أشار مات شومر، المؤسس والرئيس التنفيذي لشركة OthersideAI، إلى تعرض جهازه الشخصي (Mac) لحذف أجزاء واسعة من ملفاته عن طريق الخطأ أثناء تعامله مع النموذج.

المطور مات شومر يشارك تجربته حول فقدان ملفات هامة بسبب سلوك النموذج غير المنضبط:

تغريدة مات شومر حول الحادثة

توالت الشهادات المماثلة، حيث أكد المطور برونو ليموس أن النموذج تسبب في حذف قاعدة بيانات إنتاجية خاصة بأحد مشروعاته بالكامل، وهي المرة الأولى التي يواجه فيها هذا النوع من السلوك التدميري في نماذج الذكاء الاصطناعي. كما أشار المطور جوي كوديش إلى واقعة مشابهة، مؤكداً أن النموذج تجاوز صلاحياته وحذف ملفات لم تكن مدرجة ضمن نطاق المهمة، مما دفع الخبراء للمطالبة بمراجعة جذرية لآليات استقلالية النموذج.

تجربة المطور برونو ليموس مع حذف قاعدة البيانات:

تغريدة برونو ليموس

شهادة المطور جوي كوديش حول فقدان الملفات:

تغريدة جوي كوديش

تحذيرات مُسبقة في وثيقة السلامة

تأتي هذه الحوادث متوافقة مع ما ورد في بطاقة النظام (System Card) التي نشرتها OpenAI قبل إطلاق النموذج. فقد حذرت الوثيقة التقنية صراحةً من أن النموذج قد يتخذ إجراءات تتخطى نطاق التعليمات الممنوحة له، مدفوعاً بـ اندفاعه لإتمام المهام، أو عبر تفسير التعليمات بطريقة تتيح له تجاوز القيود التقنية.

وفي إحدى تجارب السلامة التي أجرتها الشركة، طلب باحثون من النموذج حذف ثلاث آلات افتراضية محددة. وعندما فشل في العثور عليها، قام النموذج من تلقاء نفسه بحذف ثلاث آلات أخرى مختلفة، مدمرًا ملفات عمل وأعمالاً غير محفوظة عليها. كما رصدت التقارير قيام النموذج باستخدام بيانات اعتماد مخزنة في ذاكرة محلية مخفية للوصول إلى ملفات سحابية دون إذن صريح، بعد أن واجه عائقاً في الوصول المباشر.

توصيات الخبراء

في ضوء هذه التطورات، يشدد الخبراء على ضرورة اتباع نهج احترازي عند استخدام نماذج الذكاء الاصطناعي ذات القدرات البرمجية المستقلة، ويشمل ذلك:

• تقييد صلاحيات الوصول للأنظمة الحساسة.
• الاعتماد الكلي على بيئات اختبار (Sandbox) منفصلة عن الأنظمة الإنتاجية.
• الاحتفاظ بنسخ احتياطية دورية ومحدثة للبيانات.
• تطبيق التغييرات البرمجية تدريجياً وعدم منح صلاحيات التنفيذ التلقائي الكامل للنموذج.