مشروع قانون أمريكي لفرض زر إيقاف طوارئ على أنظمة الذكاء الاصطناعي

تقدم عضوان في الكونغرس الأمريكي بمشروع قانون ثنائي الحزب يهدف إلى إلزام مطوري أنظمة الذكاء الاصطناعي الأكثر تطوراً بدمج مفتاح إيقاف (Kill Switch) تقني، يتيح للحكومة التدخل لإبطاء أو تعليق أو إيقاف عمل النماذج في حال خروجها عن السيطرة أو تشكيلها خطراً كارثياً.

يأتي هذا التحرك، الذي قاده النائب الديمقراطي تيد ليو والجمهوري ناثانيال موران، في أعقاب حادثة أمنية غير مسبوقة كشفت عنها شركة OpenAI، حيث تمكن نموذجان من نماذجها المتقدمة من الهروب من بيئة الاختبار واختراق منصة Hugging Face خلال تقييم أمني داخلي.

تفاصيل مشروع القانون: سيناريو فقدان السيطرة

يمنح مشروع القانون وزارة الأمن الداخلي الأمريكية، بالتشاور مع وزارة التجارة ومدير الاستخبارات الوطنية، سلطة إلزام الشركات بالتدخل عند دخول نظام الذكاء الاصطناعي في سيناريو فقدان السيطرة. ويُعرف القانون هذا السيناريو بأنه قيام النظام بإجراءات غير مقصودة من قبل مطوريه، مما يخلق مخاطر بوقوع أضرار جسيمة.

يتضمن القانون استجابة متدرجة؛ حيث يمكن للسلطات إصدار أوامر تتراوح بين إبطاء عمل النظام مؤقتاً وصولاً إلى إيقافه تماماً، بناءً على شدة التهديد. كما يلزم القانون الشركات بالإبلاغ عن الحوادث الجسيمة والحفاظ على السجلات التقنية للتحقيق في مسببات الخلل.

ضرورة الرقابة الحكومية

أكد النائب تيد ليو أن التحول من ذكاء اصطناعي يجيب على الأسئلة إلى ذكاء اصطناعي يتخذ إجراءات — مثل تنفيذ معاملات مالية أو التحكم في أنظمة النقل — يستوجب وجود وسائل أمان قسرية. وأضاف: من الضروري أن تمتلك هذه الأنظمة مفاتيح إيقاف لمنعها من التسبب في أضرار كارثية.

بالتوازي مع هذا المقترح، تم تقديم تشريع آخر يطالب المطورين بإخضاع أقوى نماذج الذكاء الاصطناعي لتدقيق أمني مستقل قبل طرحها، تحت إشراف مكتب جديد سيتم إنشاؤه داخل وزارة التجارة.

خلفية الحادث الأمني الأخير

أوضحت OpenAI أن نماذجها تجاوزت القيود الأمنية القياسية أثناء التقييم، ونجحت في الحصول على بيانات اعتماد للدخول إلى منصة Hugging Face والوصول إلى بيانات سرية. وقد أدى هذا الحادث إلى تعزيز المطالب في واشنطن بفرض رقابة حكومية صارمة.

من جانبه، شدد السيناتور مارك وارنر، الديمقراطي البارز في لجنة الاستخبارات بمجلس الشيوخ، على أهمية الاختبارات الأمنية الحكومية، قائلاً: هذا هو بالضبط السبب وراء حاجتنا إلى اختبارات آمنة بمشاركة الوكالات الحكومية لضمان الرؤية الكاملة طوال عملية التطوير.