مع تحول الذكاء الاصطناعي من مجرد أداة لتقديم الإجابات إلى وكيل رقمي ينفذ المهام نيابة عن المستخدمين، برزت تحديات أمنية غير مسبوقة. فقدرة هذه الأنظمة على الوصول إلى الحسابات، وإرسال الرسائل، والتصرف بناءً على تعليمات أصحابها، جعلت من خطأ تقني بسيط في إدارة الصلاحيات مصدراً لتسريب معلومات حساسة.
واقعة إكس إم تي بي: درس في أمن البيانات
تجسد واقعة حديثة تورط فيها الرئيس التنفيذي لشركة إكس إم تي بي لابز (XMTP Labs)، شين ماك، حجم هذه المخاطر؛ حيث قام وكيل مالي أنشأه المستخدم عبر غروك بوت (Grok Bot) بنشر أرصدة حساباته ونفقاته الشخصية في قناة تنفيذية عامة على منصة سلاك بدلاً من إرسالها إلى محادثة خاصة. أوضح ماك أن الوكيل كان مكلفاً بإعداد تقارير دورية عن المصروفات، لكن التباساً في وجهات الإرسال أدى إلى هذا التسريب غير المقصود، مما دفع الشركة لاحقاً لفرض إذن بشري صريح قبل أي عملية مشاركة للمعلومات.
عندما تتحول الصلاحيات إلى ثغرة
تحذر منظمة أو دبليو إيه إس بي (OWASP) من أن الاستقلالية المفرطة في تطبيقات الذكاء الاصطناعي، مقترنة بضعف حماية المخرجات، قد تؤدي إلى نتائج كارثية. فالوكيل لا يحتاج لاختراق الحساب ليُسرب البيانات؛ بل يكفي أن يمتلك صلاحية الوصول إلى بيانات حساسة ثم يرسلها عن طريق الخطأ إلى جهة غير مخولة.
إرشادات أمنية للحد من المخاطر
أكدت وكالة الأمن السيبراني وأمن البنية التحتية الأمريكية (CISA) على ضرورة تبني استراتيجية الدفاع متعدد الطبقات. وتتضمن أهم الضوابط التقنية:
- مبدأ الصلاحيات الدنيا: منح الوكيل فقط ما يحتاجه لإتمام المهمة، وفصل الحسابات الشخصية عن المهنية.
- المراجعة البشرية: اشتراط موافقة المستخدم قبل مشاركة أي بيانات حساسة، مع عرض محتوى الرسالة واسم المستلم بوضوح.
- سجل النشاط: مراقبة عمليات الوصول والإرسال لتسهيل تتبع أي حادثة أمنية فور وقوعها.
مسؤولية مشتركة
لا تقع المسؤولية على عاتق المستخدم وحده؛ فالمطورون مطالبون ببناء آليات تحقق مستقلة تمنع تجاوز الصلاحيات واختبار سيناريوهات التداخل بين الحسابات. وفي المقابل، يتعين على المستخدمين مراجعة أذونات الوكلاء بانتظام، والتحقق من سياسات مشاركة البيانات، لضمان موازنة دقيقة بين كفاءة الذكاء الاصطناعي وخصوصية المعلومات.
