حذرت دراسة حديثة صادرة عن الشبكة العالمية حول التطرف والتكنولوجيا (GNET) من انتشار مقاطع فيديو مولدة عبر الذكاء الاصطناعي تستهدف الأطفال، وتستخدم شخصيات كرتونية لطيفة على غرار أفلام بيكسار لتمرير محتويات عنيفة ومتطرفة.

عفن الدماغ: واجهة لطيفة لمحتوى سام

أوضحت الدراسة أن هذه المقاطع، التي يطلق عليها اسم brain rot أو عفن الدماغ، تظهر شخصيات طعام مجسمة تتورط في قصص درامية ورومانسية، لكنها سرعان ما تتحول إلى مشاهد صادمة تشمل التمثيل بالجثث، والتعذيب، والعنف الواقعي المفرط.

محاكاة للجماعات الإرهابية

كشف التقرير عن استغلال هذه التقنية لمحاكاة شعارات وأدبيات جماعات إرهابية، حيث رصد الباحثون نماذج مقلقة، منها:

• مشاهد تحاكي فيديوهات تنظيم داعش، مثل قيام شخصية جزرة بتفجير بطاطس أو اغتيالها بمطرقة.
• ظهور شخصية تحت مسمى الجزرة الخليفة تتوعد بعودة دولة الجزر، في إشارة مباشرة لشعارات التنظيمات الإرهابية.
• استخدام وسوم (هاشتاغات) تروج للدعاية المتطرفة.
• الإشارة إلى تنظيمات النازية الجديدة مثل Atomwaffen Division، واستخدام مصطلحات مثل سيادة البطاطس كرمز مشفر لـ سيادة العرق الأبيض.

تحديات الرقابة والوقاية

وأشار الباحثون إلى أن هذه الفيديوهات تنجح في تجاوز سياسات تيك توك الصارمة ضد المحتوى العنيف، لأنها تبدو في ظاهرها بريئة وموجهة للصغار، مما يسهل وصول الأطفال إليها دون رقابة كافية.

وأكد التقرير أن هذا المحتوى يلعب دوراً خطيراً في تطبيع العنف والتطرف لدى المستخدمين الصغار، مما قد يمهد الطريق لانجرافهم نحو استهلاك مواد أكثر تطرفاً في المستقبل. وعليه، طالبت الشبكة منصة تيك توك بتطوير آليات تقنية مضادة للحد من انتشار هذا النوع من المحتوى المولد آلياً وحماية المستخدمين القصر من مخاطر التحريض الرقمي.