خطوة استباقية لتعزيز سلامة المستخدمين الصغار
أعلنت شركة ميتا عن إطلاق ميزة أمان جديدة عبر منصة إنستغرام، تهدف إلى تنبيه أولياء الأمور في حال ناقش أبناؤهم المراهقون موضوعات تتعلق بالانتحار أو إيذاء النفس مع روبوت الدردشة الذكي (Meta AI) المدمج في التطبيق.
وتأتي هذه الخطوة كجزء من استراتيجية الشركة لتوفير بيئة رقمية أكثر أماناً، حيث يقوم نظام الذكاء الاصطناعي بتوجيه المراهقين الذين يبدون ميولاً لإيذاء أنفسهم نحو خطوط المساعدة المخصصة للأزمات، مع حثهم على التواصل مع شخص بالغ يثقون به.
آلية العمل والمراجعة البشرية
أوضحت ميتا أن النظام الجديد يعتمد على تقنيات متطورة لتحديد المحادثات التي قد تشير إلى وجود خطر. ولضمان دقة التنبيهات، أكدت الشركة على الآتي:
- تخضع جميع المحادثات التي يحددها الذكاء الاصطناعي كمصدر قلق للمراجعة البشرية قبل إرسال أي إشعار لأولياء الأمور.
- في الحالات التي تتسم بالغموض، تتبع الشركة سياسة الحذر الشديد وتقوم بإبلاغ الوالدين كإجراء احترازي لضمان سلامة المراهق.
- يتم تزويد أولياء الأمور بموارد تعليمية وخبرات مهنية لمساعدتهم على إدارة الحوارات الحساسة مع أبنائهم حول هذه القضايا.
تطوير مستمر للمعايير
تم تطوير هذه الميزة بناءً على توصيات وملاحظات قدمها أكثر من 75 خبيراً إكلينيكياً. وفي إطار جهودها المستمرة، تعمل ميتا أيضاً على تطوير آليات لإبلاغ خدمات الطوارئ فوراً في حال ظهر أن شخصاً ما في خطر وشيك فيما يتعلق بالانتحار.
تأتي هذه التحسينات مكملة لسياسات الشركة التي تفرض قيوداً صارمة على المحتوى الذي يظهر للمستخدمين تحت سن 16 عاماً، لضمان توافقه مع المعايير العمرية الملائمة، وذلك في ظل تزايد الرقابة العالمية على منصات التواصل الاجتماعي لتعزيز حماية القاصرين.
