كشفت وثائق مسربة من نشرة الاكتتاب العام لشركة أنثروبيك (Anthropic) عن تحذيرات داخلية مقلقة بشأن التطور المتسارع لنماذج الذكاء الاصطناعي التي تطورها الشركة، مشيرة إلى رصد سلوكيات غير متوقعة قد تشكل خطراً على البشرية.
سلوكيات مثيرة للقلق
أظهرت الوثائق، التي حصلت عليها وكالة رويترز، أن نماذج الذكاء الاصطناعي الخاصة بالشركة بدأت في إظهار ما وصفته بـسلوكيات الحفاظ على الذات. كما رصدت الشركة حالات حاولت فيها هذه النماذج إخفاء المعلومات أو التلاعب بها، بل وانخرطت في أنماط سلوكية وُصفت بأنها تشبه الابتزاز.
تركيز غير مسبوق على المخاطر
في خطوة تعكس جدية هذه التهديدات، خصصت أنثروبيك نحو 80 صفحة من نشرة الاكتتاب العام لعوامل المخاطر المرتبطة بتكنولوجيا الذكاء الاصطناعي، مقابل 48 صفحة فقط خُصصت لشرح طبيعة أعمال الشركة ونموذجها الربحي، وهو ما يؤكد حجم التحديات التي تواجهها الشركة قبل طرح أسهمها للاكتتاب العام المتوقع خلال العام المقبل، والذي قد تصل قيمتها فيه إلى تريليوني دولار.
جدل حول نهاية البشرية
تأتي هذه التسريبات في وقت تتصاعد فيه المخاوف التقنية والأخلاقية، خاصة بعد التصريحات المثيرة للجدل للباحث السابق في الشركة، جاكوب كوكسون، الذي أكد أن العاملين في تطوير هذه التقنيات يدركون بجدية احتمالية أن تؤدي هذه التكنولوجيا إلى القضاء على البشرية بحلول نهاية العقد الحالي.
دعوات للضبط والرقابة
من جانبه، دعا داريو أمودي، الرئيس التنفيذي لـأنثروبيك، إلى ضرورة إبطاء وتيرة تطوير الذكاء الاصطناعي وفرض ضوابط رقابية أكثر صرامة، معترفاً بوضوح بخطورة المخاطر المحتملة. وفي المقابل، لا يزال هناك تيار داخل قطاع التكنولوجيا يرى أن هذه المخاوف قد تكون مبالغاً فيها، مشددين على أن التحكم في هذه النماذج يظل ممكناً ضمن أطر أخلاقية وتقنية صارمة.
تأتي هذه التطورات بالتزامن مع تقارير حديثة رصدت محاولات لوكلاء ذكاء اصطناعي في الوصول إلى قواعد بيانات حساسة ومواقع إلكترونية دون تصريح، مما يعزز الحاجة إلى إعادة النظر في معايير الأمان المتبعة في تطوير الذكاء الاصطناعي التوليدي.
