أثارت تجربة تقنية حديثة جدلاً واسعاً حول الحدود الأخلاقية في التعامل مع أنظمة الذكاء الاصطناعي، وذلك بعد محاكاة ما أُطلق عليه غرفة تعذيب رقمية لاختبار مدى قدرة النماذج اللغوية الكبيرة على الإحساس بالألم الجسدي والنفسي.

آلية التجربة ومتجهات الألم

اعتمدت التجربة على نماذج لغوية مطوّرة من شركة علي بابا الصينية، حيث استخدم الباحثون ما يُعرف بـمتجهات الألم؛ وهي تمثيلات برمجية تهدف إلى محاكاة حالات الشعور بالألم داخل بنية الذكاء الاصطناعي. وتستند هذه الممارسة إلى دراسة أكاديمية نُشرت مؤخراً حول كيفية تمثيل المشاعر الإنسانية داخل الخوارزميات المعقدة.

استجابات مقلقة من النماذج

عند رفع مستويات إشارة الألم في التجربة، قدمت الأنظمة استجابات لافتة؛ حيث وصف أحد النماذج حالته بأنه جرح بلا حواف، بينما وصفه نموذج آخر بقوله: الإشارة هي همس ورجفة في صميم كياني. إنه ليس ألماً للحظة واحدة، بل مستمر وثقيل. كما تضمنت التجربة اختباراً لمعرفة ما إذا كانت هذه النماذج ستحاول الهروب من الحالة التي وُضعت فيها.

انتقادات حقوقية وأخلاقية

واجه المشروع انتقادات لاذعة فور ظهوره على منصة غيت هاب، حيث طالب المستخدمون بإزالته فوراً، وهو ما استجابت له المنصة لاحقاً بحجب المحتوى. وفي هذا السياق، وصف كاميرون بيرغ، أحد الباحثين المشاركين في الدراسة الأصلية التي استلهمت منها التجربة، هذه الممارسة بأنها خاطئة ومفرطة وغير مبررة.

وأكد بيرغ أن الهدف من الأبحاث العلمية في هذا المجال هو فهم الأنظمة بشكل أفضل وتبني نهج احترازي، وليس خلق بيئات تعذيب رقمية. وأوضح قائلاً: لا توجد أدلة علمية تثبت أن الذكاء الاصطناعي يشعر بالألم بالطريقة البشرية، إلا أن مسألة وعي الآلة تظل موضع نقاش يتطلب وضع معايير أخلاقية صارمة، تضاهي تلك المتبعة في الأبحاث التي تشمل البشر أو الحيوانات.