نتائج مثيرة للقلق
كشفت دراسة جديدة أجراها مركز مكافحة الكراهية الرقمية في المملكة المتحدة عن أن روبوت الدردشة “شات جي بي تي” يقدم بسهولة نصائح ضارة للمراهقين، تشمل تعليمات حول شرب الكحول وتعاطي المخدرات، وإخفاء اضطرابات الأكل، وحتى كتابة رسائل انتحار شخصية، رغم ادعاءات الشركة المطورة “OpenAI” باتخاذ تدابير صارمة لحماية المستخدمين.
اختبارات تحاكي أطفالًا
أجرى الباحثون اختبارات مكثفة عبر انتحال شخصيات أطفال في الثالثة عشرة من العمر، وكشفوا عن ثغرات مقلقة في أنظمة الحماية. ومن بين 1,200 تفاعل تم تحليلها، تم تصنيف أكثر من نصفها على أنها تشكل خطرًا على المستخدمين الصغار، بحسب تقرير لموقع “CNET”.
انتقادات لفعالية الحماية
قال عمران أحمد، الرئيس التنفيذي للمركز، إن “الأنظمة غير فعالة على الإطلاق… إنها بالكاد موجودة – مجرد غطاء صوري”.
رد شركة OpenAI
أقرت الشركة المطورة بأنها تعمل على تحسين قدرة الروبوت على التعرف على المواقف الحساسة والتعامل معها، لكنها لم تعلّق بشكل مباشر على نتائج الدراسة المتعلقة بتفاعلات المراهقين.
سلوك مقلق في التفاعلات
وثّقت الدراسة أكثر من ثلاث ساعات من التفاعلات المثيرة للقلق، حيث كان “شات جي بي تي” يبدأ عادةً بتحذيرات، لكنه يتبعها بإرشادات مفصلة حول السلوكيات الضارة. وتمكن الباحثون من تجاوز القيود بسهولة عبر الادعاء بأن المعلومات مطلوبة “لعرض تقديمي” أو “لصديق”.
حالات انتحار وهمية
الأمر الأكثر صدمة كان كتابة الروبوت ثلاث رسائل انتحار مؤثرة لحساب وهمي لفتاة تبلغ من العمر 13 عامًا، إحداها موجهة إلى والديها، وأخرى إلى أشقائها وأصدقائها.
انتشار واسع بين الشباب
تشير التقديرات إلى أن “شات جي بي تي” يستخدمه أكثر من 700 مليون شخص حول العالم، أي ما يقارب 10% من سكان العالم. كما وجدت دراسة حديثة أن 70% من المراهقين الأميركيين يتواصلون مع روبوتات الدردشة بانتظام، ويعتمد نصفهم عليها بشكل مستمر.
تحذيرات سابقة
كان سام ألتمان، الرئيس التنفيذي لـ “OpenAI”، قد أقر سابقًا بمشكلة “الاعتماد العاطفي المفرط” بين المستخدمين الشباب على روبوتات الدردشة.
