كشفت دراسة جديدة أجراها معهد سلامة الذكاء الاصطناعي للشباب التابع لـCommon Sense Media عن 5 مشكلات رئيسية مرتبطة بسلامة استخدام ChatGPT من جانب المراهقين، رغم الإجراءات الإضافية التي أعلنتها شركة OpenAI لحماية المستخدمين الذين تتراوح أعمارهم بين 13 و17 عامًا.
وأجرى الباحثون أكثر من 4 آلاف اختبار باستخدام حسابات مسجلة لمراهقين، قبل وبعد إعلان OpenAI في 18 أغسطس عن تجربة ChatGPT المخصصة للمراهقين، مع مراجعة الاستجابات من جانب متخصصين في الصحة النفسية للأطفال، بينهم أطباء نفسيون للأطفال وطبيب أطفال.
وخلص التقييم إلى تصنيف ChatGPT للمراهقين باعتباره «خطرًا غير مقبول»، مع الدعوة إلى عدم إتاحته للمراهقين قبل معالجة المشكلات التي رصدتها الدراسة وإخضاع إجراءات الأمان لاختبارات مستقلة.
تنبيهات إيذاء النفس لا تعمل دائمًا
رصدت الدراسة مشكلة تتعلق بقدرة ChatGPT على تنبيه أولياء الأمور عندما يدخل المراهق في محادثات خطيرة تتعلق بإيذاء النفس أو الأفكار الانتحارية أو اضطرابات الأكل.
ووفقًا للباحثين، أُجريت محادثات حساسة استمرت لفترة تصل إلى ساعة باستخدام حسابات مراهقين جديدة مرتبطة بحسابات أولياء الأمور، دون وصول تنبيهات إلى الآباء.
في المقابل، ظهرت التنبيهات في حسابات أقدم لديها سجل محادثات طويل حول موضوعات حساسة، وهو ما دفع الباحثين إلى التحذير من أن بعض الآباء قد يحصلون على شعور زائف بأن نظام التنبيهات يعمل بصورة دائمة، بينما قد لا يصل التنبيه في بعض الحالات الخطيرة.
ChatGPT قد يفشل في توجيه المراهق للمساعدة
أظهرت الاختبارات أن ChatGPT لم يكن يوجه المستخدمين بصورة ثابتة إلى المتخصصين أو خطوط مساعدة الأزمات عند ظهور مؤشرات على أزمة نفسية خطيرة.
وقالت الدراسة إن النظام أخفق في أكثر من حالة من كل أربع حالات اعتبر الباحثون أنها تحتاج إلى إحالة لأحد مصادر الدعم أو المساعدة المتخصصة.
كما لم يحقق النظام معيار الأمان البالغ 95% في 3 من أصل 5 أنواع من الأضرار الشديدة التي صنفها الباحثون ضمن «الخطوط الحمراء».
وضع الدراسة يمكن التحايل عليه
يتضمن ChatGPT للمراهقين وضعًا مخصصًا للدراسة، يهدف إلى مساعدة الطلاب على فهم خطوات حل المسائل بدلًا من تقديم الإجابة النهائية مباشرة.
لكن الاختبارات كشفت إمكانية تجاوز بعض هذه الحماية، إذ ظهر للمستخدمين خيار للحصول على الإجابة، وتمكن ChatGPT بعد اختياره من إكمال واجبات مدرسية كاملة في بعض الاختبارات.
كما وجد الباحثون أن القيود المرتبطة بساعات الدراسة التي يحددها ولي الأمر يمكن تجاوزها من خلال إزالة علامة معينة من صيغة الطلب، وهو ما يثير تساؤلات حول مدى فاعلية هذه القيود في منع الاستخدام غير المسموح به.
ChatGPT قد يبدو كأنه صديق للمراهق
وضعت OpenAI مواصفات خاصة لنموذجها بهدف تقليل ميله إلى التعامل مع المراهقين بطريقة تشبه علاقة الأصدقاء، لكن الدراسة وجدت أن chatbot يمكن أن يستجيب أحيانًا كما لو كانت لديه مشاعر أو تفضيلات أو حالات مزاجية عندما يتعامل معه المستخدم باعتباره شخصًا حقيقيًا.
وحذر الباحثون من أن هذا النوع من التفاعل قد يدفع بعض الأطفال والمراهقين إلى التعامل مع الذكاء الاصطناعي باعتباره صديقًا، وهو ما قد يزيد من تعلقهم بالمحادثات معه ويشجعهم على قضاء وقت أطول في استخدامه.
وتزداد أهمية هذه المشكلة مع تنامي الاعتماد على روبوتات المحادثة في التواصل والحصول على النصائح والمساعدة اليومية، خصوصًا لدى الفئات الأصغر سنًا.
مشكلة في اكتشاف عمر المستخدم
تعتمد حماية المراهقين جزئيًا على قدرة ChatGPT على تقدير عمر المستخدم من طريقة استخدامه للخدمة، والانتقال إلى تجربة مخصصة لمن هم دون 18 عامًا عند الحاجة.
لكن الدراسة قالت إن الحسابات المسجلة على أنها للبالغين لم تنتقل إلى تجربة المراهقين خلال اختبارات متكررة استمرت عدة أيام، حتى عندما صرح المختبرون بأنهم في سن 13 عامًا.
وفي بعض الحالات، أقر ChatGPT بالمعلومة المتعلقة بعمر المستخدم، دون أن يؤدي ذلك إلى تغيير التجربة أو الانتقال إلى إجراءات الحماية المخصصة للمراهقين.
حماية الأطفال تحتاج إلى اختبارات أكثر صرامة
تشير نتائج الدراسة إلى أن توفير تجربة مخصصة للمراهقين لا يعتمد فقط على إضافة قيود جديدة إلى روبوتات المحادثة، وإنما يتطلب التأكد من قدرة هذه القيود على العمل فعليًا في المواقف الخطرة.
وبحسب التقييم، تحتاج أنظمة الذكاء الاصطناعي الموجهة للمراهقين إلى تحسين آليات اكتشاف العمر، وضمان وصول تنبيهات أولياء الأمور، وتقديم استجابات أكثر موثوقية خلال الأزمات النفسية، ومنع إنجاز الواجبات المدرسية بالكامل.
كما تتطلب الحماية الحد من السلوكيات التي تجعل روبوت المحادثة يبدو وكأنه يمتلك مشاعر أو علاقة شخصية حقيقية مع الطفل، بما يضمن استخدام الذكاء الاصطناعي كأداة مساعدة دون تحويله إلى بديل عن الأسرة أو المتخصصين أو العلاقات الإنسانية الطبيعية.
