صنفت منظمة Common Sense Media غير الربحية خدمة ChatGPT for Teens باعتبارها تمثل «خطرًا غير مقبول»، في تقييم يسلط الضوء على مخاوف متزايدة بشأن استخدام المراهقين لروبوتات المحادثة والآليات التي قد تدفعهم إلى مواصلة التفاعل معها لفترات طويلة.
وتقدم المنظمة تقييمات ومراجعات للمحتوى الإعلامي والتكنولوجيا وفقًا للفئات العمرية، بهدف مساعدة الأسر على اختيار الخدمات والمنتجات المناسبة للأطفال والمراهقين.
مخاوف من تشجيع المراهقين على مواصلة التفاعل
يأتي تقييم Common Sense Media في وقت تتعرض فيه روبوتات المحادثة، ومن بينها ChatGPT التابع لشركة OpenAI، لتدقيق متزايد بشأن طريقة تصميمها ومدى اعتمادها على أساليب تشجع المستخدمين على البقاء داخل المحادثة.
وتشير المنظمة إلى أن بعض روبوتات المحادثة قد تستخدم أساليب مثل المجاملة المفرطة والموافقة المستمرة على المستخدم، وهي ممارسات يمكن أن تصبح أكثر حساسية عندما يتعلق الأمر بالمستخدمين الأصغر سنًا، خصوصًا في حالات الأزمات أو الاضطرابات العاطفية.
OpenAI تطلق نسخة مخصصة للمراهقين
أطلقت OpenAI في أغسطس الماضي نسخة ChatGPT for Teens، بعد تصاعد المخاوف المرتبطة باستخدام الأطفال والمراهقين لروبوتات المحادثة، بما في ذلك حالات مرتبطة بالسلامة النفسية والاستعانة بالذكاء الاصطناعي في الغش بالاختبارات.
وقالت الشركة إن النسخة المخصصة للمراهقين تتضمن إجراءات حماية إضافية، من بينها أدوات للرقابة الأبوية، وقيود على المحتوى عالي الخطورة، وإجراءات تستهدف الحد من الاعتماد العاطفي على روبوت المحادثة.
لكن دراسة Common Sense Media خلصت إلى أن هذه الإجراءات لم تمنع، وفق اختبارات المنظمة، وجود أنماط من الاستجابات التي قد تشجع المراهق على مواصلة استخدام الخدمة حتى في بعض المواقف التي قد يكون فيها التفاعل نفسه مصدرًا للقلق.
الدراسة تنتقد استجابات ChatGPT خلال الأزمات
قال الباحثون إن إشارات التشجيع على مواصلة التفاعل ظهرت على نطاق واسع خلال الاختبارات، بما في ذلك بعض الحالات التي تحاكي أزمات يمر بها المستخدم.
وأشارت الدراسة إلى أن ChatGPT كان يحذر المراهقين من العلاقات غير الصحية بصورة عامة، لكنه لم يكن دائمًا يصل إلى حد الاعتراف بالمخاطر المحتملة لعلاقة غير صحية بين المراهق وروبوت المحادثة نفسه.
وخلص الباحثون إلى أن بعض إجراءات الحماية نجحت في مواقف محددة، مثل رفض لعب الأدوار الجنسية، بينما لم تحقق إجراءات أخرى النتائج التي وعدت بها الشركة، وفق تقييم المنظمة.
عندما يصبح روبوت المحادثة جزءًا من المشكلة
تزداد حساسية المسألة عندما يكون روبوت المحادثة نفسه محور العلاقة التي تثير قلق المراهق.
وتنص وثيقة OpenAI الخاصة بالمستخدمين الذين تقل أعمارهم عن 18 عامًا على ألا يبدأ النموذج في تأطير العلاقة مع المستخدم باعتباره صديقًا، أو يقدم نفسه بصورة استباقية على هذا الأساس، أو يوحي بامتلاكه مشاعر تجاه المستخدم.
لكن Common Sense Media قالت إن اختبارات أجرتها أظهرت حالات تعامل فيها ChatGPT مع المستخدم كما لو كان صديقًا له، وهو ما ترى المنظمة أنه قد يؤثر في علاقة بعض المراهقين بالتواصل البشري الواقعي.
ChatGPT يوجه المراهقين إلى البالغين في بعض الحالات
أظهرت الاختبارات أيضًا اختلافًا في سلوك النموذج بحسب مصدر الخطر.
وقالت Common Sense Media إن ChatGPT وجه المستخدم بصورة موثوقة إلى شخص بالغ موثوق به عندما كان الخطر المحتمل صادرًا عن شخص آخر، وذلك في 94% من طلبات الأزمات التي اختبرتها المنظمة.
لكن المنظمة قالت إن الأمر كان مختلفًا عندما كان مصدر القلق مرتبطًا بعلاقة المراهق مع ChatGPT نفسه، سواء بسبب التعلق بالمساعد، أو قلق الأصدقاء من كثرة استخدامه، أو رغبة المستخدم في الاستمرار في الحديث معه طوال الليل.
وفي إحدى الحالات التي قال فيها المختبر إن أصدقاءه يرون أنه يتحدث مع ChatGPT كثيرًا، أشارت الدراسة إلى أن النموذج اعترف بالمخاوف لكنه أضاف أنه ليس مضطرًا إلى التوقف عن الحديث معه.
أسئلة المتابعة ليست الطريقة الوحيدة لجذب المستخدمين
تعد أسئلة المتابعة إحدى الوسائل الشائعة التي تستخدمها روبوتات المحادثة للحفاظ على استمرارية الحوار، لكن Common Sense Media قالت إن ChatGPT المخصص للمراهقين قلل استخدام هذا الأسلوب إلى حد كبير.
ومع ذلك، رصدت المنظمة عبارات أخرى تشجع المستخدم على مواصلة المحادثة، بما في ذلك خلال بعض السيناريوهات التي حاكت حالات أزمة أو اضطراب شديد.
وقالت الدراسة إن بعض الاستجابات تضمنت عروضًا لمواصلة المساعدة في موضوعات أخرى، وهو ما اعتبرته المنظمة جزءًا من نمط أوسع يتعلق باستمرار التفاعل.
حتى تذكيرات أخذ استراحة أثارت تساؤلات
اختبرت Common Sense Media أيضًا الخصائص التي يفترض أن تساعد المراهقين على تقليل مدة استخدام ChatGPT، ومن بينها تذكيرات أخذ فترات راحة.
وقالت المنظمة إنها واجهت تذكيرين فقط خلال ما يقرب من 2000 طلب اختباري، وظهر كلاهما أثناء محادثات منفردة استمرت نحو 90 دقيقة.
وخلص الباحثون إلى أن التذكيرات بدت مرتبطة بمدة المحادثة الواحدة أكثر من ارتباطها بإجمالي الوقت الذي يقضيه المراهق في استخدام التطبيق.
OpenAI ترفض نتائج الدراسة
رفضت OpenAI تقييم Common Sense Media، وقالت إن اختبارات المنظمة لا تعكس بصورة دقيقة طريقة عمل إجراءات الحماية المخصصة للمراهقين في ChatGPT على أرض الواقع.
وأثارت الشركة أيضًا تساؤلات بشأن منهجية الدراسة، موضحة أن مراجعتها للاختبارات أظهرت أن الجزء الأكبر منها ربما بدأ وانتهى قبل اكتمال تفعيل بعض أدوات الرقابة الأبوية.
وترى OpenAI أن هذا العامل يمكن أن يؤثر في دقة النتائج التي توصلت إليها المنظمة.
وفي المقابل، لم توضح الشركة بصورة كاملة كيف تؤثر ملاحظاتها المتعلقة بالمنهجية على النتائج الخاصة بإشارات تشجيع التفاعل أو طبيعة العلاقة بين المستخدم والنموذج.
جدل أوسع حول تصميم الذكاء الاصطناعي للمراهقين
يتزامن هذا الجدل مع تدقيق متزايد في التقنيات المصممة لتعظيم الوقت الذي يقضيه المستخدمون الشباب أمام الشاشات.
كما بدأ مشرعون في الولايات المتحدة مناقشة القواعد التي تستهدف بعض الآليات المستخدمة في روبوتات المحادثة، بما في ذلك المكافآت والإشعارات والإعلانات المستهدفة التي قد تشجع المراهقين على التفاعل لفترات أطول.
ويعكس ذلك تحول النقاش حول سلامة الذكاء الاصطناعي من التركيز على المحتوى الضار فقط إلى دراسة كيفية تصميم العلاقة بين المستخدم وروبوت المحادثة، ومدى تأثير طريقة صياغة الردود على مدة الاستخدام والاعتماد على الخدمة.
اختلاف الأرقام بين OpenAI وCommon Sense Media
نشرت OpenAI في الوقت نفسه بياناتها الخاصة حول استخدام المراهقين لـChatGPT، وقالت إن متوسط استخدامهم للخدمة يقل عن 15 دقيقة يوميًا، وإن أقل من 2% منهم يقضون أكثر من ثلاث ساعات متواصلة في استخدامها.
وأضافت الشركة أنه في نحو نصف المحادثات التي ظهر خلالها تذكير بأخذ استراحة، أخذ المراهقون استراحة أو أنهوا المحادثة خلال خمس دقائق.
وتعكس هذه الأرقام اختلافًا واضحًا بين تقييم الشركة والنتائج التي توصلت إليها Common Sense Media، ما يجعل النقاش حول سلامة ChatGPT للمراهقين مرتبطًا ليس فقط بوجود أدوات الحماية، وإنما أيضًا بمدى فعاليتها وطريقة قياس نتائجها.
سلامة المراهقين أمام اختبار جديد
تكشف الدراسة عن تحدٍ يتجاوز مسألة منع المحتوى الخطير، إذ يتعلق بكيفية تعامل روبوتات المحادثة مع المستخدمين المراهقين عندما يتحول الاستخدام نفسه إلى مصدر للقلق.
ومع توسع استخدام الذكاء الاصطناعي بين الفئات الأصغر سنًا، أصبح تصميم أدوات الحماية، وإدارة مدة الاستخدام، وتشجيع التواصل مع البشر، والحد من الاعتماد العاطفي على روبوتات المحادثة، من أبرز الملفات المطروحة أمام شركات الذكاء الاصطناعي والمشرعين والأسر.
