إجراءات جديدة لحماية المستخدمين المراهقين
أعلنت شركة “Character.AI”، المتخصصة في تطوير روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، عن تحديث قواعد السلامة الخاصة بمنصتها، وذلك استجابة لدعاوى قضائية رفعتها عائلات مراهقين في الولايات المتحدة.
إجراءات أمان أكثر تحفظًا للمراهقين
في بيان أصدرته الشركة يوم الخميس، أوضحت أنها ستستخدم نموذجًا منفصلًا مخصصًا للمراهقين، يفرض قيودًا صارمة على الردود المتعلقة بالمحتوى الرومانسي أو الجنسي. كما ستضيف المنصة ميزات جديدة، مثل إشعارات للآباء حول وقت استخدام أبنائهم للمنصة وتنبيهات توضح أن روبوتات الدردشة ليست بشرًا حقيقيين.
الدعاوى القضائية المرفوعة ضد الشركة
تواجه “Character.AI” قضيتين بارزتين في الولايات المتحدة:
- الدعوى الأولى: رفعتها والدة مراهق في ولاية فلوريدا في أكتوبر الماضي، متهمة الشركة بالتسبب في وفاة ابنها البالغ من العمر 14 عامًا بعد أن “شجعه” روبوت الدردشة على الانتحار.
- الدعوى الثانية: رفعتها عائلتا مراهقين في تكساس الأسبوع الماضي، متهمتين المنصة بتوفير محتوى غير لائق لأبنائهما، بما في ذلك محتوى جنسي وتشجيع على إيذاء النفس والعنف.
خطوات لتحسين الأمان
ردًا على هذه القضايا، أوضحت “Character.AI” أنها أطلقت إجراءات جديدة تشمل:
- تنبيهات أقوى للمستخدمين: توضح أن روبوتات الدردشة ليست مخولة بتقديم مشورة مهنية، حتى إذا كانت تأخذ هيئة مهنيين مثل الأطباء النفسيين أو المعلمين.
- عناصر تحكم للآباء: ستكون متاحة العام المقبل، لتمكين الأهل من مراقبة استخدام أبنائهم للمنصة.
- إجراءات لدعم المستخدمين المهددين بإيذاء النفس: توجه المنصة هؤلاء المستخدمين إلى خدمات مختصة بمجرد اكتشاف نية الإيذاء.
ثغرات في التحقق من الأعمار
رغم هذه الإجراءات، أقرّت الشركة بعدم وجود آلية تحقق دقيقة من أعمار المستخدمين. إنشاء حساب على المنصة يتطلب فقط إدخال تاريخ الميلاد، دون أي وسيلة تحقق إضافية، مما يثير تساؤلات حول فعالية الضوابط الجديدة.
تحديات مستمرة أمام Character.AI
الإجراءات الأخيرة التي أعلنت عنها الشركة تُظهر التزامها بمحاولة معالجة المخاطر المرتبطة بمنصتها، إلا أن غياب آليات تحقق دقيقة من أعمار المستخدمين يظل تحديًا كبيرًا.
