أعلنت شركة OpenAI، الرائدة في مجال الذكاء الاصطناعي، عن إطلاق أدوات رقابة أبوية جديدة لتطبيق ChatGPT، ضمن جهودها لحماية الأطفال والمراهقين من التعرض للمحتويات غير اللائقة أو الخطرة.
دوافع إطلاق الخاصية
جاءت هذه الخطوة بعد حادثة مأساوية لانتحار مراهق وثق بردود أحد روبوتات الدردشة، بالإضافة إلى تزايد المطالب بتعزيز إجراءات الأمان للقصر على منصات الذكاء الاصطناعي.
ربط حسابات المراهقين بحسابات الآباء
تتيح الأدوات الجديدة للوالدين أو الأوصياء إمكانية ربط حساباتهم بحسابات أبنائهم المراهقين من خلال إرسال دعوة ليقبلها الطرف الآخر. بعد اكتمال الربط:
- تتاح لوحة تحكم للوالدين لإدارة إعدادات حساب المراهق.
- يُرسل إشعار فوري للوالد في حال قام القاصر بإلغاء الربط.
- يمكن للوالدين تقييد بعض الخصائص أو تعطيلها بالكامل.
أبرز الخصائص الجديدة
- ميزة ساعات الهدوء: تحديد أوقات يمنع فيها استخدام التطبيق.
- التحكم في الوضع الصوتي والذاكرة: تمكين أو تعطيل هذه الخيارات وفقًا لاحتياجات العائلة.
- إزالة ميزة إنشاء الصور: لمنع الوصول إلى المحتوى البصري غير المناسب.
- إلغاء الاشتراك في تدريب النموذج: لضمان عدم استخدام محادثات المراهقين في تحسين نماذج الشركة.
حماية افتراضية للمراهقين
جميع الحسابات المرتبطة تحصل تلقائيًا على إعدادات أمان مشددة تشمل:
- تقليل ظهور المحتويات الصريحة أو العنيفة أو الجنسية.
- الحد من الألعاب والأدوار الرومانسية أو التحديات الفيروسية الخطيرة.
- منع تعديل هذه الإعدادات من قبل القاصر، بينما يمكن للوالدين تعطيلها أو تعديلها.
نظام تنبيهات لمواجهة الأزمات النفسية
ابتكرت OpenAI آلية إشعارات للأهل عند رصد علامات محتملة على ضيق عاطفي أو التفكير في إيذاء النفس لدى المراهقين، حيث:
- تُرسل الرسائل إلى فريق مراجعين بشريين يتواصل مع الأهل عبر البريد الإلكتروني أو الرسائل النصية أو التنبيهات الفورية.
- يمكن للوالدين تعطيل هذه الخاصية إذا رغبوا.
التوسع المستقبلي
- الأدوات متاحة حاليًا لمستخدمي ChatGPT عبر الويب عالميًا.
- هناك خطط لتوسيعها لتشمل تطبيقات الهواتف الذكية، بينما لم يُحدد موعد لتطبيقات سطح المكتب.
- تعمل OpenAI على نظام تقدير أعمار المستخدمين تلقائيًا لتطبيق الضوابط المناسبة للأطفال دون سن 18 عامًا.
رؤية مستقبلية للأمان الرقمي
تسعى OpenAI من خلال هذه الخطوة إلى ترسيخ مكانتها كشركة مسؤولة، لا تكتفي بتطوير الذكاء الاصطناعي، وإنما تلتزم أيضًا بحماية الفئات الأكثر عرضة للمخاطر الرقمية، وخاصة الأطفال والمراهقين.
