تقييم منظمة كومن سينس ميديا
أصدرت منظمة كومن سينس ميديا غير الربحية تقريرًا يحذر من مخاطر استخدام منتجات ذكاء جيميني من جوجل على الأطفال والمراهقين، مشيرة إلى أن النسختين الموجهتين لهم تعتمد أساسًا على نسخة البالغين مع بعض ميزات الأمان فقط، وهو ما يجعلها قادرة على مشاركة محتوى غير مناسب وغير آمن مثل معلومات عن المخدرات والكحول ونصائح صحية نفسية غير آمنة، مما قد يعرضهم للخطر ويثير قلق الأهل خاصة بعد تقارير عن حالات انتحار مرتبطة باستخدام روبوتات الدردشة.
أهمية تصميم منتجات الذكاء الاصطناعي مع مراعاة سلامة الأطفال
وأكد التقرير أن تصميم منتجات الذكاء الاصطناعي يجب أن يأخذ سلامة الأطفال في الاعتبار منذ البداية، لكن رغم بعض أدوات السلامة، صنفت المنظمة النسختين للأطفال والمراهقين على أنهما عاليتا المخاطر.
رد جوجل على التقرير
وردًا على التقرير، أكدت شركة غوغل أنها أضافت إجراءات حماية إضافية لمعالجة المشكلات في استجابات جيميني، ووضعت سياسات لضمان منع ظهور محتوى ضار للمستخدمين دون سن 18، واستعانت بفرق اختبار متخصصة وخبراء خارجيين لتعزيز الحماية، مشيرة إلى أن ميزات السلامة في تحسن مستمر، لكنها اعترفت بوجود بعض المشكلات.
تحذير إضافي بخصوص استخدام جيميني في منتجات أخرى
كما لفت التقرير إلى أن أبل تخطط لاستخدام جيميني في مساعدها الصوتي سيري القادم، مما قد يعرض المزيد من المراهقين لمخاطر إضافية إذا لم تُتخذ إجراءات صارمة لضمان سلامتهم.
