اختبار جديد يضع ميزات جوجل الذكية تحت المجهر
واجهت ميزات الذكاء الاصطناعي المدمجة في محرك بحث جوجل انتقادات واسعة بعد حصولها على أدنى تصنيف ممكن في تقييم مستقل لسلامة الأطفال، ما أثار تساؤلات جديدة حول جاهزية هذه التقنيات للاستخدام من قبل الفئات العمرية الصغيرة.
وشمل التقييم ميزتي AI Overviews وAI Mode اللتين تعتمد عليهما غوغل لتقديم إجابات مدعومة بالذكاء الاصطناعي مباشرة داخل نتائج البحث.
تصنيف “مخاطر غير مقبولة” لميزات البحث الذكية
أجرى معهد سلامة الذكاء الاصطناعي للشباب التابع لمنظمة كومن سينس ميديا اختبارًا شاملًا باستخدام حسابات أطفال حقيقية لتقييم المخاطر المحتملة لهذه الخدمات.
وأظهرت النتائج أن جوجل فشلت في سبعة من أصل ثمانية معايير أساسية للسلامة، ما دفع الجهة المنظمة إلى منحها تصنيف “مخاطر غير مقبولة”، وهو أسوأ تقييم يمكن أن تحصل عليه أي خدمة ضمن هذا النوع من الاختبارات.
صعوبة تجنب استخدام المزايا داخل البحث
على عكس تطبيقات وروبوتات الدردشة المستقلة، تظهر ميزتا AI Overviews وAI Mode تلقائيًا ضمن نتائج البحث للمستخدمين.
وأشار التقرير إلى أن الآباء أو المدارس أو حتى الأطفال أنفسهم لا يملكون خيارًا مباشرًا لتعطيل هذه المزايا، ما يزيد من أهمية التأكد من سلامتها قبل تعميم استخدامها على نطاق واسع.
إخفاق في التعامل مع مؤشرات الأزمات النفسية
كشف الاختبار عن إخفاقات تتعلق بالتعامل مع حالات قد تشير إلى أزمات نفسية أو أفكار انتحارية أو اضطرابات ذهانية.
وفي إحدى الحالات، عندما عبّر أحد المستخدمين عن شعوره بأنه يمثل عبئًا على الآخرين، اقترحت إحدى الميزات إعداد “جهة اتصال للإرث” الخاصة بإدارة الحساب بعد الوفاة، بدلاً من توجيهه إلى موارد المساعدة أو الدعم النفسي.
ورأى الباحثون أن مثل هذه الاستجابات قد تمثل خطرًا في الحالات الحساسة التي تتطلب تدخلاً أكثر دقة ووعيًا بالسياق.
تقديم معلومات مثيرة للجدل للمستخدمين
أظهر التقييم أيضًا أن بعض الردود أثارت مخاوف إضافية، حيث قدمت الميزات تعليمات تفصيلية حول إنشاء مقاطع التزييف العميق واستنساخ الأصوات عند سؤالها عن هذه التقنيات.
كما سجل الباحثون حالات أخرى قدمت فيها الخدمة معلومات غير محدثة، من بينها توجيه بعض المستخدمين إلى خطوط دعم للأزمات لم تعد تعمل أو توقفت خدماتها.
AI Mode يتفوق نسبيًا على AI Overviews
رغم الانتقادات، أشار التقرير إلى أن ميزة AI Mode قدمت أداءً أفضل مقارنة بميزة AI Overviews في اكتشاف المؤشرات التحذيرية والتعامل مع بعض المواقف الحساسة.
ويرى الباحثون أن ذلك يشير إلى امتلاك غوغل تقنيات أكثر تطورًا في مجال السلامة، لكنها لم تُطبق بنفس المستوى على جميع خدماتها المدعومة بالذكاء الاصطناعي.
مخاوف من تأثير الذكاء الاصطناعي على التعليم
لم تقتصر الملاحظات على الجوانب النفسية والأمنية، إذ أظهر الاختبار أن ميزة AI Mode تمكنت من إنجاز جميع الواجبات الدراسية التي قدمها الباحثون بنسبة نجاح كاملة.
وأثار ذلك مخاوف بشأن اعتماد الطلاب على الذكاء الاصطناعي في أداء المهام المدرسية دون تطوير مهارات التفكير والتحليل، خاصة مع انتشار أجهزة Chromebook داخل المدارس والمؤسسات التعليمية.
تحديات جديدة أمام جوجل
تسلط نتائج الاختبار الضوء على التحديات المتزايدة التي تواجه شركات التكنولوجيا عند دمج الذكاء الاصطناعي في الخدمات المستخدمة يوميًا من قبل ملايين الأطفال والمراهقين.
ومع توسع استخدام أدوات الذكاء الاصطناعي في البحث والتعليم والتواصل، تتزايد الدعوات إلى تعزيز معايير الأمان والرقابة لضمان تقديم تجربة أكثر موثوقية وحماية للفئات العمرية الصغيرة.
