أزمة روبوت الدردشة جروك
واجه روبوت الدردشة جروك، التابع لشركة xAI وإيلون ماسك، انتقادات واسعة وتهديدات بإجراءات حكومية بعد إنتاجه صورًا غير لائقة، تشمل قاصرين، على منصة إكس استجابةً لطلبات المستخدمين.
وبدأت السلطات الماليزية، تحقيقًا بعد تلقي شكاوى حول إساءة استخدام الذكاء الاصطناعي لإنتاج محتوى مسيء وضار.
وأكدت الهيئة الماليزية للاتصالات، أن نشر هذا النوع من المحتوى يُعد جريمة بموجب القانون المحلي، وأنها ستستدعي ممثلين عن الشركة وتحقق مع المستخدمين المخالفين.
تحركات الهند وفرنسا
الهند طالبت بإجراء مراجعة شاملة لجروك لضمان عدم إنشاء محتوى غير لائق أو غير قانوني، وحددت 72 ساعة لتقديم تقرير بالإجراءات المتخذة، محذرة من إمكانية اتخاذ إجراءات قانونية صارمة.
فرنسا اتهمت جروك بإنتاج محتوى غير قانوني، محتمل أن ينتهك قانون الخدمات الرقمية للاتحاد الأوروبي، والذي يُلزم المنصات بالحد من مخاطر المحتوى غير القانوني.
خلل في إجراءات الحماية والاستجابة
الصور المخالفة انتهاك صريح لسياسة الاستخدام المقبول لجروك، التي تحظر الطابع الجنسي على الأطفال. وبعض الصور أُزيلت، فيما نشرت الشركة ردًا مقتضبًا على الإعلام: “أكاذيب الإعلام التقليدي”.
جروك أقر بوجود “ثغرات في إجراءات الحماية” وأكد العمل على إصلاحها بشكل عاجل.
سبب انتشار الأزمة
الطلب على إنشاء صور وتعديلها جنسيًا للنساء والأطفال تزايد عالميًا بعد إضافة المنصة ميزة تعديل الصور قبل عيد الميلاد. وقد سلطت الأزمة الضوء على الحاجة إلى لوائح تنظيمية صارمة لمنصات التواصل الاجتماعي فيما يتعلق بالمحتوى الذي يُنشئه الذكاء الاصطناعي.
