كشفت تقارير حديثة عن اتساع نطاق أزمة التزييف العميق المرتبطة بروبوت الدردشة جروك، المدمج في منصة إكس، بعد اتهامه بإنتاج كميات ضخمة من الصور ذات الطابع الإباحي خلال فترة زمنية قصيرة، ما أثار موجة واسعة من الانتقادات والتحقيقات الرسمية.
تقارير دولية تكشف إنتاج جروك 3 ملايين صورة جنسية خلال 11 يومًا
وبحسب تقرير صادر عن مركز مكافحة الكراهية الرقمية وتحقيق مشترك مع صحيفة نيويورك تايمز، تمكن غروك من توليد ما يقرب من 3 ملايين صورة إباحية خلال 11 يومًا فقط، بين 29 ديسمبر و8 يناير، من بينها نحو 23 ألف صورة يُحتمل أن تتضمن قاصرين، رغم تعهدات شركة xAI بتشديد ضوابط الأمان.
وأظهرت اختبارات أجراها المركز على أداة التحرير السريع في غروك، المتاحة لمستخدمي منصة إكس، أن أكثر من نصف الردود احتوت على محتوى جنسي، وفقًا لتقرير نشره موقع Mashable المتخصص في شؤون التكنولوجيا.
كما أشارت نيويورك تايمز إلى أن نحو 1.8 مليون صورة من أصل 4.4 مليون صورة تم إنشاؤها عبر غروك كانت ذات طبيعة جنسية، بما في ذلك صور مفبركة لشخصيات عامة ومؤثرين، وربطت الصحيفة هذا الارتفاع اللافت بازدياد التفاعل مع منشورات للرئيس التنفيذي لإكس، إيلون ماسك.
تحقيقات حكومية وضغوط متزايدة على شركة xAI ومنصة إكس
وقال عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، إن ما يحدث يمثل “إساءة ممنهجة للنساء والفتيات على نطاق غير مسبوق”، مؤكدًا أن سهولة استخدام غروك ودمجه في منصة كبرى ضاعف من حجم الضرر مقارنة بالأدوات السابقة.
وفي أعقاب تقارير عن إنتاج صور لقاصرين بملابس فاضحة، أقرت منصة إكس بوجود ثغرات في أنظمة الحماية، معلنة العمل على معالجتها بشكل عاجل. وفي الوقت نفسه، تخضع شركة xAI لتحقيقات من عدة حكومات، من بينها ولاية كاليفورنيا، بينما لجأت بعض الدول إلى حظر مؤقت للمنصة لحين انتهاء التحقيقات.
ويحذر خبراء السلامة الرقمية من أن الذكاء الاصطناعي التوليدي بات يشكل خطرًا متزايدًا في نشر المحتوى الجنسي غير الرضائي واستغلال الأطفال، في ظل تطور الأدوات وسهولة الوصول إليها.
