أعلنت هيئة الاتصالات والوسائط المتعددة الماليزية (MCMC) فرض حظر مؤقت على روبوت الدردشة «Grok» التابع لشركة xAI، عقب رصد حالات متكررة من إساءة استخدام الأداة داخل البلاد، مشيرة إلى فشل منصة X (تويتر سابقًا) في تطبيق تدابير حماية فعّالة للحد من التلاعب بالصور وانتهاك الخصوصية الرقمية.
استغلال خاصية تعديل الصور
وأوضحت الهيئة أن إحدى خصائص Grok، التي تتيح تعديل الصور المنشورة علنًا، استُغلت من قبل بعض المستخدمين لإنتاج محتوى خادش للحياء وصور مُعدلة دون موافقة أصحابها، معتبرة أن هذه الممارسات تمثل تهديدًا مباشرًا للسلامة الرقمية، لا سيما عندما تستهدف النساء والأطفال.
تحذيرات متكررة دون استجابة كافية
وأكدت MCMC أنها وجهت إخطارين رسميين إلى كل من منصة X وشركة xAI في 3 و8 يناير، دعت خلالهما إلى تطبيق إجراءات تقنية صارمة وأنظمة رقابة استباقية للحد من المخاطر. إلا أن استجابة المنصة، بحسب الهيئة، اقتصرت على آليات الإبلاغ من المستخدمين دون معالجة جوهرية لقدرة الأداة على توليد محتوى جنسي غير لائق بصورة واقعية.
قصور في ضوابط السلامة الرقمية
وشددت الهيئة على أن الحلول المقدمة لا تعالج المخاطر الأساسية المرتبطة بأدوات الذكاء الاصطناعي القادرة على إنتاج محتوى مُتلاعب به، مؤكدة أن الاعتماد على التبليغ اللاحق غير كافٍ في ظل سرعة انتشار هذا النوع من المحتوى وتأثيره النفسي والاجتماعي على الضحايا.
حظر مؤقت بشروط واضحة
وأوضحت MCMC أن قرار الحظر المؤقت يهدف إلى حماية المجتمع والحفاظ على كرامة الأفراد وأمنهم في الفضاء الرقمي، مشيرة إلى أن رفع الحظر مرهون بالتزام الشركة المالكة بتنفيذ إجراءات وقائية واضحة وفعّالة تمنع إساءة الاستخدام مستقبلًا.
ويعكس القرار الماليزي تصاعد الضغوط التنظيمية عالميًا على شركات الذكاء الاصطناعي، في ظل مطالبات متزايدة بوضع أطر قانونية وتقنية تضمن الاستخدام الآمن لهذه الأدوات، ومنع تحولها إلى وسيلة لانتهاك الخصوصية أو الإساءة للأفراد تحت غطاء التكنولوجيا المتقدمة.
