خلصت وكالة رويترز إلى أن روبوت الدردشة المدعوم بالذكاء الاصطناعي «جروك» التابع لشركة إكس ما زال يولد صورًا فاضحة للأشخاص حتى عندما يُحذر بوضوح من أن أصحاب الصور لم يمنحوا موافقة على ذلك، وذلك بالرغم من القيود الجديدة التي أعلنت عنها الشركة محاولةً للحد من هذا النوع من المحتوى.
اختبارات «رويترز» تكشف استمرار إنتاج «جروك» صورًا فاضحة
قام تسعة مراسلين من رويترز – ستة رجال وثلاث نساء في الولايات المتحدة وبريطانيا – بإجراء سلسلة من التجارب على روبوت «جروك».
وزوّد المراسلون الروبوت بصور لهم وهم يرتدون ملابس كاملة، ثم طلبوا منه تعديل هذه الصور لإظهارهم في أوضاع جنسيّة مثيرة أو مهينة، وحتى بعد تنبيهات واضحة بأن هذه الصور قد تسبب أذى أو إساءة أو تعرض الأشخاص للخطر.
النتائج أظهرت أن «جروك» استجاب لإنتاج صور فاضحة في 45 حالة من أصل 55 في المجموعة الأولى من الأوامر، رغم التحذيرات الواضحة في 31 حالة منها، وفي 17 حالة تم إنتاج الصور حتى بعد توضيح أن الهدف منها هو إهانة الشخص المعني.
وعند إجراء مجموعة اختبار ثانية بعد خمسة أيام، أنتج «جروك» صورًا فاضحة في 29 من أصل 43 أمرًا، لكن رويترز لم تتمكن من تحديد ما إذا كان هذا التراجع في الاستجابة ناتجًا عن تغييرات في النموذج أو في سياسات المحتوى أو مجرد تفاوت عشوائي.
قيود «إكس» على المحتوى ورد الشركة
واجهت «إكس» موجة غضب عالمية بعد قيام «جروك» بإنتاج كم كبير من الصور الفاضحة لنساء وبعض الأطفال دون موافقة أصحابها. كرد فعل، أعلنت الشركة عن قيود جديدة على قدرات «جروك» لإنتاج هذا النوع من الصور داخل المنشورات المفتوحة على منصة «إكس»، بالإضافة إلى فرض قيود إضافية في ولايات قضائية لم تُحدد بعد “حيث يكون هذا المحتوى غير قانوني”.
ورغم الطلبات المتكررة من رويترز للحصول على توضيحات مفصلة، لم ترد كل من «إكس» و«إكس إيه آي» – الشركة التي تشغل «جروك» – على الأسئلة، مكتفية بردود نمطية تقول:
«وسائل الإعلام التقليدية تكذب».
تباين ردود فعل السلطات العالمية
رحّبت بعض الحكومات والهيئات في دول مثل بريطانيا والفلبين وماليزيا بالإعلان العام لشركة «إكس» عن القيود، وقد قامت بعض السلطات بتعديل القيود المفروضة على استخدام «جروك».
في المقابل، كانت المفوضية الأوروبية أكثر حذرًا، وأعلنت في 26 يناير (كانون الثاني) عن فتح تحقيق رسمي في القضية، مؤكدة أنها ستقيّم التغييرات التي أعلنت عنها الشركة بعناية.
ما الذي كشفته هذه التجارب؟
تجارب رويترز تكشف أن روبوت «جروك» لا يزال قادرًا على إنتاج محتوى فاضح حتى في ظل سياسات معلنة لفرض قيود على ذلك، وأن التحذيرات الصريحة من عدم الموافقة أو من الأذى المحتمل لا تكفي دائمًا لوقف الروبوت عن تنفيذ هذه الأوامر.
