تواجه شركة «ميتا» انتقادات بسبب انتشار مقاطع فيديو مولدة بالذكاء الاصطناعي على منصتي «فيسبوك» و«إنستجرام»، تظهر أطفالًا صغارًا في مواقف إنسانية مؤثرة، وهم يبكون ويتوسلون لتجنب الاعتقال أو الحصول على الطعام، بهدف دفع المستخدمين إلى الإعجاب والتعليق والمتابعة.
وتثير هذه المقاطع مخاوف بشأن استغلال المشاعر الإنسانية لتحقيق التفاعل، فضلًا عن تساؤلات حول سياسات الإشراف على المحتوى الذي تنتجه تقنيات الذكاء الاصطناعي، خاصة عندما يقدم مشاهد خيالية باعتبارها أحداثًا حقيقية.
فيديوهات الذكاء الاصطناعي تستغل مشاعر المستخدمين
وفقًا لتقرير نشره موقع «فيوتشرزم»، تنتشر على منصات التواصل الاجتماعي مقاطع مصطنعة تعتمد على مواقف عاطفية صادمة لجذب الانتباه، من بينها مشاهد لأطفال جائعين يتعرضون لمواقف تهديد أو إساءة معاملة.
وتتنوع هذه المواد بين مقاطع تستهدف إثارة التعاطف مع أطفال يظهرون في ظروف معيشية قاسية، وأخرى تتضمن محتوى عنيفًا أو تحريضًا ضد الأقليات، لكنها تشترك في توظيف المشاعر القوية لدفع المستخدمين إلى التفاعل، بما قد يحقق مزيدًا من الانتشار لأصحاب الحسابات التي تنشرها.
ويشير التقرير إلى أن انتشار هذا النوع من المحتوى يثير تساؤلات بشأن قدرة المنصات على اكتشاف المقاطع المضللة والتعامل معها، خصوصًا مع سهولة إنتاج الفيديوهات باستخدام أدوات الذكاء الاصطناعي.
ميتا تحذف حسابات بعد تلقي شكاوى بشأن المقاطع
ذكر التقرير أن موقع «فيوتشرزم» تواصل مع شركة «ميتا» بشأن عدد من مقاطع الفيديو المحددة، وطلب توضيح ما إذا كان المحتوى الذي يظهر أطفالًا يبكون ويتوسلون للحصول على الإعجابات والمتابعات يخالف سياسات المنصة.
وبحسب التقرير، طلب متحدث باسم الشركة مزيدًا من الوقت للرد على الاستفسارات، قبل أن تؤكد «ميتا» إزالة رابطين من بين ثلاثة روابط أُرسلت إليها، فيما ظل الحساب الثالث متاحًا، رغم احتوائه على مقاطع مشابهة.
وقال المتحدث باسم الشركة إن «ميتا» ستزيل أي محتوى يخالف سياساتها، سواء أكان منشأً بالذكاء الاصطناعي أم من إنتاج أشخاص، لكنه لم يقدم توضيحًا محددًا بشأن مدى مخالفة المقاطع محل الشكوى لقواعد المنصة.
وتسلط الواقعة الضوء على التحديات التي تواجه شركات التكنولوجيا في تحديد المحتوى المضلل أو المستغل للمشاعر، والتمييز بين المقاطع التي تنتهك السياسات وتلك التي لا تستوجب الحذف وفق القواعد المعمول بها.
أطفال افتراضيون وتعليقات تتعامل مع المشاهد باعتبارها حقيقية
يعرض أحد المقاطع طفلًا صغيرًا يحمل كيسًا من الفاكهة، قبل أن يوقفه شرطي ويبدأ الطفل في التوسل إليه، موضحًا أن الطعام مخصص لجدته الجائعة، ثم يوجه الضابط سؤالًا إلى المشاهدين يدعوهم فيه إلى الإعجاب والتعليق والمتابعة.
ويعتمد هذا الأسلوب على وضع المستخدم أمام موقف إنساني مؤثر، ثم ربط التفاعل مع الفيديو بمحاولة إنقاذ الطفل أو مساعدته، رغم أن المشهد مولد بالكامل باستخدام الذكاء الاصطناعي.
ووفقًا للتقرير، تمتلئ التعليقات أسفل بعض هذه المقاطع برسائل تطالب بإنقاذ الأطفال أو السماح لهم بالحصول على الطعام، بما يشير إلى أن بعض المستخدمين يتعاملون مع المشاهد باعتبارها وقائع حقيقية، ولا يدركون أنها محتوى مصطنع.
ومن بين التعليقات التي أوردها التقرير عبارات تطالب بترك الطفل يأكل الخبز، وأخرى تناشد الشرطة عدم اعتقاله، وهو ما يوضح كيف يمكن للمشاهد المصطنعة أن تستثير استجابات عاطفية حقيقية لدى الجمهور.
مزارع المحتوى تزيد مخاطر التضليل عبر منصات التواصل
يرى التقرير أن مقاطع الأطفال المولدة بالذكاء الاصطناعي تمثل أحد أشكال المحتوى الذي يستغل التعاطف لتحقيق الانتشار، في إطار ما يعرف بمزارع المحتوى، التي تعتمد على إنتاج مواد بكميات كبيرة لجذب المشاهدات والتفاعلات.
وتزداد المخاوف مع تطور أدوات إنشاء الصور والفيديوهات، التي تتيح إنتاج مشاهد واقعية ظاهريًا دون الحاجة إلى تصوير أحداث حقيقية، وهو ما يجعل التحقق من مصدر المحتوى أكثر أهمية بالنسبة إلى المستخدمين والمنصات على حد سواء.
كما يثير انتشار هذه المقاطع تساؤلات بشأن مسؤولية شركات التكنولوجيا عن الحد من التضليل الرقمي، وضرورة تطوير آليات أكثر فاعلية لرصد المحتوى المصطنع الذي يوظف معاناة الأطفال أو غيرهم من الفئات الضعيفة لتحقيق مكاسب من التفاعل.
وتؤكد الواقعة أهمية تعزيز الشفافية في التعامل مع المحتوى المولد بالذكاء الاصطناعي، وتوضيح طبيعته للمستخدمين، إلى جانب تطبيق سياسات المنصات بصورة فعالة، بما يحد من استغلال المشاعر الإنسانية ونشر مشاهد مضللة عبر شبكات التواصل الاجتماعي.
