اختبار يكشف محدودية أداة ميتا لرصد المحتوى المولد بالذكاء الاصطناعي
تعرضت Meta لانتقادات جديدة بعدما أظهرت اختبارات أن أداة الشركة المخصصة لاكتشاف الصور المُنشأة بالذكاء الاصطناعي أخفقت في التعرف على عدد كبير من الصور التي تم إنتاجها بواسطة نموذج الذكاء الاصطناعي التابع لها.
وجاء ذلك بالتزامن مع إطلاق الشركة أداتي “Muse Image” و”Muse Video” لتوليد الصور ومقاطع الفيديو باستخدام الأوامر النصية، في إطار المنافسة المتصاعدة بين شركات التكنولوجيا الكبرى في قطاع الذكاء الاصطناعي التوليدي.
نظام Content Seal والعلامات المائية غير المرئية
كشفت ميتا بالتوازي مع إطلاق أدواتها الجديدة عن نظام “Content Seal”، وهو تقنية تعتمد على إضافة علامات مائية رقمية غير مرئية داخل الصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي.
وتهدف هذه التقنية إلى تسهيل التحقق من مصدر الصور وتمييز المحتوى الذي تم إنتاجه آليًا عن الصور الحقيقية، حتى في حال تعديل الصورة أو إعادة مشاركتها عبر الإنترنت.
رويترز: الأداة نجحت في اكتشاف 45% فقط من الصور
وفقًا لتحليل أجرته وكالة رويترز، خضعت 40 صورة مولدة بواسطة نموذج “Muse Image” للاختبار باستخدام أداة الكشف الخاصة بميتا.
وأظهرت النتائج أن الأداة تمكنت من التعرف على 45% فقط من الصور باعتبارها محتوى مولدًا بالذكاء الاصطناعي، بينما فشلت في اكتشاف النسبة المتبقية بعد إجراء تعديلات بسيطة عليها، مثل اقتصاص أجزاء من الصورة الأصلية.
اقتصاص الصور يربك نظام الكشف
أوضح التقرير أن الأداة واجهت صعوبة كبيرة عندما تم تقليص الصور إلى نحو ثلث أو ربع حجمها الأصلي، حيث فقدت القدرة على التعرف على العلامات المائية الرقمية المدمجة داخلها.
ويُعد ذلك تناقضًا مع ما تؤكد عليه ميتا بشأن قدرة نظام Content Seal على الحفاظ على العلامات المائية حتى بعد ضغط الصور أو تغيير أبعادها أو التقاط لقطات شاشة لها.
ميتا: الأداة ما زالت في المرحلة التجريبية
ردًا على نتائج الاختبار، أكدت ميتا أن أداة الكشف لا تزال في مرحلة تجريبية، مشيرة إلى أنها قد لا تعمل بكفاءة عندما تتعرض الصور لعمليات اقتصاص كبيرة تؤثر على البيانات المضمنة داخلها.
كما أوضحت الشركة أن أداة الكشف الخاصة بها لا تستطيع التعرف على الصور المنتجة بواسطة نماذج ذكاء اصطناعي تابعة لشركات أخرى، إذ صُممت أساسًا للتعامل مع المحتوى الصادر عن أنظمة ميتا.
منافسة بين ميتا وجوجل في تقنيات التحقق من المحتوى
لا تُعد ميتا الوحيدة التي تطور تقنيات لتتبع المحتوى المُنشأ بالذكاء الاصطناعي، إذ تمتلك Google نظامًا مشابهًا يحمل اسم SynthID.
ويستخدم هذا النظام علامات مائية رقمية غير مرئية داخل الصور المنتجة بواسطة أدوات الذكاء الاصطناعي، كما تبنته جهات أخرى من بينها OpenAI في بعض تطبيقاتها.
وبذلك يمكن التعرف على الصور التي يتم إنشاؤها عبر ChatGPT أو Gemini من خلال أدوات الكشف المعتمدة على تقنية SynthID.
هل يمكن الاعتماد على أنظمة كشف المحتوى بالكامل؟
رغم التطور المستمر في تقنيات التحقق من المحتوى، تؤكد الشركات المطورة أن هذه الأنظمة ليست دقيقة بنسبة 100%، خاصة عند تعرض الصور لتعديلات كبيرة أو عند استخدام أدوات تحرير متقدمة.
ويبرز هذا التحدي أهمية مواصلة تطوير تقنيات التحقق الرقمي، في ظل الزيادة السريعة في إنتاج الصور والفيديوهات المولدة بالذكاء الاصطناعي، وما يرافقها من مخاوف تتعلق بالمصداقية والتضليل الرقمي.
