طور باحثون في University of California, Riverside أداة جديدة تحمل اسم SAGA، قادرة على اكتشاف مقاطع الفيديو المُولدة بالذكاء الاصطناعي، مع تحديد النموذج الذي استخدم في إنشائها، في خطوة تهدف إلى مواجهة تزايد انتشار المحتوى المزيف على الإنترنت.
وجاء تطوير الأداة بقيادة الباحث Rohit Kundu، بالتعاون مع الأستاذ Amit K. Roy-Chowdhury، وبمشاركة باحثين من YouTube وGoogle DeepMind.
كيف تعمل أداة SAGA؟
تعتمد SAGA، وهي اختصار لعبارة Source Attribution of Generative AI Videos، على تحليل أنماط بصرية دقيقة تتركها نماذج الذكاء الاصطناعي أثناء إنتاج الفيديوهات.
ويصف الباحثون هذه الأنماط بأنها أشبه بـ”البصمة الرقمية”، إذ يمتلك كل نموذج خصائص مميزة تظهر في طريقة إنشاء الصور، وتحريك العناصر، والانتقال بين الإطارات، ما يسمح بالتعرف على مصدر الفيديو بدقة.
كما تعتمد الأداة على تقنية Temporal Attention Signatures، التي تحلل تطور المشاهد عبر تسلسل الإطارات، بدلاً من فحص كل إطار بصورة منفصلة، لتكوين ملف مميز لكل نموذج اعتمادًا على الأنماط المشتركة في عدد كبير من الفيديوهات.
اختبارات ناجحة على 19 نموذجًا مختلفًا
خضع نظام SAGA لاختبارات شملت 19 نموذجًا مختلفًا لتوليد الفيديو بالذكاء الاصطناعي، تضمنت نماذج تحويل النص إلى فيديو (Text-to-Video)، وأخرى تعتمد على تحويل الصور إلى فيديو (Image-to-Video).
وأظهرت النتائج قدرة الأداة على تنفيذ عدة مهام، أبرزها:
- التحقق مما إذا كان الفيديو حقيقيًا أو مولدًا بالذكاء الاصطناعي.
- تحديد ما إذا كان الفيديو أُنتج انطلاقًا من نص أو صورة.
- التعرف على نموذج الذكاء الاصطناعي المستخدم في إنشاء الفيديو.
- تحديد الجهة أو فريق التطوير المسؤول عن بناء النموذج.
دعم جهود مكافحة التضليل الرقمي
يرى فريق البحث أن الاكتفاء بوصف الفيديو بأنه “مزيف” لم يعد كافيًا في ظل التطور الكبير الذي تشهده تقنيات الذكاء الاصطناعي التوليدي.
ويساعد تحديد مصدر الفيديو في تتبع حملات التضليل الرقمي، كما يوفر للجهات التنظيمية وشركات التكنولوجيا أدوات أكثر فاعلية لتطبيق معايير الشفافية، وفهم آليات انتشار المحتوى المزيف عبر المنصات الرقمية.
سباق مستمر بين التزييف وتقنيات الكشف
أكد الباحثون أن تطوير أدوات كشف المحتوى المزيف سيظل سباقًا مفتوحًا مع التطور المستمر في تقنيات توليد الفيديو بالذكاء الاصطناعي، إلا أنهم يرون أن أدوات مثل SAGA ستزيد من صعوبة إخفاء مصدر الفيديوهات المزيفة، حتى مع تحسن جودة المحتوى الذي تنتجه النماذج الحديثة.
ومن المتوقع أن تسهم هذه التقنيات في تعزيز موثوقية المحتوى الرقمي، ودعم جهود مكافحة التضليل، عبر توفير وسائل أكثر دقة لتحديد مصدر الفيديوهات التي يتم إنتاجها باستخدام الذكاء الاصطناعي.
