SynthID للكشف عن المحتوى وتجنب التزييف
أطلقت جوجل أداة “SynthID” لتحديد النصوص المكتوبة بواسطة الذكاء الاصطناعي وتمييزها عن تلك المكتوبة بشريًا، حيث أصبحت متاحة الآن لجميع المستخدمين.
وتشكل هذه الأداة جزءًا من منظومة أكبر للعلامات المائية المصممة لحماية مخرجات الذكاء الاصطناعي، وذلك للمساعدة في الحد من إساءة استخدام تقنيات الدردشة الآلية، وتجنب نشر المعلومات المغلوطة أو الغش في البيئة التعليمية والمهنية.
دور العلامات المائية في تعزيز موثوقية المحتوى
يقول بوشميت كوهلي، نائب رئيس قسم الأبحاث في “ديب مايند”، أن SynthID ليست الحل النهائي لرصد المحتوى المنشأ بواسطة الذكاء الاصطناعي، لكنها خطوة أولى لتطوير أدوات موثوقة تساهم في تعزيز سلامة المعلومات المنشورة. وقد أعرب باحثون عن تفاؤلهم بتوجه شركات أخرى، مثل OpenAI وAnthropic، لتبني أدوات مماثلة لتعزيز شفافية نماذج اللغات الذكية.
SynthID في برامج وتطبيقات الذكاء الاصطناعي
طرحت جوجل العام الماضي تقنية مماثلة لوضع علامات مائية على الصور، وأتبعتها بنسخة للفيديوهات المنشأة بواسطة الذكاء الاصطناعي. في مايو الماضي، أضافت العلامة المائية للنصوص التي تنتجها نماذجها، مثل “Gemini”، وأتاحتها على منصة Hugging Face، لتصبح مرجعًا مفتوحًا يسهل الوصول إليه لدعم الذكاء الاصطناعي.
نتائج الأبحاث حول كفاءة SynthID
نشرت “ديب مايند” دراسة علمية في مجلة “نيتشر” توضح فعالية أداة SynthID مقارنة بأدوات العلامات المائية الأخرى المستخدمة مع الذكاء الاصطناعي، حيث تبين أن SynthID يوفر مستوى عالٍ من الكفاءة في الكشف عن محتوى النصوص المنشأة. وتعمل الأداة بإضافة علامة مائية غير مرئية إلى النص دون التأثير على جودته أو دقته أو سرعة إنتاجه، وذلك بعد اختبارها في ملايين النصوص الصادرة عن نموذج “Gemini”.
