أطلقت شركة OpenAI نظامًا جديدًا للعلامات المائية يحمل اسم textGrain، ويهدف إلى مساعدة أدوات الكشف على تحديد النصوص التي تم إنشاؤها بواسطة نماذج الذكاء الاصطناعي التابعة للشركة.
وتعتمد التقنية على تعديل أنماط اختيار الكلمات أثناء عملية توليد النص بطريقة غير ملحوظة للقارئ، بينما تستطيع أدوات الكشف المتخصصة التعرف على النمط الناتج وربطه بعملية إنشاء النص بواسطة أحد نماذج OpenAI.
علامة مائية تستمر بعد نسخ النص
وتختلف العلامة المائية الجديدة عن العلامات التقليدية التي يمكن فقدانها بسهولة عند نقل المحتوى، إذ ترتبط بطريقة توليد النص نفسه، ما قد يسمح ببقائها قابلة للاكتشاف حتى بعد نسخ النص ولصقه في موقع أو منصة أخرى.
وتستهدف التقنية توفير وسيلة إضافية أمام المؤسسات والباحثين للتعرف على المحتوى الناتج عن الذكاء الاصطناعي، في ظل الانتشار المتزايد لاستخدام أدوات الكتابة التوليدية.
لماذا تطلق OpenAI تقنية textGrain؟
تأتي الخطوة في إطار توجهات تنظيمية متزايدة في مجال الذكاء الاصطناعي، وعلى رأسها متطلبات قانون الذكاء الاصطناعي الأوروبي، الذي يتضمن قواعد بشأن قابلية التعرف على المحتوى الناتج عن أنظمة الذكاء الاصطناعي.
وتعتزم OpenAI طرح textGrain داخل الاتحاد الأوروبي خلال الفترة المقبلة، بينما لم تعلن حتى الآن عن إطلاق عالمي للنظام، كما أتاحت التقنية بصورة اختيارية لعملاء واجهة برمجة التطبيقات API حول العالم على بعض النماذج.
وتخطط الشركة أيضًا لإتاحة أداة الكشف أمام الباحثين والمؤسسات المتخصصة لدعم عمليات دراسة ورصد المحتوى المولد بالذكاء الاصطناعي.
هل تؤثر العلامة المائية على جودة النص؟
بحسب OpenAI، لم تظهر تأثيرات كبيرة على أداء النماذج نتيجة استخدام العلامة المائية، إذ أظهرت اختبارات الشركة تقاربًا في النتائج بين النصوص التي تحمل العلامة وتلك التي لا تحملها في عدد من اختبارات قياس أداء الذكاء الاصطناعي.
كما تؤكد الشركة أن النظام لا يكشف هوية المستخدم، ولا يستطيع معرفة السؤال أو الأمر الذي أدخله المستخدم إلى ChatGPT، وإنما يركز على اكتشاف النمط المرتبط بعملية توليد النص.
حدود تقنية في اكتشاف المحتوى
ورغم أهمية النظام، لا تمثل العلامة المائية وسيلة مضمونة لاكتشاف جميع النصوص التي ينتجها الذكاء الاصطناعي، إذ تختلف دقة الكشف وفقًا لطول النص وطبيعته.
وتصبح عملية التعرف أكثر صعوبة عندما يكون النص قصيرًا أو يفرض قيودًا كبيرة على اختيار الكلمات، كما يمكن أن تتراجع فعالية النظام عند إعادة صياغة المحتوى أو استبدال عدد من الكلمات بمرادفاتها.
وأظهرت اختبارات OpenAI أن التعديلات التي تشمل استبدال نسبة من كلمات النص بمرادفات يمكن أن تؤدي إلى انخفاض قدرة أداة الكشف على التعرف على العلامة المائية، كما قد تؤدي ترجمة النص إلى لغة أخرى إلى زيادة صعوبة اكتشافها.
وجود العلامة لا يعني صحة المعلومات
ولا يعني اكتشاف العلامة المائية أن المعلومات الواردة في النص صحيحة أو خاطئة، فهي تشير فقط إلى أن المحتوى تم إنشاؤه باستخدام نموذج تابع لـOpenAI.
وفي المقابل، فإن عدم اكتشاف العلامة لا يعني بالضرورة أن النص كتبه إنسان، إذ يمكن أن يكون قد خضع لإعادة صياغة أو ترجمة، أو تم إنشاؤه باستخدام نموذج ذكاء اصطناعي آخر، أو صدر عن إصدار قديم لا يستخدم نظام العلامات المائية.
سباق جديد لكشف المحتوى المولد بالذكاء الاصطناعي
وتعكس تقنية textGrain اتجاهًا متناميًا داخل صناعة الذكاء الاصطناعي لتطوير وسائل تساعد على التمييز بين المحتوى الذي ينتجه البشر والمحتوى الناتج عن النماذج التوليدية.
ومع توسع استخدام الذكاء الاصطناعي في الكتابة والتعليم والإعلام والعمل، تزداد أهمية معرفة مصدر المحتوى، إلا أن فعالية هذه التقنيات ستظل مرتبطة بقدرتها على مقاومة إعادة الصياغة والترجمة والتحرير البشري دون التأثير في جودة النص الأصلي.
