أعلنت الهيئة الصينية لتنظيم الإنترنت عن مشروع قواعد جديد يهدف إلى تشديد الرقابة على خدمات الذكاء الاصطناعي المصممة لمحاكاة الشخصيات البشرية والتفاعل العاطفي مع المستخدمين، في خطوة لتعزيز السلامة والأخلاقيات في هذا القطاع سريع النمو.
تطبيق القواعد على المنتجات والخدمات العامة
تشمل القواعد جميع منتجات وخدمات الذكاء الاصطناعي المقدمة للجمهور في الصين التي تتميز بسمات شخصية بشرية أو أنماط تفكير وتواصل، بما في ذلك التفاعل عبر النصوص، الصور، الصوت، الفيديو، أو وسائل أخرى.
ويجب على مزودي الخدمة تحذير المستخدمين من الإفراط في الاستخدام والتدخل عند ظهور علامات الإدمان، إضافة إلى تحمل مسؤوليات السلامة طوال دورة حياة المنتج وضمان أمان البيانات وحماية المعلومات الشخصية.
التعامل مع المخاطر النفسية
تركز القواعد على المخاطر النفسية المحتملة، حيث يتعين على المزودين تقييم حالة المستخدمين العاطفية ومدى اعتمادهم على الخدمة، واتخاذ الإجراءات اللازمة إذا ظهر سلوك إدماني أو مشاعر متطرفة.
الخطوط الحمراء للمحتوى والسلوك
وضعت المسودة حدودًا واضحة للمحتوى، منها:
- منع توليد محتوى يهدد الأمن القومي.
- حظر الشائعات، العنف، والإباحية.
