الصين تعزز الرقابة على نماذج الذكاء الاصطناعي
بدأت الصين تطوير معيار وطني جديد لتقييم سلامة نماذج الذكاء الاصطناعي، في خطوة تهدف إلى تعزيز الرقابة على التقنيات التوليدية والحد من المخاطر المرتبطة بها، بالتزامن مع تشديد الولايات المتحدة والاتحاد الأوروبي إجراءات الإشراف والتنظيم على هذا القطاع سريع النمو.
وتقود وزارة الصناعة وتكنولوجيا المعلومات الصينية المشروع من خلال المركز الوطني لأبحاث تطوير أمن المعلومات الصناعية، الذي أعلن عن فتح باب المشاركة أمام الشركات والخبراء للمساهمة في بناء هذا المعيار الجديد.
الحاجة إلى منصة موحدة لاختبار السلامة
أوضحت الجهات المشرفة على المبادرة أن الأطر الحالية لتقييم سلامة الذكاء الاصطناعي لم تعد قادرة على مواكبة التعقيدات المتزايدة للنماذج الحديثة، ما يستدعي إنشاء منصة موحدة لاختبار الامتثال وإدارة المخاطر.
وتهدف المنظومة الجديدة إلى توفير أدوات قياس ومعايير موثوقة تساعد الشركات والمؤسسات على تطوير أنظمة ذكاء اصطناعي أكثر أمانًا وامتثالًا للمتطلبات التنظيمية.
6 محاور رئيسية لتقييم النماذج الذكية
بحسب الخطة الصينية، سيعتمد معيار السلامة الجديد على ستة محاور أساسية لتقييم نماذج الذكاء الاصطناعي التوليدي، وهي:
- سلامة المحتوى.
- توافق المخرجات مع القيم والمعايير المحددة.
- قوة النموذج وقدرته على مقاومة الأخطاء.
- العدالة وعدم التحيز.
- حماية الخصوصية والبيانات.
- الموثوقية والثقة في النتائج.
ويستهدف النظام الجديد قياس أداء النماذج عبر مجموعة واسعة من السيناريوهات لضمان قدرتها على العمل بصورة آمنة في مختلف التطبيقات.
مواجهة 31 خطرًا مرتبطًا بالذكاء الاصطناعي
يتضمن المعيار الصيني الجديد آلية تقييم تغطي 31 خطرًا محددًا موزعة على خمس فئات رئيسية من المخاطر المرتبطة بالنماذج التوليدية.
وستعتمد عملية الاختبار على مزيج من الفحوصات الآلية واختبارات الضغط والمراجعة البشرية، بهدف تقليل معدلات الهلوسة الرقمية، والحد من تسرب البيانات، وتعزيز موثوقية المخرجات التي تنتجها النماذج الذكية.
التصدي لهجمات كسر الحماية
من أبرز الأهداف التي يسعى إليها المشروع الجديد مواجهة ما يعرف بهجمات “كسر الحماية” أو Jailbreak Attacks، وهي محاولات يستخدم فيها المهاجمون أوامر مصممة خصيصًا لتجاوز القيود الأمنية المفروضة على النماذج اللغوية الكبيرة.
وتعد هذه الهجمات من أبرز التحديات التي تواجه مطوري الذكاء الاصطناعي عالميًا، نظرًا لقدرتها على دفع النماذج إلى إنتاج محتوى غير آمن أو الكشف عن معلومات لا ينبغي الإفصاح عنها.
الصين تنضم إلى الجهود العالمية لتنظيم الذكاء الاصطناعي
تأتي المبادرة الصينية في وقت تتزايد فيه الجهود الدولية لتعزيز سلامة الذكاء الاصطناعي وتنظيم استخداماته.
ففي الولايات المتحدة، صدرت توجيهات جديدة تدعو إلى تطوير آليات تقييم متقدمة لقياس القدرات السيبرانية للنماذج الذكية والتأكد من عدم استغلالها في أنشطة ضارة.
كما يواصل الاتحاد الأوروبي تطبيق أحكام قانون الذكاء الاصطناعي الأوروبي، الذي يفرض متطلبات صارمة على مطوري النماذج العامة، بما في ذلك الإفصاح عن بيانات التدريب وتعزيز الشفافية والامتثال التنظيمي.
عقوبات مشددة على المخالفين
يتضمن الإطار الأوروبي للذكاء الاصطناعي عقوبات مالية كبيرة على الشركات المخالفة، حيث قد تصل الغرامات إلى 3% من الإيرادات العالمية للشركة في بعض المخالفات.
أما في الحالات المرتبطة بالممارسات المحظورة أو عالية الخطورة، فقد ترتفع العقوبات إلى 7% من إجمالي الإيرادات العالمية، ما يعكس التوجه العالمي نحو تشديد الرقابة على استخدامات الذكاء الاصطناعي.
السلامة تصبح أولوية عالمية
يعكس التحرك الصيني المتزامن مع المبادرات الأميركية والأوروبية تنامي الاهتمام العالمي بجعل سلامة الذكاء الاصطناعي أولوية أساسية في مرحلة التطور الحالية.
ويرى خبراء التكنولوجيا أن بناء معايير موحدة لاختبار النماذج التوليدية سيكون عاملًا حاسمًا في تعزيز الثقة بهذه التقنيات، وضمان استخدامها بصورة مسؤولة وآمنة مع استمرار توسعها في مختلف القطاعات الاقتصادية والخدمية.
