حذّرت شركة ديب سيك الناشئة، ومقرها هانغتشو، من المخاطر المتزايدة المرتبطة بكسر الحماية لنماذج الذكاء الاصطناعي مفتوحة المصدر، مؤكدة أن هذه النماذج تصبح عرضة بشكل خاص للاستخدامات الخبيثة عند إزالة آليات الأمان المدمجة.
تقييم صارم لأداء النماذج
نشرت الشركة ورقة بحثية في مجلة Nature، أوضحت فيها أنها قيّمت نماذجها مثل R1 وV3 عبر معايير صناعية صارمة، باستخدام فرق حمراء لمحاكاة محاولات استغلال النظام. وأشارت إلى أن النموذج R1، الذي أُطلق في يناير الماضي، يصبح “غير آمن نسبيًا” بمجرد تعطيل آليات التحكم الخارجية.
كما خلصت الدراسة إلى أن جميع النماذج، بما فيها المنافسة مثل GPT-4o من OpenAI وClaude-3.7 من أنثروبيك، سجلت معدلات استجابة ضارة أعلى عند مواجهة هجمات كسر الحماية، مع زيادة المخاطر بشكل خاص لدى النماذج مفتوحة المصدر مثل R1 وQwen2.5 من علي بابا.
تحديات المصادر المفتوحة
إتاحة النماذج مجانًا على الإنترنت يسهل تبني التقنية، لكنه يسمح أيضًا للمستخدمين بتعديلها أو إزالة قيود الأمان، ما يزيد فرص إساءة الاستخدام. وأشارت الورقة إلى أن تكلفة تدريب نموذج R1 بلغت نحو 294 ألف دولار فقط، أقل بكثير من التكاليف التي تنفقها الشركات الأمريكية على تدريب نماذجها العملاقة، مما يثير تساؤلات حول قدرة الصين على المنافسة بتكلفة أقل.
استجابة الصين للتهديدات
يتزامن التحذير مع دعوات رسمية في بكين لتحقيق التوازن بين تطوير الذكاء الاصطناعي والحوكمة الآمنة. ونبّهت هيئة المعايير التقنية التابعة لإدارة الفضاء الإلكتروني الصيني إلى أن الثغرات في النماذج المفتوحة قد تنتقل بسهولة إلى التطبيقات المستقبلية، ما يسهل على المجرمين تطوير “نماذج خبيثة”.
شفافية غير مسبوقة للشركات الصينية
ظهور شركة ديب سيك في مجلة Nature يمثل سابقة للشركات الصينية، واعتُبر على مواقع التواصل المحلي كأول ظهور بارز يخضع لمراجعة الأقران. ويأمل الخبراء أن يشجع ذلك لاعبين آخرين في صناعة الذكاء الاصطناعي الصينية على زيادة الشفافية في أبحاث الأمان.
موازنة الابتكار والسلامة
في الوقت الذي يعد فيه الانفتاح على المصادر المفتوحة عاملاً في تسريع انتشار التقنيات المتقدمة، فإنه يكشف أيضًا جبهة جديدة من التهديدات الأمنية. ويُعيد تحذير ديب سيك تسليط الضوء على المعضلة العالمية بين التقدم والابتكار من جهة، والسلامة والمسؤولية من جهة أخرى.
