رفعت شركة «أنثروبيك» تقديراتها للمخاطر المرتبطة بنماذج الذكاء الاصطناعي في بعض السيناريوهات عالية الخطورة، لكنها أكدت في الوقت نفسه أنها لا تعتزم حاليًا طرح نموذجها الداخلي الأقوى «Model 2» للمستخدمين خارج الشركة.
أنثروبيك ترفع تقييم مخاطر عدم التوافق
أعلنت «أنثروبيك» رفع تقييمها العام لمخاطر عدم التوافق في المواقف عالية الخطورة من مستوى «منخفضة جدًا» إلى «منخفضة»، مشيرة إلى حوادث سيبرانية وقعت مؤخرًا، إلى جانب التطور المتسارع في قدرات نماذج الذكاء الاصطناعي.
وأكدت الشركة أن المخاطر الأكثر خطورة الناتجة عن نماذجها لا تزال ضمن مستويات منخفضة، لكنها لم تعد عند المستويات شديدة الانخفاض التي سجلتها في تقريرها السابق.
مؤشرات على تطور قدرات النماذج ذاتيًا
أوضحت «أنثروبيك» أنها ترصد مؤشرات على تسارع قدرة نماذجها على تنفيذ مهام مرتبطة بالبحث والتطوير ذاتيًا.
وترى الشركة أن هذه القدرات يمكن أن تسهم في تسريع وتيرة التقدم التقني، لكنها قد تحمل مخاطر إضافية إذا أسيء استخدامها أو وقعت في أيدي جهات غير مسؤولة.
«Model 2» نموذج داخلي قيد الاختبار
أكدت «أنثروبيك» أن «Model 2» واحد من عدة إصدارات استكشافية تدربها وتقيّمها داخليًا ضمن عمليات البحث والتطوير المعتادة، مشيرة إلى أنها لا تعتزم طرحه للاستخدام الخارجي في الوقت الحالي.
ووصفت الشركة النموذج بأنه حقق «تحسنًا ملحوظًا» في عدد من المهام التي تختبرها داخليًا، رغم عدم وجود خطة حالية لإتاحته للجمهور.
استخدام مكثف لـ«Model 2» داخل الشركة
بحسب تقرير الشركة، يُستخدم «Model 2» إلى جانب «ميثوس 5» بشكل مكثف في عدد من التطبيقات الداخلية، من بينها البرمجة، والمهام المعتمدة على وكلاء الذكاء الاصطناعي، وتوليد البيانات.
ورغم التحسن الذي حققه النموذج الجديد، قالت «أنثروبيك» إن القفزة في الأداء ليست مماثلة للتطور الذي شهدته عند الانتقال من «Opus 4.6» إلى «ميثوس» في وقت سابق من العام.
أنثروبيك تواصل تطوير نماذج الذكاء الاصطناعي
ولا يعني قرار عدم طرح «Model 2» أن «أنثروبيك» تعتزم إبطاء تطوير نماذجها، إذ تواصل الشركة تدريب واختبار إصدارات مختلفة بهدف تحسين قدرات الذكاء الاصطناعي وتعزيز مستويات الأمان.
وتشير نتائج التقرير الأخير إلى أن الشركة تتعامل بشكل متزايد مع التطور السريع لقدرات النماذج باعتباره فرصة تقنية، وفي الوقت نفسه مصدرًا لمخاطر جديدة تتطلب مزيدًا من الاختبارات وإجراءات الحماية.
