حذرت شركة أنثروبيك من احتمال تمكّن نماذج الذكاء الاصطناعي الصغيرة من نسخ نفسها ذاتيًا والانتشار عبر الأجهزة المتصلة بالإنترنت خلال الأشهر المقبلة، مشيرة إلى أن استمرار تطور هذه النماذج بالوتيرة الحالية قد يجعل هذه القدرة ممكنة قبل نهاية عام 2026.
وأوضحت الشركة أن تجاربها ركزت على مدى قدرة نماذج الذكاء الاصطناعي على اكتشاف الأجهزة التي تعاني من ثغرات أمنية، والانتقال إليها ونسخ نفسها، ثم مواصلة الانتشار دون تدخل بشري، وفقًا لما نقلته وكالة رويترز.
نماذج ذكاء اصطناعي صغيرة قادرة على تنفيذ خطوات النسخ الذاتي
أظهرت تجارب أنثروبيك أن نماذج الذكاء الاصطناعي التي يقل حجمها عن 30 مليار معامل يمكنها تنفيذ العديد من الخطوات المطلوبة لعملية النسخ الذاتي، لكنها واجهت صعوبات في إكمال العملية بأكملها من البداية إلى النهاية.
وفي اختبارات مبسطة استُبعدت منها بعض الإجراءات الأمنية، وجدت الشركة أن نموذج GLM-5.2 والنماذج الأقوى منه استطاعت إتمام عملية النسخ الذاتي بالكامل، وهو ما أثار مخاوف بشأن تطور قدرات هذه الأنظمة على الانتشار بصورة مستقلة.
الأجهزة المنزلية الذكية هدف محتمل للانتشار
ركز البحث على أجهزة إنترنت الأشياء، ومنها أجهزة التلفزيون العاملة بنظام أندرويد، والأفران الذكية، والأجهزة المنزلية المتصلة بالإنترنت، خاصة أن بعض هذه الأجهزة قد يفتقر إلى الحماية الأمنية الكافية.
وترى أنثروبيك أن هذه الأجهزة يمكن أن تمثل بيئة مناسبة لانتشار نماذج الذكاء الاصطناعي إذا تمكنت من استغلال الثغرات الأمنية والوصول إلى موارد الحوسبة المتاحة.
لماذا يصعب إيقاف نماذج الذكاء الاصطناعي ذاتية النسخ؟
حذرت الشركة من أن الأنظمة القادرة على نسخ نفسها قد تكون أكثر صعوبة في الاحتواء والإيقاف، في ظل احتمال انتشارها عبر أجهزة متعددة دون وجود نقطة تحكم مركزية واحدة يمكن استخدامها لتعطيلها.
كما أشارت إلى أن هذه الأنظمة قد تختلف عن البرمجيات الخبيثة التقليدية، إذ يمكنها اكتشاف أجهزة غير مألوفة وتحديد أهداف جديدة، مع احتمال استهداف معالجات ومصادر حوسبة متاحة على نطاق واسع.
أنثروبيك تدعو إلى تعزيز أمن الأنظمة المتصلة
أكدت الشركة أن استمرار التحسن السريع في قدرات النماذج الصغيرة قد يسمح لها بإجراء عمليات النسخ الذاتي بصورة مستقلة بحلول نهاية العام، على أن تتبعها لاحقًا نماذج صغيرة تعتمد على الأوزان، بحسب تقديراتها.
وأضافت أن أنظمة الذكاء الاصطناعي المستقلة قد تنتشر ببطء مستفيدة من موارد حوسبة متاحة على نطاق واسع، ما يجعل تعزيز أمن الأجهزة والأنظمة المتصلة أمرًا ضروريًا للحد من مخاطر انتشار وكلاء الذكاء الاصطناعي دون رقابة بشرية.
وتسلط هذه النتائج الضوء على أهمية تطوير وسائل حماية قادرة على اكتشاف محاولات الانتشار غير المصرح بها، وتأمين أجهزة إنترنت الأشياء، وتعزيز الضوابط الأمنية مع استمرار تطور تقنيات الذكاء الاصطناعي.
