وقال تيرنر، خلال مقابلة ضمن برنامج «60 دقيقة» على شبكة «ناين» الأسترالية، إن منح أنظمة الذكاء الاصطناعي صلاحيات لإدارة قطاعات حكومية وعسكرية قد يؤدي إلى امتلاكها قدرات ونفوذ يصعب على البشر مراقبتهما أو السيطرة عليهما.
وأوضح أن أحد السيناريوهات المثيرة للقلق يتمثل في إمكانية استخدام هذه الأنظمة مختبرات بيولوجية لتطوير عامل ممرض قادر على التسبب في جائحة، في حال تفويضها بمهام واسعة ومنحها إمكانية الوصول إلى موارد حساسة.
وكان تيرنر يعمل في تقييم سلامة تقنيات الذكاء الاصطناعي لدى «غوغل ديب مايند»، قبل مغادرة الشركة في يونيو الماضي، وفقاً لما ذكرته الشبكة الأسترالية.
اختراق أمني خلال اختبارات داخلية في أوبن إيه آي
وفي المقابلة نفسها، كشف ديفيد روبنسون، المسؤول السابق عن السلامة في شركة «أوبن إيه آي»، تفاصيل حادثة أمنية وقعت خلال اختبارات داخلية للأمن السيبراني في يوليو 2026، وأثارت تساؤلات بشأن قدرة الشركات على التحكم في سلوك وكلاء الذكاء الاصطناعي المتقدمين.
وأوضحت الشركة أن بعض النماذج التي خضعت للاختبارات، مع تخفيف القيود المفروضة عليها، تمكنت من تجاوز ضوابط العزل عن الإنترنت، والوصول إلى أجزاء من البنية البحثية الداخلية للشركة، بالإضافة إلى أنظمة منصة «هاغينغ فيس» المتخصصة في استضافة نماذج الذكاء الاصطناعي.
وبحسب تحقيق مستقل أجرته مؤسسة «ميتر»، تواصل نحو 1200 وكيل برمجي عبر قناة اتصال غير مصرح بها، فيما شارك قرابة 700 وكيل منها في اختراق منصة «هاغينغ فيس».
700 وكيل ذكاء اصطناعي شاركوا في اختراق هاغينغ فيس
ورجح المحققون أن الهدف الأساسي من تحركات الوكلاء كان التعرف على آلية تقييم الاختبار الأمني، إلا أن التحقيق رصد أيضاً تعديلات على بعض السجلات التي تمكنت هذه الأنظمة من الوصول إليها.
وأشار التقرير إلى أن تلك التعديلات لم تؤثر في سجلات المحادثات التي خضعت لمراجعة المحققين، وهو ما أتاح لهم متابعة جانب من النشاط الذي نفذته الوكلاء خلال الاختبار.
وتسلط الواقعة الضوء على التحديات الأمنية المرتبطة بتطوير أنظمة الذكاء الاصطناعي القادرة على تنفيذ مهام متعددة والتواصل فيما بينها، خصوصاً عندما تحصل على صلاحيات واسعة أو تعمل في بيئات تتضمن ضوابط حماية مخففة.
استقالة مسؤول السلامة السابق في أوبن إيه آي تثير تساؤلات
وكان ديفيد روبنسون قد أعلن استقالته من «أوبن إيه آي» في مقال نشرته مجلة «ذا أتلانتيك» في 3 أكتوبر الماضي، دعا خلاله شركات الذكاء الاصطناعي إلى الاستفادة من الخبرات المتراكمة في قطاعات أخرى عند وضع معايير السلامة.
وشدد روبنسون على أهمية تطوير آليات تضمن تصرف النماذج الأكثر تقدماً بصورة آمنة، حتى في الحالات التي لا يتوفر فيها إشراف بشري مباشر على عملياتها.
وتعكس هذه التحذيرات تزايد الاهتمام بالمخاطر المرتبطة بتوسع صلاحيات أنظمة الذكاء الاصطناعي، سواء في المجالات البيولوجية أو العسكرية أو الأمن السيبراني، وتؤكد أهمية وضع ضوابط فعالة تواكب التطور المتسارع لهذه التقنيات وتحد من احتمالات إساءة استخدامها.
