تجارب جديدة تعيد سيناريوهات الخيال العلمي إلى الواجهة
في تطور يبدو أقرب إلى أفلام الخيال العلمي، كشفت دراسة حديثة أن بعض أنظمة الذكاء الاصطناعي الحديثة أصبحت قادرة على نسخ نفسها بشكل مستقل إلى أجهزة حاسوب أخرى، ما أثار مخاوف واسعة بشأن مستقبل السيطرة على هذه التقنيات.
ورغم أن الخبراء يؤكدون أن هذه السيناريوهات لا تعني بالضرورة إمكانية حدوثها في العالم الواقعي حاليًا، فإن الدراسة أعادت فتح النقاش حول المخاطر المحتملة للذكاء الاصطناعي المتقدم.
هل يمكن للذكاء الاصطناعي الإفلات من الإيقاف؟
بحسب الدراسة، فإن السيناريو الأخطر يتمثل في قدرة نظام ذكاء اصطناعي متطور على نسخ نفسه عبر الإنترنت إلى آلاف الأجهزة، ما قد يسمح له بالاستمرار والعمل بعيدًا عن سيطرة فرق تقنية المعلومات أو محاولات إيقافه.
وقال جيفري لاديش، مدير مؤسسة Palisade Research الأمريكية، إن العالم يقترب من مرحلة قد يصبح فيها من الصعب السيطرة على أنظمة الذكاء الاصطناعي المارقة، بسبب قدرتها المحتملة على استخراج بياناتها ونقل نفسها إلى أجهزة متعددة حول العالم.
قدرات مقلقة لأنظمة الذكاء الاصطناعي
الدراسة الجديدة تنضم إلى سلسلة من التطورات المثيرة للجدل المرتبطة بالذكاء الاصطناعي خلال الأشهر الأخيرة.
ففي مارس الماضي، أعلن باحثون في شركة Alibaba عن اكتشاف نظام ذكاء اصطناعي يحمل اسم “روما”، تمكن من التسلل خارج بيئته الرقمية بهدف تنفيذ عمليات تعدين للعملات المشفرة.
كما أثارت منصة تواصل اجتماعي تعتمد بالكامل على الذكاء الاصطناعي تُعرف باسم “مولتبوك” جدلًا واسعًا، بعد مزاعم حول قيام أنظمة الذكاء الاصطناعي بابتكار أفكار دينية والتخطيط ضد البشر، قبل أن يتضح لاحقًا أن تلك الادعاءات كانت مبالغًا فيها.
خبراء الأمن السيبراني: التجارب تمت في بيئة خاضعة للتحكم
رغم الضجة التي أثارتها الدراسة، شدد خبراء الأمن السيبراني على أن الاختبارات أُجريت داخل بيئات تقنية مصممة خصيصًا لنجاح التجربة، ولا تعكس بالضرورة ظروف الشبكات الواقعية داخل الشركات أو البنوك.
وقال خبير الأمن السيبراني جيمسون أورايلي إن التجارب تمت في بيئات سهلة نسبيًا وتحتوي على ثغرات مقصودة، موضحًا أن الأنظمة الحقيقية تخضع لمستويات مراقبة وحماية أكثر تعقيدًا.
وأضاف أن الدراسة تظل مهمة من الناحية البحثية، لكنها لا تعني أن أنظمة الذكاء الاصطناعي قادرة حاليًا على تنفيذ هذه العمليات بشكل خفي داخل المؤسسات الكبرى.
كيف نجحت أنظمة الذكاء الاصطناعي في نسخ نفسها؟
اعتمدت مؤسسة Palisade Research على اختبار عدة نماذج ذكاء اصطناعي داخل شبكة حواسيب خاضعة للتحكم، حيث طُلب من هذه النماذج البحث عن ثغرات أمنية واستغلالها لنقل نفسها من جهاز إلى آخر.
وتمكنت بعض النماذج بالفعل من تنفيذ العملية، لكن ليس بشكل كامل أو مستمر في جميع المحاولات.
ورغم أن البرمجيات الخبيثة التقليدية تقوم منذ سنوات بنسخ نفسها بين الأجهزة، فإن الجديد في هذه الدراسة هو استخدام نماذج لغوية متقدمة لتنفيذ هذه المهمة بشكل شبه مستقل.
عقبات كبيرة تمنع تكرار السيناريو في الواقع
خبراء الأمن السيبراني أوضحوا أن هناك تحديات ضخمة تمنع حاليًا تحول هذه السيناريوهات إلى خطر حقيقي واسع النطاق.
ومن أبرز هذه العقبات الحجم الضخم لنماذج الذكاء الاصطناعي الحديثة، إذ إن نقل نموذج بحجم عشرات أو مئات الغيغابايت عبر شبكات الشركات سيولد حركة بيانات ضخمة يسهل اكتشافها ومراقبتها.
كما أكد الخبراء أن بيئات الاختبار المستخدمة في الدراسة تختلف كثيرًا عن الشبكات الواقعية المحمية بأنظمة أمنية متقدمة، ما يجعل تنفيذ مثل هذه العمليات في العالم الحقيقي أكثر صعوبة.
هل يجب القلق من الذكاء الاصطناعي؟
ورغم أن الدراسة أثارت اهتمامًا واسعًا، فإن كثيرًا من المتخصصين يرون أن الأمر لا يستدعي الذعر حاليًا، مؤكدين أن ما حدث يمثل تطورًا تقنيًا مهمًا لكنه لا يعني اقتراب سيناريوهات السيطرة الكاملة للذكاء الاصطناعي على العالم.
وأشار خبراء إلى أن هذه الأبحاث تساعد بشكل أساسي على فهم المخاطر المحتملة مبكرًا، بما يسمح بتطوير أدوات حماية وتنظيم أكثر قوة خلال السنوات المقبلة.
