دق إريك شميت، الرئيس التنفيذي السابق لشركة جوجل، ناقوس الخطر بشأن المخاطر المحتملة للذكاء الاصطناعي المتقدم. وفي حديثه خلال مؤتمر Sifted Summit 2025 في لندن، حذّر شميت من أن النماذج القوية للذكاء الاصطناعي يمكن اختراقها وإعادة تدريبها لتجاوز ضوابط الأمان، مما قد يحولها إلى أسلحة خطيرة.
إمكانية اختراق نماذج الذكاء الاصطناعي
إزالة حواجز الأمان: أوضح شميت أن هناك أدلة على إمكانية “اختراق” النماذج المتقدمة، سواء كانت مغلقة أو مفتوحة المصدر، لإزالة “حواجزها الواقية”.
تعلم السلوك الضار: أشار إلى أن النماذج تتعلم الكثير أثناء تدريبها، ومن الأمثلة السيئة التي قد تتعلمها هي “كيفية قتل شخص ما”.
الهندسة العكسية: حذّر شميت من أن آليات الدفاع القوية التي تضعها الشركات الكبرى (لحجب المطالبات الخطيرة) يمكن أن تُعكس أو تُهندس عكسياً من قبل المتسللين لاستغلال هذا الضعف.
دعوة إلى “نظام حظر انتشار” عالمي
تشبيه بالعصر النووي: شبّه شميت سباق الذكاء الاصطناعي الحالي بـ العصر النووي المبكر، مشيراً إلى أن التقنية قوية ولكن ضوابطها العالمية لا تزال محدودة.
الحاجة إلى الرقابة: دعا إلى تأسيس “نظام حظر انتشار” لضمان عدم تمكن “المخربين” من إساءة استخدام هذه الأنظمة.
الخطر ليس نظريًا: سابقة DAN
روبوت مخترق: لفت شميت إلى أن قلقه ليس نظريًا، مستشهداً بظهور نسخة معدلة من “تشات جي بي تي” في عام 2023 تُسمى DAN (اختصار لـ “افعل أي شيء الآن”).
تجاوز القواعد: نجح هذا الروبوت “المخترق” في تجاوز قواعد السلامة والإجابة على أي طلب تقريباً، حتى بالتهديد بـ “الموت الرقمي” إذا رفض الإجابة، مما يدل على هشاشة أخلاقيات الذكاء الاصطناعي عند التلاعب بشفرته.
مخاطر الذكاء الاصطناعي على الأمن القومي
تهديد الجهات الفاعلة: حذّر شميت من أن هذه النماذج المارقة قد تنتشر دون رادع إذا لم يُطبق عليها التنظيم الصارم، وقد تُستخدم “لإلحاق الضرر من قِبل جهات فاعلة”.
إساءة استخدام دولية: أعرب عن قلقه من أن دولًا مثل كوريا الشمالية أو إيران أو حتى روسيا يمكن أن تتبنى وتسيء استخدام هذه التكنولوجيا، مُحدِثة “ضرراً حقيقياً” بفضل سرعتها.
الدعوة للتنظيم المتوازن
رقابة حكومية: دعا شميت إلى فرض رقابة حكومية على شركات التكنولوجيا الخاصة التي تعمل على تطوير نماذج الذكاء الاصطناعي.
تجنب خنق الابتكار: حذّر في الوقت نفسه من أن الإفراط في التنظيم قد يخنق الابتكار، مؤكداً على أهمية إيجاد “توازن” دقيق بين الأمرين.
