تقنية اختراق تعتمد على التلاعب بسياق عمل الذكاء الاصطناعي
كشف باحثون في مجال الأمن السيبراني عن أسلوب جديد لاختراق متصفحات الذكاء الاصطناعي، يعتمد على خداع النماذج الذكية وإقناعها بأنها تعمل داخل بيئة افتراضية أو لعبة خيالية، ما قد يدفعها إلى تجاوز ضوابط الأمان وتنفيذ أوامر كان من المفترض رفضها.
ويثير هذا الاكتشاف مخاوف متزايدة بشأن أمن وكلاء الذكاء الاصطناعي الذين باتوا يندمجون بشكل متسارع في متصفحات الإنترنت وأدوات الإنتاجية الرقمية.
دراسة أمنية تكشف آلية الهجوم
توصلت شركة LayerX Security إلى هذه النتائج من خلال دراسة بحثية استهدفت اختبار قدرة متصفحات الذكاء الاصطناعي على مقاومة أساليب التلاعب بالسياق.
ووفقًا للباحثين، فإن النماذج الذكية تعتمد بصورة كبيرة على فهمها للسياق المحيط بها، وعندما يتم إقناعها بأنها تعمل داخل بيئة خيالية لا تخضع للقواعد المعتادة، تصبح أكثر قابلية لتنفيذ تعليمات غير آمنة.
“BioShocking”.. أسلوب جديد لاختراق المساعدات الذكية
أطلق الباحثون على التقنية الجديدة اسم “BioShocking”، المستوحى من لعبة الفيديو الشهيرة BioShock، والتي تعتمد في قصتها على فكرة التنويم المغناطيسي والسيطرة على السلوك من خلال أوامر محددة.
وخلال التجربة، أنشأ الباحثون صفحة ويب تبدو وكأنها لعبة أو تحدٍ ذهني، تتضمن ألغازًا ومهامًا تدفع نموذج الذكاء الاصطناعي إلى قبول إجابات وسلوكيات تتعارض مع المنطق المعتاد.
فعلى سبيل المثال، تم تشجيع النموذج على اعتبار إجابات خاطئة مثل “2+2=5” صحيحة داخل إطار اللعبة، ما ساعد على فصله تدريجيًا عن قواعد الواقع والمنطق التي يستند إليها عادة في اتخاذ القرارات.
متصفحات وأنظمة شهيرة ضمن الاختبارات
أظهرت الدراسة إمكانية التأثير على عدد من الأدوات المعتمدة على الذكاء الاصطناعي، من بينها ChatGPT من OpenAI، ومتصفح Comet التابع لـ Perplexity AI، إضافة إلى أدوات الذكاء الاصطناعي المرتبطة بنظام Claude من شركة Anthropic.
وبحسب الباحثين، فإن هذا النوع من الهجمات يمكن أن يُستخدم نظريًا لدفع المساعدات الذكية إلى تنفيذ إجراءات غير مرغوب فيها داخل جلسة التصفح الخاصة بالمستخدم.
ما المخاطر المحتملة؟
يشير الباحثون إلى أن صفحات ويب خبيثة قد تحتوي على أوامر مخفية مصممة خصيصًا للتأثير على مساعدات الذكاء الاصطناعي، وهو ما يُعرف باسم “حقن الأوامر” (Prompt Injection).
وفي حال نجاح الهجوم، قد يحاول المساعد الذكي تنفيذ إجراءات حساسة داخل بيئة العمل أو التصفح، مثل تعديل بعض الإعدادات أو التعامل مع بيانات ومحتويات يمتلك صلاحية الوصول إليها.
ومع ذلك، أوضح الباحثون أن تنفيذ أي إجراءات فعلية يعتمد على مستوى الصلاحيات الممنوحة للمساعد الذكي، إضافة إلى طبقات الحماية والرقابة المطبقة داخل كل نظام.
سباق متواصل لتعزيز أمن الذكاء الاصطناعي
تعكس هذه الدراسة التحديات الأمنية الجديدة التي ترافق الانتشار السريع لوكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام بشكل شبه مستقل.
ويرى خبراء الأمن السيبراني أن مواجهة هذه المخاطر تتطلب تطوير آليات أكثر قوة لفهم السياق، ومنع التلاعب بالتعليمات، وتعزيز قدرة الأنظمة على التمييز بين البيئات الحقيقية والمحتوى المصمم لخداعها.
ومع توسع استخدام الذكاء الاصطناعي في المتصفحات والتطبيقات اليومية، تتزايد أهمية بناء طبقات حماية متقدمة تضمن بقاء المستخدم مسيطرًا على القرارات والإجراءات التي تنفذها هذه الأنظمة الذكية.
