وتثير هذه الهجمات مخاوف متزايدة مع توسع استخدام المساعدين الذكيين في قراءة الرسائل وإدارة الحسابات وتنفيذ المهام تلقائيًا، إذ قد تتجاوز المخاطر مجرد خداع المستخدم إلى التأثير في قرارات الوكيل نفسه، خاصة عندما يعمل دون إشراف بشري مباشر.
وبحسب تقرير نشره موقع «Futurism»، نقلًا عن تحذيرات شركة الأمن السيبراني «Malwarebytes»، فإن هذه التهديدات ترتبط بما يُعرف باسم «حقن الأوامر» (Prompt Injection)، وهي تقنية يستغلها المهاجمون لإدخال تعليمات مصممة للتأثير في طريقة تعامل أنظمة الذكاء الاصطناعي مع المحتوى الذي تقرؤه.
كيف تخدع رسائل التصيد الاحتيالي وكلاء الذكاء الاصطناعي؟
على عكس رسائل التصيد التقليدية التي تعتمد غالبًا على انتحال هوية المؤسسات الموثوقة أو إغراء المستخدم بعروض وهمية، يمكن للهجمات الموجهة إلى وكلاء الذكاء الاصطناعي أن تتضمن تعليمات خبيثة داخل محتوى الرسائل، وقد تكون مخفية بطريقة تجعل اكتشافها صعبًا على المستخدم.
وتكمن الخطورة في أن الوكيل الذكي قد يتعامل مع هذه التعليمات باعتبارها جزءًا من المحتوى الذي ينبغي معالجته، بدلًا من إدراك أنها محاولة للتلاعب به وتجاوز التعليمات الأصلية التي يعمل وفقًا لها.
وتوضح «Malwarebytes» أن بعض هذه التعليمات يمكن إخفاؤها عن القراءة البشرية مع بقائها قابلة للمعالجة بواسطة أنظمة الذكاء الاصطناعي، ما يتيح للمهاجمين محاولة التأثير في سلوك المساعد أو دفعه إلى تنفيذ إجراءات غير مرغوبة.
ما هجمات حقن الأوامر التي تستهدف الذكاء الاصطناعي؟
تعتمد هجمات حقن الأوامر على استغلال صعوبة الفصل بين البيانات التي ينبغي لنموذج الذكاء الاصطناعي تحليلها والتعليمات التي يجب عليه اتباعها.
فعندما يقرأ الوكيل رسالة بريد إلكتروني أو يتعامل مع محتوى خارجي، قد يتضمن هذا المحتوى تعليمات تحاول تغيير سلوكه أو دفعه إلى تجاهل الضوابط الموضوعة له.
وفي حال امتلك الوكيل صلاحيات واسعة للوصول إلى البريد الإلكتروني أو الملفات أو الحسابات، فقد تتفاقم العواقب المحتملة، بحسب طبيعة الصلاحيات المتاحة ومدى نجاح الهجوم.
وقال أبولو راينز، مطور خدمة «ShipItClean» لمراجعة أكواد الذكاء الاصطناعي، إن المشكلة الأساسية تتمثل في صعوبة التمييز بين النصوص المطلوب من النموذج قراءتها والتعليمات التي ينبغي أن ينفذها.
وأشار راينز إلى أهمية إزالة المحتوى المخفي قبل وصوله إلى النموذج، داعيًا مزودي الخدمات إلى اتخاذ تدابير تقنية تحد من إمكانية استغلال هذه الثغرات.
لماذا تزداد مخاطر التصيد مع انتشار وكلاء الذكاء الاصطناعي؟
تزداد خطورة هذه الهجمات مع انتقال الذكاء الاصطناعي من مرحلة الإجابة عن الأسئلة إلى تنفيذ المهام المتتابعة بصورة مستقلة، مثل فرز الرسائل وإدارة المواعيد والتعامل مع الخدمات الرقمية.
فالمساعد الذي يكتفي بتلخيص رسالة قد تكون قدرته على إحداث ضرر محدودة، لكن الوكيل المتصل بحسابات المستخدم والقادر على اتخاذ إجراءات نيابة عنه قد يواجه مخاطر أكبر إذا تعرض للتلاعب.
وتشمل المخاطر المحتملة الوصول غير المصرح به إلى المعلومات، أو إساءة استخدام الصلاحيات، أو محاولة تنفيذ إجراءات لم يطلبها المستخدم، بحسب إمكانات النظام ومستوى الحماية المطبق عليه.
كما أن انتشار أدوات مثل «ميوز» من شركة ميتا وغيرها من المساعدين المتطورين يسلط الضوء على أهمية تعزيز وسائل الحماية قبل منح هذه الأنظمة صلاحيات واسعة للعمل بصورة مستقلة.
كيف تحمي بريدك الإلكتروني من هجمات الذكاء الاصطناعي؟
توصي «Malwarebytes» بعدم الاعتماد على الحذر البشري وحده، بل بضرورة تطوير وسائل الحماية التقنية التي تمنع التعليمات الخبيثة من التأثير في المساعدين الذكيين.
ويمكن للمستخدمين تقليل المخاطر باتباع الإجراءات التالية:
عدم منح الوكيل صلاحيات غير ضرورية: اقتصر على الأذونات التي يحتاج إليها فعلًا، وتجنب منحه وصولًا شاملًا إلى البريد والملفات والحسابات دون حاجة.
مراجعة الرسائل المشبوهة: تحقق من هوية المرسل والروابط والمرفقات، ولا تفترض أن المساعد الذكي قادر على اكتشاف جميع محاولات التصيد.
اشتراط الموافقة البشرية: لا تسمح للوكيل بتنفيذ المدفوعات أو تغيير بيانات الحسابات أو تعديل بيانات الدفع الخاصة بالموردين دون مراجعة وموافقة صريحة.
تقييد الإجراءات التلقائية: فضّل الأنظمة التي تطلب تأكيدًا قبل تنفيذ العمليات الحساسة أو إرسال معلومات إلى جهات خارجية.
تحديث أدوات الحماية: احرص على تحديث التطبيقات وأنظمة التشغيل وبرامج الأمن السيبراني للاستفادة من الإصلاحات والتحسينات الأمنية المتاحة.
مراجعة الصلاحيات دوريًا: تحقق من التطبيقات والخدمات المرتبطة بحساباتك، وألغِ الأذونات التي لم تعد بحاجة إليها.
الموافقة البشرية خط الدفاع الأهم أمام الوكلاء المستقلين
تؤكد توصيات «Malwarebytes» أن استخدام المساعدين الذكيين في إدارة البريد الإلكتروني لا يتطلب التخلي عن هذه الأدوات، لكنه يستدعي تحديد المهام التي يمكن الوثوق بها لإنجازها بصورة مستقلة.
وتكتسب المراجعة البشرية أهمية خاصة عند التعامل مع المعاملات المالية أو تغيير بيانات الدفع أو تنفيذ إجراءات يصعب التراجع عنها، إذ ينبغي ألا تتحول قدرة الوكيل على تنفيذ المهام بسرعة إلى مبرر لمنحه صلاحيات غير محدودة.
كذلك، يمكن للشركات المطورة تقليل المخاطر عبر فصل التعليمات الأساسية للنظام عن المحتوى الخارجي، ورصد الأوامر المشبوهة وإزالة العناصر المخفية قبل معالجة الرسائل، إلى جانب وضع قيود تمنع الوكيل من اتخاذ إجراءات حساسة دون إذن.
هل يستطيع المحتالون تجاوز وسائل حماية الذكاء الاصطناعي؟
لا تزال هجمات حقن الأوامر تمثل تحديًا تقنيًا لأنظمة الذكاء الاصطناعي، خصوصًا مع اختلاف طرق تصميم النماذج والمساعدين والصلاحيات التي يحصلون عليها.
ومع تطور أدوات الحماية، قد يبتكر المهاجمون أساليب جديدة لاستغلال نقاط الضعف، ما يجعل تأمين هذه الأنظمة عملية مستمرة تتطلب تحديثًا ومراجعة واختبارات أمنية متكررة.
وحذر راينز من أن كل أسلوب جديد في صياغة التعليمات قد يفتح المجال أمام ثغرات إضافية، في إشارة إلى السباق المستمر بين مطوري أنظمة الذكاء الاصطناعي والمهاجمين.
وفي النهاية، فإن حماية البريد الإلكتروني والحسابات في عصر الوكلاء الذكيين لا تعتمد على اكتشاف الرسائل الاحتيالية فقط، بل تتطلب أيضًا ضبط صلاحيات المساعدين ومراقبة تصرفاتهم والإبقاء على الموافقة البشرية قبل تنفيذ الإجراءات الحساسة.
