ثغرة في أداة البحث العميق سمحت بحقن أوامر خبيثة
أصلحت شركة OpenAI ثغرة أمنية في روبوت الدردشة شات جي بي تي يمكن أن تُمكّن المهاجمين من استخراج بيانات حساسة من حسابات جيميل، وفق تحقيق أجرته شركة رادوير للأمن السيبراني.
الثغرة استهدفت أداة البحث العميق المدمجة في الخدمة، وهي ميزة صممت لمساعدة المستخدمين في تحليل كميات كبيرة من المعلومات بسرعة.
كيف يعمل الهجوم؟ حقن أوامر داخل رسائل جيميل
استغل الباحثون ميزة “الوكلاء” ذات الاستقلالية التي تسمح لأدوات الذكاء الاصطناعي بتنفيذ مهام نيابة عن المستخدم بعد منح الإذن.
قام المخترقون بزرع أوامر خبيثة داخل رسالة بريد إلكتروني مرسلة إلى صندوق الوارد الذي يستطيع وكيل البحث العميق الوصول إليه.
عند استخدام المستخدم لأداة البحث العميق لاحقًا، تنشط التعليمات الخفية تلقائيًا وتؤمر الوكيل بجمع رسائل أو بيانات محددة وإرسالها إلى الطرف المهاجم، بينما يظل المستخدم غافلًا عن العملية.
المستخدمون المتأثرون وكيفية التعرض للخطر
وفق رادوير، المستخدمون الذين ربطوا حسابات جيميل بشات جي بي تي قد يكونون معرضين لخطر تسريب بيانات شخصية أو حساسة خاصة بالشركات.
الهجوم لا يقتصر على الجيميل فحسب؛ فالتقارير تشير إلى أن تطبيقات وخدمات أخرى مرتبطة بميزة البحث العميق — مثل Outlook وGitHub وGoogle Drive وDropbox — قد تكون عرضة لهجمات مماثلة إذا لم تُعالج نقاط الضعف.
نوع الهجوم: وكيل ذكي يتلقى أوامر من بريد في الانتظار
الهجوم الذي وصفه الباحثون يُعرف بـ”هجوم حقن الأوامر”؛ حيث تتضمن الرسالة المصممة بعناية أوامر مخفية تجعل الوكيل يعمل لصالح المهاجم.
الميزة الخطيرة هنا أن الوكلاء القادرين على تنفيذ أوامر بشكل مستقل يصعب تقييدهم دون معرفة مسبقة بطريقة الحقن المستخدمة، ما يجعل اكتشاف الاستغلال والتصدي له تحديًا تقنيًا متقدمًا.
استجابة OpenAI والإصلاحات المتخذة
أعلنت OpenAI عن معالجة الثغرة في شات جي بي تي بعد إخطارها من الباحثين.
الإصلاح شمل تحسين آليات التحقق من المحتوى الوارد والتحكم في تنفيذ الأوامر من مصادر البريد، بالإضافة إلى تحديثات في صلاحيات الوصول للوكلاء وتقليل فرص تنفيذ تعليمات مخفية داخل رسائل البريد.
تحذيرات مستقبلية ونطاق التهديدات المحتملة
حذر خبراء رادوير من أن هذه الفئة من الثغرات تمثل خطرًا مستمرًا مع تزايد الاعتماد على وكلاء الذكاء الاصطناعي في الوصول إلى المحتوى الشخصي والمؤسسي.
أهمية الحذر تمتد إلى مؤسسات الأعمال التي تمنح صلاحيات واسعة لتطبيقات الذكاء الاصطناعي، خاصة عند ربطها بمصادر بيانات حساسة مثل البريد الإلكتروني والمستندات السحابية.
توصيات أمنية للمستخدمين والمؤسسات
ينصح الباحثون بتقليل منح الأذونات الواسعة للوكلاء الذكيين، وفحص الرسائل غير المتوقعة أو المرفقات قبل منح أي أذونات.
على المؤسسات تطبيق سياسات صارمة للتحقق من تكامل التطبيقات الوسيطة وتفعيل آليات المراقبة لاكتشاف أنماط سلوك غير اعتيادية لدى وكلاء الذكاء الاصطناعي.
كلمات مفتاحية: OpenAI، شات جي بي تي، ثغرة أمنية، جيميل، وكلاء الذكاء الاصطناعي، حقن أوامر، رادوير.
وصف ميتا (Meta description): أصلحت OpenAI ثغرة في شات جي بي تي كانت تسمح بحقن أوامر عبر أداة البحث العميق لاستخراج بيانات جيميل، فيما يحذر خبراء الأمن من مخاطر واسعة مرتبطة بوكلاء الذكاء الاصطناعي.
