باحثون يكشفون آلية هجوم تستغل تلخيص صفحات الإنترنت
كشف باحثون في مجال الأمن السيبراني عن ثغرة أمنية محتملة تستهدف آلية عمل نماذج الذكاء الاصطناعي التوليدي، من بينها «شات جي بي تي»، ما قد يسمح بتنفيذ هجمات تصيد احتيالي عبر استغلال ميزة تلخيص صفحات الإنترنت وحقن أوامر خبيثة داخل المحتوى المعروض للمستخدم.
ووفقاً لتقارير تقنية، تعتمد الثغرة على استغلال ملفات «مارك داون» (Markdown)، وهي صيغة شائعة تستخدم لعرض النصوص والروابط والصور بطريقة منظمة يمكن لأنظمة الذكاء الاصطناعي قراءتها وفهمها بسهولة.
كيف تستغل الثغرة ملفات «مارك داون»؟
تتمثل آلية الهجوم في إدراج أوامر وروابط خبيثة داخل صفحات الويب باستخدام تنسيق «مارك داون». وعندما يطلب المستخدم من نموذج الذكاء الاصطناعي تلخيص الصفحة، قد يتعامل النموذج مع تلك العناصر باعتبارها جزءاً من المحتوى الطبيعي، ويقوم بعرضها ضمن الملخص النهائي.
وأطلق باحثو شركة الأمن السيبراني «برِزمو سيكيوريتي» على هذا النوع من الهجمات اسم «تصيد شات جي بي تي»، نظراً لاعتماده على استغلال ثقة النموذج بالمحتوى الموجود داخل الصفحة.
لماذا تمثل هذه الثغرة خطراً؟
بحسب الباحثين، تكمن المشكلة في صعوبة تمييز النموذج بين المحتوى الأصلي للصفحة والمحتوى الذي تم حقنه بشكل خبيث، ما قد يؤدي إلى عرض روابط ضارة أو أكواد استجابة سريعة (QR Code) ضمن النتائج التي يشاهدها المستخدم.
وفي حال تفاعل المستخدم مع تلك الروابط أو قام بمسح الرموز الخبيثة باستخدام هاتفه الذكي، فقد يتم توجيهه إلى مواقع احتيالية أو تنزيل محتوى ضار يفتح المجال أمام المهاجمين لتنفيذ هجمات إضافية.
هجمات حقن الأوامر.. تهديد متصاعد للذكاء الاصطناعي
تنتمي هذه الثغرة إلى فئة هجمات «حقن الأوامر» (Prompt Injection)، وهي من أبرز التهديدات التي تواجه تطبيقات الذكاء الاصطناعي الحديثة.
ويعتمد هذا النوع من الهجمات على إخفاء تعليمات أو أوامر داخل المحتوى الذي يتعامل معه النموذج، بهدف التأثير على استجاباته أو دفعه إلى تنفيذ إجراءات غير مقصودة أو كشف معلومات قد تساعد المهاجمين في تنفيذ هجماتهم.
مخاطر تتجاوز أجهزة الكمبيوتر إلى الهواتف الذكية
يرى الباحث الأمني أندي أحمدي أن الخطر لا يقتصر على تسريب بعض البيانات أو عرض محتوى مضلل، بل يمتد إلى إمكانية استدراج المستخدمين للنقر على روابط خارجية أو مسح أكواد QR خبيثة باستخدام هواتفهم.
وتمثل هذه الخطوة مرحلة أولية في سلسلة الهجوم الإلكتروني، حيث تمنح المهاجم فرصة للوصول إلى أجهزة الضحايا أو خداعهم لتنفيذ إجراءات قد تعرض بياناتهم وأجهزتهم للخطر.
هل المشكلة خاصة بـ«شات جي بي تي»؟
يشير الخبراء إلى أن هذا النوع من الهجمات لا يرتبط بمنصة واحدة فقط، بل قد يؤثر على عدد كبير من تطبيقات الذكاء الاصطناعي التوليدي التي تعتمد على قراءة محتوى الويب وتحليله.
ويؤكد الباحثون أن التحدي لا يتعلق بثغرة برمجية تقليدية يمكن سدها بسهولة، وإنما يرتبط بطبيعة عمل النماذج اللغوية الكبيرة نفسها، ما يجعل مواجهة هجمات حقن الأوامر واحدة من أبرز القضايا الأمنية في مستقبل الذكاء الاصطناعي.
سباق مستمر بين التطور التقني والأمن السيبراني
مع تحول نماذج الذكاء الاصطناعي إلى أدوات تستخدم يومياً في البحث والعمل والتواصل، تتزايد الحاجة إلى تطوير آليات حماية أكثر فعالية للكشف عن المحتوى الخبيث ومنع استغلال المستخدمين.
ويرى خبراء الأمن السيبراني أن تعزيز الوعي الرقمي لدى المستخدمين، إلى جانب تطوير أنظمة كشف الهجمات داخل النماذج الذكية، سيظل عاملاً أساسياً للحد من مخاطر هذا النوع من التهديدات المتنامية.
