تحديث أمني استباقي
أعلنت شركة OpenAI عن إصدار تحديث أمني جديد لأداة ChatGPT Atlas، بعد اكتشاف فئة جديدة من الهجمات الإلكترونية خلال محاكاة داخلية للأمن السيبراني.
ووصفت الشركة التحديث بأنه “أكثر من مهم”، كونه يعالج المخاطر الرقمية المتصاعدة المرتبطة بالأدوات الذكية القادرة على التفاعل مع الإنترنت واتخاذ إجراءات فعلية.
تهديد حقن الطلبات
يواجه ChatGPT Atlas تهديدًا متزايدًا من أسلوب يُعرف باسم حقن الطلبات (prompt injection)، حيث يحاول المهاجمون إخفاء تعليمات خبيثة داخل محتوى عادي على الويب أو في رسائل البريد الإلكتروني أو المستندات.
عند معالجتها من قبل الذكاء الاصطناعي، قد تتجاوز هذه التعليمات طلبات المستخدم وتدفع النظام للقيام بأفعال غير مرغوبة، مثل إرسال رسائل أو تنفيذ مهام غير مقصودة.
تعزيز الدفاعات
استجابةً لهذه المخاطر، أضاف التحديث نموذجًا جديدًا مقاومًا للهجمات العدائية، مع تعزيز آليات الحماية داخل النظام للتعرف على التعليمات الخبيثة والتصدي لها.
كما طورت OpenAI ما يعرف بـ المهاجم التلقائي، وهو نظام ذكاء اصطناعي يحاكي هجمات حقيقية معقدة لاكتشاف نقاط الضعف وإصلاحها قبل استغلالها في الواقع.
التحديات المستمرة
تمكّن ChatGPT Atlas من التصفح والتفاعل مع صفحات الويب بنفس طريقة البشر، ما يجعله هدفًا جذابًا للمهاجمين مقارنة بالذكاء الاصطناعي التقليدي.
ومع ذلك، تؤكد OpenAI أن حقن الطلبات سيظل تحديًا طويل الأجل، ولن يتم القضاء عليه بالكامل، تمامًا كما هو الحال مع الاحتيال والهندسة الاجتماعية على الإنترنت.
حماية المستخدمين مستقبلًا
يعكس هذا التحديث جهود OpenAI المستمرة لمواكبة المخاطر المتجددة في عالم الذكاء الاصطناعي، خاصة مع انتشار وكلاء ذكاء اصطناعي أكثر قدرة على التفاعل في بيئات الويب المفتوحة.
وتظل الحاجة إلى تحديثات أمنية مستمرة ومراقبة دقيقة لأداء الأنظمة الذكية أمرًا أساسيًا لحماية المستخدمين من الاستغلال الخبيث.
