ميزة أمنية جديدة لمواجهة مخاطر تسرب المعلومات عبر الذكاء الاصطناعي
أعلنت شركة OpenAI عن إطلاق ميزة أمنية جديدة تحمل اسم Lockdown Mode، بهدف توفير مستوى إضافي من الحماية للمستخدمين والمؤسسات التي تتعامل مع بيانات حساسة، وذلك في مواجهة هجمات Prompt Injection أو ما يُعرف بهجمات حقن الأوامر الخبيثة.
وتُعد هذه الهجمات من أبرز التحديات الأمنية التي تواجه تطبيقات الذكاء الاصطناعي، حيث تعتمد على إدراج تعليمات مخفية داخل صفحات الويب أو مصادر المحتوى المختلفة للتأثير على استجابات روبوتات الدردشة أو دفعها إلى الكشف عن معلومات حساسة.
قيود جديدة لتقليل مخاطر الاختراق وتسريب البيانات
وأوضحت OpenAI أن وضع Lockdown Mode يعمل على تقليل فرص استغلال النماذج الذكية عبر تعطيل مجموعة من الميزات التي قد تشكل نقاط دخول محتملة للهجمات الإلكترونية.
وتشمل الإجراءات الجديدة إيقاف التصفح المباشر للويب والاكتفاء بالمحتوى المخزن مؤقتًا، ومنع جلب الصور من الإنترنت أو عرضها، مع استمرار إمكانية إنشاء الصور بواسطة الذكاء الاصطناعي. كما يتم تعطيل ميزتي Deep Research وAgent Mode أثناء تفعيل الوضع الأمني الجديد.
OpenAI: الحماية ليست مطلقة ولكنها تقلل المخاطر
ورغم تعزيز مستويات الأمان، أكدت الشركة أن تفعيل Lockdown Mode لا يوفر حماية كاملة من جميع هجمات حقن الأوامر، مشيرة إلى أن المحتوى المخزن مؤقتًا أو الملفات التي يرفعها المستخدمون قد تحتوي على تعليمات خبيثة قادرة على التأثير في سلوك النظام أو دقة نتائجه.
وأضافت OpenAI أن الهدف الأساسي من الميزة الجديدة هو الحد من احتمالات مشاركة البيانات الحساسة بشكل غير مقصود، وتقليل مخاطر تسرب المعلومات الناتجة عن محاولات استغلال نماذج الذكاء الاصطناعي.
طرح تدريجي لمشتركي ChatGPT Business
وأشارت الشركة إلى أن Lockdown Mode ليس مخصصًا لجميع المستخدمين، بل تم تطويره خصيصًا للأفراد والمؤسسات التي تحتاج إلى معايير أمنية أكثر صرامة لحماية بياناتها الحساسة.
وبدأت OpenAI بالفعل في طرح الميزة بشكل تدريجي لمشتركي ChatGPT Business من فئة الخدمة الذاتية، بالإضافة إلى عدد من الحسابات الشخصية المؤهلة للاستفادة من الميزة خلال المرحلة الحالية.
