خطوة جديدة لمواجهة تهديدات أمن الذكاء الاصطناعي
أعلنت شركة أوبن إيه آي، يوم الجمعة، إطلاق ميزتين أمنيتين رئيسيتين لروبوت الدردشة «شات جي بي تي»، في إطار جهودها لتعزيز الحماية ومواكبة التحديات المتسارعة في مجال الأمن السيبراني المرتبط بتطبيقات الذكاء الاصطناعي.
وتشمل الميزتان الجديدتان «Lockdown Mode» أو «وضع القفل»، و«Elevated Risk» أو «خطر مرتفع»، واللتان تهدفان إلى الحد من مخاطر الهجمات الإلكترونية المتقدمة.
حماية متقدمة ضد هجمات حقن الأوامر
وأوضحت الشركة أن الأداتين صُممتا خصيصًا للتصدي لهجمات «حقن الأوامر»، وهي أساليب تستخدمها جهات خبيثة للتلاعب بأنظمة الذكاء الاصطناعي بهدف استخراج معلومات حساسة أو تنفيذ أوامر غير مصرح بها.
ويستهدف «وضع القفل» بشكل أساسي الفئات الأكثر عرضة للهجمات، مثل القيادات التنفيذية وفرق الأمن في المؤسسات الكبرى، ممن يحتاجون إلى مستويات إضافية من الحماية.
قيود صارمة لمنع تسريب البيانات
ويفرض «وضع القفل» قيودًا مشددة على تفاعل «شات جي بي تي» مع الأنظمة والتطبيقات الخارجية، بما يقلل من احتمالات تسريب البيانات نتيجة محاولات الاختراق.
كما يقوم هذا الوضع بتعطيل بعض الأدوات والوظائف التي قد يستغلها المهاجمون للوصول إلى معلومات حساسة من المحادثات أو من الخدمات المرتبطة.
ومن المقرر أن يتوفر «وضع القفل» ضمن اشتراكات «ChatGPT Enterprise» و«Edu» و«ChatGPT for Healthcare» و«ChatGPT for Teachers»، على أن يتم توسيع نطاقه ليشمل المستخدمين الأفراد خلال الأشهر المقبلة.
ميزة «الخطر المرتفع» لتنبيه المستخدمين
في المقابل، تعمل ميزة «الخطر المرتفع» على تصنيف بعض الإمكانيات داخل النظام والتنبيه إلى مستوى المخاطر المحتملة المرتبطة باستخدامها، خاصة الوظائف التي تتصل بالشبكات أو تتفاعل مع مصادر خارجية.
وتهدف هذه التنبيهات إلى توعية المستخدمين بالمخاطر المحتملة قبل استخدام هذه الميزات، بما يساعد على تقليل احتمالات التعرض للثغرات الأمنية.
استجابة لموجة متزايدة من التهديدات الإلكترونية
وتأتي هذه الخطوة في وقت تتزايد فيه التحذيرات من استغلال الثغرات في أنظمة الذكاء الاصطناعي، وسط توجه متصاعد من الشركات المطورة لتعزيز مستويات الأمان، مع التوسع الكبير في استخدام هذه التقنيات على نطاق واسع في المؤسسات والأعمال.
