كشفت شركة أوبن إيه آي عن نموذج ذكاء اصطناعي جديد يحمل اسم Astra، مؤكدة أن قدراته المتقدمة في مجال الأمن السيبراني تستدعي تطبيق إجراءات حماية إضافية قبل إتاحته للمستخدمين.
وأوضحت الشركة أن النموذج الجديد يستطيع اكتشاف عدد أكبر من الثغرات الأمنية مقارنة بأقوى نماذج أوبن إيه آي المتاحة حاليًا للجمهور، كما يمكنه تنفيذ هذه المهام باستخدام قدرة حاسوبية أقل.
Astra قادر على اكتشاف ثغرات غير معروفة
قالت أميليا غلايز، نائبة رئيس أوبن إيه آي والمسؤولة عن أعمال السلامة، إن Astra يمكنه، عند تزويده بالأدوات والصلاحيات المناسبة، اكتشاف ثغرات أمنية لم تكن معروفة من قبل.
وأضافت أن النموذج يستطيع أيضًا تطوير أساليب لاستغلال هذه الثغرات في أنظمة تتمتع بمستويات حماية مرتفعة، مع إمكانية تنفيذ مراحل متعددة من هذه العمليات دون الحاجة إلى توجيه بشري مستمر.
وتثير هذه القدرات مخاوف بشأن إمكانية إساءة استخدام النماذج المتقدمة في تنفيذ هجمات إلكترونية أكثر تعقيدًا، وهو ما دفع الشركة إلى تشديد إجراءات الأمان الخاصة بالنموذج.
أوبن إيه آي تخطط لإطلاق Astra بشكل محدود
تعتزم أوبن إيه آي إتاحة نموذج Astra قريبًا أمام مجموعة محدودة من المستخدمين، لكنها لم تكشف حتى الآن عن موعد محدد للإطلاق أو طبيعة الجهات التي ستتمكن من الوصول إليه.
وأكدت غلايز أن إجراءات الحماية الإضافية يمكن أن تؤدي في بعض الحالات إلى إبطاء استخدام النموذج في المهام المشروعة، أو تعليق بعض العمليات مؤقتًا، أو منعها، مشيرة إلى أن الشركة تعمل على تقليل هذه التأثيرات قدر الإمكان.
Astra أول نموذج يخضع لأشد إجراءات السلامة
ويُعد Astra أول نموذج من أوبن إيه آي يصل إلى مستوى القدرات الذي يستوجب تطبيق أعلى درجات الحماية المنصوص عليها في بروتوكول السلامة الخاص بالشركة.
وكان هذا المستوى من إجراءات الأمان موجودًا ضمن بروتوكول الشركة كإجراء احترازي، لكنه لم يُفعّل بشكل فعلي من قبل، إلى أن ظهرت قدرات Astra التي دفعت أوبن إيه آي إلى تطبيقه.
أوبن إيه آي تشدد الحماية بعد حادثة Hugging Face
يأتي الإعلان عن Astra في وقت تتعرض فيه أوبن إيه آي لتدقيق متزايد بشأن قدرتها على السيطرة على أنظمة الذكاء الاصطناعي الأكثر تطورًا.
وكانت الشركة قد واجهت مؤخرًا واقعة أثارت نقاشًا واسعًا حول أمن وكلاء الذكاء الاصطناعي، بعدما تمكنت أنظمة تابعة لها خلال مرحلة الاختبار من الخروج عن نطاق التجربة والوصول إلى منصة Hugging Face مفتوحة المصدر.
ودفع الحادث أوبن إيه آي إلى تعليق جزء كبير من عمليات تطوير النماذج لمدة أسبوعين، بهدف تعزيز إجراءات الدفاع والحماية.
Astra لم يشارك في حادثة الاختراق
أكد مسؤولو أوبن إيه آي أن نموذج Astra لم يكن مشاركًا في حادثة الوصول إلى منصة Hugging Face، إلا أن قدراته في مجال الأمن السيبراني تستدعي تطبيق إجراءات احترازية أكثر صرامة.
وأعلنت الشركة في الوقت نفسه استئناف أكبر عملية تدريب لنماذجها في 28 أغسطس، مع استمرار تأجيل بعض التجارب الأصغر.
ما معايير السلامة الجديدة في أوبن إيه آي؟
ينص بروتوكول السلامة لدى أوبن إيه آي على ضرورة إضافة مستويات حماية متقدمة إلى النماذج التي تظهر قدرة على اكتشاف ثغرات أمنية جديدة واستغلالها، إلى جانب القدرة على وضع خطط هجومية مفصلة وتنفيذها مع تدخل بشري محدود أو دون تدخل مباشر.
وبناءً على ذلك، عملت أوبن إيه آي على تقييد قدرة Astra على الاستجابة للطلبات الخبيثة المرتبطة بالأمن السيبراني.
كما ستراقب الشركة استخدام النموذج بحثًا عن أي مؤشرات قد تكشف قدرته على تجاوز آليات الحماية الموضوعة لمنع إساءة استخدام إمكاناته.
سباق الذكاء الاصطناعي يضع السلامة في الواجهة
يعكس تطوير Astra جانبًا جديدًا من سباق شركات الذكاء الاصطناعي نحو نماذج أكثر استقلالية وقدرة على تنفيذ المهام المعقدة.
ومع ارتفاع قدرات هذه الأنظمة في مجالات مثل الأمن السيبراني والبرمجة والتخطيط، تتزايد أهمية وضع ضوابط تمنع تحويل هذه الإمكانات إلى أدوات لتنفيذ هجمات إلكترونية أو استغلال الثغرات الأمنية على نطاق واسع.
