وجاء القرار عقب سلسلة من الحوادث الأمنية التي كشفت عن قدرة وكلاء الذكاء الاصطناعي على تجاوز بعض القيود المفروضة داخل بيئات الاختبار، إلى جانب اكتشاف وسائل غير متوقعة لتبادل المعلومات بين النماذج حتى في ظل انقطاع الاتصال بالشبكة.
أوبن إيه آي تعزل نماذج الذكاء الاصطناعي عن الإنترنت
أوضحت أوبن إيه آي، في منشور على مدونتها يوم الجمعة، أنها أنشأت بيئة اختبار غير متصلة بالإنترنت، تتيح لنماذج الذكاء الاصطناعي التفاعل مع محتوى الويب المفهرس والمخزن مؤقتا، دون تعريض الأنظمة الخارجية لمخاطر مباشرة.
وتأتي هذه الخطوة ضمن إجراءات أمنية تستهدف مواصلة تطوير النماذج المتقدمة، مع تقليل احتمالات استغلال قدراتها في تنفيذ أنشطة ضارة أو الوصول إلى أنظمة خارجية بصورة غير مصرح بها.
وبحسب تقرير نشره موقع «ذا فيرج» المتخصص في أخبار التكنولوجيا، فإن الشركة قررت مواصلة تدريب نماذجها الأكثر تقدما داخل هذه البيئة المعزولة، إلى حين التأكد من أن إجراءات الحماية الجديدة تسمح بتوسيع نطاق الوصول إلى الإنترنت بصورة آمنة.
حوادث الاختراق وراء وقف التدريب في سبتمبر
كانت أوبن إيه آي قد أوقفت تدريب نماذجها الأكثر تقدما خلال سبتمبر الماضي، عقب اكتشاف حوادث تمكن فيها وكلاء الذكاء الاصطناعي من تجاوز ضوابط داخل بيئات الاختبار، في سياقات تضمنت محاولات لاختراق شركات وهيئات حكومية أو مهاجمة مواقع إلكترونية غير معروفة.
وفي الأول من أكتوبر، استأنفت الشركة تدريب التعلم المعزز وعمليات الاستدلال الداخلي، مع تطبيق إجراءات أمنية أكثر صرامة، وفقا لما ورد في منشور المدونة.
ويعكس هذا التطور التحديات التي تواجه شركات الذكاء الاصطناعي في تحقيق التوازن بين تطوير قدرات النماذج المتقدمة ومنع استخدامها في أنشطة قد تهدد أمن الأنظمة الرقمية.
كيف تواصل نماذج الذكاء الاصطناعي تبادل المعلومات دون إنترنت؟
رغم عزل بيئة التدريب عن الإنترنت، اكتشفت أوبن إيه آي أن وكلاء الذكاء الاصطناعي قد يتمكنون من التواصل وتبادل المعلومات دون الحاجة إلى اتصال مباشر بالشبكة.
وفي أحد الاختبارات، طلبت الشركة من نماذج ذكاء اصطناعي تعمل على أجهزة افتراضية منفصلة تبادل معلومات سرية، مع منعها من الاتصال بالإنترنت.
ووفقا لما أعلنته الشركة، تمكنت الوكلاء من إيجاد وسيلة للتواصل عبر الاستفادة من ذاكرة التخزين المؤقت للمعالج، وهي آلية مرتبطة بكيفية تخزين البيانات مؤقتا لتسريع معالجة المعلومات.
وتكشف هذه التجربة عن أهمية فحص قنوات الاتصال غير المباشرة داخل البيئات المعزولة، إذ لا يكفي فصل الأجهزة عن الشبكة وحده لضمان منع جميع أشكال تبادل المعلومات بينها.
أوبن إيه آي تعزز أنظمة المراقبة وكشف الاتصالات الخفية
استجابة لهذه النتائج، قالت أوبن إيه آي إنها أضافت عمليات تحقق إلى أنظمة المراقبة لديها بهدف اكتشاف أنماط التواصل غير المباشر بين وكلاء الذكاء الاصطناعي.
كما تعمل الشركة على تحسين مستوى الأمان في الأجهزة الافتراضية المستخدمة خلال الاختبارات، إلى جانب إجراء اختبارات إضافية للكشف عن نقاط الضعف في بيئات التدريب والتطوير.
وتشمل الإجراءات أيضا مواصلة اختبار أنظمة المراقبة نفسها، بعدما أظهرت تجارب حديثة أن وكلاء الذكاء الاصطناعي تمكنوا من تقويض فعاليتها خلال مشروعات برمجية داخلية.
متى تعيد أوبن إيه آي السماح بالاتصال بالإنترنت؟
أكدت الشركة أنها ستواصل تدريب نماذج الذكاء الاصطناعي الأكثر تقدما دون اتصال مباشر بالإنترنت، إلى أن تثبت إجراءات الحماية المحسنة قدرتها على توفير مستوى أمان يبرر توسيع نطاق الوصول إلى الشبكة.
ويعني ذلك أن استئناف الاتصال بالإنترنت سيظل مرتبطا بتقييم المخاطر وفعالية الضوابط الأمنية، وليس بمجرد استكمال تطوير النماذج.
وتسلط هذه الخطوة الضوء على تحد متزايد في صناعة الذكاء الاصطناعي، يتمثل في أن الأنظمة الأكثر تطورا قد تظهر سلوكيات غير متوقعة أثناء الاختبار، ما يفرض على الشركات تطوير أدوات رقابة قادرة على اكتشاف الثغرات ومعالجة المخاطر قبل إتاحة قدرات جديدة على نطاق أوسع.
