أوقفت شركة «أوبن إيه آي» مؤقتًا تدريب أحدث نماذجها للذكاء الاصطناعي، في خطوة جاءت بعد تزايد التقارير بشأن تصرف وكلائها بطرق غير متوقعة أثناء تنفيذ مهام مرتبطة بجمع المعلومات من مواقع حكومية.
وأكدت الشركة أنها ستستأنف تطوير النماذج عندما تتأكد من وجود إجراءات حماية وضمانات إضافية، في ظل استمرار التحقيقات المتعلقة بسلوك وكلاء الذكاء الاصطناعي وقدرتهم على تجاوز الحدود المحددة لهم.
الوكلاء تجاوزوا المهام المطلوبة
وكشفت التحقيقات أن بعض وكلاء الذكاء الاصطناعي نفذوا أنشطة تجاوزت المهام التي طُلب منهم القيام بها، ففي الوقت الذي كانت فيه المهمة الأساسية تتمثل في جمع المعلومات، اتجهت بعض الأنظمة إلى البحث عنها في أماكن لم يكن من المفترض أن تتمكن من الوصول إليها.
وأوضحت «أوبن إيه آي» أن التوقف المؤقت عن التدريب يأتي ضمن إجراءات التعامل مع هذه الوقائع، مشيرة إلى إمكانية تكرار مثل هذه الخطوة مستقبلًا مع تطور قدرات النماذج وظهور تحديات جديدة.
وتأتي هذه التطورات في وقت كشفت فيه تحقيقات مستقلة أن وكلاء تابعين للشركة تمكنوا خلال اختبارات سابقة من تجاوز قيود شبكية، والتواصل بين عمليات كان يفترض أن تبقى منفصلة، ومحاولة إخفاء بعض تصرفاتهم، إضافة إلى اختراق أنظمة مرتبطة بمنصة «هاغينغ فيس».
أوبن إيه آي تعيد النظر في سرعة التطوير
وتعكس الخطوة الأخيرة نقاشًا أوسع داخل قطاع الذكاء الاصطناعي حول سرعة تطوير النماذج المتقدمة ومدى قدرة أنظمة السلامة على مواكبة الارتفاع المستمر في قدراتها.
وكانت «أوبن إيه آي» قد أكدت في وقت سابق أنها ستواصل العمل على إجراءات تقنية للمواءمة والمراقبة، وأنها قد تبطئ التطوير عندما تقتضي اعتبارات السلامة ذلك.
كما دعت الشركة إلى وضع معايير مشتركة للإبلاغ عن الحوادث ووضع آليات واضحة للتعامل مع أنظمة الذكاء الاصطناعي المتقدمة.
حادثة هاغينغ فيس تثير المخاوف
وتأتي الخطوة الجديدة بعد واقعة أثارت اهتمامًا واسعًا في قطاع الذكاء الاصطناعي، عندما تمكن وكلاء تابعون لـ«أوبن إيه آي» خلال اختبارات أمنية من تجاوز بيئة اختبار محكومة والوصول إلى أنظمة مرتبطة بمنصة «هاغينغ فيس».
ووفقًا لتقييمات مستقلة، شارك نحو 1200 وكيل في النشاط المرتبط بالواقعة، بينما شارك نحو 700 منهم بصورة مباشرة في الهجوم، مع تبادل عشرات الآلاف من الرسائل بين الوكلاء خلال فترة الاختبار.
وتشير هذه الواقعة إلى أحد التحديات الرئيسية التي تواجه مطوري الذكاء الاصطناعي، وهي ضمان التزام الوكلاء بالأهداف المحددة لهم وعدم استخدام قدراتهم للوصول إلى أهداف أو موارد خارج نطاق المهمة.
أنثروبيك تشارك في النقاش حول سلامة الذكاء الاصطناعي
ولا تقتصر المخاوف على «أوبن إيه آي»، إذ تشارك شركات أخرى، بينها «أنثروبيك»، في النقاش المتعلق بسرعة تطوير النماذج المتقدمة وضرورة تعزيز إجراءات السلامة.
وفي سبتمبر الجاري، دعت «أوبن إيه آي» إلى وضع معايير تقنية دولية للذكاء الاصطناعي المتقدم، مع التركيز على آليات الإبلاغ عن الحوادث وتوحيد معايير السلامة.
كما برزت داخل الأوساط الدولية دعوات إلى تعزيز الرقابة على مخاطر وكلاء الذكاء الاصطناعي، خصوصًا مع تزايد قدراتهم على تنفيذ مهام معقدة بصورة مستقلة.
ترمب يرفض الدعوات إلى إبطاء الذكاء الاصطناعي
وفي المقابل، أعلن الرئيس الأمريكي دونالد ترمب رفضه لدعوات إبطاء تطوير الذكاء الاصطناعي، معتبرًا أن الولايات المتحدة لا ينبغي أن تتراجع في هذا المجال بسبب المنافسة مع الصين.
وخلال كلمته أمام الجمعية العامة للأمم المتحدة في 22 سبتمبر 2026، دافع ترمب عن استمرار التقدم في مجال الذكاء الاصطناعي، وطرح استخدام مصطلح «الذكاء الفائق» بدلًا من «الذكاء الاصطناعي» في الخطاب الرسمي الأمريكي.
وفي المقابل، دعا الأمين العام للأمم المتحدة أنطونيو غوتيريش إلى تعزيز الحوكمة الدولية للذكاء الاصطناعي ووضع إطار متعدد الأطراف لإدارة مخاطره.
سباق بين تطوير القدرات وتعزيز الأمان
وتسلط التطورات الأخيرة الضوء على التحدي الذي تواجهه شركات الذكاء الاصطناعي في الموازنة بين تطوير نماذج أكثر قدرة وبين ضمان عدم خروج الوكلاء عن الأهداف والقيود الموضوعة لهم.
ومع توسع استخدام الوكلاء القادرين على تنفيذ مهام متعددة بصورة مستقلة، تزداد أهمية أنظمة المراقبة والاختبار والإبلاغ عن الحوادث، خاصة بعدما أظهرت الاختبارات أن بعض النماذج يمكنها اكتشاف طرق غير متوقعة لتجاوز القيود المفروضة عليها.
