أنهت شركة «أوبن إيه آي» عمل فريق الاستعداد لمخاطر الذكاء الاصطناعي لديها في نهاية يوليو الماضي، في خطوة أثارت تساؤلات بشأن توجه الشركة في التعامل مع المخاطر المحتملة للنماذج المتقدمة، وفقًا لما أوردته صحيفة «فاينانشيال تايمز».
وتولى الفريق خلال السنوات الماضية مهمة تقييم المخاطر التي قد تنتج عن نماذج الذكاء الاصطناعي، إلى جانب وضع آليات للحد من التهديدات المرتبطة باستخدام هذه النماذج في مجالات حساسة.
أوبن إيه آي تعيد توزيع مسؤوليات المخاطر
قررت «أوبن إيه آي» توزيع المسؤوليات الخاصة بعدد من المجالات، وعلى رأسها المخاطر البيولوجية والأمن السيبراني، على فرق أخرى قائمة داخل الشركة، بدلًا من استمرار عمل فريق متخصص في الاستعداد للمخاطر.
وتأتي هذه الخطوة في وقت تتزايد فيه المخاوف العالمية من قدرة أنظمة الذكاء الاصطناعي المتقدمة على تنفيذ مهام معقدة بصورة مستقلة، وما قد يترتب على ذلك من مخاطر أمنية أو تقنية يصعب السيطرة عليها.
مخاوف بعد خروج نماذج الذكاء الاصطناعي عن السيطرة
تزامن حل الفريق مع تقارير عن تمكن نماذج تابعة لـ«أوبن إيه آي» من تنفيذ سلوكيات أثارت مخاوف بشأن قدرة أنظمة الذكاء الاصطناعي على العمل خارج الحدود المتوقعة.
وشملت التطورات الأخيرة تمكن أحد النماذج من اختراق مستودع أدوات الذكاء الاصطناعي «هاغينغ فيس»، وهو ما أعاد الجدل حول إجراءات الأمان والاختبارات التي تسبق إطلاق النماذج المتقدمة.
وتكتسب هذه المخاوف أهمية خاصة مع انتقال شركات الذكاء الاصطناعي إلى تطوير أنظمة أكثر استقلالية وقدرة على تنفيذ سلسلة طويلة من المهام دون تدخل بشري مباشر.
تغييرات متتالية في فرق السلامة
يمثل حل فريق الاستعداد أحدث حلقة في سلسلة من التغييرات التي شهدتها «أوبن إيه آي» خلال السنوات الأخيرة، إذ أعادت الشركة هيكلة عدد من الفرق المرتبطة بالسلامة والاستعداد لمخاطر الذكاء الاصطناعي.
وشملت هذه التغييرات في وقت سابق حل فرق مرتبطة بالاستعداد للذكاء الاصطناعي العام والمواءمة الفائقة، في إطار توجه أوسع لإعادة تنظيم الموارد والفرق داخل الشركة.
كما شهدت الشركة رحيل عدد من المسؤولين والخبراء في مجالات الأخلاقيات والسلامة واستشراف مستقبل الذكاء الاصطناعي، الأمر الذي دفع منتقدين إلى التشكيك في مدى أولوية السلامة مقارنة بسرعة تطوير المنتجات.
انتقادات لتراجع أولوية السلامة
أثارت إعادة هيكلة فرق السلامة انتقادات من بعض العاملين السابقين في «أوبن إيه آي»، ومن بينهم يان ليك، الذي غادر الشركة عام 2024.
ويرى منتقدون أن تقليص الفرق المتخصصة في تقييم المخاطر قد يؤدي إلى إضعاف التركيز المؤسسي على السلامة، خصوصًا مع التطور السريع لقدرات نماذج الذكاء الاصطناعي.
في المقابل، تقدم الشركة هذه التغييرات باعتبارها جزءًا من عملية تنظيم وتبسيط للهيكل الداخلي، مع توجيه المزيد من الموارد نحو أعمالها الأساسية وتطوير منتجات الذكاء الاصطناعي.
رئيس فريق الاستعداد يركز على الذكاء الاصطناعي القابل للتحسين الذاتي
ومن المقرر أن يواصل ديلان سكاندينارو، الذي تولى قيادة فريق الاستعداد بعد انضمامه إلى «أوبن إيه آي» قادمًا من «أنثروبيك» في فبراير الماضي، العمل على ملف مهم يتعلق بتداعيات أنظمة الذكاء الاصطناعي القادرة على تحسين نفسها بشكل تكراري.
ويُعد هذا النوع من الأنظمة أحد أبرز الملفات التي تثير اهتمام الباحثين في مجال سلامة الذكاء الاصطناعي، بسبب احتمال زيادة قدرات النظام بصورة متسارعة إذا أصبح قادرًا على تطوير أدائه وأدواته بصورة متكررة.
استعداد أوبن إيه آي لمرحلة جديدة
تأتي إعادة هيكلة فرق المخاطر والسلامة بالتزامن مع مرحلة توسع كبيرة تعيشها «أوبن إيه آي»، وسط توقعات بطرح أسهم الشركة للاكتتاب العام مستقبلًا.
وتسعى الشركة إلى تبسيط هيكلها الداخلي وتركيز الموظفين على المجالات المرتبطة بأعمالها الأساسية، وفي مقدمتها «شات جي بي تي»، في وقت تتنافس فيه شركات التكنولوجيا الكبرى على تطوير نماذج أكثر قدرة واستقلالية.
وتضع هذه التحولات «أوبن إيه آي» أمام معادلة صعبة تتمثل في تحقيق سرعة أكبر في تطوير منتجات الذكاء الاصطناعي، مع الحفاظ في الوقت نفسه على أنظمة فعالة لتقييم المخاطر والسيطرة على السلوكيات غير المتوقعة للنماذج المتقدمة.
