ألغت شركة OpenAI، المطورة لخدمة ChatGPT، فريق الاستعداد المسؤول عن تقييم المخاطر الكارثية المحتملة لنماذج الذكاء الاصطناعي المتقدمة، مع نقل مهامه إلى فرق متخصصة داخل الشركة.
ويختص هذا العمل باختبار مدى إمكانية استخدام النماذج المتطورة في تنفيذ هجمات إلكترونية، أو تقديم مساعدة في تطوير تهديدات بيولوجية، أو التصرف بصورة تتجاوز الحدود والضوابط التي يضعها المطورون.
OpenAI تعيد توزيع مهام فريق الاستعداد
وبحسب تقارير إعلامية، لم تتوقف OpenAI عن أعمال اختبار السلامة، لكنها قررت إنهاء الفريق ككيان مستقل، وتقسيم مسؤولياته وفق طبيعة المخاطر التي يجري تقييمها.
وانتقلت مهام متعلقة بالأمن السيبراني إلى فرق الأمن السيبراني الموجودة بالفعل داخل الشركة، بينما أُسندت الملفات المرتبطة بالسلامة البيولوجية إلى الفرق المختصة بهذا المجال.
ويأتي ذلك في إطار توجه الشركة إلى دمج أعمال تقييم المخاطر داخل وحدات متخصصة بدلًا من وجود فريق واحد يتولى متابعة مختلف التهديدات المحتملة.
رئيس الفريق ينتقل إلى أبحاث الذكاء الاصطناعي
ومع إلغاء فريق الاستعداد، انتقل رئيسه ديلان سكاندينارو إلى مجال بحثي آخر يركز على الآثار المحتملة للذكاء الاصطناعي القادر على تحسين قدراته بصورة متكررة.
ويعكس هذا الانتقال استمرار اهتمام OpenAI بدراسة المخاطر المرتبطة بتطور قدرات النماذج، رغم إعادة هيكلة الفرق المسؤولة عن تقييم تلك المخاطر.
تغييرات متلاحقة في فرق سلامة الذكاء الاصطناعي
ويأتي إلغاء فريق الاستعداد ضمن سلسلة من التغييرات التي شهدتها OpenAI في فرق السلامة والمواءمة، بعدما ألغت الشركة في وقت سابق فريق الاستعداد للذكاء العام الاصطناعي، إلى جانب فريق المواءمة الفائقة الذي كان يعمل على تطوير أساليب للتحكم في أنظمة قد تتجاوز القدرات البشرية.
ولا يعني تفكيك فريق الاستعداد توقف اختبارات الأمان داخل الشركة، إلا أن إعادة توزيع مهامه تثير تساؤلات بشأن طريقة إدارة المخاطر مع انتقال المسؤوليات إلى أكثر من إدارة متخصصة.
مخاوف من تراجع استقلالية تقييم المخاطر
ويرى منتقدون أن وجود فريق مستقل يركز على المخاطر الشاملة يمنح عمليات السلامة زاوية مختلفة عن الفرق المرتبطة مباشرة بتطوير المنتجات والنماذج.
ويخشى بعض المنتقدين السابقين داخل الشركة من أن يؤدي توزيع مسؤوليات السلامة بين إدارات متعددة إلى صعوبة تحديد جهة واحدة تمتلك القدرة على الاعتراض على تطوير أو إطلاق نموذج يُعتقد أنه يحمل مخاطر مرتفعة.
وتزداد أهمية هذه المخاوف مع تسارع المنافسة في سوق الذكاء الاصطناعي، وتوسع الشركات في إطلاق نماذج أكثر قدرة، بالتزامن مع سعي OpenAI إلى تعزيز أعمالها وجذب المزيد من الاستثمارات.
OpenAI أمام تحدي موازنة التطوير والسلامة
وتواجه OpenAI تحديًا مستمرًا يتمثل في تحقيق التوازن بين تسريع تطوير نماذج الذكاء الاصطناعي الجديدة والحفاظ على أنظمة قوية لاختبار السلامة.
ومع وصول قدرات النماذج إلى مستويات أكثر تقدمًا، أصبح تقييم المخاطر السيبرانية والبيولوجية ومخاطر فقدان السيطرة جزءًا أساسيًا من النقاش حول مستقبل الذكاء الاصطناعي.
وتشير إعادة هيكلة فريق الاستعداد إلى تغير طريقة OpenAI في إدارة هذه الملفات، بينما ستظل فعالية النموذج الجديد في تقييم المخاطر مرتبطة بمدى استقلالية الفرق المختلفة وقدرتها على التدخل عند ظهور تهديدات خطيرة.
