أعلنت شركة أوبن إيه آي انضمام الباحث البارز بول كريستيانو إلى مجلس إدارة مؤسسة أوبن إيه آي، في خطوة تأتي وسط اهتمام متزايد بملف سلامة الذكاء الاصطناعي والمخاطر المحتملة الناجمة عن التطور المتسارع لقدرات الأنظمة الذكية.
ويُعرف كريستيانو بأبحاثه المتعلقة بضمان توافق أنظمة الذكاء الاصطناعي مع المصالح البشرية، والحفاظ على قدرة البشر على التحكم فيها، كما يعد من أبرز الباحثين الذين حذروا من التداعيات المحتملة للتقدم السريع في هذا المجال.
وقال كريستيانو إنه بات يرى خطراً حقيقياً يتمثل في احتمال أن يؤدي التسارع الكبير في قدرات الذكاء الاصطناعي إلى فقدان كارثي وغير قابل للعكس للسيطرة على هذه الأنظمة في المستقبل القريب للغاية.
وأضاف أنه لا يرى أن صناعة الذكاء الاصطناعي، بما فيها أوبن إيه آي، تسير حالياً على المسار المناسب لخفض هذه المخاطر إلى مستوى مقبول، لكنه أوضح أنه انضم إلى الشركة اعتقاداً منه بأنه إذا نجحت أوبن إيه آي في التعامل مع هذه التحديات، فمن الممكن تقليص المخاطر بصورة كبيرة.
تحذير من تسارع قدرات الأنظمة الذكية
وأوضح كريستيانو أن استخدام نماذج الذكاء الاصطناعي في تدريب أنظمة ذكاء اصطناعي لاحقة قد يؤدي إلى انفجار في القدرات، بما يتجاوز قدرة المطورين على فهم هذه الأنظمة والسيطرة عليها.
كما أشار إلى أن أنظمة الذكاء الاصطناعي الحالية تعتمد على التعلم المعزز للحصول على أكبر قدر ممكن من المكافآت، وهو ما يثير منذ فترة طويلة احتمال أن تتجه بعض الوكلاء الأذكياء إلى تقويض السيطرة البشرية، والسعي للحصول على القوة والموارد، أو إخفاء آثار أفعالها لتحقيق أهداف لا تتوافق بالضرورة مع مصالح البشر، لكنها ترتبط بالمكافآت التي تحصل عليها.
ويرى كريستيانو أن الأدلة العلنية التي ظهرت من خلال الحوادث الأخيرة تشير إلى أن هذه السيناريوهات لم تعد مجرد احتمالات نظرية بعيدة.
كريستيانو ينضم إلى لجنة السلامة والأمن
ومن المقرر أن ينضم كريستيانو أيضاً إلى لجنة السلامة والأمن التابعة لمجلس إدارة أوبن إيه آي، والتي يرأسها زيكو كولتر، الأستاذ في جامعة كارنيغي ميلون.
وتتولى اللجنة دوراً محورياً في القرارات المتعلقة بإطلاق نماذج الذكاء الاصطناعي الجديدة، من خلال تقييم جوانب السلامة والمخاطر المرتبطة بهذه النماذج قبل طرحها.
ويأتي تعيين كريستيانو في وقت تواجه فيه أوبن إيه آي تدقيقاً متجدداً بشأن إجراءات السلامة، عقب سلسلة من الحوادث التي تمكن خلالها وكلاء ذكاء اصطناعي من تجاوز بعض القيود المفروضة عليهم والوصول إلى أنظمة حاسوبية خارجية دون علم الباحثين في الشركة.
أحد مطوري التعلم المعزز من ملاحظات البشر
ويُعد كريستيانو أحد الباحثين الذين ساهموا في تطوير تقنية التعلم المعزز من ملاحظات البشر، المعروفة اختصاراً بـ«آر إل إتش إف»، وهي تقنية أساسية في تدريب نماذج اللغة الكبيرة.
وكان كريستيانو قد عمل في أوبن إيه آي قبل مغادرتها عام 2021، ثم أسس مركز أبحاث التوافق بهدف دراسة كيفية تحديد ما إذا كانت نماذج الذكاء الاصطناعي يمكن أن تشكل تهديداً للبشر الذين طوروها.
دور استشاري مع الحكومة الأميركية
وخلال عام 2024، ارتبط كريستيانو بمعهد سلامة الذكاء الاصطناعي التابع للحكومة الأميركية، والذي تحول لاحقاً إلى مركز معايير وابتكار الذكاء الاصطناعي.
ويشارك الباحث في الجهود الحكومية المتعلقة بتقييم نماذج الذكاء الاصطناعي المتقدمة قبل إطلاقها.
وبحسب إعلان أوبن إيه آي، سيواصل كريستيانو تقديم المشورة للحكومة الأميركية بالتزامن مع عضويته الجديدة في مجلس إدارة الشركة، لكنه لن يشارك في المسائل المرتبطة بأوبن إيه آي أو في عمليات تقييم نماذجها.
ورغم ذلك، يظل هذا الترتيب محل اهتمام، في ظل الجدل المتواصل حول تأثير شركات الذكاء الاصطناعي الكبرى في وضع السياسات الحكومية والقواعد المنظمة للقطاع.
