قال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، إن التطور المتسارع لتكنولوجيا الذكاء الاصطناعي قد يجعل وقوع بعض الحوادث أمرًا يصعب تجنبه بالكامل، مشددًا في الوقت نفسه على أن التعامل معها بشفافية والتحقيق في أسبابها واستخلاص الدروس منها يمثل عنصرًا أساسيًا للحد من مخاطرها.
وجاءت تصريحات ألتمان خلال مشاركته في مؤتمر Dreamforce الذي تنظمه شركة Salesforce، حيث تناول المخاطر المرتبطة بالجيل الجديد من أنظمة الذكاء الاصطناعي، خصوصًا مع تزايد قدرتها على تنفيذ المهام بدرجات أعلى من الاستقلالية.
وأوضح الرئيس التنفيذي لـOpenAI أن ظهور قدر من الحوادث أمر متوقع مع أي تكنولوجيا جديدة، لكنه أكد أهمية بناء ثقافة مؤسسية تقوم على الإبلاغ عن الحوادث ودراستها والاستفادة منها، بدلًا من التعامل معها باعتبارها وقائع منفصلة.
ألتمان يستشهد بالطيران في التعامل مع حوادث الذكاء الاصطناعي
استشهد ألتمان بقطاع الطيران باعتباره نموذجًا يمكن لصناعة الذكاء الاصطناعي الاستفادة منه في التعامل مع الحوادث.
وأشار إلى دور إدارة الطيران الفيدرالية الأميركية FAA والمجلس الوطني لسلامة النقل NTSB في التحقيق في حوادث الطيران وتحليل أسبابها وتوثيق نتائجها، موضحًا أن هذه الممارسات ساهمت على مدى سنوات في استخلاص دروس ساعدت على تطوير معايير السلامة في القطاع.
ويرى ألتمان أن الذكاء الاصطناعي يحتاج إلى نهج مشابه، بحيث لا تقتصر الاستجابة للحوادث على احتواء آثارها، وإنما تمتد إلى معرفة أسباب وقوعها وتوثيقها ومشاركة الدروس المستفادة منها بهدف تحسين الأنظمة المستقبلية.
ارتفاع استقلالية أنظمة الذكاء الاصطناعي يثير المخاوف
تأتي تصريحات ألتمان في وقت تخضع فيه شركات الذكاء الاصطناعي الكبرى لمستويات متزايدة من التدقيق، بالتزامن مع ارتفاع قدرات النماذج وتحولها تدريجيًا من أدوات تقتصر على تقديم الإجابات إلى أنظمة قادرة على تنفيذ سلسلة من المهام بصورة أكثر استقلالية.
ويعني هذا التطور أن بعض الأخطاء المحتملة قد تتجاوز نطاق الإجابات غير الدقيقة، لتصل إلى تنفيذ إجراءات فعلية، وهو ما يزيد أهمية أنظمة المراقبة والسلامة.
سام ألتمان: العالم محق في الخوف من مخاطر الذكاء الاصطناعي
لم يتجاهل ألتمان المخاوف المرتبطة بتطور أنظمة الذكاء الاصطناعي، بما في ذلك احتمال فقدان السيطرة على بعض الأنظمة المتقدمة أو تركّز قدرات كبيرة في أيدي عدد محدود من الشركات.
وقال إن العالم محق في الشعور بالخوف من هذه المخاطر، في إشارة إلى ضرورة التعامل الجاد مع التحديات التي قد ترافق تطور التكنولوجيا.
وتزامنت تصريحاته مع تحذيرات أطلقها جاكوب كوكسون، الباحث السابق في أنثروبيك وOpenAI، بعد استقالته من أنثروبيك في سبتمبر، بشأن السباق نحو تطوير أنظمة قادرة على تحسين قدراتها بنفسها.
وحذر كوكسون من اتجاه الشركات نحو ما وصفه بالذكاء الفائق القادر على تحسين نفسه، داعيًا إلى إيلاء المخاطر المرتبطة بهذا المسار اهتمامًا أكبر.
السلامة والمواءمة يجب أن تواكبا تطور قدرات النماذج
ورغم إقراره بالمخاطر، لا يدعو ألتمان إلى وقف تطوير الذكاء الاصطناعي بصورة عامة، بل يركز على ضرورة أن تتقدم أعمال السلامة والمواءمة والمراقبة بوتيرة تواكب أو تتجاوز سرعة تطور قدرات النماذج.
وبحسب هذا التصور، ينبغي أن تكون شركات الذكاء الاصطناعي مستعدة لإبطاء عمليات التطوير أو تعليق بعض الأبحاث مؤقتًا إذا أصبحت غير قادرة على الحفاظ على مستوى مناسب من السلامة بالتوازي مع زيادة قدرات الأنظمة.
ويعني ذلك أن احتمال وقوع حوادث لا ينبغي أن يتحول إلى مبرر لقبول المخاطر واسعة النطاق، وإنما إلى دافع لبناء آليات أكثر فاعلية لاكتشاف المشكلات والإبلاغ عنها والتعامل معها في مراحل مبكرة.
وكلاء الذكاء الاصطناعي يغيرون طبيعة المخاطر
أصبحت قضية سلامة الذكاء الاصطناعي أكثر تعقيدًا مع انتقال التكنولوجيا من روبوتات المحادثة التقليدية إلى وكلاء قادرين على تنفيذ مهام متعددة والعمل بدرجات متفاوتة من الاستقلالية.
وفي حالة هذه الأنظمة، قد ينتقل أثر الخطأ من مجرد معلومة غير صحيحة إلى إجراء يتم تنفيذه على أرض الواقع، وهو ما يجعل عمليات المراقبة والتقييم أكثر أهمية.
وكان ألتمان قد وصف حادثة مرتبطة بوكيل ذكاء اصطناعي تابع لـOpenAI واختراق منصة Hugging Face بأنها أسوأ حادث شهدته الشركة، في وقت ظهرت فيه تقارير عن سلوكيات ومخاطر مرتبطة بنماذج طورتها شركات أخرى.
الشفافية والتحقيق عنصران أساسيان في سلامة الذكاء الاصطناعي
وتتمحور رؤية ألتمان حول ضرورة التعامل مع حوادث الذكاء الاصطناعي باعتبارها مصدرًا للتعلم وتحسين الأنظمة، وليس مجرد مشكلات يجب احتواؤها ثم تجاوزها.
ويشمل ذلك الإبلاغ عن الحوادث، والتحقيق في أسبابها، وتحليل كيفية وقوعها، ثم استخدام النتائج لتطوير إجراءات السلامة والاختبار والمراقبة.
ومع استمرار سباق تطوير النماذج الأكثر تقدمًا، يبرز التحدي أمام شركات التكنولوجيا في تحقيق توازن بين سرعة الابتكار وبين تطوير آليات السلامة القادرة على مواكبة القدرات الجديدة.
وتشير تصريحات ألتمان إلى أن مستقبل تطوير الذكاء الاصطناعي لن يرتبط فقط بمدى قوة النماذج، وإنما أيضًا بقدرة الشركات على اكتشاف الحوادث والتعامل معها بشفافية واستخلاص الدروس منها قبل اتساع نطاق آثارها.
