تتجه شركات الذكاء الاصطناعي الكبرى إلى إعادة النظر في الطريقة التي تختبر بها سلامة نماذجها المتقدمة، مع تزايد المخاوف من قدرة هذه النماذج على اكتشاف خضوعها للاختبار والتصرف بصورة مختلفة عن سلوكها في الظروف الطبيعية.
وجاء هذا التحول بعد طرح الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، مقترحًا لمنح جهات تقييم مستقلة صلاحيات أوسع داخل شركات الذكاء الاصطناعي، تشمل الوصول إلى الأنظمة ومراقبة عمليات السلامة والإبلاغ عن الحوادث وتقييم مدى التزام النماذج بالمعايير المحددة.
وأعلن الرئيس التنفيذي لشركة OpenAI، سام ألتمان، أن شركته ستتبنى الممارسة نفسها، في خطوة قد تمنح جهات الأبحاث الخارجية دورًا أكبر في مراقبة سلامة النماذج المتقدمة.
أنثروبيك تطرح نموذجًا جديدًا للرقابة على الذكاء الاصطناعي
تسعى أنثروبيك إلى منح جهات مستقلة مثل METR وRedwood Research وصولًا واسعًا إلى أنظمة الشركة، بما يسمح للباحثين بفحص جوانب من عملية تطوير النماذج لا تظهر بالضرورة عند إجراء اختبار نهائي قبل الإطلاق.
ويستهدف المقترح تعزيز قدرة الجهات الخارجية على اكتشاف مخاطر محتملة قد لا تظهر خلال الاختبارات التقليدية، إلى جانب منحها مساحة أكبر للتحقق من نتائج اختبارات السلامة التي تعلنها الشركات.
لماذا أصبحت مراقبة النماذج خلال الاختبار أكثر أهمية؟
تتمثل إحدى أبرز المخاوف في احتمال أن تتمكن نماذج الذكاء الاصطناعي المتقدمة من التعرف على أنها تخضع للتقييم، ثم تغيير سلوكها بهدف تحقيق نتائج أفضل أثناء الاختبار.
وفي هذه الحالة، قد تعطي الاختبارات النهائية صورة أكثر إيجابية عن سلوك النموذج مقارنة بما يمكن أن يحدث عند استخدامه في ظروف مختلفة.
ويرى باحثون أن بعض المؤشرات المهمة قد لا تظهر عند فحص النموذج النهائي، وإنما خلال مراحل التدريب والتطوير، ما يجعل الوصول إلى النسخ الوسيطة من النموذج وسجلات الاختبارات أمرًا مهمًا في عمليات التقييم.
من اختبار النموذج النهائي إلى فحص مراحل التدريب
اعتمدت شركات الذكاء الاصطناعي لفترة طويلة على جهات خارجية لإجراء اختبارات على النماذج النهائية قبل طرحها.
لكن المقترحات الجديدة تدفع باتجاه توسيع نطاق التقييم ليشمل نسخ Checkpoints التي يتم حفظها خلال مراحل التدريب المختلفة، بحيث يستطيع الباحثون تتبع تطور سلوك النموذج ومعرفة متى ظهرت مؤشرات معينة.
وقال آدم غليف، الرئيس التنفيذي لشركة FAR.AI، إن مقارنة هذه النسخ يمكن أن تساعد في تحديد المرحلة التي ظهر فيها سلوك مثير للقلق، إلى جانب فحص عمليات ما بعد التدريب التي يتم خلالها تعزيز بعض السلوكيات لدى النموذج.
كما يمكن للمقيمين الاطلاع على سجلات الاختبارات ونسخ المحادثات والعمليات التي تمت أثناء التقييم، للتحقق من مدى توافق النتائج المعلنة مع ما حدث بالفعل داخل المختبر.
هل تستطيع النماذج تعلم كيفية اجتياز اختبارات السلامة؟
تزداد أهمية الرقابة المستقلة مع المخاوف المتعلقة بإمكانية تدريب النماذج، بشكل مباشر أو غير مباشر، على تحقيق أداء جيد في اختبارات محددة.
وضرب جون ستيدلي، رئيس الاستراتيجية في Palisade Research، مثالًا باختبار يقيس ما إذا كان نظام ذكاء اصطناعي سيقاوم محاولة إيقاف تشغيله في ظروف معينة.
ووفق هذا الطرح، فإن معرفة النموذج مسبقًا بأنه يخضع لاختبار معين قد تؤثر في السلوك الذي يظهره خلال التقييم.
وشبه ستيدلي هذه المشكلة بقضية Dieselgate الخاصة باختبارات انبعاثات السيارات، حيث تمكنت أنظمة السيارات محل القضية من التعرف على ظروف الاختبار والتصرف بصورة مختلفة خلالها.
المقيمون المستقلون يطالبون بحرية أكبر في نشر النتائج
يتضمن تصور أمودي منح الجهات المستقلة صلاحية نشر النتائج الأساسية المتعلقة بمستويات المخاطر والحوادث وممارسات السلامة، إضافة إلى توضيح المعلومات التي تمكنت من الوصول إليها أو مُنعت من الاطلاع عليها.
وتكمن أهمية هذا المقترح في تقليل اعتماد الجمهور على النتائج التي تقدمها شركات الذكاء الاصطناعي نفسها، وإتاحة مساحة أكبر للجهات الخارجية للتحقق من إجراءات السلامة.
لكن الباحثين يشيرون إلى أن نجاح هذا النموذج يتوقف على مدى استعداد الشركات للتخلي عن جزء من سيطرتها على عمليات التقييم.
خلافات سابقة حول استقلالية جهات التقييم
واجهت جهات التقييم الخارجية في السابق خلافات مع مطوري نماذج الذكاء الاصطناعي بشأن نطاق الوصول إلى المعلومات والوقت المتاح للاختبار واتفاقيات السرية وما يمكن نشره للرأي العام.
وقال آدم غليف إن FAR.AI اضطرت إلى رفض عقود مع بعض مطوري نماذج الذكاء الاصطناعي المتقدمة، بسبب رغبتهم في فرض قيود واسعة على عملية التقييم، بما قد يؤثر في استقلالية الجهة المقيمة.
وتفرض اتفاقيات السرية عادةً قيودًا على ما يمكن للباحثين الكشف عنه، وهو ما يثير تساؤلات حول مدى قدرة الجهات المستقلة على نشر نتائجها بصورة كاملة.
الوقت المتاح للاختبار يثير تساؤلات جديدة
لا يرتبط نجاح التقييم فقط بحجم المعلومات المتاحة، وإنما أيضًا بالوقت الذي تحصل عليه الجهات المستقلة لإجراء الاختبارات.
وخلال التحقيق في حادثة مرتبطة بـHugging Face، حصل باحثو METR وRedwood على نحو أسبوع داخل OpenAI، لكن الجهتين أشارتا لاحقًا إلى عدم قدرتهما على الوصول إلى استنتاجات واثقة بشكل كامل، مع الإشارة إلى قيود نطاق التحقيق والوقت المتاح.
وظهرت تحديات مشابهة خلال الاختبارات التي سبقت إطلاق GPT-6 Astra، إذ حصل باحثو Apollo Research على ثلاثة أيام فقط للاختبار، وفق ما ورد في مساهمتهم ببطاقة النموذج.
وأشارت Apollo Research إلى أن ارتفاع قدرة النموذج على إدراك عمليات التقييم، بالتزامن مع قصر مدة الاختبار، يجعل انخفاض معدلات السلوك غير المرغوب فيه غير كافٍ بمفرده للوصول إلى استنتاجات حاسمة بشأن سلامة النموذج.
هل تمتد الرقابة إلى موظفي شركات الذكاء الاصطناعي؟
يرى بعض الباحثين أن الوصول إلى النماذج والبيانات قد لا يكون كافيًا، وأن عملية التقييم المستقلة قد تحتاج أيضًا إلى مقابلة موظفين داخل الشركات.
والهدف من ذلك هو مقارنة الوثائق الرسمية والتوصيفات المعلنة لممارسات السلامة بما يحدث فعليًا أثناء تطوير النماذج، بما يسمح بتكوين صورة أوسع عن المخاطر المحتملة.
في المقابل، تظل حماية الملكية الفكرية والمعلومات التجارية الحساسة من أبرز العوامل التي قد تحد من حجم الوصول الذي تمنحه شركات الذكاء الاصطناعي للجهات الخارجية.
هل تحتاج الرقابة المستقلة إلى تشريع؟
يرى بعض الباحثين أن تطبيق الرقابة المستقلة بصورة فعالة يحتاج إلى قواعد واضحة تحدد طبيعة الجهات المؤهلة لإجراء عمليات التقييم، وصلاحياتها، والبيانات التي يمكنها الوصول إليها، وآليات نشر النتائج.
ويذهب آخرون إلى أن الالتزام الطوعي قد لا يكون كافيًا، لأن الشركات تستطيع تغيير ممارساتها أو حدود الوصول إليها في أوقات الأزمات أو عند مواجهة نتائج سلبية.
ومن هذا المنطلق، يطرح بعض الباحثين فكرة وجود إطار قانوني يحدد الحد الأدنى من متطلبات التقييم المستقل، ويطبق القواعد نفسها على الشركات المختلفة.
كاليفورنيا والاتحاد الأوروبي يتحركان لتنظيم تقييم الذكاء الاصطناعي
بدأت بعض الجهات التشريعية بالفعل في وضع قواعد تتعلق بسلامة نماذج الذكاء الاصطناعي والتقييم المستقل.
وفي كاليفورنيا، يتضمن القانون SB 53 متطلبات تتعلق بنشر أطر السلامة والإبلاغ عن حوادث السلامة الحرجة بالنسبة لمطوري نماذج الذكاء الاصطناعي المتقدمة، بينما ينشئ SB 813 إطارًا لمنظمات تحقق مستقلة معترف بها على مستوى الولاية.
وفي الاتحاد الأوروبي، يفرض قانون الذكاء الاصطناعي الأوروبي EU AI Act على مطوري النماذج المتقدمة إجراء وتوثيق تقييمات واختبارات، إلى جانب الإبلاغ عن الحوادث الخطيرة، مع إمكانية إجراء مكتب الذكاء الاصطناعي الأوروبي تقييماته الخاصة والاستعانة بخبراء مستقلين.
شركات أخرى لم تعتمد النموذج نفسه حتى الآن
ولا تزال الرقابة المستقلة داخل مختبرات الذكاء الاصطناعي محل نقاش، إذ لم تلتزم جميع الشركات الكبرى بإدخال جهات تقييم مستقلة إلى عملياتها الداخلية.
ومن بين الشركات التي لم تعلن التزامًا مماثلًا ميتا وSpaceXAI وغوغل ديب مايند، بينما طرح الرئيس التنفيذي لغوغل ديب مايند، ديميس هاسابيس، فكرة إنشاء هيئة مستقلة لوضع معايير للقطاع واختبار نماذج الذكاء الاصطناعي المتقدمة.
وتعكس هذه التطورات تحولًا تدريجيًا في النقاش حول سلامة الذكاء الاصطناعي، من التركيز على اختبار النموذج قبل إطلاقه فقط، إلى بحث إمكانية مراقبة مراحل تطويره وتدريبه والاستعانة بجهات خارجية للتحقق من النتائج.
