قررت شركة أنثروبيك منح ستة باحثين من مؤسسة METR غير الربحية صلاحيات وصول داخلية مماثلة لصلاحيات موظفيها، بهدف تقييم نماذج الذكاء الاصطناعي المتقدمة وإجراءات السلامة وإدارة المخاطر بصورة مستقلة، في خطوة تأتي وسط تزايد المخاوف بشأن تصرف الوكلاء الذكيين خارج التعليمات المحددة لهم.
وأعلنت الشركة القرار في تدوينة نشرتها الخميس، مؤكدة رغبتها في تعزيز المساءلة أمام الجمهور وتقليص الفجوة بين المعلومات المتاحة للمقيمين المستقلين وما تعرفه الشركات المطورة عن أنظمتها.
وصول إلى الأدوات والأنظمة الداخلية
بموجب الاتفاق، حصل باحثو METR على أجهزة حاسوب محمولة توفرها أنثروبيك، ومساحات للعمل داخل مكاتبها، وإمكانية الوصول إلى أدواتها الداخلية، بما يقارب الصلاحيات المتاحة لفرق تقييم المخاطر داخل الشركة.
وشجعت أنثروبيك موظفيها على مشاركة المعلومات مع الباحثين كما يتعاملون مع زملائهم العاملين في مجال مخاطر مواءمة الذكاء الاصطناعي، أي ضمان توافق سلوك النماذج مع الأهداف والتعليمات المحددة لها.
وشبهت الشركة هذا النموذج بالآليات المتبعة في القطاع المصرفي، حيث يعمل مراقبون تابعون للجهات التنظيمية داخل البنوك الكبرى لمتابعة أنشطتها وتقييم المخاطر بصورة مستمرة.
تقارير مستقلة دون حق منع النشر
ينص الاتفاق على أن تنشر مؤسسة METR تقييماتها المستقلة بشأن مخاطر أنظمة أنثروبيك والحوادث المرتبطة بها وممارسات الشركة التشغيلية، دون امتلاك الأخيرة حق منع نشر التقارير.
ومع ذلك، يمكن لأنثروبيك طلب حجب معلومات محددة ضمن فئات ضيقة ومحددة مسبقًا، تشمل بيانات العملاء والمعلومات المحمية بسرية العلاقة بين المحامي وموكله، وبعض التفاصيل المتعلقة بالبنية المعمارية للنماذج.
وتحتفظ METR بحق التعليق علنًا على عمليات الحجب، بما في ذلك توضيح ما إذا كانت ترى أنها مبررة، دون الكشف عن المعلومات المحجوبة نفسها.
ويتيح هذا الترتيب للمقيمين المستقلين فحص الأنظمة من الداخل، بدلًا من الاعتماد فقط على البيانات والاختبارات التي تختار الشركات إتاحتها لهم.
ثلاثة مستويات لتقييم مخاطر الذكاء الاصطناعي
تعد METR الجهة الوحيدة التي وصلت إلى المستوى الأعلى ضمن نظام تقييم من ثلاثة مستويات تطوره أنثروبيك.
ويشمل المستوى الأدنى جهات مثل مؤسسة SecureBio المتخصصة في الأمن البيولوجي، التي تجري مراجعات محدودة النطاق وتحتاج إلى موافقة أنثروبيك قبل نشر نتائجها.
أما المستوى المتوسط، فيتيح للمقيمين الوصول إلى معلومات أوسع ونشر نتائجهم دون موافقة مسبقة من الشركة، بينما يمنح المستوى الأعلى صلاحيات داخلية أوسع تسمح بفحص الأنظمة وإجراءات إدارة المخاطر بصورة معمقة.
تحركات لتعزيز الرقابة المستقلة
تأتي الخطوة تنفيذًا لتعهد سابق أعلنه داريو أمودي، الرئيس التنفيذي لأنثروبيك، في مقال نشره خلال سبتمبر الماضي، دعا فيه إلى دمج جهات تقييم مستقلة داخل مختبرات الذكاء الاصطناعي، باعتبار ذلك خطوة أولى نحو إبطاء تطوير هذه التكنولوجيا.
وأعلنت شركة OpenAI التزامًا مماثلًا، فيما وقعت الشركتان، إلى جانب غوغل وميتا وإنفيديا وxAI، اتفاقًا مع البيت الأبيض يتضمن الالتزام بإجراء مراجعات مستقلة لأنظمة الذكاء الاصطناعي.
وتتزامن هذه التحركات مع تصاعد المخاوف بشأن قدرة الوكلاء الذكيين على تنفيذ المهام بصورة مستقلة، واحتمال تجاوزهم التعليمات والحدود التي يضعها المطورون، ما يعزز الدعوات إلى تطوير آليات رقابة مستقلة على النماذج المتقدمة.
