وتدور الخلافات حول حق الشركات المطورة في مراجعة تقارير التقييم، وحماية الأسرار التجارية والملكية الفكرية، مقابل ضمان قدرة الجهات المستقلة على الكشف عن أوجه القصور والمخاطر التي قد تؤثر في المستخدمين والمؤسسات، خصوصًا مع تطور قدرات النماذج وزيادة المخاوف من تنفيذها مهام تتجاوز التوقعات البشرية.
OpenAI وأنثروبيك.. خلاف حول استقلال تقييم نماذج الذكاء الاصطناعي
وفقًا للتحقيق، سعت الشركتان خلال مفاوضاتهما مع جهات تقييم إلى وضع قيود على المعلومات التي يمكن الكشف عنها، استنادًا إلى اعتبارات تتعلق بسرية البيانات التقنية وحماية الملكية الفكرية.
وتشمل نقاط الخلاف إمكانية حضور موظفين من الشركات المطورة أثناء إجراء الاختبارات، وفرض قيود على تعامل بعض المقيمين مع الشركات المنافسة، إلى جانب اشتراط مراجعة معلومات قبل نشرها إذا اعتُبرت سرية أو حساسة تجاريًا.
وتثير هذه الممارسات تساؤلات حول مدى قدرة جهات التقييم على العمل باستقلالية، خاصة عندما تكون الشركات التي تخضع نماذجها للفحص هي نفسها الطرف الذي يحدد حدود الإفصاح عن النتائج.
من يحدد المعلومات التي يحق للجمهور معرفتها؟
تتمثل إحدى أبرز الإشكاليات في صعوبة الفصل بين التفاصيل التقنية التي قد تمثل أسرارًا تجارية، والمعلومات المتعلقة بمخاطر السلامة التي يحتاج الجمهور والجهات التنظيمية إلى معرفتها.
فإذا كانت الشركات المطورة تمتلك سلطة واسعة على ما يُنشر من نتائج التقييم، فقد يؤدي ذلك إلى تقييد الإفصاح عن بعض أوجه القصور. وفي المقابل، تتمسك الشركات بأهمية حماية المعلومات الحساسة التي قد يؤدي كشفها إلى الإضرار بمصالحها التجارية أو إتاحة تفاصيل تقنية لا ينبغي نشرها.
وبذلك، لا يتعلق الخلاف بمجرد صياغة التقارير، بل يمتد إلى تحديد الجهة التي تملك القرار النهائي بشأن نشر نتائج اختبارات سلامة أنظمة الذكاء الاصطناعي.
موقف أنثروبيك من مراجعة تقارير تقييم السلامة
بحسب ما نقلته رويترز، أكدت أنثروبيك أن جهات التقييم التي سبق لها التعاون معها تتمتع بحرية تحديد أساليب الفحص ونتائجه.
لكن الشركة تحتفظ بحق مراجعة تقارير الجهات التي تتعاون معها للمرة الأولى والموافقة عليها، وهو ما يفتح باب التساؤلات بشأن الحدود الفاصلة بين مراجعة المعلومات السرية والتأثير في النتائج التي تصل إلى الجمهور.
OpenAI تنفي طلب الموافقة على التقارير كاملة
من جانبها، نفت OpenAI سعيها إلى الحصول على حق الموافقة على النص الكامل لتقارير التقييم، موضحة أن إجراءاتها تركز على حذف المعلومات السرية، مع السماح للمقيمين بالكشف عن إجراء تعديلات جوهرية على التقارير.
ويعكس اختلاف الموقفين وجود تباين في كيفية تنظيم العلاقة بين الشركات المطورة والجهات التي تختبر سلامة أنظمتها، خصوصًا فيما يتعلق بحدود المراجعة وشفافية النتائج المنشورة.
مطالب بضمان استقلال الجهات التي تفحص الذكاء الاصطناعي
يأتي التحقيق في وقت تتزايد فيه الدعوات إلى وضع ضمانات تحمي استقلال الجهات المسؤولة عن تقييم نماذج الذكاء الاصطناعي، إذ طالب أكثر من 200 باحث بوضع قواعد تمنع الشركات المطورة من التحكم في نطاق الاختبارات أو تحديد ما يمكن نشره من نتائجها.
وتكتسب هذه المطالب أهمية مع توسع استخدام النماذج المتقدمة في مجالات متعددة، إذ تعتمد الجهات التنظيمية والباحثون والمستخدمون على نتائج اختبارات السلامة لفهم حدود الأنظمة ومخاطرها المحتملة.
وتظل القضية الأساسية هي تحقيق التوازن بين حماية الأسرار التجارية وضمان الشفافية، بحيث تتمكن الجهات المستقلة من تقييم النماذج والإفصاح عن المخاطر المهمة دون قيود تضعف مصداقية الاختبارات أو تقلل من قدرة الجمهور على فهم النتائج.
