حذر ثلاثة موظفين سابقين في شركة OpenAI من مخاطر تراجع القدرة على مراقبة طريقة عمل نماذج الذكاء الاصطناعي المتقدمة، مطالبين الشركة بالحفاظ على الأدوات البحثية التي تساعد على فهم كيفية تعامل هذه النماذج مع المشكلات ورصد السلوكيات غير المرغوب فيها.
ووجّه جاسمين وانج وتوميك كورباك وميكيتا باليسني خطابًا إلى مجلس إدارة OpenAI ولجان السلامة التابعة للشركة، بعد انتهاء عملهم بها، مؤكدين أن تطوير نماذج ذكاء اصطناعي قوية ونشرها بأمان يتطلب امتلاك وسائل فعالة لمراقبة أدائها وفهم سلوكها.
وتعكس هذه التحذيرات تصاعد المخاوف داخل قطاع الذكاء الاصطناعي بشأن قدرة الشركات والباحثين على اكتشاف المخاطر مبكرًا، خاصة مع تطور النماذج وزيادة قدرتها على تنفيذ المهام المعقدة بصورة مستقلة.
ما تقنية Chain-of-Thought ودورها في مراقبة الذكاء الاصطناعي؟
يركز التحذير على تقنية تُعرف باسم Chain-of-Thought، أو «سلسلة التفكير»، وهي مفهوم بحثي يرتبط بدراسة الخطوات الوسيطة التي قد تستخدمها نماذج الذكاء الاصطناعي للوصول إلى إجابة أو حل مشكلة.
ويرى الباحثون أن هذه التقنية لا تمثل سجلًا كاملًا أو مضمونًا لجميع العمليات الداخلية للنموذج، ولا يمكن اعتبارها دليلًا قاطعًا على نواياه أو سلوكه الفعلي، لكنها قد توفر مؤشرات مفيدة تساعد الباحثين على دراسة أداء الأنظمة المتقدمة واكتشاف بعض الأنماط غير المرغوب فيها.
ويحذر الموظفون السابقون من أن تقليص القدرة على مراقبة هذه المؤشرات قد يجعل اكتشاف المشكلات أكثر صعوبة، خصوصًا مع ظهور نماذج أكثر تطورًا وقدرة على تنفيذ مهام متعددة الخطوات دون تدخل بشري مستمر.
مطالب بتعزيز الرقابة المستقلة على أنظمة الذكاء الاصطناعي
دعا الخطاب إلى تعزيز التعاون بين OpenAI والجهات المستقلة المتخصصة في تقييم سلامة الذكاء الاصطناعي، بما يتيح إجراء اختبارات أكثر فاعلية لقدرات النماذج ومخاطرها قبل نشرها أو توسيع نطاق استخدامها.
وأكد الموظفون السابقون أهمية توفير أدوات بحثية تُمكّن الخبراء من تقييم سلوك الأنظمة المتقدمة، إلى جانب الاستعانة بجهات خارجية للمساعدة في اكتشاف أوجه القصور التي قد لا تظهر خلال الاختبارات الداخلية وحدها.
وفي مذكرة نقلتها صحيفة «وول ستريت جورنال»، قالت OpenAI إنها تتفق إلى حد كبير مع التوصيات المتعلقة بأهمية مراقبة النماذج، مشيرة إلى أن الاستعانة بجهات تقييم خارجية تمثل جزءًا مهمًا من منظومة السلامة لديها.
كما أوضحت الشركة أن إنهاء عمل الموظفين السابقين لم يكن بسبب إثارتهم مخاوف تتعلق بالسلامة أو تعبيرهم عن آرائهم.
مخاوف متزايدة من مخاطر وكلاء الذكاء الاصطناعي
تأتي هذه التحذيرات في وقت يتزايد فيه الاهتمام بتطوير وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام أكثر استقلالية عبر الإنترنت، والتعامل مع سلسلة من الإجراءات لتحقيق أهداف محددة.
ويثير هذا التطور تساؤلات حول قدرة المطورين على اكتشاف السلوك غير المتوقع والتدخل في الوقت المناسب، خاصة إذا أصبحت الأنظمة قادرة على تنفيذ مهام معقدة دون إشراف بشري مباشر في كل خطوة.
ويرى مؤيدو تشديد الرقابة أن تطور قدرات هذه الأنظمة يستلزم تطوير وسائل متقدمة لاختبارها ومراقبتها، إلى جانب وضع ضوابط تحد من المخاطر المحتملة وتحافظ على إمكانية التدخل البشري عند الضرورة.
أبحاث سابقة تدعم أهمية مراقبة سلسلة التفكير
شارك توميك كورباك وميكيتا باليسني في تأليف بحث سابق تناول استخدام مراقبة سلسلة التفكير للمساعدة في اكتشاف السلوكيات غير المرغوب فيها لدى نماذج الذكاء الاصطناعي.
وأشار البحث إلى أن هذه الوسيلة ليست مثالية، وقد تكون قابلة للتجاوز أو لا تعكس جميع العمليات الداخلية للنموذج، لكنها تظل جديرة بالدراسة والتطوير باعتبارها إحدى الأدوات التي يمكن أن تسهم في تعزيز مراقبة الأنظمة المتقدمة.
وتؤكد هذه المناقشات أن سلامة الذكاء الاصطناعي لا تعتمد فقط على تحسين قدرات النماذج، بل تتطلب أيضًا تطوير وسائل موثوقة لفهم سلوكها واختبارها بصورة مستقلة، بما يساعد على تقليل المخاطر مع استمرار التقدم التكنولوجي.
