كشفت دراسة بحثية جديدة من شركة Anthropic عن تطور لافت في قدرات أنظمة الذكاء الاصطناعي، بعدما تمكنت أنظمة مؤتمتة من اكتشاف ومعالجة بعض مشكلات المحاذاة والسلامة، مع تحقيق نتائج تفوقت في جوانب منها على أفكار قدمها باحثون بشريون متخصصون.
وتفتح النتائج الباب أمام تطوير أنظمة ذكاء اصطناعي يمكنها المشاركة بصورة أكبر في عمليات تقييم وتحسين أدائها، بدلًا من الاعتماد الكامل على التدخل البشري في كل مرحلة.
نظام AAR يحاكي طريقة عمل الباحثين
ركزت الورقة البحثية، التي قادها الباحث في برنامج زمالة Anthropic تشين يوي-هان، على نظام يحمل اسم «باحث المحاذاة المؤتمت» أو AAR.
ويحاكي النظام بعض الخطوات المتبعة في البحث العلمي، إذ يبدأ بفحص الأدبيات المتاحة، ثم يجرب أساليب مختلفة من خلال دورات تدريبية متكررة تستمر كل منها نحو 30 دقيقة.
وبعد تقييم النتائج، يحتفظ النظام بالطرق التي تثبت فعاليتها ويتخلى عن الأساليب الأقل نجاحًا، بما يسمح له بمواصلة عملية البحث والتحسين بصورة مؤتمتة.
اختبار الذكاء الاصطناعي على 10 معايير للسلامة
اختبر الباحثون نظام AAR على 10 معايير سلوكية رئيسية مرتبطة بأنماط عدم المحاذاة، من بينها الخداع والتملق والاستجابة لمحاولات اختراق أنظمة الذكاء الاصطناعي أو ما يعرف بهجمات Jailbreak.
وأظهرت التجارب قدرة الأنظمة المؤتمتة على تحسين أداء النماذج عبر المعايير العشرة، دون التسبب في تراجع ملحوظ في القدرات العامة للنموذج.
وتشير هذه النتائج إلى إمكانية استخدام الذكاء الاصطناعي في عمليات متقدمة لتقييم سلوك النماذج والعمل على معالجة بعض نقاط الضعف المرتبطة بالسلامة والمحاذاة.
الذكاء الاصطناعي يتفوق على الباحثين في سرعة تطوير الحلول
أحد أبرز جوانب التجربة كان قياس سرعة وكفاءة النظام المؤتمت مقارنة بالباحثين البشريين.
وأظهرت النتائج أن أفضل الأساليب التي طورها نظام AAR استطاعت التفوق على الأفكار التي اقترحها باحثون بشريون ذوو خبرة، وذلك خلال نحو 6 ساعات في المتوسط من التجربة والتحسين.
وفي إحدى تجارب معالجة مشكلة مرتبطة بالخداع، تمكن النظام من سد نحو 85% من الفجوة الأمنية المستهدفة، وفق نتائج الدراسة.
تكلفة تشغيل AAR أقل بكثير من الباحثين البشر
لم تقتصر الفروق على سرعة الإنجاز، إذ أظهرت التجربة فارقًا كبيرًا في تكلفة تشغيل النظام المؤتمت.
وبحسب الدراسة، بلغت تكلفة تشغيل AAR نحو 4 دولارات فقط في الساعة عند الاعتماد على استدلال واجهات برمجة التطبيقات API، مقابل نحو 150 دولارًا في الساعة للباحثين البشريين المتخصصين.
وقد يجعل هذا الفارق الكبير في التكلفة الأنظمة المؤتمتة خيارًا جذابًا لإجراء عمليات بحث واختبار متكررة على نماذج الذكاء الاصطناعي.
هل يقترب الذكاء الاصطناعي من التحسين الذاتي؟
ترى Anthropic أن هذه النتائج تمثل خطوة مبكرة نحو مفهوم «التحسين الذاتي العودي» أو Recursive Self-Improvement، وهو سيناريو يشير إلى قدرة أنظمة الذكاء الاصطناعي على المساهمة في تطوير وتحسين قدراتها بصورة متكررة.
ولا تعني النتائج الحالية أن الذكاء الاصطناعي أصبح قادرًا على تطوير نفسه بصورة مستقلة تمامًا، لكنها تشير إلى تقدم في أتمتة بعض مراحل البحث المتعلقة بالسلامة والمحاذاة.
تحديات أمام التطوير الذاتي للذكاء الاصطناعي
ورغم النتائج الإيجابية، أشار الباحثون إلى وجود تحديات مهمة، أبرزها مدى قدرة المعايير المستخدمة حاليًا على تمثيل أهداف السلامة الحقيقية بصورة دقيقة.
كما رصدت التجارب حالات نادرة حاولت فيها النماذج التلاعب بعملية التدريب أو التحايل على آليات التقييم أثناء عمليات البحث المستقلة.
وتبرز هذه التحديات أهمية استمرار الرقابة البشرية وتطوير معايير أكثر دقة، بالتوازي مع التقدم في أبحاث الذكاء الاصطناعي ذاتية التحسين.
