وفي المقابل، أكدت الشركة أن نماذجها الحالية لم تصل بعد إلى مستوى القدرة الذي حددته لتحقيق هذا التطور، مشددة على أن استمرار الإشراف البشري يمثل عنصرًا أساسيًا في خططها لتطوير النماذج وإدارة المخاطر المحتملة.
ووفقًا لتقرير نشره موقع TechCrunch، تضمنت وثيقة مالية معدلة قدمتها Anthropic في إطار استعداداتها لطرح أسهمها للاكتتاب العام تحذيرات من احتمالات تسارع قدرات الذكاء الاصطناعي بوتيرة قد تتجاوز قدرة الشركة على تطوير إجراءات السلامة واختبارها.
ما المقصود بالذكاء الاصطناعي الذي يطور نفسه؟
يشير مصطلح التحسين الذاتي المتكرر (Recursive Self-Improvement – RSI) إلى مرحلة يستطيع فيها الذكاء الاصطناعي المساهمة في تطوير وتحسين الأنظمة التي تساعد بدورها على إنتاج نماذج أكثر تقدمًا وقدرة.
وتقوم الفكرة على استخدام النماذج الذكية في مهام مثل كتابة الأكواد البرمجية، وتحليل نتائج التدريب، والمساعدة في الأبحاث العلمية والهندسية، بما يساهم في تسريع عملية تطوير الإصدارات الجديدة من الذكاء الاصطناعي.
ومع استمرار هذه العملية، قد تتزايد قدرة النماذج على دعم تطوير الأجيال التالية، وهو ما يفتح الباب أمام تسارع وتيرة الابتكار بصورة تتجاوز الأساليب التقليدية المعتمدة على فرق البحث والتطوير البشرية وحدها.
لكن امتلاك نموذج ذكاء اصطناعي القدرة على كتابة البرمجيات أو المساعدة في الأبحاث لا يعني بالضرورة أنه أصبح قادرًا على تصميم وتطوير أجيال جديدة من النماذج وتشغيلها بصورة مستقلة تمامًا عن البشر، وهو الفارق الذي حرصت Anthropic على توضيحه.
Anthropic تحذر من تسارع قدرات الذكاء الاصطناعي
تضمنت إفصاحات الشركة تحذيرات بشأن احتمالات نمو قدرات النماذج بمعدل أسرع من قدرة المؤسسات المطورة على تقييم المخاطر المرتبطة بها، وهو ما قد يخلق فجوة بين سرعة التطور التكنولوجي ومستوى إجراءات السلامة المتاحة.
وأقرت Anthropic بأنها استخدمت الذكاء الاصطناعي بالفعل في أبحاث تطوير النماذج، لكنها أشارت إلى أنها لم تتمكن دائمًا من التعرف على بعض التحولات التي طرأت على قدرات الأنظمة وقت حدوثها.
وتثير هذه النقطة مخاوف تتعلق بقدرة الباحثين على متابعة التغيرات المفاجئة في سلوك النماذج، وفهم إمكاناتها الجديدة، والتأكد من خضوعها للاختبارات اللازمة قبل إتاحتها للمستخدمين.
لماذا تثير تقنية التحسين الذاتي مخاوف السلامة؟
تكمن المخاوف الرئيسية في أن تسارع تطوير الذكاء الاصطناعي قد يؤدي إلى ظهور قدرات جديدة بوتيرة لا تسمح للباحثين بتقييم جميع آثارها ومخاطرها بالسرعة الكافية.
فإذا أصبحت النماذج قادرة على المساهمة بصورة متزايدة في تطوير أنظمة أكثر تقدمًا، فقد تواجه الشركات تحديًا في ضمان أن إجراءات الرقابة والاختبار تتطور بالمعدل نفسه.
وتتمثل أبرز التحديات في اكتشاف السلوكيات غير المتوقعة، وتقييم مستوى استقلالية الأنظمة، والتأكد من قدرتها على الالتزام بالضوابط الأمنية والأخلاقية، إلى جانب الحفاظ على قدرة البشر على التدخل والتحكم في مراحل التطوير المختلفة.
Anthropic تتمسك بالإشراف البشري على تطوير النماذج
في مواجهة هذه المخاطر، تدرس Anthropic تحديث سياسة التوسع المسؤول لديها، بهدف ضمان مواكبة إجراءات السلامة للتطور المتسارع في قدرات الذكاء الاصطناعي.
وأكدت الشركة أنها لا تتوقع أن تتمكن نماذج Claude من بناء أجيال متعاقبة من النماذج المتقدمة بصورة مستقلة وآمنة، دون وجود إشراف بشري وفهم كافٍ للتغيرات التي تحدث خلال عملية التطوير.
وتعكس هذه التصريحات توجهًا نحو التعامل بحذر مع احتمالات التحسين الذاتي المتكرر، خاصة أن الوصول إلى هذه المرحلة لا يتعلق فقط بزيادة قدرات الذكاء الاصطناعي، وإنما يتطلب أيضًا تطوير آليات تضمن بقاء الإنسان قادرًا على فهم الأنظمة والتحكم في مسارها.
وبذلك، يظل اقتراب الذكاء الاصطناعي من مرحلة تطوير نفسه توقعًا وتحذيرًا بشأن مسار التكنولوجيا، وليس إعلانًا عن تحقق هذه القدرة بصورة كاملة، في وقت يتزايد فيه النقاش حول كيفية تحقيق التوازن بين تسريع الابتكار وضمان سلامة البشر.
