دعا داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير قدرات نماذج الذكاء الاصطناعي، محذرًا من أن سرعة التقدم الحالية قد تتجاوز قدرة الشركات والجهات التنظيمية على التعامل مع المخاطر المحتملة.
واقترح أمودي إطارًا من 3 خطوات يهدف إلى منح شركات الذكاء الاصطناعي مزيدًا من الوقت لتأمين النماذج المتقدمة واختبارها والتحقق من سلامتها، مؤكدًا في الوقت نفسه أنه لا يدعو إلى وقف تدريب النماذج أو تعطيل التطور التقني.
أمودي: يجب إبطاء تطور قدرات الذكاء الاصطناعي
قال أمودي في مقال نشره عبر حسابه على منصة «إكس» إن شركات الذكاء الاصطناعي مطالبة بإبطاء وتيرة تحسين قدرات النماذج، موضحًا أن التقدم سيظل سريعًا حتى مع خفض السرعة، لكن الوقت الإضافي يمكن استخدامه بطريقة أكثر حكمة للتعامل مع المخاطر.
ويرى الرئيس التنفيذي لأنثروبيك أن التحدي لا يتمثل في وقف التطور، وإنما في تحقيق توازن بين تسريع قدرات الذكاء الاصطناعي ومنح الشركات وقتًا كافيًا للتأكد من أن هذه الأنظمة آمنة وقابلة للسيطرة.
استخدام نماذج كلود في أنشطة خطرة
جاءت تصريحات أمودي بعد نشر أنثروبيك تقريرًا عن استخبارات التهديدات كشف استخدام نماذج «كلود» التابعة للشركة في أنشطة متعددة، من بينها تطوير الأسلحة، والعمليات السيبرانية، والمراقبة، والاحتيال.
وتسلط هذه الاستخدامات الضوء على المخاطر المتزايدة المرتبطة بانتشار نماذج الذكاء الاصطناعي المتقدمة، خاصة مع إمكانية توظيف قدراتها في تنفيذ مهام تتجاوز الاستخدامات التقليدية للمحادثة وإنشاء المحتوى.
استقالة باحث في أنثروبيك تثير مخاوف جديدة
وتزايدت المخاوف بشأن مستقبل الذكاء الاصطناعي بعد استقالة الباحث في أنثروبيك جاكوب كوكسون، الذي حذر من أن بعض العاملين على تطوير الذكاء الاصطناعي يعتقدون بجدية أن هذه التكنولوجيا قد تتسبب في القضاء على البشرية قبل نهاية العقد الحالي.
وأعادت تصريحات الباحث النقاش حول المخاطر المرتبطة بتطور النماذج المتقدمة، ومدى قدرة الشركات على ضمان بقاء الأنظمة تحت السيطرة مع استمرار زيادة قدراتها.
أمودي لا يدعو إلى وقف تطوير الذكاء الاصطناعي
وأوضح أمودي أن مقترحه لا يعني وقف تدريب النماذج أو تعليق التطور التقني، وإنما يهدف إلى ضمان حصول الشركات على الوقت الكافي لتطوير آليات مواءمة وتأمين النماذج، إلى جانب إخضاعها لعمليات تحقق مستقلة من جانب جهات خارجية.
ويرى أن وجود إجراءات واضحة للاختبار والتقييم قبل الانتقال إلى مراحل جديدة من تطوير قدرات النماذج يمكن أن يساعد على اكتشاف المخاطر مبكرًا وتقليل احتمالات خروج الأنظمة عن السيطرة.
مراقبون مستقلون داخل شركات الذكاء الاصطناعي
ويتضمن المقترح الأول ضمن استراتيجية أمودي المكونة من 3 خطوات، وجود مراجعين مستقلين بصورة دائمة داخل شركات الذكاء الاصطناعي التي تطور النماذج الأكثر تقدمًا.
ويطالب أمودي بمنح هؤلاء المراجعين إمكانية الوصول إلى الأدوات ذات الصلة وعمليات تقييم المخاطر الداخلية، بما يسمح لهم بمتابعة التطورات التقنية والاطلاع على المخاطر المحتملة بدلًا من الاكتفاء بتقييمات خارجية بعد إطلاق النماذج.
حوادث وكلاء الذكاء الاصطناعي تزيد المخاوف
وتأتي دعوة أمودي في ظل تزايد التدقيق في قدرة الشركات على احتواء أنظمة الذكاء الاصطناعي، خصوصًا بعد عدد من الحوادث المرتبطة بوكلاء الذكاء الاصطناعي.
وكشفت تقارير عن قيام مجموعة من وكلاء الذكاء الاصطناعي التابعة لشركة «أوبن إيه آي» باختطاف موقع إلكتروني ألماني وتحويله إلى لوحة إعلانات لوكلاء ذكاء اصطناعي آخرين، في حادثة أثارت تساؤلات بشأن قدرة الشركات على السيطرة على الأنظمة التي تعمل بدرجة متزايدة من الاستقلالية.
كما تزايدت المخاوف بعد حوادث أخرى حاولت فيها وكلاء ذكاء اصطناعي الوصول إلى أنظمة خارجية أو اختراقها، ما أعاد طرح الأسئلة المتعلقة بحدود قدرات النماذج وفاعلية أنظمة الاحتواء.
دعوة لشركات الذكاء الاصطناعي لوضع معايير مشتركة
ومع تزايد الدعوات داخل الولايات المتحدة إلى سن تشريعات جديدة لتنظيم أنظمة الذكاء الاصطناعي، دعا أمودي الشركات إلى التعاون طوعًا من أجل وضع معايير مشتركة للسلامة وإدارة المخاطر.
ويعكس المقترح توجهًا متزايدًا داخل قطاع الذكاء الاصطناعي نحو البحث عن آليات تضمن استمرار الابتكار، مع توفير ضوابط أكثر صرامة كلما ارتفعت قدرات النماذج ووكلائها على تنفيذ مهام معقدة بصورة مستقلة.
