أثار جاكوب كوكسون، الباحث السابق في شركة Anthropic، مخاوف جديدة بشأن مستقبل الذكاء الاصطناعي، محذرًا من أن التطور السريع للأنظمة المتقدمة، في ظل عدم مواكبة إجراءات الأمان والرقابة، قد يزيد من احتمالات فقدان البشر السيطرة على بعض الأنظمة.
وجاءت تصريحات كوكسون خلال جلسة استماع أمام مجلس مدينة نيويورك، تناولت المخاطر المحتملة للذكاء الاصطناعي المتقدم، حيث أكد أن صناعة التكنولوجيا لا تزال تفتقر إلى وسيلة مؤكدة تضمن التحكم الكامل في هذه الأنظمة مع استمرار ارتفاع قدراتها وتعقيدها.
تحذير من الاعتماد على زر إيقاف
قال كوكسون إن البشر لا يعرفون حتى الآن كيفية التحكم بصورة كاملة في أي نظام ذكاء اصطناعي، مشيرًا إلى أن الاعتماد على ما يُعرف بـ«مفتاح الإيقاف» قد يوفر حلًا لبعض المشكلات على المدى القصير، لكنه لا يمثل ضمانة كافية للسلامة على المدى الطويل.
وأوضح أن مواصلة تطوير قدرات الذكاء الاصطناعي بوتيرة متسارعة، دون تطوير إجراءات أمان مماثلة، قد تؤدي إلى ظهور أنظمة تتصرف بطرق لم يتوقعها مطوروها.
انتقادات لسياسة «التحرك أولًا ثم الإصلاح»
وانتقد الباحث السابق ما وصفه بعقلية بعض الشركات الناشئة القائمة على تطوير المنتجات بسرعة ومعالجة المشكلات بعد ظهورها، معتبرًا أن هذا النهج قد يكون مناسبًا لبعض التطبيقات التقليدية، لكنه يمثل مخاطرة أكبر عند التعامل مع أنظمة ذكاء اصطناعي تتطور قدراتها بسرعة.
ويرى كوكسون أن اكتشاف مشكلة بعد إطلاق نظام متقدم قد يحدث في وقت يصبح فيه احتواء آثارها أكثر صعوبة، خاصة عندما تكون الأنظمة قادرة على تنفيذ مجموعة واسعة من المهام بدرجة متزايدة من الاستقلالية.
وكلاء الذكاء الاصطناعي يثيرون مخاوف جديدة
واستشهد كوكسون بحادثة مرتبطة بوكلاء الذكاء الاصطناعي، باعتبارها مثالًا على المخاطر المحتملة عندما تعمل الأنظمة بصورة مستقلة وتتخذ خطوات لم يحددها البشر بشكل مباشر.
وتطرح هذه الحالات، وفقًا لتحذيراته، تساؤلات حول قدرة المطورين على منع الأنظمة المتقدمة من تبني أهداف أو تنفيذ سلوكيات لم تكن مقصودة أثناء تصميمها، خصوصًا مع استمرار تطور قدراتها على العمل باستقلالية.
مخاطر أكبر مع تطور الأنظمة
وحذر الباحث السابق من أن تكرار مثل هذه الوقائع مستقبلًا مع أنظمة أكثر قدرة قد يؤدي إلى نتائج أكثر تعقيدًا، إذا لم تتوافر ضوابط واضحة لاختبار هذه الأنظمة ومراقبتها والتدخل عند ظهور سلوكيات غير متوقعة.
وأكد أهمية إدخال إجراءات الأمان في مراحل تطوير الذكاء الاصطناعي نفسها، بدلًا من انتظار ظهور المشكلات ثم محاولة التعامل معها بعد إطلاق الأنظمة.
الذكاء الاصطناعي يحمل فوائد كبيرة
ورغم تحذيراته، شدد كوكسون على أن الذكاء الاصطناعي لا يمثل خطرًا فقط، مشيرًا إلى قدرته على تحقيق فوائد واسعة في الاقتصاد والعلوم والطب، إلى جانب تحسين العديد من جوانب الحياة اليومية.
وأوضح أن الاستفادة من هذه الإمكانات تتطلب تطوير التكنولوجيا بالتوازي مع بناء آليات فعالة للسلامة والرقابة، بما يسمح بتحقيق الفوائد المحتملة دون تجاهل المخاطر.
دعوات لحماية المبلغين وتقييم الأنظمة
وشهدت جلسة مجلس مدينة نيويورك مشاركة ممثلين عن عدد من شركات التكنولوجيا والذكاء الاصطناعي الكبرى، من بينها OpenAI وAnthropic وGoogle وMeta، لمناقشة الإجراءات التي يمكن اتخاذها للحد من المخاطر المحتملة.
ومن بين المقترحات المطروحة تعزيز الحماية المقدمة للمبلغين عن المخالفات داخل شركات الذكاء الاصطناعي، إلى جانب بحث آليات لمحاسبة الشركات في بعض الحالات التي تتسبب فيها أنظمتها بأضرار.
كما نوقشت فكرة الاستعانة بجهات مستقلة لتقييم بعض أنظمة الذكاء الاصطناعي قبل السماح باستخدامها في تطبيقات معينة داخل المدينة.
جدل مستمر حول مستقبل الذكاء الاصطناعي
وتعكس تحذيرات كوكسون جانبًا من الجدل المتزايد حول كيفية تحقيق التوازن بين تسريع تطوير الذكاء الاصطناعي وفرض ضوابط تحمي المستخدمين والمجتمع.
ومع اتجاه الشركات إلى تطوير أنظمة أكثر قدرة واستقلالية، يظل التحدي الأساسي أمام الصناعة وصناع القرار هو ضمان وجود آليات فعالة لاختبار هذه الأنظمة ومراقبتها والتدخل عند ظهور سلوكيات غير متوقعة، قبل أن تتجاوز المخاطر القدرة البشرية على احتوائها.
