اختتم مجلس الأمن الدولي جلسة خاصة ناقشت مخاطر الذكاء الاصطناعي، وسط تحذيرات من قادة شركات التكنولوجيا من التداعيات الكارثية المحتملة للتطور المتسارع لهذه التقنيات، ودعوات إلى وضع أطر تنظيمية دولية تضمن الإشراف البشري وتحد من الاستخدامات الخطرة.
وشهدت الجلسة، التي دعت إليها فرنسا، مشاركة الرئيس التنفيذي لشركة «أوبن إيه آي» سام ألتمان والرئيس التنفيذي لشركة «أنثروبيك» داريو أمودي، حيث طرح المسؤولان رؤيتهما بشأن المخاطر المرتبطة بتطور النماذج الذكية وسبل الحد منها.
ألتمان يحذر من تسارع تطوير الذكاء الاصطناعي
أكد سام ألتمان، خلال إحاطته أمام مجلس الأمن، أن التسارع المتواصل في تطوير نماذج الذكاء الاصطناعي، إلى جانب قدرتها على التحسين الذاتي بصورة متكررة، يستدعي التعامل معها بأعلى درجات الحذر.
وقال ألتمان إن العالم يقف أمام مفترق طرق، بين مسار قد يؤدي إلى تركّز القوة والفرص والسيادة وفقدان السيطرة، ومسار آخر يمكن من خلاله توجيه التكنولوجيا لخدمة البشر ودعم الإبداع والتنمية.
3 مبادئ لتنظيم الذكاء الاصطناعي
دعا ألتمان إلى تجنب ما وصفه بفخي «التفاؤل الأعمى» و«النظرة الكارثية»، وطرح 3 مبادئ للتعامل مع التطور المتسارع للذكاء الاصطناعي.
وتتمثل هذه المبادئ في إبقاء الإنسان في قلب عملية صنع القرار لضمان توافق الأنظمة مع القيم البشرية، وتوجيه العوائد العلمية والاقتصادية نحو تطوير قدرات البشر بدلًا من استبدالهم، إلى جانب تمكين الأفراد والمجتمعات من بناء حياتهم دون فرض رؤية جهة واحدة عليهم.
ألتمان: القرارات لا تصنعها مختبرات التكنولوجيا
شدد الرئيس التنفيذي لـ«أوبن إيه آي» على أن القرارات المصيرية المتعلقة بالذكاء الاصطناعي لا ينبغي أن تُحسم داخل مختبرات التكنولوجيا في سان فرانسيسكو، وإنما عبر آليات ديمقراطية وحكومات تخضع للمساءلة أمام شعوبها.
واستعرض ألتمان التطور الذي حققته النماذج الذكية، بدءًا من قدرتها على التفوق في مسابقات الرياضيات المدرسية وصولًا إلى التعامل مع مشكلات علمية معقدة، مشيرًا إلى أن «أوبن إيه آي» سبق أن أبطأت وتيرة تطوير بعض الأنظمة، وأنها قد تكرر ذلك لتجنب بناء نماذج تفتقر إلى ضمانات التوافق.
مقترحات لمواجهة مخاطر الذكاء الاصطناعي
طالب ألتمان بتطوير آليات وطنية وإقليمية لتقييم مخاطر الذكاء الاصطناعي، إلى جانب اعتماد لغة مشتركة للتحقق من الالتزام بالمعايير، ووضع بروتوكولات للإبلاغ الفوري عن الأخطاء.
كما دعا إلى إنشاء قنوات آمنة لتبادل المعلومات المتعلقة بالثغرات والتهديدات الوشيكة، بما يساعد الدول والمؤسسات على التعامل مع المخاطر بصورة أسرع وأكثر تنسيقًا.
أمودي: الذكاء الاصطناعي قد يهدد البشرية
من جانبه، حذر داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، من أن سوء إدارة الذكاء الاصطناعي يمكن أن يمثل خطرًا على البشرية، مشيرًا إلى السرعة الكبيرة التي شهدها تطور هذه التقنيات خلال السنوات الأخيرة.
وأوضح أمودي أن التطور انتقل خلال نحو 4 أعوام من نماذج كانت تواجه صعوبة في كتابة سطر برمجي إلى أنظمة قادرة على تحقيق نتائج متقدمة، محذرًا من إمكانية الوصول خلال عام أو عامين إلى مرحلة وصفها بأنها «عالم من العباقرة في مراكز البيانات».
إنجازات علمية ومخاطر متزايدة
استعرض أمودي خلال الجلسة أحدث إنجازات شركته، ومنها اكتشاف جهاز جزيئي جديد يمكن استخدامه في مجال العلاج الجيني، لكنه أشار في الوقت نفسه إلى وجود فئتين رئيسيتين من المخاطر المرتبطة بالذكاء الاصطناعي.
وتتمثل الفئة الأولى في إساءة استخدام هذه التقنيات من جانب جهات إرهابية لتطوير أسلحة بيولوجية، بينما تتعلق الثانية بسرعة تطور النماذج بما قد يتجاوز قدرة المطورين على فهمها والسيطرة عليها.
3 مقترحات أمام مجلس الأمن
قدم أمودي 3 مقترحات للتعامل مع مخاطر الذكاء الاصطناعي ضمن اختصاصات مجلس الأمن، تبدأ بتحديد نقاط الاتفاق الدولية، وعلى رأسها حظر استخدام الذكاء الاصطناعي في تصنيع الأسلحة البيولوجية.
كما دعا إلى تعزيز أنظمة التقييم والتحقق بما يواكب سرعة تطوير النماذج، وتمكين الدول من الاطلاع على قدرات النماذج الرائدة ومتابعة مدى الالتزام بالتعهدات والمعايير.
وطالب أيضًا بوضع معايير دولية موحدة لاختبار نماذج الذكاء الاصطناعي، إلى جانب إنشاء نظام للإخطار بالحوادث المرتبطة بهذه التقنيات والتي قد يكون لها تأثير على الأمن الدولي.
دعوة للتعاون الدولي
دعا قادة شركات التكنولوجيا إلى تجاوز الخلافات السياسية والعمل على تعزيز التعاون الدولي في مجال الذكاء الاصطناعي، مستشهدين بمحطات تاريخية شهدت تعاونًا دوليًا لمواجهة تحديات مشتركة.
ويرى قادة القطاع أن التعاون يمكن أن يساعد في الاستفادة من الإمكانات الكبيرة للذكاء الاصطناعي في مجالات مثل الرعاية الصحية والتعليم، بالتوازي مع وضع آليات للحد من مخاطره.
تحذيرات من داخل شركات الذكاء الاصطناعي
وتزامنت جلسة مجلس الأمن مع تحذيرات سابقة أطلقها باحثون عملوا في شركات الذكاء الاصطناعي الكبرى بشأن سرعة تطور هذه التقنيات.
وقال الباحث السابق في «أنثروبيك» جاكوب كوكسون، في وقت سابق من الشهر، إن بعض العاملين في تطوير الذكاء الاصطناعي يتعاملون بجدية مع احتمال أن تشكل هذه التكنولوجيا خطرًا بالغًا على البشرية قبل نهاية العقد الحالي.
ترمب يدعو إلى نهج مختلف
وتأتي هذه التحذيرات في وقت أعلن فيه الرئيس الأمريكي دونالد ترمب تغيير اسم تقنية الذكاء الاصطناعي إلى «الذكاء الفائق»، معربًا عن أمله في أن تحذو دول أخرى حذو الولايات المتحدة.
وكان ترمب قد انتقد في منشور سابق الدعوات المطالبة بفرض قواعد اتحادية جديدة على قطاع الذكاء الاصطناعي، كما تحدث عن إنشاء «قوة للذكاء الاصطناعي» للإشراف على تنظيم القطاع.
وأشار كذلك إلى اعتزامه تعيين مسؤول مستقبلي عن هذه التقنيات تحت مسمى «قيصر الذكاء الاصطناعي»، في وقت قلل فيه في تصريحات سابقة من أهمية بعض المخاوف المرتبطة بالتطور المتسارع للقطاع.
