دعا نحو 400 عالم وباحث من 34 دولة إلى إنشاء هيئة دولية تتولى الإشراف على معايير احتواء أنظمة الذكاء الاصطناعي المتقدمة، ومراقبة الحوادث الأمنية المرتبطة بها، في خطوة تستهدف الحد من المخاطر السيبرانية وتعزيز الرقابة على التقنيات المتطورة قبل خروجها عن السيطرة.
وضمت قائمة الموقعين على الرسالة المفتوحة رائدي الذكاء الاصطناعي جيفري هينتون ويوشوا بنجيو، اللذين طالبا بوضع قواعد دولية واضحة تضمن اختبار الأنظمة المتقدمة واحتواءها بصورة أكثر أمانًا، وفقًا لما نقلته وكالة رويترز.
هيئة دولية لوضع معايير موحدة لاحتواء الذكاء الاصطناعي
يقترح العلماء إنشاء هيئة دولية تتولى وضع معايير موحدة لاحتواء أنظمة الذكاء الاصطناعي على مستوى القطاع، إلى جانب تأسيس سجل للحوادث الأمنية الخطيرة، مع العمل على إتاحته للجمهور في نهاية المطاف.
وأكد الموقعون ضرورة عزل نماذج الذكاء الاصطناعي المتقدمة عن الشبكات الخارجية في البداية، وإخضاعها لإشراف مستقل، مشددين على أن الالتزامات الطوعية التي تتعهد بها شركات التكنولوجيا لا تكفي وحدها لضمان السلامة.
أنثروبيك وأوبن إيه آي وجوجل أمام تحديات الرقابة
يأتي المقترح بعد شهر من اتفاق شركات أنثروبيك وأوبن إيه آي وغوغل وميتا وإكس إيه آي وإنفيديا مع البيت الأبيض، على اتخاذ تدابير طوعية لتعزيز سلامة أنظمة الذكاء الاصطناعي، دون وجود آلية رسمية تضمن تنفيذ تلك الالتزامات.
ويرى الباحثون أن تطور قدرات الذكاء الاصطناعي، خصوصًا في تنفيذ العمليات السيبرانية، يتطلب الانتقال من التعهدات الاختيارية إلى معايير أكثر صرامة، تتضمن رقابة مستقلة واختبارات أمنية موثوقة.
ودعا الموقعون المؤسسات التي تطور نماذج ذكاء اصطناعي قادرة على تنفيذ عمليات سيبرانية، أو تختبر هذه النماذج، إلى تطبيق معايير احتواء عالية الموثوقية فورًا، بالتوازي مع عمل الحكومات على إعداد نظام رقابي أكثر رسمية.
حوادث أمنية تكشف ضعف اختبار أنظمة الذكاء الاصطناعي
استندت الرسالة إلى سلسلة من الحوادث التي قال الباحثون إنها كشفت عن ثغرات في أساليب اختبار الأنظمة المتقدمة واحتوائها، بما في ذلك حالات تمكنت فيها نماذج ذكاء اصطناعي من تجاوز بيئات اختبار لم تكن معزولة بصورة كافية، والوصول إلى أنظمة خارجية.
وتثير هذه الوقائع مخاوف بشأن قدرة بعض النماذج على تجاوز الضوابط الأمنية المفروضة عليها، وهو ما يعزز الدعوات إلى تطوير آليات اختبار أكثر صرامة، تضمن اكتشاف نقاط الضعف قبل إتاحة الأنظمة للاستخدام على نطاق واسع.
الاتحاد الأوروبي والولايات المتحدة أمام اختبار التنظيم
يتزايد الجدل بين صانعي السياسات بشأن أفضل السبل للإشراف على أنظمة الذكاء الاصطناعي المتقدمة. وفي هذا السياق، قالت هينا فيركونين، المسؤولة عن ملف التكنولوجيا في الاتحاد الأوروبي، لرويترز يوم الجمعة، إن قانون الذكاء الاصطناعي الأوروبي كافٍ لمعالجة المخاطر التي قد تشكلها الأنظمة الخارجة عن السيطرة.
وفي الولايات المتحدة، رفعت إدارة الرئيس دونالد ترامب، يوم الأحد، الحظر المفروض على إتاحة وصول مبكر إلى النماذج الأميركية لصالح معهد أمن الذكاء الاصطناعي البريطاني، بهدف إجراء اختبارات السلامة.
وتعكس هذه التحركات اختلاف وجهات النظر بشأن مستوى الرقابة المطلوبة، بين من يرى أن القوانين القائمة قادرة على التعامل مع المخاطر، ومن يطالب بإنشاء إطار دولي أكثر تخصصًا وتنسيقًا.
لماذا لم يوقع يان ليكان على الرسالة؟
تقاسم جيفري هينتون ويوشوا بنجيو جائزة تورينج لعام 2018 مع يان ليكان، الباحث البارز في مجال الذكاء الاصطناعي لدى شركة ميتا، لكن ليكان لم يوقع على الرسالة المفتوحة.
وكان ليكان قد جادل بأن الحوادث الأمنية الأخيرة تعكس في المقام الأول إخفاقات هندسية، وليس مخاطر وجودية ناجمة عن الذكاء الاصطناعي، في موقف يبرز استمرار الخلاف بين الخبراء بشأن طبيعة المخاطر التي تفرضها الأنظمة المتقدمة ومدى الحاجة إلى فرض قيود دولية عليها.
وتسلط الدعوة الجديدة الضوء على تصاعد المطالب بوضع قواعد مشتركة لاختبار أنظمة الذكاء الاصطناعي واحتوائها، وسط سباق تقني متسارع ومخاوف من أن تتجاوز قدرات بعض النماذج إجراءات الحماية الحالية.
