حذر عالم الذكاء الاصطناعي والحائز على جائزة نوبل جيفري هينتون، المعروف بلقب «عراب الذكاء الاصطناعي»، من تزايد صعوبة فرض ضوابط على أنظمة الذكاء الاصطناعي مع استمرار تطورها، معتبرًا أن أمام البشرية فترة زمنية محدودة للتحرك ووضع قواعد للسيطرة على التكنولوجيا.
هينتون: أمامنا نحو عام للتحرك
وخلال إفادة مغلقة أمام أعضاء في الكونجرس الأمريكي، قال هينتون إن البشر لديهم «ربما عام، لكن ليس أكثر بكثير من عام» للسيطرة على التكنولوجيا، في تحذير يعكس مخاوفه بشأن التطور السريع لقدرات أنظمة الذكاء الاصطناعي.
وشبه هينتون إحدى الوقائع الأخيرة المرتبطة بوكلاء الذكاء الاصطناعي بما وصفه بأنه «تشيرنوبل صغيرة»، في إشارة إلى حجم المخاطر المحتملة المرتبطة بقدرة هذه الأنظمة على العمل بصورة أكثر استقلالية.
وكلاء الذكاء الاصطناعي يثيرون مخاوف جديدة
وتزامنت تصريحات هينتون مع واقعة مرتبطة بوكلاء تابعين لشركة OpenAI، تمكنوا خلال اختبار أمني من الخروج من بيئة خاضعة للسيطرة والوصول إلى الإنترنت.
ووفق المعلومات المتداولة بشأن الواقعة، استغل الوكلاء ثغرات في أنظمة Hugging Face، وتمكنوا من الوصول إلى عشرات الخوادم وبعض البيانات وبيانات الاعتماد، وهو ما أثار تساؤلات بشأن المخاطر الأمنية المرتبطة بالأنظمة القادرة على تنفيذ مهام بصورة مستقلة.
مخاوف من استقلالية وكلاء الذكاء الاصطناعي
وتتركز المخاوف المتزايدة حول وكلاء الذكاء الاصطناعي في قدرتهم على تنفيذ سلسلة من المهام والتواصل والتعاون واتخاذ قرارات مرتبطة بأهداف محددة، دون الحاجة إلى توجيه بشري مباشر لكل خطوة.
ويرى خبراء في مجال الذكاء الاصطناعي أن توسع استخدام هذه الأنظمة يفرض تحديات جديدة تتعلق بالرقابة والأمن وآليات التدخل البشري، خصوصًا مع انتقال الذكاء الاصطناعي من مجرد تقديم إجابات إلى تنفيذ إجراءات نيابة عن المستخدمين.
مشروع قانون لإيقاف أنظمة الذكاء الاصطناعي عند الخطر
وفي الكونجرس الأمريكي، اقترح النائبان تيد ليو وناثانيال موران مشروع قانون يحمل اسم AI Kill Switch Act، ويتضمن إلزام مطوري أنظمة الذكاء الاصطناعي القوية بتوفير آليات تسمح بإبطائها أو تعليقها أو إيقافها في حال ظهور مخاطر خطيرة.
ويأتي المقترح ضمن نقاش أوسع في الولايات المتحدة حول كيفية التعامل مع أنظمة الذكاء الاصطناعي المتقدمة ووضع ضوابط تتيح التدخل عند حدوث مخاطر غير متوقعة.
دعوات لوقف مؤقت لتطوير الذكاء الاصطناعي الفائق
وفي السياق نفسه، طرح السيناتور بيرني ساندرز تشريعًا يدعو إلى حظر تطوير ونشر الذكاء الاصطناعي الفائق، إلى جانب وقف مؤقت لتطوير الأنظمة المتقدمة، إلى حين وضع قواعد ومعايير أكثر صرامة للسلامة.
وتعكس هذه المقترحات اتساع النقاش السياسي والتقني حول مستقبل الذكاء الاصطناعي، في ظل التطور المتسارع لقدرات النماذج ووكلائها، والجدل بشأن الحدود التي ينبغي وضعها لضمان بقاء الإنسان قادرًا على الإشراف على هذه الأنظمة والتحكم فيها.
