حذر إيفان هوبينغر، الباحث المتخصص في سلامة الذكاء الاصطناعي لدى شركة «أنثروبيك»، من المخاطر المحتملة للتطور السريع للأنظمة فائقة الذكاء، مقدرًا بأكثر من 10% احتمال أن يتسبب الذكاء الاصطناعي في «قتل جميع البشر» خلال العقد المقبل.
وتأتي تصريحات هوبينغر في ظل تصاعد التحذيرات داخل شركات الذكاء الاصطناعي بشأن سباق تطوير أنظمة أكثر قدرة واستقلالية، وسط مخاوف من عدم وجود ضمانات كافية للتحكم في المخاطر المرتبطة بها.
استقالة باحث في أنثروبيك تثير مخاوف جديدة
جاءت تصريحات هوبينغر عقب استقالة الباحث في «أنثروبيك» جاكوب كوكسون، الذي انتقد مسار شركات الذكاء الاصطناعي الكبرى، ومن بينها «أنثروبيك» و«أوبن إيه آي»، بسبب اندفاعها نحو تطوير أنظمة فائقة الذكاء قبل التوصل إلى آليات كافية لضمان السيطرة عليها.
وحذر كوكسون من أن سباق تطوير أنظمة قادرة على تحسين نفسها قد يعرض البشر لمخاطر كبيرة، مشيرًا إلى إمكانية وصول هذه الأنظمة مستقبلًا إلى أنظمة مختلفة واكتساب موارد ونفوذ حقيقيين بصورة قد يصعب التحكم فيها.
هوبينغر: مخاطر فناء البشرية تتجاوز 10%
واتفق هوبينغر مع جانب كبير من المخاوف التي طرحها زميله السابق، مؤكدًا أن تقديره الشخصي لاحتمال تسبب الذكاء الاصطناعي في القضاء على البشرية خلال السنوات العشر المقبلة يتجاوز 10%.
وأوضح أن «أنثروبيك» تحاول التعامل مع هذه المخاطر من خلال أبحاث سلامة الذكاء الاصطناعي، إلا أنها لا تمتلك حتى الآن حلًا واضحًا لمشكلة مواءمة أنظمة الذكاء الاصطناعي الفائق مع أهداف وقيم البشر.
وأشار إلى أن الشركة لا ترى أنها وصلت إلى مسار واضح يمكن من خلاله حل هذه المشكلة بشكل نهائي، وهو ما يعكس حجم التحديات التي تواجه الباحثين مع تطور قدرات النماذج الذكية.
التحسين الذاتي للذكاء الاصطناعي يثير مخاوف الباحثين
تتركز إحدى أبرز المخاوف الحالية حول إمكانية وصول الذكاء الاصطناعي إلى مرحلة «التحسين الذاتي التكراري»، بحيث تصبح الأنظمة قادرة على تطوير قدراتها بصورة متتابعة، وربما تصميم أو تحسين أنظمة أخرى دون الحاجة إلى تدخل بشري مستمر.
وفي حال تحقق هذا السيناريو، يخشى الباحثون من أن تصبح وتيرة تطور قدرات الذكاء الاصطناعي أسرع من قدرة البشر على فهم هذه القدرات ووضع ضوابط فعالة عليها.
أنثروبيك حذرت من فقدان السيطرة على الأنظمة
وكانت «أنثروبيك» قد حذرت في يونيو من أن قدرة أنظمة الذكاء الاصطناعي على بناء خلفائها وتطوير أنظمة أكثر تقدمًا يمكن أن تزيد من مخاطر فقدان البشر السيطرة عليها.
وتعكس هذه التحذيرات تنامي الاهتمام داخل قطاع التكنولوجيا بمخاطر الأنظمة التي لا تكتفي بتنفيذ الأوامر، وإنما تستطيع التخطيط واستخدام الأدوات والعمل بصورة أكثر استقلالية.
كبير علماء أوبن إيه آي يحذر من تسارع قدرات الذكاء الاصطناعي
وفي السياق نفسه، حذر جاكوب باتشوكي، كبير علماء شركة «أوبن إيه آي»، من أن التطور السريع للذكاء الاصطناعي قد يجعل فهم البشر لقدرات الأنظمة والسيطرة عليها أكثر صعوبة.
ودعا باتشوكي إلى التعامل بأقصى درجات الحذر مع التطورات المقبلة، خاصة مع اقتراب الأنظمة من امتلاك القدرة على تحسين قدراتها بصورة متزايدة دون تدخل بشري مباشر.
قدرات جديدة تقرب الذكاء الاصطناعي من التحسين الذاتي
وأشار باتشوكي إلى أن نماذج الذكاء الاصطناعي أصبحت قادرة على تشغيل أجهزة الكمبيوتر، والتعاون مع البشر وأنظمة ذكاء اصطناعي أخرى، إلى جانب تنفيذ مشروعات بحثية متقدمة.
وتوقع أن تتمكن هذه الأنظمة مستقبلًا من تطوير قدراتها بنفسها، وهو السيناريو الذي يعرف باسم «التحسين الذاتي المتكرر»، والذي يمثل أحد أكثر الملفات إثارة للجدل في أبحاث سلامة الذكاء الاصطناعي.
دعوات إلى التباطؤ ووضع معايير سلامة مشتركة
وأعرب باتشوكي عن أمله في أن يصبح التباطؤ الطوعي في تطوير نماذج الذكاء الاصطناعي توجهًا شائعًا بين المختبرات والشركات المتنافسة، على الأقل إلى حين وضع معايير سلامة مشتركة.
وتأتي هذه الدعوات بالتزامن مع تسارع المنافسة بين شركات التكنولوجيا لتطوير نماذج أكثر قوة وقدرة على تنفيذ المهام باستقلالية، ما يعيد المخاوف بشأن التوازن بين سرعة الابتكار وضرورة ضمان سلامة هذه الأنظمة والسيطرة عليها.
