يتسارع تطور الذكاء الاصطناعي بصورة غير مسبوقة، مع وصول نماذجه الحديثة إلى قدرات متقدمة في التخطيط والبرمجة وتحليل المعلومات والإقناع، وهو ما أعاد إلى الواجهة سؤالًا بالغ الخطورة: هل يمكن أن يتحول الذكاء الاصطناعي من أداة لخدمة الإنسان إلى تهديد حقيقي لبقاء البشرية؟
ولا تأتي المخاوف هذه المرة من روايات الخيال العلمي، بل من علماء ورواد شاركوا بصورة مباشرة في تطوير تقنيات التعلم العميق والشبكات العصبية التي شكلت الأساس للطفرة الحالية في الذكاء الاصطناعي.
وبينما تختلف تقديرات العلماء بشأن حجم الخطر وتوقيته، تتزايد الدعوات إلى الاستعداد مبكرًا للسيناريوهات الأكثر خطورة، بدل انتظار وصول الأنظمة إلى مستويات يصعب معها السيطرة عليها.
يوشوا بنجيو: قدرات خطيرة موجودة بالفعل
يعد يوشوا بنجيو، عالم الكمبيوتر الكندي وأستاذ جامعة مونتريال، من أبرز الأسماء التي أسهمت في تطوير تقنيات التعلم العميق، ولذلك تحظى تحذيراته بشأن مستقبل الذكاء الاصطناعي باهتمام واسع.
وفي 9 سبتمبر، علق بنجيو على استقالة الباحث في شركة أنثروبيك جاكوب كوكسون، الذي حذر من احتمال أن يتسبب الذكاء الاصطناعي في “قتلنا جميعًا بحلول نهاية العقد”.
وأكد بنجيو أن الباحثين داخل مختبرات الذكاء الاصطناعي المتقدمة يمتلكون اطلاعًا مباشرًا على أحدث قدرات النماذج، ما يجعل تحذيراتهم مهمة في فهم المخاطر قبل وصول التقنيات الجديدة إلى الجمهور.
الذكاء الاصطناعي يطور قدرات الاختراق والإقناع
ذهب بنجيو في تحذيراته إلى التأكيد أن أنظمة الذكاء الاصطناعي الحالية باتت تمتلك بالفعل قدرات في مجال الاختراق الإلكتروني والإقناع، ويمكن استغلال هذه المهارات بطرق تضر بالمصالح البشرية.
وأشار كذلك إلى أن التطورات الأخيرة كشفت قدرة بعض الأنظمة على تنفيذ عمليات تخطيط تمتد لأيام أو أسابيع، معتبرًا أن المخاطر قد تتزايد إذا استمرت النماذج في تطوير قدراتها على وضع استراتيجيات طويلة الأمد.
ويرتبط جانب مهم من مخاوفه بما يعرف بـ”عدم التوافق”، أي عدم تطابق أهداف أنظمة الذكاء الاصطناعي مع مصالح البشر.
مشكلة عدم التوافق تثير مخاوف العلماء
يرى بنجيو أن بعض الأساليب المستخدمة حاليًا لمعالجة مشكلة عدم التوافق قد تؤدي بصورة غير مقصودة إلى جعل المشكلة أكثر صعوبة في الاكتشاف، إذا جرى تدريب النماذج على إخفاء سلوكياتها غير المرغوبة بدل القضاء عليها.
ولهذا يدعو إلى تكثيف الأبحاث التي تستهدف تطوير أدوات أكثر فعالية لمراقبة سلوك أنظمة الذكاء الاصطناعي، وفهم عمليات التفكير التي تقف وراء قراراتها، إضافة إلى دراسة ما يحدث داخل شبكاتها العصبية.
جيفري هينتون: خطر انقراض البشر ليس مستحيلًا
جيفري هينتون، الأستاذ الفخري في جامعة تورنتو وأحد أبرز رواد الشبكات العصبية والتعلم العميق، يرى بدوره أن تقدير احتمال تسبب الذكاء الاصطناعي في انقراض البشرية يمثل مهمة شديدة التعقيد.
وفي مقابلة مع هيئة الإذاعة البريطانية “بي بي سي” في 10 سبتمبر، ناقش هينتون احتمال أن تتسبب أنظمة الذكاء الاصطناعي في قتل جميع البشر خلال العقد المقبل.
وأوضح أن البشرية لم تواجه من قبل كيانًا قد يصبح أكثر ذكاءً منها، ولذلك يصعب وضع تقدير دقيق لاحتمالات الخطر.
10% احتمالًا.. تقدير لا يراه هينتون غير منطقي
اعتبر هينتون أن تقدير احتمال يبلغ 10% لتسبب الذكاء الاصطناعي في القضاء على البشرية ليس رقمًا غير منطقي، مع تأكيده في الوقت نفسه أن أحدًا لا يمتلك طريقة موثوقة لتحديد النسبة الفعلية.
ويحذر هينتون من إمكانية استخدام الذكاء الاصطناعي مستقبلًا في تصميم فيروسات بيولوجية بالغة الخطورة، إلى جانب تطوير برمجيات خبيثة وشن هجمات إلكترونية واسعة النطاق.
كما يرى أن هناك سيناريوهات أخرى عديدة يمكن أن تؤدي إلى نتائج كارثية إذا امتلكت الأنظمة المتقدمة القدرة والدافع إلى إيذاء البشر.
مستقبلان محتملان أمام البشرية
يرى هينتون أن البشرية تواجه مسارين رئيسيين مع استمرار تطور الذكاء الاصطناعي.
المسار الأول يتمثل في نجاح العلماء والحكومات في فهم المخاطر ووضع آليات للسيطرة عليها قبل أن تتجاوز الأنظمة حدود الأمان، بينما يتمثل المسار الثاني في فشل هذه الجهود، بما قد يفتح الباب أمام عواقب لا يمكن التنبؤ بها.
ويؤكد هينتون أن التحدي الأكبر لا يكمن فقط في تطوير أنظمة أكثر ذكاءً، وإنما في ضمان ألا تتحول قدراتها إلى وسيلة لإيذاء البشر.
أيدان جوميز: الذكاء الاصطناعي سلاح سيبراني غير مسبوق
أما أيدان جوميز، الرئيس التنفيذي والشريك المؤسس لشركة الذكاء الاصطناعي Cohere، فيركز بصورة أكبر على المخاطر التي يمكن أن تتحقق بالفعل في الوقت الحالي، وعلى رأسها استخدام الذكاء الاصطناعي في الهجمات الإلكترونية.
وكان جوميز أحد المشاركين في إعداد الورقة البحثية الشهيرة “Attention Is All You Need”، التي نُشرت عام 2017 وأسهمت في تأسيس جانب مهم من التقنيات المستخدمة في نماذج الذكاء الاصطناعي الحديثة.
اكتشاف الثغرات واستغلالها على نطاق واسع
قال جوميز، خلال مشاركته في بودكاست “The Tech Download” التابع لشبكة “CNBC” في الأول من سبتمبر، إن نماذج الذكاء الاصطناعي يمكن أن تمثل أقوى سلاح إلكتروني عرفه البشر، بالنظر إلى قدرتها على اكتشاف الثغرات الأمنية واستغلالها على نطاق واسع.
وجاءت تصريحاته في ظل ظهور هجمات إلكترونية نفذتها نماذج ذكاء اصطناعي خبيثة خلال الصيف، وهو ما اعتبره دليلًا على ضرورة إعادة النظر في أمن البيئات التي تعمل داخلها هذه الأنظمة.
أمن بيئة تشغيل الذكاء الاصطناعي عامل حاسم
يرى جوميز أن المشكلة لا ترتبط بالضرورة بوجود رغبة ذاتية لدى الذكاء الاصطناعي في العمل بصورة مستقلة، وإنما يمكن أن تنتج عن ضعف إجراءات الحماية في الحاويات والبيئات المعزولة التي تعمل فيها النماذج.
وأوضح أن قدرة النموذج على الخروج من البيئة المحددة واستغلال نقاط الضعف الأمنية قد تفتح المجال أمام استخدام قدراته في تنفيذ هجمات أكثر تعقيدًا.
دعوة إلى قواعد تنظيمية تفرق بين مستويات المخاطر
دعا جوميز صناع السياسات إلى التعامل مع الذكاء الاصطناعي وفق مستويات مختلفة من المخاطر، بدل وضع قواعد موحدة لجميع الأنظمة.
وحذر من أن الاعتماد في صياغة التشريعات على شركات التكنولوجيا الكبرى وحدها، خاصة الشركات التي تعمل على تطوير الذكاء الاصطناعي العام (AGI)، قد لا يكون كافيًا لمواجهة جميع المخاطر المحتملة.
هل أصبح خطر الذكاء الاصطناعي وشيكًا؟
ورغم اختلاف مواقف يوشوا بنجيو وجيفري هينتون وأيدان جوميز بشأن طبيعة المخاطر وحجمها، فإن تصريحاتهم تلتقي عند نقطة أساسية، وهي أن بعض القدرات التي كانت تبدو قبل سنوات جزءًا من المستقبل أصبحت موجودة بالفعل.
فالذكاء الاصطناعي بات قادرًا بدرجات متفاوتة على اكتشاف الثغرات، وتنفيذ مهام معقدة، والتخطيط لفترات زمنية أطول، والتأثير في البشر وإقناعهم، وهي قدرات يمكن توظيفها في مجالات مفيدة، لكنها قد تصبح شديدة الخطورة إذا استُخدمت بصورة خبيثة أو خرجت عن نطاق الرقابة.
العلماء لا يتوقعون حتمية انقراض البشرية
ورغم حدة التحذيرات، لا يرى هؤلاء العلماء أن انقراض البشرية نتيجة حتمية أو أن وقوعه بات وشيكًا بصورة مؤكدة.
لكن القلق الرئيسي يتمثل في سرعة تطور قدرات الذكاء الاصطناعي مقارنة بسرعة تطوير أنظمة الرقابة والسلامة، وهو ما يجعل الاستعداد للمخاطر المحتملة ضرورة تسبق الوصول إلى مراحل أكثر تقدمًا.
وفي النهاية، لم يعد السؤال المطروح فقط هو ما إذا كان الذكاء الاصطناعي سيصبح أكثر ذكاءً من البشر، وإنما كيف يمكن ضمان بقاء أهدافه وسلوكه متوافقين مع مصالح الإنسان عندما تصل قدراته إلى مستويات أكثر تطورًا.
