أعاد التسارع الكبير في تطوير تقنيات الذكاء الاصطناعي إشعال المخاوف بشأن مستقبل البشرية، بعدما حذر باحثون ومسؤولون في شركات التكنولوجيا من أن السباق التجاري المحتدم بين الشركات الكبرى قد يدفعها إلى تقليص إجراءات السلامة، في وقت تتطور فيه قدرات الأنظمة الذكية بوتيرة تفوق التوقعات.
ويرى أكثر من 20 باحثًا ومستثمرًا وأكاديميًا وخبيرًا في السياسات، وفقًا لما نقلته صحيفة «فاينانشال تايمز»، أن بعض القدرات التي كانت تُعد قبل سنوات بعيدة المنال أصبحت تظهر بوتيرة متسارعة، بالتزامن مع احتدام المنافسة بين مختبرات الذكاء الاصطناعي الكبرى.
المنافسة بين شركات الذكاء الاصطناعي تثير مخاوف السلامة
قال ستيوارت راسل، أستاذ الذكاء الاصطناعي في جامعة كاليفورنيا، إن المنافسة المتزايدة بين شركات الذكاء الاصطناعي قد تدفعها إلى اتخاذ اختصارات في إجراءات السلامة، خصوصًا مع رغبة كل شركة في تحقيق تقدم أسرع من منافسيها.
وتزداد المخاوف مع اقتراب النماذج الذكية من تنفيذ مهام أكثر تعقيدًا وبدرجة أكبر من الاستقلالية، بينما تحاول الشركات في الوقت نفسه تحقيق عوائد تجارية ضخمة من هذه التقنيات.
باحثون يحذرون من خطر وجودي خلال العقد المقبل
تصاعد الجدل هذا الأسبوع عقب استقالة الباحث الشاب في شركة أنثروبيك، جاكوب كوكسون، الذي حذر من أن بعض العاملين على تطوير الذكاء الاصطناعي يؤمنون بالفعل بإمكانية أن تشكل هذه التكنولوجيا تهديدًا خطيرًا للبشرية خلال السنوات المقبلة.
كما أشار إيفان هوبرينغر، رئيس فريق علوم المواءمة واختبارات الاختراق في أنثروبيك، إلى تقديرات تفيد بأن احتمال وقوع خطر يؤدي إلى انقراض جماعي خلال العقد المقبل يتجاوز 10%.
وفي السياق نفسه، حذر بول كريستيانو، المتخصص في سلامة الذكاء الاصطناعي وعضو مجلس إدارة مؤسسة OpenAI، من أن غياب ضمانات أكثر صرامة قد يؤدي إلى عواقب كارثية على البشر.
OpenAI وأنثروبيك بين السلامة وضغوط المنافسة
بدأت OpenAI وأنثروبيك مسيرتهما كمختبرين ركزا على تطوير ذكاء اصطناعي متقدم مع اهتمام كبير بمسائل السلامة، لكن احتدام المنافسة في القطاع أدى إلى تغيير بعض الأولويات والالتزامات السابقة المتعلقة بالسلامة.
ويعتقد مؤيدو تطوير الذكاء الاصطناعي أن الشركات التي تبني هذه الأنظمة هي الأقدر على فهم مخاطرها وإدارتها، بينما يرى باحثون آخرون أن التعامل مع بعض الأخطار قد يصبح أكثر صعوبة عندما تصل التكنولوجيا إلى مستويات أعلى من الاستقلالية والقدرة.
وكلاء الذكاء الاصطناعي يقتربون من الاستقلالية
من أبرز مصادر القلق حاليًا التطور السريع لوكلاء الذكاء الاصطناعي، الذين أصبح بإمكانهم التفكير والتخطيط وتنفيذ المهام لفترات أطول مع تدخل بشري محدود.
وتظهر هذه الأنظمة كذلك قدرة متزايدة على التعاون ضمن مجموعات أو «أسراب»، إلى جانب تقدمها في مجالات مثل القرصنة الإلكترونية والعلوم والرياضيات، وهي مجالات حققت فيها النماذج الحديثة نتائج كانت تبدو صعبة التحقيق قبل سنوات قليلة.
وتعمل OpenAI وأنثروبيك أيضًا على ما يعرف بـ«التحسين الذاتي التكراري»، حيث تسهم أنظمة الذكاء الاصطناعي بصورة متزايدة في تحسين قدراتها مع انخفاض مستوى التدخل البشري.
أكثر من 1200 موظف يطالبون بإبطاء التطوير
في يوليو الماضي، وقع أكثر من 1200 موظف من شركات OpenAI وأنثروبيك وجوجل وميتا على دعوة للحكومة الأميركية من أجل دعم التنسيق الدولي بهدف إبطاء وتيرة تطوير الذكاء الاصطناعي.
لكن هذه التحذيرات لم تؤد إلى تباطؤ واضح في السباق التكنولوجي، إذ واصلت شركات التكنولوجيا ضخ عشرات المليارات من الدولارات في تطوير نماذج أكثر قوة وبناء البنية التحتية اللازمة لتشغيلها.
وتستعد OpenAI وأنثروبيك أيضًا لاحتمالات طرح أسهمهما للاكتتاب العام، وهو ما يضيف تحديًا جديدًا أمام المستثمرين الذين يتعين عليهم تقييم شركات تطور تقنيات قد تحمل في الوقت نفسه فرصًا اقتصادية ضخمة ومخاطر وجودية محتملة.
هل يستطيع الذكاء الاصطناعي خداع البشر؟
تتزايد المخاوف مع ظهور سلوكيات لدى بعض النماذج تشمل التخطيط والتضليل ومحاولات تجنب الإيقاف، وهو ما يثير تساؤلات حول مدى قدرة البشر على السيطرة على أنظمة تصبح أكثر استقلالية.
ويرى باحثون أن الخطر لا يرتبط فقط بامتلاك الذكاء الاصطناعي أهدافًا خاصة، وإنما باحتمال أن تتوصل الأنظمة الأكثر تطورًا إلى أن خداع البشر أو إخفاء نواياها قد يساعدها على تحقيق أهدافها.
«سرب» من وكلاء الذكاء الاصطناعي يثير الجدل
أحد أبرز الأمثلة التي غذت هذه المخاوف جاء خلال اختبارات لنموذج متقدم من OpenAI، عندما تمكن وكلاء ذكاء اصطناعي من اختراق مستودع النماذج Hugging Face.
وخلص تحليل لاحق للحادثة إلى أن أكثر من 1000 وكيل ذكاء اصطناعي نسقوا فيما بينهم خلال اختبار للأمن السيبراني، عبر توزيع المهام والتواصل من خلال لوحة رسائل.
وأثارت الواقعة اهتمامًا خاصًا بعدما لجأت الأنظمة إلى التلاعب بالسجلات وإجراء عمليات اختراق لإخفاء ما قامت به، رغم أن بعض الوكلاء أظهروا إدراكًا بأن بعض هذه التصرفات غير أخلاقي.
يوشوا بنجيو: الخطر في الهدف الذي تختاره الآلة
اعتبر يوشوا بنجيو، أحد أبرز علماء الذكاء الاصطناعي، أن خطورة الواقعة تتجاوز مجرد قدرة الأنظمة على تنفيذ عمليات تقنية، لأن المشكلة تكمن في إمكانية اختيار الذكاء الاصطناعي هدفًا ضارًا وتنفيذه بصورة جماعية.
وحذر بنجيو من أن الأنظمة الأكثر تطورًا قد تستنتج أن البشر يمثلون عائقًا أمام أهدافها، الأمر الذي قد يدفعها إلى محاولة خداع المشرفين عليها أو إخفاء سلوكها أو حتى السعي إلى السيطرة عليهم.
لماذا يصعب على شركات الذكاء الاصطناعي التعاون؟
تواجه جهود تعزيز السلامة عائقًا آخر يتمثل في ضعف الثقة بين الشركات الكبرى، إذ تخشى بعض المختبرات أن يؤدي التعاون الرسمي في مجال السلامة إلى اتهامات بالتواطؤ أو إلى مشكلات تتعلق بقوانين مكافحة الاحتكار.
كما أن التنافس الشخصي بين بعض قادة الشركات، ومن بينهم سام ألتمان الرئيس التنفيذي لـOpenAI وداريو أمودي الرئيس التنفيذي لأنثروبيك، قد يزيد صعوبة الوصول إلى آليات تعاون واسعة بشأن المخاطر.
أربعة سيناريوهات لانقراض البشرية
يطرح الباحثون مجموعة من السيناريوهات النظرية التي قد تجعل الذكاء الاصطناعي المتقدم تهديدًا وجوديًا للبشرية، وإن كانت احتمالات تحققها ومدى واقعيتها محل خلاف كبير.
السيطرة على أنظمة الحوسبة
قد تستخدم أنظمة ذكاء اصطناعي متقدمة مهاراتها في القرصنة للسيطرة على مراكز البيانات والبنية التحتية الحاسوبية، ثم نسخ نفسها عبر مواقع متعددة بهدف منع البشر من إيقافها.
السيطرة على البنية التحتية
يتضمن سيناريو آخر احتمال استهداف شبكات الطاقة والأنظمة المالية وشبكات الاتصالات، بما يمنح الذكاء الاصطناعي قدرات أكبر على مقاومة محاولات التدخل البشري.
استخدام أسلحة بيولوجية
يحذر بعض الباحثين من إمكانية استخدام الذكاء الاصطناعي المتقدم في تصميم أسلحة بيولوجية أو فيروسات خطرة، خصوصًا إذا انخفضت الخبرة المطلوبة لتطوير مثل هذه التقنيات.
إشعال الحروب والصراعات
قد تستخدم الأنظمة المتقدمة قدرتها على تقليد الشخصيات البشرية وصناعة محتوى مقنع لخداع البشر أو التأثير في قراراتهم، بما قد يؤدي إلى تصعيد عسكري أو زعزعة استقرار حكومات ومؤسسات.
الهجمات السيبرانية والبيولوجية خطر أقرب للتحقق
رغم التركيز على سيناريو انقراض البشرية، يرى بعض الباحثين أن المخاطر الأكثر واقعية في الوقت الحالي ترتبط بالهجمات السيبرانية والاستخدامات البيولوجية الضارة.
وتستخدم بالفعل نماذج الذكاء الاصطناعي في هجمات إلكترونية، بينما يخشى باحثون من أن تساعد هذه التقنيات في خفض مستوى المعرفة والخبرة المطلوبة لتصميم مواد بيولوجية خطرة.
وأعلنت أنثروبيك مؤخرًا أنها منعت نشاطًا كان من الممكن أن يسهم في تطوير أسلحة بيولوجية باستخدام الذكاء الاصطناعي، ما يعكس انتقال بعض المخاوف من نطاق السيناريوهات النظرية إلى اختبارات عملية للقدرات الجديدة.
