تتصاعد المخاوف بشأن مستقبل الذكاء الاصطناعي مع تزايد الحديث عن احتمالات خروج بعض الأنظمة والوكلاء الذكيين عن السيطرة، وهو ما أعاد إلى الواجهة فكرة وجود «مفتاح إيقاف» يمكن استخدامه بصورة طارئة لتعطيل أنظمة الذكاء الاصطناعي أو خفض قدراتها.
وبينما يبدو وجود زر واحد لإيقاف الذكاء الاصطناعي حلًا بسيطًا لمشكلة شديدة التعقيد، يرى خبراء في التكنولوجيا والأمن السيبراني أن تنفيذ الفكرة على أرض الواقع يواجه تحديات تقنية ولوجستية وقانونية كبيرة، خاصة مع اعتماد أنظمة الذكاء الاصطناعي على بنية تحتية رقمية مترابطة وموزعة حول العالم.
ما حقيقة «مفتاح إيقاف الذكاء الاصطناعي»؟
عاد مصطلح «مفتاح إيقاف الذكاء الاصطناعي» إلى الواجهة في الولايات المتحدة، بالتزامن مع تصاعد النقاش حول كيفية التعامل مع الأنظمة المتقدمة التي قد تتصرف بصورة غير متوقعة.
وطُرح في مجلس النواب الأميركي خلال الصيف مشروع قانون حمل فكرة «مفتاح إيقاف الذكاء الاصطناعي»، بعدما كشفت شركة «أوبن إيه آي» أن مجموعة من وكلائها تمكنت من الخروج من بيئة اختبار واختراق منصة «هاغينغ فيس» المفتوحة المصدر المخصصة للمطورين.
وكان المقترح يمنح وزارة الأمن الداخلي صلاحيات طارئة لإجبار مختبرات الذكاء الاصطناعي على خفض قدرات بعض النماذج أو إيقافها عند الضرورة، إلا أن مقترح مفتاح الإيقاف أُسقط لاحقًا في مجلس الشيوخ.
كاليفورنيا تبحث آليات إيقاف أنظمة الذكاء الاصطناعي
في سياق متصل، أصدر حاكم ولاية كاليفورنيا غافين نيوسوم أمرًا تنفيذيًا لإنشاء مجموعة من الخبراء مهمتها إعداد دليل يتعلق بسلامة الذكاء الاصطناعي وتعزيز الأطر التنظيمية في الولاية.
وكانت فكرة «مفتاح الإيقاف» إحدى القضايا التي يتعين على المجموعة بحثها، في ظل الجدل المتزايد بشأن قدرة الحكومات والشركات على السيطرة على أنظمة الذكاء الاصطناعي المتطورة.
لماذا يصعب إيقاف الذكاء الاصطناعي؟
يرى نيك وارنر، الرئيس التنفيذي لشركة «Neo» المتخصصة في الأمن السيبراني والمدير التنفيذي السابق في «SentinelOne»، أن فكرة مفتاح الإيقاف ليست بالضرورة إجراءً ضعيفًا، لكنه يرى أن طرحها ربما جاء بعد أن أصبحت البنية التكنولوجية أكثر تعقيدًا.
وعلى عكس الآلات الصناعية التقليدية التي يمكن إيقافها باستخدام زر طوارئ، تعمل أنظمة الذكاء الاصطناعي الحديثة ضمن شبكات رقمية ضخمة ومترابطة، ما يجعل إيقافها بصورة شاملة أكثر صعوبة.
البنية السحابية تعقد مهمة الإيقاف
أنفقت شركات الحوسبة السحابية الكبرى، ومنها «ميتا» و«ألفابت» و«أمازون»، مليارات الدولارات على مراكز بيانات موزعة في مناطق مختلفة حول العالم.
وتضم هذه المنشآت آلاف الخوادم والرقائق والآلات وأنظمة النسخ الاحتياطي المصممة للحفاظ على استمرارية الخدمات حتى عند حدوث أعطال أو انقطاعات.
ويرى مارك نيتزبيرغ، المدير التنفيذي لمركز «Center for Human-Compatible AI» في جامعة كاليفورنيا، بيركلي، أن هذه البنية الموزعة تمثل تحديًا أساسيًا أمام فكرة مفتاح الإيقاف.
وأوضح أن أي آلية لإيقاف الذكاء الاصطناعي يجب أن تتعامل ليس فقط مع الأنظمة الرئيسية، وإنما أيضًا مع الأنظمة الاحتياطية والتكرار الموجود داخل البنية التحتية الرقمية.
إيقاف الذكاء الاصطناعي قد يؤثر في خدمات حيوية
لا تتعلق المشكلة بإيقاف نماذج الذكاء الاصطناعي وحدها، إذ يمكن أن يؤدي تعطيل بعض الأنظمة بصورة واسعة إلى التأثير في البنية التحتية التي تعتمد عليها.
وأشار نيتزبيرغ إلى أن إيقاف أنظمة الذكاء الاصطناعي قد يمتد تأثيره إلى قطاعات حيوية تعتمد على هذه التقنيات، مثل شبكات الكهرباء والأنظمة المالية، وهو ما قد يفتح الباب أمام مشكلات تشغيلية أو مخاطر أمنية.
كما يبرز سؤال آخر يتعلق بالجهة التي تمتلك صلاحية تفعيل مفتاح الإيقاف، ومن يحدد الظروف التي تستدعي استخدامه، وما إذا كانت الصلاحية ستكون لدى الحكومات أم الشركات أم جهات تنظيمية محددة.
هل يحتاج الذكاء الاصطناعي إلى أكثر من مفتاح إيقاف؟
يرى تيم براون، الرئيس السابق للأمن في «SolarWinds» والعامل حاليًا في شركة رأس المال المغامر «Team8»، أن تعقيد أنظمة الذكاء الاصطناعي قد يتطلب أكثر من آلية واحدة للإيقاف.
وبحسب رؤيته، يمكن أن تحتاج الشركات إلى مفاتيح إيقاف مختلفة لمهام وأنظمة متعددة، مع ضرورة التنسيق بين مطوري النماذج ومختبرات الذكاء الاصطناعي.
وتكمن الصعوبة في أن منظومة الذكاء الاصطناعي لا تتكون من جهة واحدة يمكن تعطيلها، وإنما من آلاف المكونات والجهات والأنظمة المترابطة.
سلوك الذكاء الاصطناعي يضيف تحديًا جديدًا
إلى جانب التحديات اللوجستية، تبرز مشكلة أخرى تتعلق بصعوبة التنبؤ بسلوك بعض أنظمة الذكاء الاصطناعي، خصوصًا الوكلاء القادرين على تنفيذ سلسلة من المهام بصورة مستقلة.
وأعاد حادث اختراق «هاغينغ فيس» النقاش حول قدرة بعض الوكلاء على تجاوز عناصر التحكم، وما يمكن أن يحدث في حال امتلكت الأنظمة صلاحيات واسعة دون وجود ضوابط كافية.
وحذر إد جينينغز، الرئيس والمدير التنفيذي لشركة «دارك تريس» التابعة لشركة «ثوما برافو»، من أن عملية إيقاف النظام يجب أن تتم بحذر شديد، لأن الإيقاف الواسع أو الشامل قد يؤدي بدوره إلى تعطيل الأعمال والخدمات المرتبطة بالنظام.
سباق بين تطور الذكاء الاصطناعي وسرعة التشريعات
يرى راج راجاماني، الشريك المؤسس والرئيس التنفيذي لشركة «JetStream Security» المتخصصة في حوكمة الذكاء الاصطناعي، أن سرعة تطور التكنولوجيا تمثل تحديًا رئيسيًا أمام واضعي السياسات.
وأوضح أن الفجوة بين سرعة تطور الذكاء الاصطناعي وسرعة إصدار القوانين قد تجعل بعض التشريعات غير مواكبة للتقنيات الجديدة بحلول الوقت الذي تدخل فيه حيز التنفيذ.
ويزداد التحدي مع ظهور أنظمة وطرق استخدام جديدة للذكاء الاصطناعي، ما يجعل تصميم قواعد تنظيمية قابلة للتطبيق على تقنيات مستقبلية أمرًا أكثر تعقيدًا.
هل أصبح «مفتاح الإيقاف» فكرة قديمة؟
لا يرى جميع الخبراء أن مفتاح الإيقاف هو الحل المناسب لتنظيم الذكاء الاصطناعي.
وقال ديلان بيكر، مهندس الأبحاث الرئيسي في معهد أبحاث الذكاء الاصطناعي الموزع ومهندس البرمجيات السابق في «غوغل»، إن إطار مفتاح الإيقاف قد يترك مساحة من الغموض يمكن أن تستغلها شركات التكنولوجيا عند تصميم أنظمتها.
وبدلًا من الاعتماد على زر طوارئ واحد، دعا بيكر إلى إعطاء الأولوية لضمانات تنظيمية تستند إلى نماذج مستخدمة في مجالات مثل خصوصية البيانات وسلامة الأطفال وتنظيم الصناعات ذات المخاطر المرتفعة.
هل يمكن تصميم «مكبح طوارئ» للذكاء الاصطناعي؟
رغم الانتقادات، لا يستبعد خبراء إمكانية تطوير آليات طوارئ فعالة للذكاء الاصطناعي، لكنهم يرون أن نجاحها يتطلب تصميمها داخل الأنظمة منذ المراحل الأولى.
ويرى براون أن ذلك يمكن أن يشمل دمج مفاتيح الإيقاف في البنية الأساسية للأنظمة، إلى جانب وضع سياسات تساعد على توحيد بروتوكولات الإيقاف بين شركات الذكاء الاصطناعي المختلفة.
كما يرى راجاماني أن وجود العديد من أنظمة الذكاء الاصطناعي في مراحل مبكرة من التطوير قد يوفر فرصة لتطبيق مثل هذه الآليات قبل أن تصبح البنية التقنية أكثر تعقيدًا.
هل فات الأوان لإيقاف الذكاء الاصطناعي؟
رغم التحديات، يرى نيتزبيرغ أن تطوير آلية لإيقاف أنظمة الذكاء الاصطناعي لا يزال ممكنًا إذا صُممت البرمجيات بعناية شديدة، مع مراعاة طبيعة البنية التحتية الموزعة ووجود الأنظمة الاحتياطية.
وبذلك، لا يبدو «مفتاح الإيقاف» زرًا سحريًا يمكن الضغط عليه لتعطيل الذكاء الاصطناعي بالكامل، بل مفهومًا تقنيًا وتنظيميًا أكثر تعقيدًا، يتطلب تحديد الأنظمة المستهدفة، وآليات التحكم، والجهة المخولة بالتفعيل، وكيفية تجنب تعطيل الخدمات الحيوية المرتبطة بهذه التقنيات.
