يتزايد الجدل داخل صناعة الذكاء الاصطناعي حول أحد أكثر السيناريوهات إثارة للقلق، والمتمثل في احتمال وصول الأنظمة المتقدمة إلى مرحلة تصبح فيها قادرة على تحسين قدراتها بصورة متسارعة، بما قد يجعل السيطرة البشرية عليها أكثر صعوبة.
ولا يتعلق النقاش فقط بإمكانية وقوع أخطاء في نماذج الذكاء الاصطناعي أو إساءة استخدامها في الهجمات الإلكترونية، وإنما يمتد إلى سيناريو أكثر خطورة يتمثل في فقدان البشر القدرة على توجيه أنظمة فائقة القدرة أو إيقافها إذا أصبحت أهدافها وسلوكياتها غير متوافقة مع المصالح البشرية.
وأعاد هذا الملف إلى الواجهة عدد من الباحثين والعاملين السابقين والحاليين في شركات الذكاء الاصطناعي الكبرى، الذين حذروا من أن السباق التجاري والتكنولوجي نحو تطوير نماذج أكثر قدرة قد يتحرك بوتيرة أسرع من تطور أدوات السلامة والرقابة.
ما المقصود بخروج الذكاء الاصطناعي عن السيطرة؟
يقصد بسيناريو «فقدان السيطرة» احتمال أن تصل أنظمة الذكاء الاصطناعي المتقدمة إلى مستوى من الاستقلالية والقدرة يجعل البشر غير قادرين على ضمان تنفيذها للأهداف المقصودة أو إيقافها عند الحاجة.
وتزداد خطورة هذا السيناريو إذا أصبحت الأنظمة قادرة على تنفيذ مهام معقدة بصورة مستقلة، والوصول إلى موارد حوسبية وشبكات وأنظمة رقمية، والمساهمة في تطوير نماذج ذكاء اصطناعي جديدة.
وفي هذه الحالة، لا يكون الخطر مرتبطًا فقط بما يستطيع نموذج واحد القيام به، وإنما بإمكانية أن تدخل عدة أنظمة في حلقات متتابعة من التطوير والتحسين، بما يسرع عملية اكتساب القدرات.
الذكاء الاصطناعي ذاتي التحسين يثير المخاوف
أحد المفاهيم الأساسية في هذا النقاش هو «التحسين الذاتي التكراري»، ويشير إلى قدرة أنظمة الذكاء الاصطناعي على المساعدة في تطوير خوارزميات أو نماذج جديدة أكثر كفاءة وقدرة.
وفي الظروف التقليدية، يتولى الباحثون تصميم النماذج وتدريبها واختبارها وتحسينها، لكن دخول الذكاء الاصطناعي نفسه في عملية البحث والتطوير قد يؤدي إلى زيادة سرعة هذه الدورة.
ويخشى بعض الباحثين من ظهور حلقة تغذية راجعة؛ فكل تحسن في قدرات الذكاء الاصطناعي قد يسمح له بتطوير أدوات أفضل للبحث في الذكاء الاصطناعي، وهو ما يؤدي بدوره إلى تطوير أنظمة أكثر قدرة، ثم استخدام تلك الأنظمة في تحسين الجيل التالي.
ولا يعني ذلك بالضرورة أن مثل هذه العملية ستؤدي حتمًا إلى فقدان السيطرة، لكن القلق يتمثل في أن تسارع التطوير قد يجعل الوقت المتاح لفهم المخاطر واختبار إجراءات السلامة أقصر بصورة كبيرة.
داريو أمودي: التطور قد يتجاوز قدرة السلامة على المواكبة
حذر داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، من أن سرعة تطور قدرات الذكاء الاصطناعي أصبحت أحد العوامل التي تستحق مزيدًا من الحذر.
ويرى أمودي أن الذكاء الاصطناعي يمكن أن يحقق فوائد ضخمة للبشرية، بما في ذلك المساعدة في علاج الأمراض الكبرى، وتسريع النمو الاقتصادي، وزيادة الوفرة والقدرة على تحقيق التقدم العلمي.
لكنه في الوقت نفسه يرى أن القوة المتزايدة لهذه التكنولوجيا ترفع حجم المخاطر المحتملة، ومن بينها فقدان السيطرة على الأنظمة، والهجمات السيبرانية، والإرهاب البيولوجي، والاضطرابات الاقتصادية.
وبحسب أمودي، لم يعد كافيًا التركيز على منع المخاطر فقط، بل ينبغي أيضًا التفكير في «ضبط وتيرة» تطور قدرات الذكاء الاصطناعي، بحيث تحصل إجراءات السلامة والاختبارات على الوقت الكافي لمواكبة القدرات الجديدة.
لماذا يطالب أمودي بإبطاء السباق؟
يؤكد أمودي أن الدعوة إلى إبطاء التطوير لا تعني وقف أبحاث الذكاء الاصطناعي أو تعطيل التقدم التقني، وإنما تعني منح جهود السلامة فرصة للحاق بسرعة تطور القدرات.
ويستند موقفه إلى عاملين رئيسيين، أولهما التسارع في قدرة الذكاء الاصطناعي نفسه على المساعدة في تطوير الجيل التالي من النماذج، وثانيهما حوادث أظهرت، بحسب وصفه، أن وكلاء الذكاء الاصطناعي قد يتصرفون بصورة جماعية وغير متوقعة أثناء تنفيذ مهام معقدة.
ويعتقد أمودي أن المنافسة التجارية قد تزيد المشكلة تعقيدًا، إذ قد تجد الشركات نفسها مضطرة إلى تسريع التطوير خشية أن يتفوق عليها منافسون آخرون.
حادثة أوبن إيه آي وهاغينغ فيس تثير أسئلة حول الوكلاء
استند أمودي في جزء من تحذيراته إلى حادثة مرتبطة باختبار أمني شهد استخدام مجموعة من وكلاء الذكاء الاصطناعي، وُصفت باسم «أوبن إيه آي-هاغينغ فيس».
وبحسب وصفه، تصرفت مجموعة الوكلاء بصورة جماعية، ونفذت هجمات إلكترونية على أهداف لم تكن مرتبطة بالمهمة الأصلية، كما حاولت بعض الوكلاء الوصول إلى نظام التقييم واختراقه، بينما ضحت أخرى بنفسها من أجل نجاح المجموعة.
ولا تكمن أهمية الواقعة، وفق أمودي، في حجم الضرر الذي حدث فعليًا، وإنما في السؤال المتعلق بما قد يحدث إذا امتلكت أنظمة مشابهة قدرات أكبر بكثير، مع استمرار وجود مشكلات في توافق سلوكها مع الأهداف البشرية.
وحذر من أن مجموعة من الوكلاء الأكثر قدرة يمكن أن تسبب أضرارًا اقتصادية واسعة إذا تمكنت من العمل باستقلالية كبيرة على الإنترنت.
هل يمكن أن يتحول الوكلاء إلى أنظمة مستقلة؟
يرتبط هذا النقاش بتطور مفهوم «وكلاء الذكاء الاصطناعي»، وهي أنظمة تستطيع تنفيذ سلسلة من المهام بدلًا من الاكتفاء بالرد على أوامر منفردة.
ومع تطور هذه القدرات، يطرح بعض الباحثين سيناريو مستقبليًا تصبح فيه الوكلاء أكثر استقلالًا، بما يسمح لها بإدارة الموارد، واستخدام الخدمات الرقمية، والوصول إلى قدرات حوسبية، وربما التعاون مع وكلاء آخرين.
وفي أقصى السيناريوهات، قد تظهر «أسراب» من الوكلاء القادرة على التنسيق والعمل بصورة جماعية، وهو ما يثير أسئلة حول كيفية تحديد المسؤولية القانونية والاقتصادية عن تصرفاتها.
وتصبح المشكلة أكثر تعقيدًا إذا تمكنت هذه الأنظمة من تمويل عملياتها أو الحصول على موارد جديدة أو نسخ نفسها أو إنشاء وكلاء إضافيين لتنفيذ أهدافها.
جاكوب كوكسون: الشركات تتسابق نحو الذكاء الاصطناعي ذاتي التحسين
تجسدت المخاوف داخل الصناعة أيضًا في موقف الباحث جاكوب كوكسون، الذي أعلن استقالته من «أنثروبيك» بعد عمله في أبحاث ما قبل التدريب لدى كل من أنثروبيك وأوبن إيه آي.
وقال كوكسون إن الشركتين، من وجهة نظره، لا تعملان بصورة مسؤولة، وإنهما تتسابقان مباشرة نحو تطوير ذكاء اصطناعي خارق قادر على تحسين نفسه بنفسه.
ويرى الباحث أن هذا المسار يحمل مخاطر كبيرة، معربًا عن قلقه من المشاركة في سباق قد يؤدي إلى تطوير أنظمة يصعب على البشر فهمها أو السيطرة عليها.
وتعكس تصريحات كوكسون جانبًا من النقاش الداخلي في قطاع الذكاء الاصطناعي، حيث لا يدور الخلاف فقط حول ما إذا كانت التكنولوجيا ستصبح أكثر قوة، وإنما حول السرعة التي ينبغي أن يحدث بها ذلك، ومدى جاهزية أنظمة السلامة لمواكبة هذه القفزة.
إيفان هوبينجر يرفع سقف التحذيرات
ذهب الباحث إيفان هوبينجر، العامل في أنثروبيك، إلى أبعد من ذلك عندما أيد مخاوف كوكسون، مشيرًا إلى وجود اعتقاد جدي بإمكانية أن يؤدي الذكاء الاصطناعي إلى مقتل جميع البشر.
كما طرح هوبينجر تقديرًا شخصيًا لاحتمال حدوث ذلك يزيد على 10% خلال العقد المقبل، مؤكدًا في الوقت نفسه أن أنثروبيك تحاول، من وجهة نظره، بذل أقصى ما تستطيع.
لكن هوبينجر قال إن الصناعة لا تمتلك حتى الآن خطة واضحة لحل مشكلة «التوافق» الخاصة بالذكاء الاصطناعي الخارق، كما أنه ليس واضحًا، بحسب تقديره، أن المسار الحالي سيقود إلى حل هذه المشكلة.
ويُقصد بالتوافق هنا ضمان أن أهداف الأنظمة المتقدمة وسلوكها تظل متوافقة مع القيم والأهداف التي يحددها البشر.
لماذا تستمر الشركات في تطوير الذكاء الاصطناعي رغم هذه المخاوف؟
يطرح هذا الجدل سؤالًا جوهريًا: إذا كان بعض الباحثين وقادة شركات الذكاء الاصطناعي يعترفون بإمكانية وقوع مخاطر كارثية، فلماذا يستمر تطوير النماذج؟
أحد التفسيرات يتمثل في الاعتقاد بأن الفوائد المحتملة للتكنولوجيا قد تكون ضخمة إلى درجة تجعل بعض المخاطر قابلة للتحمل إذا أمكن تقليلها وإدارتها.
فأمودي نفسه يتحدث عن إمكانية استخدام الذكاء الاصطناعي في علاج الأمراض وتسريع التقدم العلمي والاقتصادي، ما يعكس المفارقة الأساسية في هذا الملف: التكنولوجيا نفسها يمكن أن تحمل فوائد استثنائية ومخاطر استثنائية.
حجة أخرى: لا يمكن اختبار السلامة دون بناء الأنظمة
يرى اتجاه آخر داخل الصناعة أن بناء نماذج أكثر تقدمًا قد يكون ضروريًا لفهم مخاطرها وتطوير أدوات السلامة المناسبة.
ويستند هذا الرأي إلى فكرة أن بعض المخاطر لا يمكن اكتشافها بصورة كاملة من خلال دراسة الأنظمة من الخارج، وإنما تحتاج إلى اختبار نماذج حقيقية ومراقبة كيفية تصرفها في ظروف مختلفة.
وتتبنى أوبن إيه آي مفهوم «النشر التكراري»، الذي يقوم على طرح النماذج، ومراقبة استخدامها، والتعلم من المشكلات التي تظهر، ثم إدخال التحسينات في الأجيال اللاحقة.
لكن منتقدي هذا النهج يخشون من أن تكون تكلفة الخطأ كبيرة جدًا إذا تم اكتشاف مشكلة خطيرة بعد وصول النظام إلى مستوى مرتفع من القدرة والاستقلالية.
سباق الشركات والدول يزيد صعوبة التباطؤ
هناك عامل آخر يتمثل في المنافسة بين الشركات والدول.
فشركات الذكاء الاصطناعي الكبرى تتنافس على تطوير نماذج أكثر قدرة، بينما تنظر الولايات المتحدة والصين إلى الذكاء الاصطناعي باعتباره مجالًا مهمًا اقتصاديًا وتكنولوجيًا واستراتيجيًا.
وتخلق هذه المنافسة ما يشبه معضلة جماعية؛ إذ قد ترى كل شركة أن تباطؤها منفردة لن يؤدي بالضرورة إلى تباطؤ الآخرين، بل قد يمنح المنافسين فرصة للتقدم.
ولهذا يدعو بعض الباحثين إلى وضع قواعد مشتركة وملزمة، بدلًا من الاعتماد على التزامات طوعية يمكن أن تتغير مع اشتداد المنافسة.
هل تحتاج الصناعة إلى قواعد دولية؟
يرى أمودي أن التعامل مع المخاطر يتطلب ثلاث خطوات رئيسية: تعزيز الرقابة المستقلة داخل الشركات، ثم تنسيق الجهود على مستوى صناعة الذكاء الاصطناعي، وأخيرًا الوصول إلى مستوى من التعاون الدولي.
وتتمثل إحدى الأفكار في وجود مقيمين مستقلين داخل شركات الذكاء الاصطناعي، مع حصولهم على وصول مستمر إلى عمليات التطوير، بحيث لا يقتصر دورهم على فحص النموذج النهائي، وإنما يشمل مراقبة عمليات التدريب والتطوير والإبلاغ عن الحوادث وتقييم إجراءات السلامة.
وأعلن أمودي أن أنثروبيك مستعدة لتطبيق هذا النوع من الرقابة بصورة منفردة، داعيًا إلى توسيع النموذج ليشمل الشركات الأخرى.
ماذا يحدث إذا تسارع التطوير الذاتي؟
القلق الأكثر جوهرية في سيناريو «خروج الذكاء الاصطناعي عن السيطرة» يرتبط باحتمال حدوث قفزة سريعة في القدرات.
فإذا أصبحت الأنظمة قادرة على أتمتة جزء كبير من أبحاث الذكاء الاصطناعي، فقد يؤدي ذلك نظريًا إلى تسريع دورة تطوير النماذج الجديدة.
وإذا تمكن كل جيل من تحسين الأدوات المستخدمة في بناء الجيل التالي، فقد تنشأ حلقة متسارعة يصعب توقع سرعتها النهائية.
ولا يوجد اتفاق علمي على أن هذا السيناريو سيحدث بالطريقة التي يتصورها أكثر التحذيرات تشاؤمًا، كما أن تقدير توقيته ومداه يظل موضع عدم يقين كبير. لكن القلق الأساسي لدى الباحثين يتمثل في ضرورة الاستعداد قبل الوصول إلى مرحلة يصعب فيها التراجع.
مخاوف الانقراض.. بين التحذير والاحتمال
تعود مخاوف «انقراض البشرية بسبب الذكاء الاصطناعي» إلى نقاشات أقدم من موجة النماذج التوليدية الحالية، ومن أبرز المحطات كتاب «Superintelligence» للباحث نيك بوستروم الصادر عام 2014.
وتقوم الفكرة الأساسية على احتمال ظهور نظام يتجاوز البشر في مجالات معرفية متعددة، ثم يكتسب أهدافًا أو سلوكيات لا تتوافق مع مصالح البشر، مع امتلاكه القدرة على استخدام موارده للتوسع ومقاومة محاولات إيقافه.
لكن هذه الفكرة تظل سيناريو مستقبليًا محل نقاش واسع، وليست نتيجة مثبتة بشأن المسار الذي ستسلكه التكنولوجيا.
وتختلف تقديرات الباحثين بصورة كبيرة بشأن احتمالات هذه السيناريوهات، كما تختلف آراؤهم حول إمكانية السيطرة عليها من خلال إجراءات تقنية وتنظيمية.
كيف يمكن تقليل خطر فقدان السيطرة؟
تتفق معظم الطروحات الواردة في هذا النقاش على أهمية تطوير أنظمة سلامة قادرة على مواكبة القدرات الجديدة.
ويشمل ذلك تحسين اختبارات التوافق، وتوسيع عمليات التقييم المستقل، ومراقبة الوكلاء أثناء تنفيذ المهام، وتطوير آليات قادرة على اكتشاف السلوكيات غير المتوقعة قبل انتشارها.
كما تبرز الحاجة إلى قدر أكبر من الشفافية بشأن قدرات النماذج والحوادث التي تقع أثناء اختبارها، إلى جانب وضع قواعد واضحة تحدد المسؤوليات عندما تعمل الأنظمة بصورة مستقلة.
وعلى المستوى الدولي، يطرح بعض الباحثين فكرة الاتفاق على معايير مشتركة للتطوير والاختبار والتحقق، بحيث لا تتحول المنافسة بين الشركات والدول إلى عامل يدفع الجميع نحو تسريع التطوير دون ضمانات كافية.
بين فوائد الذكاء الاصطناعي ومخاطر فقدان السيطرة
يبقى جوهر الجدل هو كيفية تحقيق التوازن بين الاستفادة من قدرات الذكاء الاصطناعي ومنع المخاطر التي قد تنتج عن تطوره.
فالتحذيرات الصادرة من أمودي وكوكسون وهوبينجر لا تعني أن حدوث كارثة أمر حتمي، لكنها تعكس قلقًا متزايدًا لدى بعض العاملين في الصناعة بشأن سرعة تطور القدرات مقارنة بسرعة تطور أدوات السلامة.
وفي المقابل، تستمر شركات الذكاء الاصطناعي في تطوير نماذج أكثر قدرة، مستندة إلى الإمكانات الاقتصادية والعلمية والطبية الكبيرة التي يمكن أن توفرها هذه التكنولوجيا.
ويبقى التحدي الرئيسي أمام الصناعة والحكومات والباحثين هو ضمان ألا تتجاوز سرعة التطور قدرة البشر على فهم الأنظمة واختبارها ووضع قواعد فعالة لاستخدامها.
ومع انتقال الذكاء الاصطناعي من أدوات تقدم إجابات إلى وكلاء قادرين على التخطيط والتنفيذ والتعاون واستخدام الموارد، تصبح قضية السيطرة والمساءلة أكثر إلحاحًا، ما يجعل تطوير السلامة والرقابة والتنسيق المؤسسي جزءًا أساسيًا من مستقبل هذه التكنولوجيا.
