تتصاعد التحذيرات داخل صناعة الذكاء الاصطناعي بشأن المخاطر المحتملة للتطور المتسارع لهذه التكنولوجيا، بعدما دعا داريو أمودي، الرئيس التنفيذي لشركة Anthropic، إلى إبطاء وتيرة تطوير النماذج المتقدمة، في وقت أبدى فيه عدد من كبار المسؤولين في القطاع، بينهم سام ألتمان وإيلون ماسك، تأييدهم لفكرة «إبطاء السباق» وإتاحة مساحة أكبر لاختبارات السلامة والرقابة المستقلة.
وتأتي هذه الدعوات في أعقاب تحذيرات أطلقها باحثون حاليون وسابقون في شركات الذكاء الاصطناعي من احتمال أن تتجاوز قدرات الأنظمة المتقدمة قدرة البشر على فهمها والسيطرة عليها. لكن هذه السيناريوهات لا تمثل حقيقة علمية محسومة، إذ لا يوجد توافق بين الخبراء بشأن احتمالات حدوث كارثة وجودية أو توقيتها.
تحذيرات من كارثة قد تهدد البشرية
أعاد عدد من الباحثين في مختبرات الذكاء الاصطناعي فتح النقاش حول المخاطر طويلة الأجل لهذه التكنولوجيا، مع تحذيرات من أن التطور المتسارع قد يقود مستقبلًا إلى أنظمة أكثر استقلالية وقدرة على تنفيذ مهام معقدة دون تدخل بشري مباشر.
وفي هذا السياق، دعا أمودي إلى إبطاء تطوير قدرات النماذج المتقدمة، مقترحًا الاعتماد على جهات تقييم مستقلة تتمتع بإمكانية الوصول إلى المختبرات ومراقبة إجراءات السلامة، إلى جانب وضع معايير مشتركة للتعامل مع المخاطر وتعزيز التعاون الدولي.
لماذا تثير قدرات الذكاء الاصطناعي القلق؟
يرتبط جانب من المخاوف بما يعرف باسم «التحسين الذاتي المتكرر»، وهي الفكرة التي يمكن فيها لنظام ذكاء اصطناعي أن يساعد في تطوير أنظمة أخرى أكثر تقدمًا.
ويجادل مؤيدو هذه المخاوف بأن حدوث تقدم سريع ومتتابع في قدرات النماذج قد يؤدي، في سيناريو مستقبلي، إلى تسارع التطوير بدرجة تجعل أدوات الرقابة البشرية غير قادرة على مواكبته.
لكن الانتقال من هذه الفرضية إلى سيناريو تفقد فيه البشرية السيطرة على الذكاء الاصطناعي ليس أمرًا مثبتًا، ولذلك تظل تقديرات المخاطر المستقبلية موضع نقاش واسع بين الباحثين.
مخاطر الذكاء الاصطناعي لا تقتصر على المستقبل
وبعيدًا عن السيناريوهات الوجودية، فإن استخدام الذكاء الاصطناعي يفرض بالفعل تحديات عملية في الوقت الحالي، مع توسع استخدامه في مجالات الاقتصاد والأمن السيبراني والإعلام والتعليم والحكومات والعمليات العسكرية.
كما أظهرت تقارير حديثة عن إساءة استخدام أنظمة الذكاء الاصطناعي إمكانية توظيفها في عمليات احتيال وتجسس وهجمات إلكترونية وحملات تضليل، وهو ما يجعل الحديث عن إجراءات السلامة والرقابة مرتبطًا بمخاطر قائمة بالفعل، وليس فقط باحتمالات بعيدة المدى.
«لحظة لي سيدول» تكشف سرعة تطور الآلات
ومن بين الأمثلة التي تعكس التغير السريع في قدرات النماذج، ما يشهده مجال الرياضيات من انتقال بعض المهام التي كانت تتطلب مستويات مرتفعة من المهارة البشرية إلى أنظمة قادرة على التعامل معها.
ويشير مصطلح «لحظة لي سيدول» إلى حالة القلق التي قد يشعر بها الإنسان عندما تبدأ الآلات في التفوق عليه في مهام كانت لفترة طويلة مرتبطة بالقدرات البشرية المتخصصة.
ومع استمرار تطور النماذج، قد تمتد هذه التجربة إلى قطاعات أخرى، بما يفرض إعادة التفكير في طبيعة العلاقة بين الإنسان والآلة، وفي حدود المسؤولية البشرية عن القرارات التي تساعد الأنظمة الذكية في اتخاذها.
هل يمكن إبطاء سباق الذكاء الاصطناعي؟
طرح أمودي فكرة تقوم على إبطاء تطوير قدرات النماذج المتقدمة بما يسمح بزيادة الاستثمار في إجراءات السلامة والمواءمة، وليس وقف تطوير الذكاء الاصطناعي بصورة كاملة.
وحظيت الفكرة بتأييد علني من سام ألتمان، الرئيس التنفيذي لـOpenAI، الذي أعلن دعمه لمبدأ «إبطاء التطوير عند الحدود المتقدمة» والتزام شركته بإتاحة وصول مقيمين مستقلين إلى إجراءات السلامة. كما أعلن إيلون ماسك تأييده لموقف أمودي.
وتظل آليات تنفيذ أي تباطؤ من أكثر القضايا تعقيدًا، خصوصًا مع المنافسة التجارية بين الشركات والاعتبارات الاستراتيجية المرتبطة بتطور الذكاء الاصطناعي.
الرقابة المستقلة في مواجهة مخاوف تضارب المصالح
يقترح أمودي أن تعمل جهات مستقلة داخل مختبرات الذكاء الاصطناعي، مع امتلاكها صلاحيات كافية لتقييم إجراءات السلامة ورصد الحوادث والإبلاغ عنها.
ويستند هذا الطرح إلى فكرة أن الشركات التي تطور النماذج هي نفسها التي تتحمل مسؤولية تقييم المخاطر المرتبطة بمنتجاتها، ما يثير تساؤلات حول مدى استقلالية عملية التقييم.
وفي المقابل، يرى منتقدون أن منح شركات الذكاء الاصطناعي دورًا كبيرًا في تحديد قواعد الرقابة قد يؤدي إلى تضارب في المصالح، وأن الرقابة الحكومية أو المستقلة خارجيًا قد تكون ضرورية لضمان المساءلة.
مخاوف من تحول إجراءات السلامة إلى أداة للمنافسة
لا يدور الجدل حول سلامة الذكاء الاصطناعي فقط، بل يمتد إلى كيفية تصميم القواعد المنظمة لهذه الصناعة.
فالدعوة إلى تنسيق الشركات الكبرى فيما بينها لإبطاء التطوير تثير أسئلة تتعلق بالمنافسة وقوانين مكافحة الاحتكار، خاصة إذا أدى التعاون إلى منح عدد محدود من المختبرات قدرة أكبر على تحديد معايير السوق.
ولهذا يطالب منتقدون بالفصل بين إجراءات السلامة الضرورية وبين أي ترتيبات يمكن أن تؤدي إلى تقليص المنافسة أو زيادة نفوذ الشركات الكبرى.
النماذج مفتوحة المصدر في قلب الجدل
يمتد النقاش كذلك إلى مستقبل النماذج مفتوحة المصدر أو مفتوحة الأوزان، إذ يرى مؤيدوها أن إتاحة النماذج أمام نطاق أوسع من الباحثين يمكن أن يعزز الاختبارات والتدقيق المستقل.
في المقابل، يثير انتشار النماذج المتقدمة مخاوف مرتبطة بإمكانية إساءة استخدامها، وهو ما يجعل تنظيم الوصول إليها من الملفات التي تحتاج إلى موازنة بين متطلبات السلامة وتشجيع البحث والتطوير.
لماذا تدخل الولايات المتحدة والصين في النقاش؟
لا يمكن فصل مستقبل حوكمة الذكاء الاصطناعي عن المنافسة التكنولوجية بين الولايات المتحدة والصين، خصوصًا مع ارتباط الذكاء الاصطناعي بالاقتصاد والأمن القومي والتفوق التكنولوجي.
وتشير تقارير حديثة إلى أن ملف الذكاء الاصطناعي سيكون حاضرًا ضمن القضايا المطروحة قبل لقاء الرئيس الأمريكي دونالد ترامب والرئيس الصيني شي جين بينج في واشنطن، في ظل خلافات حول مستقبل التكنولوجيا وقواعد استخدامها والتوازن بين السلامة والحفاظ على القدرة التنافسية.
بين التحذير من المخاطر والاستمرار في التطوير
تعكس مواقف قادة صناعة الذكاء الاصطناعي انقسامًا واضحًا حول الطريقة التي ينبغي التعامل بها مع المخاطر.
ففي حين يدعو أمودي وألتمان وماسك إلى مزيد من الحذر والرقابة، يرى آخرون في قطاع التكنولوجيا أن التطوير يمكن أن يستمر مع تعزيز إجراءات السلامة دون فرض تباطؤ منظم على الصناعة. وتؤكد هذه المواقف أن الجدل لا يتعلق فقط بمدى خطورة الذكاء الاصطناعي، وإنما أيضًا بكيفية قياس هذه المخاطر ومن يضع القواعد الملزمة للتعامل معها.
هل يحتاج العالم إلى اتفاق دولي بشأن الذكاء الاصطناعي؟
تطرح التطورات المتسارعة سؤالًا أكبر يتجاوز حدود الشركات والدول: هل يمكن وضع قواعد دولية مشتركة للأنظمة الأكثر تقدمًا؟
ويرى مؤيدو هذا الاتجاه أن وضع معايير مشتركة وخطوط حمراء قابلة للتحقق يمكن أن يقلل مخاطر الاستخدامات الخطرة، خصوصًا في المجالات التي لا تتوقف عند حدود دولة واحدة، مثل الأمن السيبراني وانتشار المعلومات المضللة وتطوير الأنظمة المستقلة.
لكن التوصل إلى مثل هذا الاتفاق يواجه تحديات كبيرة، أبرزها اختلاف المصالح الاقتصادية والاستراتيجية بين القوى الكبرى، واستمرار المنافسة على امتلاك أحدث تقنيات الذكاء الاصطناعي.
وفي النهاية، فإن السؤال المطروح لم يعد متعلقًا فقط بمدى قدرة الذكاء الاصطناعي على التطور، بل بمدى قدرة البشر على تطوير أنظمة رقابة وحوكمة تواكب هذه السرعة، مع الحفاظ في الوقت نفسه على المنافسة والابتكار وتقليل فرص إساءة استخدام التكنولوجيا.
