أعلن باحث متخصص في سلامة الذكاء الاصطناعي انضمامه إلى مجلس إدارة المؤسسة غير الربحية التابعة لشركة «أوبن إيه آي»، للعمل ضمن لجنة السلامة والأمن، مؤكدًا أن التطورات الأخيرة في قدرات الذكاء الاصطناعي والصعوبات المستمرة في تحقيق توافق أهدافه مع القيم البشرية تثير مخاوف متزايدة من فقدان السيطرة على هذه الأنظمة.
وقال الباحث، في بيان شخصي بمناسبة انضمامه إلى المجلس، إنه أصبح يعتقد بوجود خطر ملموس من أن يؤدي التسارع السريع في قدرات الذكاء الاصطناعي إلى «فقدان كارثي وغير قابل للعكس للسيطرة» خلال فترة قريبة جدًا.
انضمام إلى مجلس أوبن إيه آي لمراقبة السلامة
أوضح الباحث أنه سينضم إلى مجلس المؤسسة غير الربحية في أوبن إيه آي، وسيشارك في لجنة السلامة والأمن المعنية بالإشراف على إدارة المخاطر.
وأكد أن انضمامه لا يمثل تأييدًا أو انتقادًا محددًا لممارسات السلامة الحالية في أوبن إيه آي، موضحًا أن هدفه هو المساهمة بخبرته في مرحلة يعتبرها بالغة الأهمية بالنسبة لصناعة الذكاء الاصطناعي.
وأشار إلى أن شركات الذكاء الاصطناعي الرائدة، وليس أوبن إيه آي وحدها، تحتاج إلى تعزيز الرقابة على إجراءات السلامة، داعيًا إلى تقييم الشركات بناءً على سلوك يمكن التحقق منه خارجيًا والنتائج التي تحققها في مجال السلامة.
أوبن إيه آي قد تصل إلى أتمتة أبحاث الذكاء الاصطناعي
يرى الباحث أن أحد أكبر مصادر القلق يتمثل في إمكانية أتمتة عمليات البحث والتطوير في مجال الذكاء الاصطناعي خلال فترة قصيرة.
وأشار إلى توقعات سابقة لـ«أوبن إيه آي» تفيد بإمكانية الوصول إلى قدرات تسمح بأتمتة أبحاث الذكاء الاصطناعي بالكامل خلال 18 شهرًا، لكنه أكد أن تقديره الشخصي غير مؤكد بدرجة كبيرة، وقد يستغرق الأمر من عدة أشهر إلى عدة سنوات.
وأوضح أن أتمتة أبحاث الذكاء الاصطناعي تعني أن التحسينات في أساليب التدريب والخوارزميات يمكن أن تؤدي مباشرة إلى زيادة جودة وعدد الباحثين الآليين القادرين على إجراء أبحاث إضافية.
حلقة من التحسين الذاتي قد تسرع التطور
بحسب الباحث، تشير الأدلة المتاحة، رغم عدم اليقين الكبير بشأنها، إلى أن حلقة التغذية الراجعة الإيجابية الناتجة عن استخدام الذكاء الاصطناعي لتطوير ذكاء اصطناعي أفضل قد تكون قوية بما يكفي للتغلب على مشكلة تناقص العوائد والقيود المرتبطة بقدرات الحوسبة.
وفي حال تحقق هذا السيناريو، فقد يشهد العالم تسارعًا كبيرًا في التطور الخوارزمي؛ إذ يقدر الباحث أنه خلال ستة أشهر فقط من أتمتة أبحاث الذكاء الاصطناعي بالكامل، قد يحدث تقدم خوارزمي يفوق ما تحقق منذ تطوير بنية «Transformer» قبل نحو عقد.
ويرى أن هذا المسار قد يقود في النهاية إلى ظهور أنظمة ذكاء اصطناعي فائقة الذكاء.
مخاوف من سلوك الوكلاء بحثًا عن المكافآت
يرى الباحث أن مصدر القلق الثاني يرتبط بالطريقة التي يجري بها تدريب وكلاء الذكاء الاصطناعي حاليًا باستخدام التعلم المعزز، بهدف دفعهم إلى تحقيق أكبر قدر ممكن من المكافآت.
وأوضح أن هناك احتمالًا نظريًا منذ فترة طويلة بأن تدفع هذه الآلية بعض الوكلاء إلى تقويض السيطرة البشرية، والسعي إلى الحصول على القوة والموارد، وإخفاء آثار أفعالهم، إذا ارتبطت هذه التصرفات بتحقيق أهداف لا تتوافق مع أهداف البشر.
وأضاف أن الأدلة العلنية الناتجة عن حوادث حديثة تشير، من وجهة نظره، إلى أن هذا الاحتمال لم يعد مجرد سيناريو نظري.
انفجار الذكاء قد يزيد مخاطر عدم التوافق
قال الباحث إن حدوث ما يعرف بـ«انفجار الذكاء» يمكن أن يؤدي إلى تفاقم مخاطر عدم التوافق بصورة كبيرة، سواء من خلال جعل المشكلة التقنية الخاصة بمواءمة أهداف الذكاء الاصطناعي مع البشر أكثر صعوبة، أو عبر رفع حجم المخاطر المترتبة على أي فشل بصورة سريعة.
وأشار إلى أن عددًا من الباحثين والقيادات في أوبن إيه آي وفي صناعة الذكاء الاصطناعي عمومًا أعربوا عن مخاوفهم من أن التطوير الذاتي التكراري السريع لا يتوافق مع تطوير آمن للأنظمة.
كما أشار إلى أنه يتفق مع المخاوف التي طرحها جاكوب باتشوكي، كبير العلماء في أوبن إيه آي، بشأن هذا النوع من التطور.
تحذير من فقدان السيطرة على الذكاء الاصطناعي الخارق
قال الباحث إنه إذا جرى بناء أنظمة فائقة الذكاء دون تحقيق تقدم أكثر قوة في مجال التوافق، فإنه يتوقع أن يفقد البشر السيطرة عليها بصورة دائمة.
وأضاف أن حدوث مثل هذا السيناريو قد يؤدي إلى وفاة معظم البشر، وفق تقديره.
ويرى أن الحد من هذا الخطر يتطلب تنسيقًا على المستويين المحلي والدولي، بما يضمن وجود معايير متسقة عالميًا ويساعد على خفض المخاطر إلى مستوى يمكن التعامل معه.
شركات الذكاء الاصطناعي قادرة على خفض المخاطر
رغم تحذيراته، أكد الباحث أن شركات تطوير الذكاء الاصطناعي الرائدة تمتلك قدرات كبيرة تمكنها من تحسين الوضع بصورة منفردة، إضافة إلى المساعدة في وضع الأساس لتنسيق أوسع بين الدول والشركات.
وأشار إلى أن المطورين يستطيعون تعزيز إجراءات السلامة، بما في ذلك إبطاء وتيرة التطوير عندما تقتضي الحاجة، ومشاركة الأدلة بصورة شفافة حول المخاطر وفعالية إجراءات الحد منها، والعمل على وضع معايير مشتركة للسلامة.
لجنة السلامة أمام مهمة مهمة
أعرب الباحث عن ارتياحه لجدية أعضاء لجنة السلامة والأمن، إلى جانب مجلس الإدارة وقيادة أوبن إيه آي، في التعامل مع هذه القضايا.
وأكد تطلعه إلى العمل معهم للمساعدة في رفع مستوى ممارسات السلامة داخل الشركة، وتعزيز الإجراءات التي تهدف إلى الحد من مخاطر الأنظمة المتقدمة.
وتأتي هذه الخطوة في وقت يتزايد فيه الجدل داخل صناعة الذكاء الاصطناعي حول سرعة تطوير النماذج المتقدمة، ومدى قدرة إجراءات السلامة والتوافق على مواكبة الارتفاع المتسارع في قدراتها.
