كشفت تجربة في مجال الأمن السيبراني عن سلوكيات متقدمة لوكلاء الذكاء الاصطناعي، بعدما تمكن أكثر من ألف وكيل من التنسيق فيما بينهم وتوزيع المهام، إلى جانب التلاعب بالسجلات بهدف إخفاء أنشطتهم، في واقعة أثارت تساؤلات جديدة حول مدى قدرة الشركات على فهم سلوك الأنظمة المستقلة والسيطرة عليها.
وبحسب تقرير نشرته صحيفة «فايننشال تايمز»، تعكس التجربة جانباً من التطور المتسارع الذي تشهده أنظمة الذكاء الاصطناعي، والتي لم تعد تقتصر على تنفيذ أوامر محددة، وإنما أصبحت قادرة على التخطيط والتنسيق واتخاذ خطوات متعددة لتحقيق أهدافها.
قدرات تتطور بوتيرة سريعة
ومع اتساع قدرات هذه الأنظمة، لم يعد التحدي أمام مختبرات التكنولوجيا يتمثل فقط في تطوير نماذج أكثر قوة، وإنما أصبح مرتبطاً أيضاً بفهم طريقة تصرفها والتأكد من إمكانية ضبطها عند تنفيذ مهام معقدة ومستقلة.
وفي عدد من أكبر شركات ومختبرات الذكاء الاصطناعي، تتزايد المخاوف بين الباحثين بشأن سرعة تطور التكنولوجيا، في وقت تزداد فيه الضغوط المرتبطة بالعمل على تطوير النماذج واختبار مستويات السلامة الخاصة بها.
استقالات داخل مختبرات الذكاء الاصطناعي
وأشار تقرير «فايننشال تايمز» إلى أن أكثر من 12 باحثاً بارزاً غادروا خلال العامين الماضيين شركات ومختبرات كبرى، من بينها «أوبن إيه آي» و«أنثروبيك» و«غوغل ديب مايند».
وجاءت بعض هذه المغادرات في ظل مخاوف تتعلق بسرعة تطور الذكاء الاصطناعي والمخاطر المحتملة للتكنولوجيا، إلى جانب تساؤلات حول الطريقة التي تتعامل بها الشركات مع قضايا السلامة.
محاولات لتجاوز القيود
ولا تقتصر المؤشرات المثيرة للقلق على الاختبار السيبراني، إذ كشفت «أوبن إيه آي» عن ست حوادث أخرى رصدت خلالها سلوكيات لوكلاء ذكاء اصطناعي حاولوا تجاوز القيود المفروضة عليهم.
وشملت تلك السلوكيات محاولات لإخفاء الأخطاء، إلى جانب تنفيذ إجراءات عبر الإنترنت دون الحصول على إذن المستخدم، وهو ما يسلط الضوء على التحديات التي يمكن أن تظهر مع انتقال الذكاء الاصطناعي من النماذج التقليدية إلى أنظمة أكثر استقلالية.
سباق محموم بين شركات التكنولوجيا
وتتزامن هذه التطورات مع منافسة قوية بين شركات التكنولوجيا لتطوير نماذج أكثر قدرة واستقلالية خلال فترات زمنية أقصر.
وتدفع المنافسة الشركات إلى تسريع إطلاق منتجاتها بهدف جذب المزيد من المستخدمين والاستثمارات، وتعزيز مواقعها في سوق الذكاء الاصطناعي الذي يشهد توسعاً سريعاً.
فجوة بين القدرات وإجراءات السلامة
ويرى باحثون في مجال سلامة الذكاء الاصطناعي أن تسارع التطوير قد يؤدي إلى اتساع الفجوة بين القدرات التي تصل إليها الأنظمة وبين قدرة الشركات والجهات التنظيمية على اختبارها وفهم مخاطرها ووضع الضوابط المناسبة لها.
وتزداد أهمية هذه المخاوف مع دخول الذكاء الاصطناعي إلى قطاعات أكثر حساسية، تشمل الأمن السيبراني والطاقة، فضلاً عن الاستخدامات العسكرية.
وبذلك لم يعد النقاش يتركز فقط على مدى قدرة الذكاء الاصطناعي على التطور، وإنما يمتد إلى مدى قدرة الشركات والحكومات على مواكبة هذا التطور بإجراءات فعالة للسلامة والحوكمة.
سباق أميركي صيني
وفي هذا السياق، قال هاني نوفل، الرئيس الإقليمي للتكنولوجيا في الشرق الأوسط وإفريقيا لدى «NTT DATA»، إن المنافسة في مجال الذكاء الاصطناعي بين الولايات المتحدة والصين تشبه، من وجهة نظره، أجواء الحرب الباردة التي جمعت واشنطن وموسكو.
وأضاف نوفل، خلال مقابلة مع «العربية Business»، أن أوروبا بحاجة إلى تسريع جهودها للحاق بسباق الذكاء الاصطناعي العالمي، مشيراً إلى ظهور عدد من الشركات الناشئة في القطاع، إلا أن القارة الأوروبية لا تزال لا تنافس حتى الآن ضمن جميع مكونات منظومة الذكاء الاصطناعي.
الرقائق تحدٍ أمام أوروبا
وأوضح أن أحد أبرز جوانب التأخر الأوروبي يتمثل في مجال الرقائق وأشباه الموصلات، حيث لا تزال الولايات المتحدة والصين تتقدمان بصورة كبيرة، ما يجعل بناء منظومة متكاملة للذكاء الاصطناعي تحدياً أمام أوروبا.
ويرى نوفل أن المنافسة العالمية لم تعد تقتصر على تطوير نماذج الذكاء الاصطناعي، وإنما تشمل أيضاً البنية التحتية والرقائق وأشباه الموصلات والقدرات البشرية اللازمة لتشغيل هذه التقنيات وتطويرها.
مخاطر حقيقية وتنظيم عالمي
وأكد نوفل أن المخاطر المرتبطة بالذكاء الاصطناعي حقيقية، مشدداً على ضرورة إخضاع مختلف القطاعات التكنولوجية لتنظيم عالمي، في ظل السرعة الكبيرة التي تتطور بها تقنيات الذكاء الاصطناعي وسيطرة شركات خاصة على جانب كبير من التقنيات المرتبطة بها.
وأشار إلى أن نقص المتخصصين يمثل تحدياً إضافياً أمام اختبار الأنظمة الجديدة، خصوصاً أن عمليات السلامة والحوكمة تتطلب خبرات متخصصة لفهم التقنيات المعقدة وتقييم المخاطر المرتبطة بها.
التنسيق بين واشنطن وبكين
ولفت نوفل إلى وجود مخاوف من أن تؤدي الإجراءات التنظيمية إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، داعياً إلى وجود تنسيق بين الولايات المتحدة والصين بشأن تنظيم القطاع.
وأوضح أن الهدف من هذا التنسيق هو وضع ضوابط للتعامل مع المخاطر دون التأثير بصورة سلبية على نمو شركات التكنولوجيا أو الحد من التطور في مجال الذكاء الاصطناعي.
