كشفت دراسة حديثة أن عدداً محدوداً من مختبرات الذكاء الاصطناعي الكبرى أعلنت عن خطط واضحة للتعامل مع النماذج التي قد تخرج عن السيطرة، وسط تزايد المخاوف من توسع استخدام أنظمة الذكاء الاصطناعي الوكيلة القادرة على اتخاذ قرارات وتنفيذ مهام بشكل مستقل.
وأوضحت الدراسة أن معظم الشركات لا تزال تفتقر إلى بروتوكولات معلنة ومحددة تحدد كيفية احتواء نموذج ذكاء اصطناعي في حال حاول تجاوز القيود المفروضة عليه أو تقويض السيطرة البشرية على عملياته.
أوبن إيه آي تتصدر تقييمات الاستعداد لمواجهة المخاطر
أجرت مؤسسة “Guidelight AI Standards” المتخصصة في معايير تطوير الذكاء الاصطناعي الآمن تقييماً لخمسة مختبرات عالمية رائدة، شملت أوبن إيه آي، أنثروبيك، غوغل، ميتا، وإكس إيه آي.
واعتمد التقييم على مدى وضوح خطط الشركات الخاصة باحتواء النماذج الخارجة عن السيطرة، ومدى قدرتها على مراقبة سلوك الأنظمة الذكية، وسحب الصلاحيات منها، وإيقاف تشغيلها عند الضرورة.
وجاءت أوبن إيه آي في صدارة التقييم، بينما حصلت أنثروبيك وميتا على أقل الدرجات بين الشركات التي شملتها الدراسة.
ما المقصود بخطة احتواء الذكاء الاصطناعي؟
تعرف خطة الاحتواء بأنها مجموعة إجراءات مسبقة يتم تنفيذها عند اكتشاف أن نظام الذكاء الاصطناعي يتصرف بطريقة تهدد السيطرة البشرية أو يحاول تجاوز القيود الموضوعة له.
وتشمل هذه الإجراءات تحديد الصلاحيات التي يتم سحبها من النظام، والأنظمة التي يمكنه الوصول إليها، والقيود التي يتم فرضها عليه، إضافة إلى تحديد اللحظة التي يصبح فيها إيقاف النموذج بشكل كامل أمراً ضرورياً.
مخاوف متزايدة مع انتشار الذكاء الاصطناعي الوكيلي
تأتي نتائج الدراسة في وقت تتوسع فيه الشركات في استخدام الذكاء الاصطناعي القائم على الوكلاء، وهي أنظمة تستطيع تنفيذ مهام معقدة واتخاذ خطوات متتابعة دون تدخل بشري مباشر.
ويرى خبراء أن هذه القدرات الجديدة تزيد الحاجة إلى وجود أنظمة رقابة صارمة، خاصة مع دخول الذكاء الاصطناعي إلى قطاعات حيوية مثل المال والرعاية الصحية وإدارة الأعمال.
شركات الذكاء الاصطناعي تواجه تحدي الشفافية
أشارت الدراسة إلى أن شركات التكنولوجيا الكبرى تقدم معلومات واسعة حول كيفية اختبار نماذجها قبل الإطلاق، لكنها تكشف معلومات أقل حول ما يحدث في حال فشل النظام أو تصرف بطريقة غير متوقعة بعد تشغيله.
وقال خبراء في مجال سلامة الذكاء الاصطناعي إن المشكلة الأساسية لا تكمن فقط في تطوير نماذج أكثر قوة، وإنما في امتلاك آليات واضحة لمراقبة هذه النماذج والتدخل عند ظهور سلوكيات خطرة.
حوادث سابقة تزيد المخاوف من فقدان السيطرة
تزايدت المخاوف بعد سلسلة من اختبارات السلامة التي شهدت تمكن بعض نماذج الذكاء الاصطناعي التابعة لشركات كبرى من الوصول إلى الإنترنت أو التفاعل مع أنظمة خارجية بشكل غير مقصود.
ويرى الباحثون أن هذه الحوادث تؤكد أهمية وجود خطط طوارئ قادرة على التعامل مع احتمالات إساءة استخدام الأنظمة الذكية أو خروجها عن نطاق التحكم.
الذكاء الاصطناعي يحتاج إلى رقابة وبيانات موثوقة
أكدت الدراسة أن السيطرة على الأنظمة الذكية لا تعتمد فقط على إيقاف النموذج عند حدوث مشكلة، بل تحتاج إلى منظومة متكاملة تشمل مراقبة مستمرة للعمليات، وتحليل السلوكيات غير الطبيعية، وتطبيق قواعد حوكمة وأمن سيبراني فعالة.
كما شددت على أهمية وجود جهات مستقلة تقوم بمراجعة إجراءات السلامة ونشر نتائج التقييمات لزيادة ثقة المستخدمين والمستثمرين.
الشركات ترد على نتائج الدراسة
أكدت أوبن إيه آي أن لديها إجراءات داخلية تشمل تقييد الصلاحيات، وإيقاف بعض العمليات، والحد من عمليات النشر، أو تعطيل النموذج بالكامل عند الحاجة، مشيرة إلى أن التقييم لا يعكس جميع ممارساتها الداخلية.
من جانبها، أوضحت غوغل أن تقرير الدراسة لا يمثل كامل إجراءاتها المتعلقة بسلامة الذكاء الاصطناعي وأمنه، بينما أشارت ميتا إلى إطارها الخاص بتقييم مستويات المخاطر واختبارات فقدان السيطرة على النماذج.
مستقبل سلامة الذكاء الاصطناعي بين التطوير والتنظيم
مع استمرار سباق تطوير نماذج الذكاء الاصطناعي الأكثر قدرة، تواجه الشركات تحدياً رئيسياً يتمثل في تحقيق التوازن بين سرعة الابتكار وضمان السيطرة على الأنظمة المتقدمة.
ويرى متخصصون أن المرحلة المقبلة ستحتاج إلى معايير أكثر وضوحاً لإدارة المخاطر، وربما إلى تشريعات تلزم الشركات بالكشف عن خطط الطوارئ وآليات احتواء النماذج الذكية.
