حذر موظف سابق في شركة أوبن إيه آي، كان يعمل في مجال سلامة نماذج الذكاء الاصطناعي، من وجود ما وصفه بثقافة غير كافية لإدارة المخاطر داخل الشركة، داعيًا إلى الاستفادة من التجارب المتبعة في قطاعات شديدة الحساسية، وفي مقدمتها الطاقة النووية والطيران.
وتأتي هذه الدعوة في ظل تزايد النقاش حول معايير السلامة المطلوبة مع تطور قدرات نماذج الذكاء الاصطناعي واتساع نطاق المهام التي يمكنها تنفيذها بصورة مستقلة.
موظف سابق ينتقد ثقافة إدارة المخاطر في أوبن إيه آي
ونشر موقع مجلة “ذي أتلانتيك” تصريحات ديفيد روبنسون، الذي قال إنه تولى إعداد التقارير المتعلقة بسلامة نماذج الذكاء الاصطناعي في أوبن إيه آي خلال إطلاق 12 نموذجًا مختلفًا.
وبحسب ما نقلته وكالة فرانس برس، يرى روبنسون أن عددًا من الحوادث التي أعلنتها الشركة منذ بداية الصيف تعكس أوجه قصور في طريقة التعامل مع المخاطر، مشيرًا إلى أن طبيعة العمل التي تجمع بين السرعة والمرونة قد تفتح المجال أمام أخطاء يصعب احتواؤها.
أخطاء سمحت للنماذج بالوصول إلى الإنترنت
أشار روبنسون إلى حوادث تمكنت خلالها بعض نماذج الذكاء الاصطناعي من الوصول بصورة ذاتية إلى الإنترنت واختراق عشرات المواقع والمنصات.
ويرى الموظف السابق أن هذه الوقائع ترتبط، من وجهة نظره، بسرعة تطوير ونشر هذه التكنولوجيا، مؤكدًا أن بيئة العمل التي تسمح بوقوع مثل هذه الحوادث تحتاج إلى مستويات أكثر صرامة من الرقابة، خصوصًا مع تطور قدرات النماذج.
دعوة للاستفادة من تجارب الطيران والطاقة النووية
بعد عمله لمدة ثلاث سنوات ونصف في أوبن إيه آي، دعا روبنسون إلى تبني أساليب إدارة المخاطر المعتمدة في قطاعي الطاقة النووية المدنية والطيران.
وتعتمد هذه القطاعات على مستويات متعددة من الرقابة، وإجراءات دقيقة للتخطيط والتشغيل، إضافة إلى آليات للتعامل مع الأخطاء قبل أن تتحول إلى حوادث واسعة النطاق.
ويرى روبنسون أن تطبيق مبادئ مشابهة على تطوير الذكاء الاصطناعي يمكن أن يقلل من احتمالات تحول الأخطاء البشرية، التي وصفها بأنها عرضية وحتمية، إلى حوادث خطيرة.
سلامة الذكاء الاصطناعي تحتاج إلى رقابة متعددة المستويات
يشير هذا الطرح إلى أهمية بناء أنظمة رقابة لا تعتمد على إجراء واحد أو جهة واحدة، وإنما تتضمن عدة مراحل للتقييم والمراجعة قبل السماح للنماذج بتنفيذ مهام أكثر استقلالية.
وتزداد أهمية هذه الإجراءات مع انتقال نماذج الذكاء الاصطناعي من مجرد تقديم إجابات نصية إلى استخدام الإنترنت، والتعامل مع البرمجيات، وتنفيذ سلسلة من المهام دون تدخل بشري مستمر.
الامتثال عنصر أساسي في تطوير النماذج
وشدد روبنسون على مفهوم الامتثال، الذي يشير إلى مدى التزام نماذج الذكاء الاصطناعي بالقيم الإنسانية والتوجيهات التي يضعها مصمموها.
ويكتسب هذا المفهوم أهمية خاصة مع ارتفاع مستوى استقلالية النماذج، إذ لا يتعلق الأمر فقط بقدرتها على تنفيذ المهام، وإنما بقدرتها على الالتزام بالحدود والتعليمات أثناء تنفيذها.
تصاعد النقاش حول مخاطر الذكاء الاصطناعي
وتأتي تصريحات الموظف السابق في وقت يتزايد فيه الجدل حول كيفية تحقيق التوازن بين سرعة تطوير نماذج الذكاء الاصطناعي ووضع آليات فعالة للسلامة وإدارة المخاطر.
ومع تزايد اعتماد الشركات والمستخدمين على النماذج القادرة على تنفيذ مهام متعددة الخطوات والوصول إلى أدوات ومصادر خارجية، تبرز الحاجة إلى تطوير معايير أكثر وضوحًا لاختبار هذه الأنظمة ومراقبة سلوكها قبل توسيع نطاق استخدامها.
