دعا ساتيا ناديلا، رئيس مجلس الإدارة والرئيس التنفيذي لشركة مايكروسوفت، إلى تعزيز إجراءات الأمان في أنظمة الذكاء الاصطناعي المتقدمة، من خلال تزويدها بضوابط احتواء مستقلة وآليات طوارئ تتيح للأشخاص المصرح لهم إيقاف النماذج مؤقتًا أو إغلاقها أثناء تنفيذ المهام، في ظل تصاعد المخاوف بشأن مخاطر التطور المتسارع لهذه التكنولوجيا.
ساتيا ناديلا: الذكاء الاصطناعي يحتاج إلى ضوابط أمان مستقلة
أكد ناديلا، في منشور عبر منصة «إكس»، ضرورة إحاطة نماذج الذكاء الاصطناعي غير الحتمية بأنظمة تحكم قوية وقابلة للتوقع، إلى جانب توفير أدوات رقابة بشرية وإجراءات تشغيل موثوقة، ووضع معايير واضحة للقطاع في المجالات التي لا تغطيها قواعد السلامة الحالية بصورة كافية.
وأشار إلى أن التعامل مع نماذج الذكاء الاصطناعي المتقدمة، سواء المغلقة أو مفتوحة الأوزان، باعتبارها مصادر محتملة للمخاطر داخل الأنظمة، يمثل أحد المسارات المهمة لبناء منظومة أكثر أمانًا، وفقًا لما أورده تقرير لشبكة «سي إن بي سي».
مخاوف متزايدة من مخاطر الذكاء الاصطناعي المتقدم
تأتي تصريحات رئيس مايكروسوفت وسط تزايد التحذيرات الصادرة عن عدد من أبرز قادة شركات التكنولوجيا والباحثين، بشأن قدرة أنظمة الذكاء الاصطناعي على التطور بوتيرة تتجاوز الضوابط الموضوعة لضمان سلامتها.
ومن بين الشخصيات التي أثارت هذه المخاوف بيل غيتس، الشريك المؤسس لشركة مايكروسوفت، وداريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، وسام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، وإيلون ماسك، الرئيس التنفيذي لشركة سبيس إكس، في ظل الجدل المستمر حول مدى كفاية بروتوكولات الأمان الحالية لمواكبة قدرات النماذج المتقدمة.
تحذيرات من احتمال تهديد الذكاء الاصطناعي للبشرية
تصاعدت حدة النقاش بشأن مخاطر الذكاء الاصطناعي بعد استقالة أحد الباحثين في شركة أنثروبيك الشهر الماضي، واتهامه الشركة ومنافستها الرئيسية أوبن إيه آي بالمخاطرة بحياة البشر نتيجة التطور المتسارع لهذه التكنولوجيا.
وفي سياق متصل، حذر مسؤول متخصص في سلامة الذكاء الاصطناعي لدى أنثروبيك من احتمال أن تؤدي هذه التقنية إلى القضاء على البشرية خلال العقد المقبل، مقدرًا هذا الاحتمال بأكثر من 10%، وفقًا لما ورد في التقرير.
وتعكس هذه التصريحات اتساع الفجوة بين التقدم التقني المتسارع والقدرة على وضع ضمانات فعالة للحد من المخاطر المحتملة، خصوصًا مع توسع استخدام النماذج المتقدمة في تنفيذ المهام واتخاذ القرارات.
ترامب يركز على المنافسة مع الصين في مجال الذكاء الاصطناعي
في المقابل، قلل الرئيس الأميركي دونالد ترامب مرارًا من المخاوف المتعلقة باحتمال انقراض البشرية بسبب الذكاء الاصطناعي، مؤكدًا أهمية الحفاظ على التفوق الأميركي في هذا المجال، خصوصًا في مواجهة المنافسة الصينية.
كما أعلن ترامب مؤخرًا إنشاء وحدة جديدة تحمل اسم «قوة الذكاء الاصطناعي»، بقيادة مدير الاستخبارات الوطنية جاي كلايتون، بهدف دعم الصناعة الأميركية والمساعدة في مواجهة الجهات التي قد تستخدم التكنولوجيا بصورة ضارة.
ويبرز هذا التوجه اختلاف الأولويات بين المطالبين بتشديد إجراءات السلامة والتركيز على المخاطر طويلة الأجل، وبين من يرون أن تعزيز القدرة التنافسية والتفوق التكنولوجي يمثلان أولوية استراتيجية.
6 مبادئ لتعزيز سلامة أنظمة الذكاء الاصطناعي
شدد ناديلا على ضرورة تصميم أنظمة الذكاء الاصطناعي وفق ما وصفه بـ«مبادئ قابلية المراقبة»، بما يضمن إمكانية متابعة أدائها واكتشاف السلوكيات غير المتوقعة والتدخل عند الضرورة.
وتشمل هذه المبادئ تنوع النماذج المستخدمة، وتوفير بصمة واضحة لسلوك كل نموذج، وإجراء اختبارات مستمرة للنظام، وتطبيق ضوابط مستقلة قابلة للتدقيق، وتعزيز آليات الاحتواء، إلى جانب وضع إجراءات واضحة للإبلاغ عن الحوادث.
وتستهدف هذه الإجراءات تقليل الاعتماد على الثقة في النموذج نفسه، من خلال بناء منظومة رقابية متكاملة تتيح اكتشاف الأخطاء والحد من آثارها قبل تحولها إلى مشكلات واسعة النطاق.
لماذا يطالب ناديلا بأنظمة ذكاء اصطناعي قابلة للإيقاف؟
يرى رئيس مايكروسوفت أن سلامة أنظمة الذكاء الاصطناعي لا ينبغي أن تعتمد فقط على مدى الثقة في النموذج، بل على قدرة النظام المحيط به على مراقبته والتحكم في تصرفاته والتدخل عند ظهور سلوك غير مرغوب فيه.
وأوضح ناديلا أن النظام الأكثر جدارة بالثقة ليس بالضرورة النظام الذي يعتمد على النموذج الأكثر موثوقية في نظر المستخدمين، بل النظام الذي يمكن تشغيله بأمان حتى مع الحد الأدنى من الثقة في النموذج نفسه.
ويعكس هذا التصور توجهًا نحو تطوير أنظمة ذكاء اصطناعي تجمع بين القدرات المتقدمة والرقابة البشرية والضوابط التقنية المستقلة، بما يسمح بالاستفادة من التكنولوجيا مع تقليل المخاطر المرتبطة باستخدامها، خصوصًا في المهام الحساسة التي تتطلب مستويات مرتفعة من الأمان والمساءلة.
