لم تعد المنافسة في صناعة الذكاء الاصطناعي تدور فقط حول تطوير نماذج أكثر قدرة على الإجابة عن الأسئلة أو إنتاج النصوص والصور، إذ انتقلت التكنولوجيا إلى مرحلة جديدة أصبحت فيها الأنظمة قادرة على التخطيط وتنفيذ مهام متتابعة والتعامل مع أدوات وبيانات خارجية بدرجات متزايدة من الاستقلالية.
ومع هذا التطور، يبرز سؤال أكثر إلحاحًا حول ما إذا كانت قدرات الذكاء الاصطناعي تتقدم بوتيرة أسرع من قدرة البشر على اختبارها ومراقبتها ووضع قواعد واضحة للتحكم في استخدامها.
الذكاء الاصطناعي ينتقل من الإجابة إلى تنفيذ المهام
شهدت أنظمة الذكاء الاصطناعي تطورًا ملحوظًا خلال السنوات الأخيرة، فلم تعد مهمتها تقتصر على تقديم إجابة بناءً على سؤال يطرحه المستخدم، بل أصبح بعضها قادرًا على وضع خطة وتنفيذ سلسلة من الخطوات للوصول إلى هدف محدد.
ويمنح هذا التطور الأنظمة الذكية قدرة أكبر على التعامل مع البرمجيات والبيانات والمهام اليومية، لكنه في الوقت نفسه يرفع مستوى المخاطر المحتملة.
فعندما يحصل النظام على صلاحية التعامل مع أدوات أو خدمات خارجية، فإن الخطأ لم يعد مجرد معلومة غير دقيقة يمكن للمستخدم تجاهلها، وإنما قد يتحول إلى إجراء فعلي يؤثر على المستخدم أو المؤسسة التي يعمل النظام داخلها.
خبراء السلامة يحذرون من تسارع التطور
مع توسع قدرات الذكاء الاصطناعي، لم تعد المخاوف المتعلقة بالسلامة قادمة من خارج قطاع التكنولوجيا فقط، بل أصبحت جزءًا من النقاش داخل صناعة الذكاء الاصطناعي نفسها.
ويطالب متخصصون في سلامة الذكاء الاصطناعي بزيادة الاختبارات والمراقبة قبل منح النماذج صلاحيات أكبر، بالتزامن مع تصاعد الاهتمام بمسألة الحوكمة داخل الشركات المطورة لهذه التقنيات.
ويعكس انضمام الباحث بول كريستيانو، المتخصص في سلامة الذكاء الاصطناعي، إلى مجلس إدارة المؤسسة غير الربحية التابعة لـOpenAI، إلى جانب مشاركته في لجنة السلامة والأمن بالشركة، تنامي أهمية هذا الملف مع وصول النماذج إلى مستويات أعلى من القدرة والاستقلالية.
المشكلة ليست في ذكاء الآلة فقط
يركز جانب أساسي من أبحاث سلامة الذكاء الاصطناعي على مفهوم «المواءمة»، أي ضمان توافق سلوك الأنظمة مع الأهداف والقيم التي يريدها البشر.
وتزداد صعوبة هذه المهمة كلما أصبحت النماذج أكثر قدرة على التعامل مع المشكلات المعقدة، لأن السؤال لم يعد يقتصر على قدرة النظام على تنفيذ مهمة معينة.
بل أصبح من الضروري معرفة ما إذا كان سيفهم الهدف بالطريقة التي يقصدها المستخدم، وكيف سيتصرف إذا واجه تعليمات متعارضة أو موقفًا غير متوقع لم يحدد له مسبقًا بصورة مباشرة.
استقلالية الأنظمة تصعب مهمة الرقابة البشرية
كلما زادت استقلالية الذكاء الاصطناعي، ازدادت الحاجة إلى آليات رقابة مستمرة وقادرة على التعامل مع القرارات التي يتخذها النظام خلال تنفيذ المهام.
فقد يمنح المستخدم النظام هدفًا عامًا، ثم يترك له تحديد الخطوات التي يرى أنها ضرورية للوصول إلى النتيجة المطلوبة.
وفي هذه الحالة، قد لا يكون الإنسان مطلعًا على كل قرار يتخذه النظام أثناء تنفيذ المهمة، خصوصًا عندما تستغرق العملية وقتًا طويلًا وتتضمن مراحل متعددة.
وهنا تظهر الحاجة إلى تطوير أدوات تتيح للبشر مراقبة الأنظمة والتدخل فيها عند الضرورة، بدلًا من الاكتفاء بمراجعة النتيجة النهائية.
وقائع تقنية تعيد فتح ملف وكلاء الذكاء الاصطناعي
شهد قطاع التكنولوجيا خلال الفترة الأخيرة وقائع متعددة أعادت النقاش بشأن حدود استخدام وكلاء الذكاء الاصطناعي، خصوصًا مع توسع قدرتهم على التعامل مع المواقع الإلكترونية والبرمجيات والأدوات الخارجية وتنفيذ سلسلة من الإجراءات.
ولا تعني هذه الوقائع أن الأنظمة الذكية أصبحت خارج السيطرة، لكنها تكشف عن اختلاف جوهري بين نموذج يقدم إجابة للمستخدم ونظام يستطيع تنفيذ مهمة كاملة بصورة شبه مستقلة.
وهذا التحول يفرض تطوير معايير اختبار ومراقبة تتناسب مع مستوى الاستقلالية الجديد.
هل يمكن ترك قواعد الأمان للشركات وحدها؟
مع اشتداد المنافسة بين شركات التكنولوجيا لتطوير نماذج أكثر قوة، يبرز سؤال حول مدى قدرة الشركات وحدها على تحديد قواعد السلامة الخاصة بمنتجاتها.
فالمنافسة التجارية تجعل سرعة تطوير المنتجات وطرحها في الأسواق عاملًا مهمًا، وهو ما قد يؤدي إلى تعارض محتمل بين سرعة الابتكار والحاجة إلى إجراء اختبارات أوسع وأكثر صرامة.
ولهذا تتزايد الدعوات إلى وضع معايير واضحة لاختبار أنظمة الذكاء الاصطناعي، وزيادة الشفافية بشأن الحوادث والمخاطر، إلى جانب تعزيز الرقابة المستقلة على الأنظمة الأكثر تقدمًا بدلًا من الاعتماد على آليات الشركات الداخلية فقط.
قوة الذكاء الاصطناعي تحتاج إلى رقابة موازية
لا يعني التعامل مع مخاطر الذكاء الاصطناعي وقف تطوره، وإنما ضرورة أن تتقدم إجراءات الأمان بالتوازي مع تطور قدرات الأنظمة.
فكلما حصل النظام على صلاحيات أكبر، يجب أن تتطور في المقابل وسائل الاختبار والمراقبة والتدخل البشري.
كما تحتاج الشركات والجهات المنظمة إلى تحديد المهام التي يمكن للذكاء الاصطناعي تنفيذها بشكل مستقل، وتلك التي تتطلب موافقة بشرية مسبقة، خصوصًا في المجالات التي قد تؤدي فيها الأخطاء إلى أضرار كبيرة أو يصعب التراجع عن نتائجها.
المعركة المقبلة بين القوة والسيطرة
من المرجح أن تتغير طبيعة المنافسة في صناعة الذكاء الاصطناعي خلال المرحلة المقبلة، بحيث لا يكون النموذج الأكثر قوة هو الفائز بالضرورة، وإنما النظام الذي يجمع بين القدرة العالية وإمكانية السيطرة عليه ومراقبته.
فامتلاك نموذج يستطيع تنفيذ مهام معقدة لا يكفي إذا لم يتمكن البشر من فهم سلوكه، ومتابعة قراراته، واكتشاف الأخطاء، والتدخل في الوقت المناسب.
وفي النهاية، يتمثل التحدي الحقيقي أمام صناعة الذكاء الاصطناعي في الوصول إلى مرحلة تستطيع فيها الأنظمة تنفيذ مهام أكثر تعقيدًا، مع إبقاء الإنسان داخل دائرة القرار، بحيث يعرف ما الذي يفعله النظام، ولماذا اتخذ قرارًا معينًا، ومتى ينبغي التدخل أو إيقافه.
