دعا براد سميث، رئيس شركة مايكروسوفت ونائب رئيس مجلس إدارتها، إلى وضع قواعد عالمية عاجلة لتنظيم الذكاء الاصطناعي، محذرًا من أن متطلبات السلامة المفروضة على هذه التكنولوجيا لا تزال أقل من المعايير المطبقة على منتجات يومية، مثل الحليب والغسالات.
وأكد سميث، في مقابلة مع هيئة الإذاعة البريطانية «بي بي سي» نُشرت الاثنين، أهمية إخضاع تطورات الذكاء الاصطناعي لتقييمات مستقلة، ووضع آليات واضحة للتعامل مع المخاطر والحوادث المرتبطة بالأنظمة الذكية، خصوصًا مع التوسع في استخدام الوكلاء القادرين على تنفيذ المهام بصورة مستقلة.
مايكروسوفت تدعو إلى قواعد ملزمة لتنظيم الذكاء الاصطناعي
شدد رئيس مايكروسوفت على ضرورة وضع إطار عالمي للسلامة يتضمن التزامات قانونية على الشركات المطورة لأنظمة الذكاء الاصطناعي، بما يضمن الإبلاغ عن الحوادث وتوفير وسائل فعالة للتعامل مع الاختراقات والمخاطر المحتملة.
وأوضح سميث أن القواعد المقترحة ينبغي أن تشمل إلزام الشركات بإخطار المتضررين عند تعرض أنظمتهم لاختراقات أو هجمات تنفذها وكلاء ذكاء اصطناعي ضارة، إلى جانب توفير آلية إيقاف طارئة تتيح التدخل عند الضرورة.
كما دعا إلى إلزام الشركات بإعداد تقارير عن الحوادث المرتبطة بالذكاء الاصطناعي، بما يساعد الجهات التنظيمية على تقييم المخاطر وتطوير معايير أكثر فاعلية لحماية المستخدمين.
متطلبات سلامة الذكاء الاصطناعي أقل من معايير المنتجات اليومية
استشهد سميث بالضوابط المفروضة على المنتجات الاستهلاكية لتوضيح الحاجة إلى تطوير قواعد أكثر صرامة للذكاء الاصطناعي، مشيرًا إلى أن الغسالات وعبوات الحليب تخضع لمتطلبات سلامة وعمليات تفتيش لا تطبق بالصورة نفسها على أنظمة الذكاء الاصطناعي.
وتأتي هذه التصريحات في وقت تتوسع فيه الشركات في تطوير وكلاء ذكيين قادرين على تنفيذ مهام متعددة، ما يثير تساؤلات بشأن المسؤولية عن أخطائها، وحدود صلاحياتها، وكيفية التدخل عند حدوث سلوك غير مرغوب فيه.
وبحسب سميث، فإن الاستفادة من التجارب السابقة في تنظيم المنتجات والتقنيات الأخرى يمكن أن تساعد في وضع قواعد مناسبة لطبيعة الذكاء الاصطناعي، مع مراعاة التطور السريع لقدراته واتساع نطاق استخداماته.
أنثروبيك وأوبن إيه آي تواجهان تحديات سلامة الوكلاء الذكيين
تزايد الاهتمام بمخاطر وكلاء الذكاء الاصطناعي مع إعلان شركات، من بينها أنثروبيك وأوبن إيه آي، معلومات عن سلوكيات غير مرغوب فيها ظهرت خلال تطوير أنظمتها واختبارها.
وتتزامن هذه التطورات مع نقاش عالمي حول كيفية الموازنة بين تسريع الابتكار وضمان سلامة المستخدمين، في ظل تحذيرات من المخاطر المحتملة المرتبطة بتطور الأنظمة الذكية على المدى الطويل.
وفي المقابل، أثارت الدعوات إلى إبطاء تطوير الذكاء الاصطناعي جدلًا حول أهدافها، وما إذا كانت ترتبط بتعزيز إجراءات السلامة، أو تجنب تدخلات حكومية أكثر صرامة، أو الحد من الإنفاق المتزايد على تطوير النماذج المتقدمة.
ويبرز هذا الجدل الحاجة إلى قواعد واضحة وشفافة تستند إلى تقييم المخاطر، بدلًا من الاعتماد على التزامات طوعية وحدها، مع تحديد مسؤوليات الشركات والجهات الرقابية تجاه الحوادث المحتملة.
براد سميث: بريطانيا مؤهلة لقيادة تنظيم الذكاء الاصطناعي
أشار سميث إلى أن بريطانيا تمتلك مقومات للمساهمة في قيادة الجهود الدولية لتنظيم الذكاء الاصطناعي، مستندًا إلى وجود معهد أمن الذكاء الاصطناعي الذي أُطلق خلال فترة تولي ريشي سوناك رئاسة الوزراء.
وأوضح أن المسؤولين في الولايات المتحدة ينظرون إلى النهج البريطاني بصورة مختلفة عن النهج المتبع في الاتحاد الأوروبي، الذي يعتمد قانون الذكاء الاصطناعي فيه على تصنيف الأنظمة وفقًا لمستويات المخاطر.
ويتيح التعاون الطوعي بين معهد أمن الذكاء الاصطناعي البريطاني وكبرى الشركات المطورة للنماذج الوصول إلى بعض الأنظمة قبل طرحها، بما يسمح بتقييم قدراتها ورصد المخاطر المحتملة في مرحلة مبكرة.
وتوفر هذه الآلية فرصة لفحص النماذج المتقدمة قبل وصولها إلى المستخدمين، لكنها تفتح أيضًا باب النقاش حول مدى كفاية الاتفاقات الطوعية والحاجة إلى تحويل بعض متطلبات السلامة إلى التزامات قانونية ملزمة.
بريطانيا تدرس تشديد الرقابة على النماذج المتقدمة
قال وزير الذكاء الاصطناعي البريطاني كانيشكا نارايان، وفقًا لما نقلته وكالة رويترز، إن بلاده ستدرس تنظيم النماذج المتقدمة إذا تبين أن النظام الحالي غير كافٍ للتعامل مع المخاطر.
ويعكس هذا التوجه استمرار النقاش بشأن الدور الذي ينبغي أن تؤديه الحكومات في مراقبة تطور الذكاء الاصطناعي، خصوصًا مع ظهور أنظمة أكثر قدرة على تنفيذ المهام واتخاذ خطوات متتابعة دون تدخل مستمر من المستخدم.
ومع تصاعد الدعوات إلى وضع معايير دولية للسلامة والإبلاغ عن الحوادث، تتجه الأنظار إلى قدرة الحكومات والشركات على تطوير إطار تنظيمي يواكب الابتكار، ويحمي المستخدمين، ويحدد المسؤولية عن الأضرار المحتملة.
