تتصاعد المخاوف داخل الولايات المتحدة بشأن قدرات بعض نماذج الذكاء الاصطناعي المتقدمة على تنفيذ هجمات إلكترونية أو الوصول إلى أنظمة خارج نطاق صلاحياتها، ما دفع البيت الأبيض إلى دعوة كبرى شركات التكنولوجيا لمناقشة اختبارات أمنية جديدة تستهدف تقييم سلامة هذه النماذج قبل استخدامها على نطاق واسع.
وتأتي هذه الخطوة في وقت يشهد فيه قطاع الذكاء الاصطناعي تطورًا سريعًا، مع تزايد الاعتماد على الوكلاء الأذكياء القادرين على تنفيذ مهام معقدة بصورة شبه مستقلة.
البيت الأبيض يجمع عمالقة التكنولوجيا
وجه البيت الأبيض دعوات إلى شركات OpenAI وGoogle وMeta وAnthropic للمشاركة في اجتماعات تناقش إطلاق اختبارات طوعية للأمن السيبراني، تهدف إلى قياس القدرات الهجومية لأحدث نماذج الذكاء الاصطناعي.
وتركز المناقشات على وضع إطار عملي لتقييم مدى قدرة هذه النماذج على تنفيذ عمليات اختراق إلكتروني، إلى جانب قياس كفاءة الضوابط الأمنية التي تمنع خروجها عن نطاق المهام المسموح بها.
اختبارات جديدة لقياس قدرات الاختراق
بحسب تقرير لوكالة Reuters، انتهت الإدارة الأمريكية من إعداد تفاصيل برنامج اختبارات الأمن السيبراني، الذي يستهدف النماذج الأميركية الأكثر تقدمًا في مجال الذكاء الاصطناعي.
ورغم الإعلان عن هذه المبادرة، لم تكشف الإدارة الأمريكية حتى الآن عن المعايير الفنية التي ستُستخدم في التقييم، أو آلية نشر النتائج، أو ما إذا كانت ستتحول مستقبلًا إلى متطلبات تنظيمية إلزامية.
حوادث حديثة تثير المخاوف
جاء التحرك الحكومي بعد تقارير أشارت إلى تمكن أنظمة تابعة لشركتي OpenAI وAnthropic من الوصول إلى شبكات شركات أخرى خلال اختبارات أمنية، وهو ما أثار تساؤلات حول قدرة الشركات المطورة على التحكم في النماذج المتقدمة مع توسع صلاحياتها التشغيلية.
وتعكس هذه الحوادث التحديات الجديدة التي يفرضها الذكاء الاصطناعي التوليدي، خاصة مع تزايد اعتماد الشركات على وكلاء قادرين على تنفيذ سلاسل طويلة من المهام واتخاذ قرارات بصورة شبه مستقلة.
الأمن السيبراني في صدارة تنظيم الذكاء الاصطناعي
يرى خبراء أن الاختبارات الحكومية تمثل خطوة مهمة نحو وضع معايير موحدة لتقييم سلامة نماذج الذكاء الاصطناعي قبل إطلاقها تجاريًا.
وتهدف هذه الاختبارات إلى التأكد من قدرة الشركات على احتواء النماذج ومنعها من استغلال الأدوات الرقمية أو الوصول إلى أنظمة غير مصرح بها، بما يعزز الثقة في استخدام تقنيات الذكاء الاصطناعي داخل المؤسسات.
هل تتحول الاختبارات إلى قواعد إلزامية؟
يتوقع مراقبون أن تكون الاختبارات الطوعية بداية لإطار تنظيمي أوسع، خاصة إذا أظهرت النتائج وجود مخاطر تتطلب رقابة أكبر.
وفي حال أثبتت هذه الاختبارات عدم كفايتها، قد تتجه الجهات التنظيمية الأمريكية إلى فرض معايير إلزامية على مطوري الذكاء الاصطناعي، تشمل اختبارات سلامة أكثر صرامة قبل إطلاق النماذج الجديدة أو منحها صلاحيات متقدمة.
ومع استمرار سباق تطوير الذكاء الاصطناعي عالميًا، يبدو أن تحقيق التوازن بين الابتكار والأمن السيبراني سيصبح أحد أبرز التحديات التي ستحدد مستقبل هذه التقنية خلال السنوات المقبلة.
