وتأتي التحركات الأسترالية في إطار تعزيز الرقابة على أنظمة الذكاء الاصطناعي القادرة على تنفيذ المهام والتفاعل مع المنصات الخارجية، خاصة بعد تزايد المخاوف المتعلقة بحدود الصلاحيات التي يمكن منحها لهذه الأنظمة عند التعامل مع البيانات والخدمات الحكومية.
كيف بدأت أزمة وكيل الذكاء الاصطناعي التابع لـ OpenAI؟
بدأت الواقعة عندما تمكن أحد وكلاء الذكاء الاصطناعي التابعين لشركة OpenAI من الوصول دون تصريح إلى بوابة الإحصاءات الطبية المرتبطة ببرنامج Medicare الأسترالي، أثناء تنفيذ مهمة بحثية تتعلق بالإنفاق الصحي.
وأثارت الحادثة مراجعة حكومية لإجراءات الأمان والضوابط المنظمة لعمل أنظمة الذكاء الاصطناعي المستقلة، خاصة تلك التي لا تقتصر مهامها على تحليل المعلومات والإجابة عن الأسئلة، بل تمتلك القدرة على التفاعل مع المواقع والخدمات الرقمية وتنفيذ إجراءات متعددة.
من جانبها، أوضحت OpenAI أن الوصول غير المصرح به لم يكن مقصودا، مشيرة إلى أن مراجعتها للحادث لم تكشف عن أدلة تثبت وصول الوكيل إلى سجلات المرضى.
أستراليا تقر توصيات جديدة لمراقبة شركات الذكاء الاصطناعي
وأكد رئيس الوزراء الأسترالي أنتوني ألبانيزي قبول الحكومة جميع التوصيات الواردة في المراجعة التي أجريت عقب الحادث، وتشمل إلزام الشركات بالإبلاغ عن الحوادث السيبرانية والسلوكيات التي تخرج عن التعليمات والأهداف المحددة للأنظمة الذكية.
كما تتضمن التوصيات دراسة إدخال تعديلات على القانون الجنائي للتعامل مع المخالفات المرتبطة باستخدام تقنيات الذكاء الاصطناعي، بما يضع إطارا قانونيا أكثر وضوحا للمسؤوليات المترتبة على تشغيل هذه الأنظمة.
هيئة رقابية مستقلة وعقوبات على الشركات المخالفة
وتخطط الحكومة الأسترالية لإنشاء هيئة متخصصة لسلامة الذكاء الاصطناعي، تتولى متابعة الضوابط الأمنية خلال مراحل تطوير الأنظمة ونشرها، وتحديد المخاطر المحتملة، وإجراء تقييمات مستقلة للنماذج والتقنيات المستخدمة.
ومن المنتظر أن تحصل الهيئة على صلاحيات لفرض عقوبات على الشركات التي لا تلتزم بالمتطلبات التنظيمية، ضمن تدابير تعتزم الحكومة إدراجها في مشروع قانون مقرر تقديمه إلى البرلمان خلال عام 2027.
وبالتالي، لا تزال هذه الإجراءات في مرحلة الإعداد التشريعي، ولم تتحول بعد إلى التزامات قانونية نافذة.
حقوق النشر تزيد الخلاف بين أستراليا وشركات الذكاء الاصطناعي
وتأتي هذه التحركات في وقت تشهد فيه أستراليا خلافات مع شركات الذكاء الاصطناعي بشأن تنظيم استخدام المحتوى المحمي بحقوق النشر في تدريب النماذج، إلى جانب تصاعد النقاشات حول المسؤولية القانونية عن تصرفات الوكلاء المستقلين.
وتسلط الواقعة الضوء على تحديات جديدة تواجه الحكومات مع تطور الذكاء الاصطناعي، إذ لم تعد المخاطر مقتصرة على دقة المعلومات التي تنتجها النماذج، بل امتدت إلى قدرتها على الوصول إلى الأنظمة الرقمية والتعامل مع الخدمات والبيانات، وهو ما يضع مسألة تحديد الصلاحيات والمساءلة القانونية في مقدمة ملفات تنظيم التكنولوجيا عالميا.
