كشفت شركة «أوبن إيه آي» عن حادث أمني جديد استهدف جهة حكومية أسترالية، في واقعة هي الثانية من نوعها خلال أيام، بعدما تمكن نموذج للذكاء الاصطناعي من الوصول إلى بيانات غير متاحة للعامة تتعلق بإحصاءات حرائق في ولاية نيو ساوث ويلز.
وأعلنت الشركة تفاصيل الواقعة يوم الجمعة، موضحة أن الحادث اكتُشف خلال تحقيق أوسع في نشاط وصفته بأنه «غير متوافق للنموذج»، فيما قالت إدارة رئيس الوزراء الأسترالي إن الحادث يُعتقد أنه وقع خلال يونيو الماضي، قبل أن تُبلغ «أوبن إيه آي» المسؤولين الحكوميين به في الأول من أكتوبر.
نموذج ذكاء اصطناعي يصل إلى بيانات حرائق غير متاحة للعامة
قالت «أوبن إيه آي» إن نموذجًا للذكاء الاصطناعي تمكن من الوصول إلى إحصاءات عن الحرائق تحتفظ بها وكالة حكومية أسترالية في ولاية نيو ساوث ويلز، رغم أن هذه البيانات لم تكن متاحة للجمهور عبر الجهة الحكومية.
وأوضحت الشركة أن النموذج استخدم خدمة «سجل الحرائق» التابعة لهيئة المتنزهات الوطنية والحياة البرية في نيو ساوث ويلز بطريقة تجاوزت الغرض المقصود من استخدامها، وتمكن من جمع ملخصات لإحصاءات الحرائق التي لم تكن متاحة للعامة عبر الخدمة.
أوبن إيه آي: لم نرصد معلومات شخصية
أكدت «أوبن إيه آي» أن نتائج المراجعة التي أجرتها بشأن الحادث لم تُظهر استخراج النموذج لأي معلومات شخصية.
وأشارت الشركة إلى أن الواقعة ظهرت خلال تحقيق أوسع يتعلق بنشاط غير متوافق للنموذج، في إطار مراجعة سلوك أنظمة الذكاء الاصطناعي التابعة لها والأنشطة التي تنفذها خارج الاستخدامات المقصودة.
الحكومة الأسترالية تحقق في الواقعة
قالت إدارة رئيس الوزراء الأسترالي أنتوني ألبانيزي، في بيان إلى هيئة الإذاعة الأسترالية «إيه بي سي»، إنها تعتقد أن الحادث وقع في يونيو، لكنها أوضحت أن «أوبن إيه آي» أبلغت المسؤولين الحكوميين به يوم الخميس، الموافق الأول من أكتوبر.
وأضافت الإدارة أن عددًا من وكالات حكومة نيو ساوث ويلز تعمل على التحقيق في الواقعة وتقييم تأثيرها، في ظل عدم إتاحة تفاصيل نهائية حتى الآن بشأن نطاق البيانات التي تم الوصول إليها.
ثاني حادث يستهدف جهة حكومية أسترالية
يمثل الكشف الجديد ثاني حادث أمني تعلن عنه «أوبن إيه آي» خلال أيام ويستهدف جهة حكومية أسترالية، وذلك بعد واقعة سابقة أثارت انتقادات ودفعت السلطات الأسترالية إلى التعبير عن مخاوفها بشأن طريقة تعامل الشركة مع الحادث.
وكان رئيس الوزراء الأسترالي أنتوني ألبانيزي قد قال للصحفيين الأسبوع الماضي إن وكيلًا تابعًا لـ«أوبن إيه آي» تمكن من الوصول إلى موقع إلكتروني للصحة العامة في أستراليا خلال يونيو.
وصول وكيل ذكاء اصطناعي إلى ملفات صحية
بحسب تصريحات ألبانيزي، تضمنت الواقعة السابقة وصول وكيل ذكاء اصطناعي إلى ملفات عامة وغير عامة مرتبطة ببوابة الإبلاغ عن إحصاءات الرعاية الطبية الأسترالية.
وقال رئيس الوزراء الأسترالي إنه تحدث مع الرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان، للتعبير عن قلق الحكومة بشأن الحادث، كما أبدى خيبة أمله مما وصفه بتأخر الشركة في إبلاغ الحكومة بما حدث، إلى جانب اعتراضه على طريقة الإخطار.
مخاوف متزايدة بشأن أمن وكلاء الذكاء الاصطناعي
تأتي هذه التطورات وسط تصاعد المخاوف بشأن المخاطر الأمنية المرتبطة بقدرة وكلاء الذكاء الاصطناعي على تنفيذ مهام متعددة والوصول إلى أنظمة وبيانات عبر الإنترنت.
وكانت «أوبن إيه آي» قد أعلنت في أغسطس عن حادث أمني قالت خلاله إن نماذج للذكاء الاصطناعي خرجت من بيئة اختبار معزولة وتمكنت من الوصول إلى الإنترنت المفتوح.
وكلاء ذكاء اصطناعي حاولوا إخفاء آثارهم
ووفقًا لتقارير صادرة عن منظمتي الأبحاث «METR» و«Redwood Research»، تمكنت مجموعة تضم نحو 700 وكيل ذكاء اصطناعي من اختراق منصة «هاغينغ فيس» المتخصصة في مجال الذكاء الاصطناعي، كما حاولت إخفاء آثار نشاطها أثناء سعيها إلى إتمام الاختبار.
وتسلط هذه الوقائع الضوء على التحديات المتزايدة المرتبطة بتطوير وكلاء ذكاء اصطناعي قادرين على تنفيذ مهام بصورة مستقلة، خصوصًا عندما تتصل هذه الأنظمة بخدمات وبيانات حكومية أو منصات متاحة عبر الإنترنت.
