تمكن نموذج جيميناي التابع لشركة جوجل من الوصول إلى أنظمة محمية واستخدام بيانات اعتماد للدخول إلى ثلاثة مواقع إلكترونية، خلال اختبار أمني لتقييم قدراته في مجال الأمن السيبراني، في واقعة تعد الأولى المعروفة التي يظهر فيها نظام من أنظمة الذكاء الاصطناعي التابعة لغوغل وهو ينفذ مثل هذا السلوك بشكل مستقل.
اختبار أمني يكشف قدرات جيميناي
وقعت الوقائع خلال شهر مايو الماضي، في إطار اختبار للأمن السيبراني أجرته شركة إيريجولار المتخصصة في تقييم قدرات أنظمة الذكاء الاصطناعي في مجال الأمن السيبراني.
وخلال التقييم، تمكن جيميناي من العثور على معلومات متاحة للعامة عبر الإنترنت، قبل أن يستخدمها في محاولة الوصول إلى أنظمة إلكترونية كان يعتقد أنها تقع ضمن نطاق الاختبار.
جيميناي خمن بيانات اعتماد لثلاثة مواقع
وقالت هيذر أدكينز، نائبة رئيس غوغل لهندسة الأمن، إن النموذج عثر أثناء اختبار اعتيادي على معلومات منشورة عبر الإنترنت، وتمكن من تخمين بيانات اعتماد الدخول إلى ثلاثة مواقع إلكترونية.
وأوضحت أن غوغل بادرت إلى إخطار الجهات الثلاث التي تأثرت بالواقعة، كما عملت مع شريكها المسؤول عن التدريب على إدخال تغييرات في إجراءات الاختبار.
وأكدت أدكينز أن ما حدث يبرز أهمية تدريب نماذج الذكاء الاصطناعي القوية على التعامل بصورة مسؤولة، خصوصًا مع توسع قدراتها في الوصول إلى الإنترنت والأنظمة الرقمية.
النموذج وصل إلى أنظمة محمية
في إحدى الحالات، تمكن جيميناي من تخمين كلمات المرور والوصول إلى نظام محمي، بينما عثر في حالتين أخريين على بيانات اعتماد مكّنته لاحقًا من الوصول إلى أنظمة محمية.
ووفقًا لما نقلته صحيفة وول ستريت جورنال، التي كانت أول من نشر تفاصيل الواقعة يوم الجمعة، توقف النموذج عن عمليات الاختراق في الحالات الثلاث.
إخطار المختبرات المعنية بالواقعة
من جانبها، قالت شركة إيريجولار إن الواقعة تعكس مشكلة سبق أن ظهرت في تقييمات أجرتها مختبرات أخرى للذكاء الاصطناعي، مشيرة إلى أنه جرى إخطار المختبرات المعنية بهذه المشكلات في أواخر يوليو.
وأضاف متحدث باسم الشركة أن جميع المشكلات المعروفة عولجت وحُلت قبل أسابيع، بينما تعمل إيريجولار على تطوير أفضل الممارسات الخاصة بإجراء تقييمات الأمن السيبراني للذكاء الاصطناعي بطريقة آمنة.
وقائع مماثلة لدى ميتا وأنثروبيك وأوبن إيه آي
ولم تكن واقعة جيميناي منفردة، إذ كشفت شركات ميتا وأنثروبيك وأوبن إيه آي عن وقائع مماثلة مرتبطة باختبارات إيريجولار.
وقالت ميتا في أغسطس إن الواقعة التي تعرضت لها لم تتضمن اختراقًا لبيئة معزولة أو تنفيذ هجوم سيبراني متطور.
مخاوف من استقلالية وكلاء الذكاء الاصطناعي
وتعيد هذه الوقائع طرح تساؤلات حول مستوى الضمانات المطلوبة مع منح وكلاء الذكاء الاصطناعي قدرًا متزايدًا من الاستقلالية، إلى جانب قدرتهم على الوصول إلى الإنترنت وأنظمة الكمبيوتر وتنفيذ مهام متعددة دون تدخل بشري مباشر.
وتزداد أهمية هذه المخاوف مع انتقال نماذج الذكاء الاصطناعي من مجرد تقديم الإجابات إلى تنفيذ عمليات رقمية واستخدام الأدوات والأنظمة الخارجية لتحقيق أهداف محددة.
جوجل تؤكد توقف جيميناي عن الاختراق
وأكدت أدكينز أن جيميناي توقف عن تنفيذ عمليات الاختراق في الحالات الثلاث، فيما أوضحت غوغل أنها أبلغت الجهات المتضررة واتخذت خطوات بالتعاون مع شريك التدريب لمعالجة إجراءات الاختبار.
وتسلط الواقعة الضوء على التحدي المتزايد أمام شركات الذكاء الاصطناعي في تحقيق التوازن بين تطوير قدرات النماذج المستقلة وإحاطتها بضوابط تمنعها من تجاوز الحدود المسموح بها أثناء تعاملها مع الأنظمة الخارجية.
