تمكن فريق من الباحثين الأمنيين من استخدام نموذج الذكاء الاصطناعي «كلود» التابع لشركة Anthropic للمساعدة في اكتشاف واستغلال سلسلة من الثغرات الأمنية، انتهت بإثبات إمكانية الوصول إلى حساب موظف في شركة OpenAI وبيئة برمجية داخلية تابعة لها.
وكشف تقرير لصحيفة «وول ستريت جورنال» أن فريق Hacktron AI أجرى الاختبار في إطار بحث أمني، وتمكن من استغلال ثغرات مرتبطة بالمنتدى المجتمعي لشركة OpenAI، للوصول إلى حسابات تابعة لموظفين على خدمتي ChatGPT وCodex.
وبعد إبلاغ OpenAI بالثغرات وإنهاء الاختبارات، دفعت الشركة للفريق مكافأة بلغت 6500 دولار مقابل اكتشاف المشكلة الأمنية الموجودة في أنظمتها.
ثغرة في منتدى OpenAI كانت نقطة البداية
بدأ الباحثون اختبارهم من المنتدى المجتمعي لشركة OpenAI، الذي يعتمد على منصة Discourse.
واكتشف الفريق ثغرة مرتبطة بطريقة معالجة الصور، وتحديدًا الملفات من نوع HEIC وHEIF، التي كانت تمر عبر مكتبات لمعالجة الصور، من بينها مكتبة libheif، ما أتاح إمكانية تنفيذ شيفرة عن بُعد داخل بيئة المنتدى.
واستعان الباحثون بنموذج كلود للمساعدة في تطوير الاستغلال البرمجي للثغرة وتحسين قدرته على العمل بصورة موثوقة.
Claude ساعد الباحثين على تطوير الاستغلال
في بداية الاختبار، واجه الفريق صعوبات في جعل الاستغلال يعمل بشكل موثوق بسبب آليات الحماية الأمنية، من بينها تقنية ASLR.
وقال الباحثون إنهم استخدموا في البداية Claude Opus 4.8 للمساعدة في استغلال ثغرة libheif، قبل أن تساعدهم نسخة أحدث من النموذج، Claude Opus 5، في تطوير استغلال عملي خلال ساعات.
وتمكن الفريق من تكييف الاستغلال مع بيئة ARM64 ثم ملاءمته مع البنية المستخدمة في منصة Discourse.
من المنتدى إلى حسابات موظفي OpenAI
بعد السيطرة على بيئة المنتدى، انتقل الباحثون إلى استغلال مشكلة أخرى مرتبطة بنظام تسجيل الدخول الموحد الخاص بـOpenAI.
وأتاحت هذه الثغرة الوصول إلى رموز مصادقة مرتبطة ببعض المستخدمين الذين سجلوا الدخول إلى المنتدى، وكان من بينهم موظفون في OpenAI.
وأصبحت المشكلة أكثر خطورة بعدما تبين أن بعض رموز المصادقة لم تكن مرتبطة بالمنتدى وحده، وإنما كانت تمنح إمكانية الوصول إلى خدمات أخرى تابعة للشركة.
الوصول إلى حسابات ChatGPT وCodex
وبفضل رموز المصادقة، تمكن الباحثون من الوصول إلى حسابات على ChatGPT وCodex مرتبطة بموظفين في OpenAI.
كما اكتشف الفريق ارتباط بعض الحسابات بخدمات وأدوات عمل أخرى، من بينها GitHub.
ولإثبات مستوى الوصول الذي تمكنوا من تحقيقه، استخدم الباحثون حساب أحد موظفي OpenAI، وجعلوا بيئة Codex المرتبطة به تنشئ طلب دمج برمجي Pull Request داخل مستودع الشركة الداخلي المعروف باسم Monorepo.
وأكد الباحثون أنهم لم يستهدفوا نسخ أو الاطلاع على الشيفرات البرمجية الحساسة، واستخدموا طلب الدمج كدليل على الوصول إلى البيئة الداخلية قبل إيقاف الاختبار وإبلاغ OpenAI بالثغرات.
أقل من 72 ساعة لاكتشاف الثغرات وإثبات الوصول
أبرزت الواقعة السرعة التي يمكن أن تضيفها نماذج الذكاء الاصطناعي إلى عمليات البحث الأمني.
وبحسب فريق Hacktron AI، استغرقت العملية بأكملها، بدءًا من اكتشاف الثغرة وحتى إثبات القدرة على الوصول إلى بيئة المستودع الداخلي لـOpenAI، أقل من 72 ساعة.
ويرى الباحثون أن استخدام نموذج متقدم مثل كلود ساعد في تقليص الوقت المطلوب لتطوير الاستغلال والتعامل مع العقبات التقنية التي ظهرت أثناء الاختبار.
OpenAI تعالج الثغرات وتلغي رموز المصادقة
وأكدت OpenAI أنها اتخذت إجراءات لمعالجة المشكلة المرتبطة بنظام تسجيل الدخول، كما ألغت رموز المصادقة والجلسات التي تأثرت بالثغرة.
كما عملت الشركة على تقييد صلاحيات رموز تسجيل الدخول المرتبطة بالمنتدى للحد من إمكانية استخدامها للوصول إلى خدمات أخرى.
وفي المقابل، أصدرت منصة Discourse تحديثًا لمعالجة ثغرة معالجة الصور، إلى جانب إضافة طبقة عزل أخرى لمعالجة الصور كإجراء أمني إضافي.
لماذا دفعت OpenAI مكافأة 6500 دولار؟
أوضحت OpenAI أن مبلغ 6500 دولار لم يكن مقابل اكتشاف ثغرة منصة Discourse نفسها، إذ إن المنتدى المستضاف على Discourse كان خارج نطاق برنامج مكافآت الثغرات التابع للشركة.
وبحسب الشركة، جاءت المكافأة مقابل اكتشاف المشكلة الأمنية الموجودة في أنظمة OpenAI والتي سمحت بالوصول إلى رموز مصادقة مرتبطة بخدماتها.
الذكاء الاصطناعي يغير أساليب البحث الأمني
وتسلط الواقعة الضوء على الدور المتزايد لنماذج الذكاء الاصطناعي في مجال الأمن السيبراني، بعدما أصبحت قادرة على مساعدة الباحثين في تحليل الثغرات وتطوير الاستغلالات والتعامل مع بيئات تقنية مختلفة.
لكن التجربة لا تعني أن الذكاء الاصطناعي نفذ الاختراق بصورة مستقلة؛ إذ ظل الباحثون البشريون مسؤولين عن توجيه النموذج وتحديد أهداف الاختبار واختيار المسارات المناسبة خلال العملية.
ومع ذلك، فإن تقليص الوقت والجهد اللازمين لتطوير استغلالات معقدة قد يغير من طبيعة التهديدات السيبرانية، خصوصًا مع تطور قدرات النماذج المتقدمة.
الحسابات المرتبطة بخدمات متعددة ترفع مستوى المخاطر
وتبرز الواقعة أيضًا أهمية حماية حسابات الذكاء الاصطناعي والخدمات الرقمية التي ترتبط بصلاحيات واسعة.
فربط حساب واحد بمستودعات الشيفرات والبريد الإلكتروني وخدمات التخزين وأدوات التعاون يمكن أن يؤدي إلى توسيع نطاق الضرر في حال تعرض الحساب للاختراق.
وتشير تجربة OpenAI إلى أن التطور المتسارع لنماذج الذكاء الاصطناعي لا يؤثر فقط على تطوير البرمجيات، وإنما يغير كذلك أدوات وأساليب العمل في مجال الأمن السيبراني، سواء بالنسبة للباحثين الأمنيين أو الجهات التي تحاول استغلال الثغرات.
