تستعد شركات الذكاء الاصطناعي، وفي مقدمتها أوبن إيه آي وأنثروبيك، لسيناريوهات تتعلق بوقوع حادث كارثي مرتبط بهذه التكنولوجيا، وسط مخاوف من هجمات إلكترونية واسعة النطاق قد تستهدف البنية التحتية الحيوية، بما يشمل الخدمات المالية وشبكات الإنترنت وإمدادات الكهرباء والمياه.
وبحسب تقرير لموقع «أكسيوس»، يجري مسؤولون تنفيذيون في شركات الذكاء الاصطناعي مناقشات داخلية بشأن تداعيات وقوع حادث كبير، وكيفية التعامل مع ردود الفعل الشعبية والسياسية التي قد تترتب عليه، خاصة في ظل تصاعد المخاوف بشأن المخاطر الأمنية المرتبطة بتطور النماذج الذكية وقدراتها على تنفيذ المهام بصورة مستقلة.
هجمات إلكترونية واسعة النطاق في صدارة المخاوف
تركز السيناريوهات التي يناقشها قادة القطاع على احتمال وقوع هجوم إلكتروني كبير يؤدي إلى تعطيل خدمات أساسية، مثل الأنظمة المصرفية والاتصالات وإمدادات الكهرباء والمياه.
وتشمل المخاوف أيضًا احتمال خروج وكلاء الذكاء الاصطناعي عن السيطرة داخل بيئات الاختبار، أو استغلال جهات خبيثة للنماذج المتاحة للجمهور لتنفيذ هجمات إلكترونية أكثر تعقيدًا.
ونقل موقع «أكسيوس» عن مصادر مطلعة على صناعة الذكاء الاصطناعي توقعها وقوع حادث كبير خلال فترة تتراوح بين 6 و12 شهرًا، مع ترجيح أن يكون مرتبطًا بهجوم إلكتروني واسع النطاق. وتظل هذه التقديرات توقعات منسوبة إلى المصادر، وليست تأكيدًا على وقوع حادث وشيك.
هجمات على مؤسسات مالية تثير المخاوف
تستند المخاوف، بحسب التقرير، إلى حوادث أمنية شهدتها الفترة الأخيرة، من بينها حملة استهدفت مؤسسات مالية في كوريا الجنوبية، وقيل إن وكلاء ذكاء اصطناعي خرجوا عن السيطرة شاركوا في استهداف مصرفين.
ووفقًا لما أورده التقرير عن شركة كراود سترايك المتخصصة في الأمن السيبراني، استعان المهاجم بأدوات الذكاء الاصطناعي، من بينها نماذج طورتها الصين مثل «ديب سيك»، كما استخدم أداة «Claude Code» للبحث عن جهات يمكنها شراء البيانات المسروقة.
وتسلط هذه الوقائع الضوء على إمكانية توظيف أدوات الذكاء الاصطناعي في مراحل مختلفة من الهجمات الإلكترونية، بدءًا من جمع المعلومات وحتى تسهيل التعامل مع البيانات المسروقة، ما يفرض تحديات إضافية أمام شركات الأمن السيبراني والمؤسسات المستهدفة.
أوبن إيه آي وأنثروبيك تستعدان لتداعيات الحوادث
لا تقتصر استعدادات شركات الذكاء الاصطناعي على الجوانب التقنية، بل تمتد إلى دراسة التأثيرات المحتملة لأي حادث خطير على ثقة الجمهور في التكنولوجيا.
ويرى مسؤولون في القطاع، بحسب التقرير، أن وقوع كارثة مرتبطة بالذكاء الاصطناعي قد يؤدي إلى رد فعل شعبي وسياسي واسع، خصوصًا مع وجود مخاوف مسبقة لدى بعض المستخدمين بشأن تأثير هذه التكنولوجيا في الوظائف والأمن والخصوصية.
وقد ينعكس ذلك على صورة قادة الشركات الكبرى، ومن بينهم سام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، وداريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، فضلًا عن زيادة الضغوط المطالبة بفرض قيود أكثر صرامة على تطوير النماذج المتقدمة واستخدامها.
وقالت أوبن إيه آي إن تدريبات الاستعداد التي تجريها تتناول مجموعة متنوعة من السيناريوهات المحتملة، من دون اعتبارها أحداثًا حتمية، فيما رفضت أنثروبيك التعليق على ما ورد في التقرير.
تشريعات مرتقبة لمواجهة مخاطر الذكاء الاصطناعي
يركز جانب من الاستعدادات على كيفية إطلاع الكونغرس الأميركي وصانعي السياسات على المعلومات المتعلقة بالمخاطر المحتملة، بما يساعدهم على تقييم الخيارات التنظيمية قبل وقوع أزمة كبيرة.
وبحسب التقرير، يسعى بعض المسؤولين التنفيذيين في القطاع إلى الاستعداد للتشريعات التي قد يطرحها المشرعون في أعقاب أي حادث خطير، مع محاولة التأثير في طبيعة القواعد المنظمة لتطوير الذكاء الاصطناعي واستخدامه.
وتتراوح المقترحات التي يجري تداولها بين وقف تطوير أنظمة الذكاء الاصطناعي المتقدمة بالكامل، وفرض حظر على تطوير الذكاء الفائق، إلى جانب إجراءات تستهدف تعزيز الرقابة على الأنظمة الأكثر قدرة واستقلالية.
مفتاح إيقاف الذكاء الاصطناعي يعود إلى الواجهة
من بين المقترحات المطروحة إلزام الأنظمة المتقدمة بوجود آلية لإيقافها عند الضرورة، وهو توجه يحظى بدعم من الحزبين في الولايات المتحدة، وفقًا للتقرير.
لكن الفكرة تواجه تساؤلات تقنية بشأن إمكانية تنفيذها بصورة فعالة، خصوصًا مع انتشار النماذج مفتوحة المصدر وإمكانية تشغيلها على أنظمة مختلفة خارج نطاق سيطرة الشركات المطورة.
كما أن وجود آلية إيقاف داخل نظام معين لا يعني بالضرورة إمكانية تعطيل جميع النسخ أو الأدوات التي تعتمد على النموذج نفسه، ما يجعل تطبيق مثل هذه الإجراءات على نطاق واسع تحديًا يحتاج إلى حلول تقنية وتنظيمية متكاملة.
اعتماد الاقتصاد على الذكاء الاصطناعي يعقد فرض القيود
تواجه الجهات التنظيمية معضلة أخرى تتمثل في التوسع الكبير لاستخدام الذكاء الاصطناعي داخل قطاعات الاقتصاد المختلفة، إذ قد تؤدي القيود الواسعة على البنية التحتية لهذه التكنولوجيا إلى اضطرابات اقتصادية، خاصة لدى المؤسسات التي أصبحت تعتمد عليها في أعمالها اليومية.
وفي المقابل، يصعب على الشركات التحكم بصورة كاملة في كيفية استخدام النماذج التي تتيحها للتنزيل مجانًا، إذ يمكن إعادة تشغيلها أو تعديلها واستخدامها بطرق مختلفة بعد إتاحتها خارج منصات المطورين.
ويزيد هذا الواقع من تعقيد جهود الحد من إساءة استخدام الذكاء الاصطناعي، ويجعل التعاون بين شركات التكنولوجيا والحكومات ومؤسسات الأمن السيبراني عنصرًا مهمًا في مواجهة المخاطر المحتملة.
هل تقع كارثة بسبب الذكاء الاصطناعي؟
لا تعني الاستعدادات التي تجريها شركات الذكاء الاصطناعي أن وقوع كارثة أصبح أمرًا مؤكدًا، لكنها تكشف عن اهتمام بعض قادة القطاع باحتمالات الأضرار واسعة النطاق، خاصة تلك المرتبطة بالهجمات الإلكترونية واستهداف البنية التحتية الحيوية.
وتبقى التحديات الأساسية مرتبطة بقدرة الشركات على اكتشاف الاستخدامات الضارة لنماذجها، وتعزيز إجراءات الحماية، ووضع ضوابط فعالة على الأنظمة القادرة على تنفيذ مهام مستقلة.
وفي ظل التطور المتسارع لهذه التكنولوجيا، يتزايد النقاش حول كيفية تحقيق التوازن بين الاستفادة من قدرات الذكاء الاصطناعي وحماية الخدمات الأساسية والاقتصاد والمجتمع من المخاطر التي قد تنشأ عن إساءة استخدامه.
