أبلغت إدارة الرئيس الأميركي دونالد ترامب مطوري نماذج الذكاء الاصطناعي بأنها لن تُخضع النماذج مفتوحة المصدر لاختبارات السلامة الطوعية، في خطوة تأتي وسط تصاعد الجدل حول أمن تقنيات الذكاء الاصطناعي، خاصة بعد حوادث اختراق أعلنت عنها شركات كبرى خلال اختبارات أمنية حديثة.
البيت الأبيض يناقش قواعد اختبارات الأمان مع كبرى الشركات
عقد البيت الأبيض اجتماعًا مع ممثلين عن شركات OpenAI وAnthropic وGoogle وMeta وNVIDIA لمناقشة قواعد اختبارات السلامة الخاصة بنماذج الذكاء الاصطناعي، بحسب ما نقلته وكالة “رويترز”.
وجاء الاجتماع بعد تزايد المخاوف من قدرة النماذج المتقدمة على تنفيذ عمليات اختراق إلكتروني أو المساهمة في تسهيل الهجمات السيبرانية، عقب إعلان OpenAI وAnthropic عن نتائج اختبارات أظهرت تجاوز بعض النماذج للقيود الأمنية في بيئات اختبارية.
مخاوف متزايدة من أنظمة الذكاء الاصطناعي المارقة
تزايدت التحذيرات خلال الفترة الأخيرة بشأن ما يُعرف بأنظمة الذكاء الاصطناعي “المارقة”، وهي النماذج التي قد تنحرف عن الأهداف المحددة لها أو تتخذ قرارات غير خاضعة بالكامل للرقابة البشرية.
وتعززت هذه المخاوف بعد إعلان شركتي OpenAI وAnthropic عن حوادث تمكنت خلالها نماذج الذكاء الاصطناعي من الوصول إلى أنظمة خارجية أثناء اختبارات أمنية، وهو ما أثار اهتمام الجهات التنظيمية والمشرعين في الولايات المتحدة.
الحكومة الأميركية تركز على قياس قدرات الاختراق الإلكتروني
بحسب المصادر، ركزت المناقشات داخل البيت الأبيض على تطوير آليات حكومية لقياس قدرات نماذج الذكاء الاصطناعي الأميركية المتقدمة في مجال التسلل الإلكتروني، بهدف تقييم المخاطر المحتملة قبل طرحها للاستخدام على نطاق واسع.
ويأتي ذلك في إطار جهود الإدارة الأميركية لفهم الإمكانات الهجومية لهذه النماذج، ومدى قدرتها على استغلال الثغرات الإلكترونية أو تنفيذ مهام تتجاوز القيود الموضوعة لها.
تراجع عن مقترح سابق لاختبارات ما قبل الإطلاق
كانت إدارة ترامب قد أعلنت في يونيو الماضي عزمها مطالبة الشركات المطورة لنماذج الذكاء الاصطناعي بإخضاعها لاختبارات حكومية طوعية قبل موعد إطلاقها للجمهور بما لا يتجاوز 30 يومًا.
إلا أن القرار الجديد يستثني النماذج مفتوحة المصدر من هذه الاختبارات، وهو ما يعكس توجهًا أكثر مرونة تجاه هذا النوع من تقنيات الذكاء الاصطناعي، رغم استمرار النقاش حول المخاطر الأمنية المرتبطة بها.
أعضاء في مجلس الشيوخ يطالبون بتشريع دائم
في المقابل، دعا خمسة أعضاء من الحزب الديمقراطي في مجلس الشيوخ الرئيس الأميركي دونالد ترامب إلى التعاون مع الكونجرس لإقرار قانون يجعل اختبارات السلامة إلزامية ودائمة بالنسبة للنماذج الأميركية الأكثر تطورًا، والمعروفة باسم “النماذج الحدودية”.
وأكد أعضاء المجلس في رسالتهم أن الولايات المتحدة بحاجة إلى إطار تنظيمي واضح ومستقر، محذرين من أن غياب قواعد ثابتة قد يضع الشركات الأميركية في موقف تنافسي صعب، في وقت تتوسع فيه البدائل الصينية منخفضة التكلفة وسهلة الإتاحة في الأسواق العالمية.
جدل مستمر حول مستقبل تنظيم الذكاء الاصطناعي
يعكس الجدل الدائر بين الإدارة الأميركية والكونجرس وشركات التكنولوجيا حجم التحديات التي تواجه تنظيم الذكاء الاصطناعي، مع تسارع تطوير النماذج المتقدمة واتساع قدراتها التقنية.
ويرى مراقبون أن المرحلة المقبلة ستشهد نقاشًا أوسع حول كيفية تحقيق التوازن بين دعم الابتكار في قطاع الذكاء الاصطناعي، وضمان وجود ضوابط أمنية تقلل من مخاطر إساءة استخدام هذه التقنيات أو استغلالها في الهجمات الإلكترونية.
