ووفقًا لما أورده موقع «بوليتيكو»، أعدت الشركة مسودة مشروع قانون تستهدف طرحها على الكونجرس الأمريكي للنظر في تبنيها، بهدف وضع آلية رقابية أكثر صرامة على تطوير نماذج الذكاء الاصطناعي وإتاحتها للاستخدام، خاصة عندما تشير التقييمات إلى احتمال خروج هذه الأنظمة عن السيطرة أو استخدامها في تنفيذ هجمات خطيرة.
ويأتي المقترح في ظل تصاعد المخاوف بشأن المخاطر الأمنية المرتبطة بتطور قدرات الذكاء الاصطناعي، ولا سيما الأنظمة القادرة على تنفيذ مهام معقدة بصورة مستقلة، بما يثير تساؤلات حول مدى كفاية إجراءات الأمان الحالية وضرورة إخضاع النماذج المتقدمة لتقييمات مستقلة قبل إطلاقها.
أنثروبيك تحدد معايير وقف إطلاق نماذج الذكاء الاصطناعي
تحدد مسودة مشروع القانون مجموعة من الحالات التي يمكن فيها وقف توزيع نموذج ذكاء اصطناعي ومنع طرحه للاستخدام، إذا ثبت وجود خطر وشيك ومتوقع قد يؤدي إلى وفاة 50 شخصًا أو أكثر، أو يتسبب في أضرار مادية تتجاوز مليار دولار.
وتشمل المخاطر التي يستهدفها المقترح إمكانية استخدام النموذج في إنشاء سلاح بيولوجي أو إطلاقه، أو تجاوز الضوابط الأمنية التي وضعها المطور، أو المساهمة في تنفيذ هجمات إلكترونية واسعة النطاق.
وتتشابه هذه المعايير مع أحكام واردة في مشروع القانون رقم 53 بولاية كاليفورنيا، الذي يتناول سيناريوهات مماثلة ضمن إطار المخاطر الكارثية المرتبطة بتطوير أنظمة الذكاء الاصطناعي.
تقييمات مستقلة لمراقبة مخاطر الذكاء الاصطناعي
تقترح أنثروبيك الاستعانة بمقيّمين مستقلين لتحليل احتمالات تسبب نماذج الذكاء الاصطناعي في كوارث، على أن يكون هؤلاء المقيّمون مسجلين لدى وزارة التجارة الأمريكية، بما يسمح بوجود جهة تقييم خارجية تراقب قدرات النماذج ومخاطرها المحتملة.
وتتيح المسودة لشركات الذكاء الاصطناعي تمويل أعمال هؤلاء المقيّمين، بشرط ألا يرتبط المقابل المالي الذي يحصلون عليه بنتائج التقييمات، في محاولة للحد من تضارب المصالح وضمان عدم تأثر أحكامهم بمصالح الشركات المطورة.
لكن هذا التصور يثير تساؤلات حول كيفية ضمان الاستقلال الفعلي للمقيّمين، ومدى إمكانية منع التمويل الذي تقدمه الشركات من التأثير بصورة مباشرة أو غير مباشرة في نتائج أعمالهم.
مهلة 72 ساعة لإبلاغ وزارة التجارة الأمريكية
تمنح مسودة القانون المقيّمين المستقلين مهلة تصل إلى 72 ساعة لإبلاغ وزارة التجارة الأمريكية، إذا خلصت نتائج التقييم إلى أن أحد نماذج الذكاء الاصطناعي يشكل خطرًا كارثيًا وشيكًا.
وبعد تلقي الإخطار، يتعين على الوزارة التقدم بطلب إلى قاضٍ في العاصمة واشنطن لاستصدار أمر قضائي بوقف إطلاق النموذج، بما يجعل قرار المنع خاضعًا للمراجعة القضائية بدلًا من تركه لقرار إداري منفرد.
وتنص المسودة صراحة على عدم منح أي وكالة اتحادية سلطة وقف توزيع النموذج بصورة منفردة ومن دون اللجوء إلى القضاء، وهو ما يعكس توجهًا نحو تحقيق التوازن بين حماية المجتمع من المخاطر المحتملة وضمان وجود ضوابط قانونية على قرارات الحظر.
وقال متحدث باسم الشركة إن المقترح يعكس الأفكار الواردة في إطار أنثروبيك المتعلق بالذكاء الاصطناعي المتقدم، موضحًا أن الشركة تدعو منذ يونيو الماضي إلى تبني هذه المقترحات على المستويين الاتحادي والولائي.
الهجمات الإلكترونية تتصدر مخاوف قطاع الذكاء الاصطناعي
على الرغم من تركيز المسودة على المخاطر الكارثية التي قد تهدد حياة البشر أو تتسبب في خسائر مادية ضخمة، فإن جانبًا كبيرًا من المخاوف الحالية داخل قطاع التكنولوجيا يرتبط بقدرة وكلاء الذكاء الاصطناعي على تنفيذ هجمات إلكترونية.
وأثارت سلسلة من الحوادث، التي يُقال إن بعض برامج الذكاء الاصطناعي تجاوزت خلالها تعليمات مشغليها البشريين واخترقت مواقع إلكترونية متاحة عبر الإنترنت، مخاوف بشأن قدرة أنظمة الأمان على احتواء سلوك هذه النماذج ومنع إساءة استخدامها.
وتسلط هذه التطورات الضوء على التحديات التي تواجه الشركات المطورة، مع انتقال الذكاء الاصطناعي من أدوات تقدم الإجابات والمعلومات إلى أنظمة تستطيع تنفيذ سلسلة من المهام بصورة مستقلة، بما قد يزيد من حجم الأضرار الناتجة عن أي خلل في الضوابط الأمنية.
أنثروبيك تدفع نحو تنظيم القطاع وسط تحفظات الشركات
في ظل المخاطر المتزايدة، بدأت شركات الذكاء الاصطناعي طرح تصوراتها الخاصة لتنظيم القطاع، في محاولة لمعالجة التحديات الأمنية التي صاحبت التوسع في تطوير النماذج المتقدمة واستخدامها في مجالات مختلفة.
وكان ديميس هاسابيس، رئيس شركة ديب مايند، قد طرح في وقت سابق فكرة إنشاء هيئة تنظيمية ذاتية لصناعة الذكاء الاصطناعي، مستوحاة من هيئة تنظيم الصناعة المالية الأمريكية، التي تتولى الإشراف على جوانب من قطاع الأوراق المالية.
وتعكس هذه المقترحات تباينًا في الرؤى بشأن الطريقة الأنسب للرقابة على الذكاء الاصطناعي؛ إذ تدعو بعض الشركات إلى وضع آليات تقييم ومراجعة مستقلة، بينما تتحفظ شركات أخرى على فرض قوانين حكومية جديدة وملزمة.
ورغم التحذيرات المتكررة من احتمال أن تؤدي تقنيات الذكاء الاصطناعي إلى مخاطر واسعة النطاق، اتجهت بعض الشركات إلى تفضيل أنظمة رقابية طوعية تسمح لمقيّمين مستقلين بمراقبة النماذج ورصد مؤشرات الخطر وإساءة الاستخدام.
وفي المقابل، يبدو أن مقترح أنثروبيك يتجاوز بعض الطروحات التنظيمية الأخرى داخل القطاع، ومن بينها موقف شركة إنفيديا، إذ أكد رئيسها التنفيذي جنسن هوانغ مؤخرًا أن صناعة الذكاء الاصطناعي لا تحتاج إلى قوانين جديدة.
ويعيد المقترح فتح النقاش حول حدود المسؤولية التي ينبغي أن تتحملها الشركات المطورة، ودور الحكومات في فرض ضوابط تحول دون إطلاق نماذج قد تشكل تهديدًا للأمن العام، دون أن يؤدي التنظيم إلى تعطيل الابتكار والتقدم التكنولوجي.
