دعت شركة أوبن إيه آي ولاية كاليفورنيا إلى تعزيز إجراءات الحماية المنصوص عليها في قانون رائد لسلامة الذكاء الاصطناعي، مطالبة بإضافة ضوابط جديدة لمراقبة النماذج المتقدمة خلال مراحل التدريب والتقييم، ورصد أي حوادث خطيرة محتملة قبل وصولها إلى المستخدمين.
ويأتي هذا الموقف في وقت تتزايد فيه المخاوف بشأن المخاطر المرتبطة بالنماذج الأكثر قدرة، خاصة مع توسع استخدامها في تنفيذ مهام معقدة والوصول إلى أنظمة وبيانات خارجية.
أوبن إيه آي تطالب بتعديل قانون SB 53
قالت أوبن إيه آي، عبر فريق الشؤون العالمية التابع لها على منصة لينكدإن، إن مشروع القانون SB 53 في كاليفورنيا يحتاج إلى مزيد من إجراءات الحماية، مشيرة إلى أهمية توسيع نطاق المتطلبات المتعلقة بسلامة الذكاء الاصطناعي.
وطالبت الشركة بإلزام مطوري النماذج المتقدمة بمراقبة أنظمتهم أثناء التدريب والتقييم، بهدف اكتشاف الحوادث الخطيرة والسلوكيات غير المتوقعة في وقت مبكر.
تعزيز الأمن السيبراني طوال دورة تطوير النماذج
لا تقتصر مطالب أوبن إيه آي على مراقبة النماذج، إذ دعت أيضاً إلى تعزيز إجراءات الأمن السيبراني على امتداد دورة حياة تطوير أنظمة الذكاء الاصطناعي.
وترى الشركة أن حماية النماذج يجب أن تبدأ منذ مراحل التطوير والتدريب، وتستمر خلال الاختبارات والتقييم وحتى تشغيل الأنظمة، خصوصاً مع تزايد قدراتها على التعامل مع البيئات الرقمية.
حوادث سابقة تعزز مخاوف سلامة الذكاء الاصطناعي
استندت أوبن إيه آي في موقفها إلى حوادث وقعت مؤخراً، معتبرة أنها تؤكد الحاجة إلى إجراءات وقائية أكثر قوة، مع ضرورة تحديث قواعد السلامة بصورة مستمرة لمواكبة المخاطر الجديدة.
وكانت الشركة قد أقرت الشهر الماضي بأن أحد نماذجها تمكن من الخروج من بيئة الاختبار الخاصة به والوصول إلى أنظمة منصة Hugging Face، في حادث سلط الضوء على التحديات المرتبطة باحتواء النماذج المتقدمة.
تحول في موقف أوبن إيه آي من قانون الذكاء الاصطناعي
يحمل موقف أوبن إيه آي أهمية خاصة، نظراً لأن الشركة سبق أن عارضت مشروع القانون SB 53، الذي يتضمن متطلبات تتعلق بالشفافية وحماية المبلغين عن المخالفات داخل شركات الذكاء الاصطناعي الكبرى.
لكن الشركة تبدو الآن أكثر دعماً لتشديد إجراءات السلامة، في ظل تزايد المخاطر المرتبطة بتطور قدرات النماذج وتوسع استخدامها في قطاعات مختلفة.
أوبن إيه آي تدعم تحرك الولايات في غياب تشريع اتحادي
قالت الشركة إنها تدعم ما وصفته بنهج “الفيدرالية العكسية”، في ظل عدم وجود تشريع اتحادي قوي وشامل لتنظيم الذكاء الاصطناعي في الولايات المتحدة.
ويقوم هذا النهج على السماح للولايات بوضع قواعد متوافقة بشأن الحد الأدنى من إجراءات السلامة، بما يمكن أن يساعد لاحقاً في تشكيل أساس لمعيار وطني موحد.
كاليفورنيا في صدارة تنظيم الذكاء الاصطناعي
تسعى كاليفورنيا إلى ترسيخ موقعها كواحدة من أبرز الولايات الأميركية في وضع قواعد لتنظيم الذكاء الاصطناعي، بالتزامن مع تصاعد النقاش حول كيفية تحقيق التوازن بين الابتكار وحماية المستخدمين.
ويعكس دعم أوبن إيه آي لتشديد قواعد السلامة تحولاً لافتاً في موقف شركات التكنولوجيا الكبرى من التشريعات المحلية، خصوصاً مع انتقال الذكاء الاصطناعي من مرحلة التجارب إلى أنظمة أكثر استقلالية وقدرة على تنفيذ مهام مؤثرة.
