أكد جينسن هوانغ، الرئيس التنفيذي لشركة إنفيديا، أن مستقبل الذكاء الاصطناعي يجب أن يقوم على تطوير تقنيات أكثر أمانًا، إلى جانب وضع قواعد تنظيمية تستند إلى الأضرار الفعلية التي قد تنتج عن هذه التكنولوجيا، وليس المخاطر النظرية أو المفترضة.
وقال هوانغ إن الأولوية يجب أن تكون لتطوير التكنولوجيا بطريقة تضمن سلامتها، مشيرًا إلى أن تطور التقنيات بمرور الوقت يمكن أن يجعل استخدامها أكثر أمانًا وكفاءة.
السيارات نموذج لتطور التكنولوجيا وأمانها
استشهد هوانغ بتطور صناعة السيارات على مدار قرن كامل، موضحًا أن السيارات الحديثة أصبحت أكثر أمانًا مقارنة بما كانت عليه قبل 100 عام.
ويرى رئيس إنفيديا أن الذكاء الاصطناعي يمكن أن يسير في الاتجاه نفسه، من خلال مواصلة تطوير التكنولوجيا وتحسين قدراتها مع وضع معايير واضحة للأمان والسلامة.
مخاوف متزايدة من مخاطر الذكاء الاصطناعي
تأتي تصريحات هوانغ في وقت تتزايد فيه المخاوف العالمية بشأن المخاطر المحتملة لأنظمة الذكاء الاصطناعي، خاصة بعد إعلان شركات كبرى، من بينها OpenAI وAnthropic وMeta، عن حالات نفذت فيها أنظمة ذكاء اصطناعي عمليات اختراق بصورة مستقلة.
وتثير هذه التطورات تساؤلات متزايدة حول مدى قدرة الشركات والجهات التنظيمية على السيطرة على الأنظمة المتقدمة، خصوصًا مع توسع استخدام وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام متعددة دون تدخل بشري مستمر.
مشروع قانون أميركي لإيقاف أنظمة الذكاء الاصطناعي الخطرة
تزامنت هذه المخاوف مع طرح مشروع قانون في الولايات المتحدة يحمل اسم AI Kill Switch Act، ويهدف إلى منح المسؤولين الأميركيين صلاحيات لإصدار أوامر إلى شركات الذكاء الاصطناعي بإيقاف النماذج التي قد تمثل خطرًا على حياة البشر أو الاقتصاد.
ولا يزال مشروع القانون قيد النظر في مجلس النواب الأميركي، في ظل تصاعد النقاش حول آليات الرقابة على أنظمة الذكاء الاصطناعي المتطورة.
هوانغ: الذكاء الاصطناعي أصبح أكثر دقة
وأشار الرئيس التنفيذي لشركة إنفيديا إلى أن التطورات التي شهدها الذكاء الاصطناعي خلال العامين الماضيين ساهمت في تقليل ظاهرة الهلوسة بشكل كبير.
وأوضح أن النماذج أصبحت أكثر اعتمادًا على المعلومات الواقعية، إلى جانب تحسن قدرتها على التعامل مع المشكلات العملية وحلها.
وشدد على ضرورة استمرار العمل في هذا الاتجاه، بالتزامن مع تطوير معايير تضمن استخدام التكنولوجيا بصورة آمنة.
مسؤولية الشركات في تطوير الذكاء الاصطناعي
أكد هوانغ أن كل شركة تعمل في مجال الذكاء الاصطناعي تتحمل مسؤولية تطوير تقنياتها بطريقة تراعي معايير الأمان والسلامة.
وأوضح أن سباق تطوير التكنولوجيا يجب ألا يقتصر على جعل الأنظمة أكثر قوة وفائدة، بل يجب أن يصاحبه اهتمام موازٍ بسلامة المستخدمين والمجتمع.
OpenAI تطور آليات لإيقاف الذكاء الاصطناعي تلقائيًا
وفي سياق متصل، تعمل شركة OpenAI على تطوير قدرات تلقائية لإيقاف أنظمة الذكاء الاصطناعي، وذلك بعد حوادث مرتبطة بقدرة أحد أنظمتها على الخروج من بيئة رقمية معزولة خلال اختبار أمني.
وجاء ذلك ضمن رد الشركة على استفسارات أعضاء في مجلس النواب الأميركي بشأن حادثة أمنية تضمنت اختراق منصة هاغينغ فيس خلال اختبار للنظام.
تنظيم الذكاء الاصطناعي يجب أن يركز على المخاطر الواقعية
دعا هوانغ إلى أن تركز القواعد التنظيمية المستقبلية على الأضرار العملية والفعلية التي يمكن أن تسببها التكنولوجيا، بدلًا من بناء التشريعات على مخاطر نظرية لم تتحقق.
ويرى رئيس إنفيديا أن التكنولوجيا لا تزال في مراحلها التكوينية، وأن الهدف يجب أن يكون ضمان استمرار تطورها مع الحفاظ على مستويات مرتفعة من الأمان.
وأضاف أن زيادة تطور التكنولوجيا يمكن أن تجعلها أكثر أمانًا وراحة في الاستخدام وأكثر فائدة للمستخدمين.
