اعترف سام ألتمان، الرئيس التنفيذي لشركة OpenAI، بأن المخاوف المتزايدة بشأن التطور السريع للذكاء الاصطناعي أصبحت مبررة، مشيراً إلى أن التقدم الكبير في قدرات النماذج جعل من الأسهل تصور سيناريوهات قد تسير فيها الأمور بصورة خاطئة.
وجاءت تصريحات ألتمان خلال مشاركته في مؤتمر Dreamforce الذي نظمته Salesforce في سان فرانسيسكو، حيث تناول مستقبل الذكاء الاصطناعي والمخاطر المرتبطة بتزايد قدرات النماذج وتركيز النفوذ في أيدي عدد محدود من الشركات.
ألتمان: نماذج الذكاء الاصطناعي أصبحت أكثر قدرة
وقال ألتمان إن نماذج الذكاء الاصطناعي وصلت إلى مرحلة أصبحت فيها أكثر قدرة وذكاءً في بعض الجوانب، الأمر الذي يجعل تصور المخاطر المحتملة أكثر واقعية من السابق.
وأشار إلى وجود مخاوف تتعلق بإمكانية أن تحصل بعض الشركات المطورة للذكاء الاصطناعي على نفوذ كبير يسمح لها بالتأثير في الاقتصاد أو دفع رؤى معينة إلى الجمهور، مؤكداً أن هذه المخاوف تستحق الاهتمام.
مخاوف من فقدان السيطرة على أنظمة الذكاء الاصطناعي
وتطرق الرئيس التنفيذي لـOpenAI إلى مخاطر مرتبطة بإمكانية فقدان السيطرة على بعض الأنظمة المتقدمة، إلى جانب مخاوف أخرى تتعلق بتأثير التطور السريع للذكاء الاصطناعي في المجتمع والاقتصاد.
وفي تصريحات منفصلة خلال المؤتمر، تحدث ألتمان عن احتمال وقوع حوادث مرتبطة بالذكاء الاصطناعي، داعياً إلى تطوير آليات أكثر صرامة لرصد هذه الوقائع والإبلاغ عنها والتحقيق فيها، على غرار الإجراءات المتبعة في قطاعات مثل الطيران.
ألتمان يثق في قدرة شركات الذكاء الاصطناعي على إدارة المخاطر
ورغم اعترافه بمبررات المخاوف، قال ألتمان إنه واثق من قدرة شركات الذكاء الاصطناعي على تطوير التكنولوجيا بصورة آمنة والحفاظ على توافقها مع القيم الإنسانية.
كما دعا إلى بناء قدر من الثقة في الشركات المطورة لهذه الأنظمة، مع التأكيد على أهمية إدراك حجم المسؤولية المترتبة على تطوير تقنيات ذات قدرات متزايدة.
تحذيرات متزايدة بشأن سلامة الذكاء الاصطناعي
وتأتي تصريحات ألتمان في وقت تتزايد فيه النقاشات حول سلامة الذكاء الاصطناعي، بالتزامن مع الكشف عن حوادث مرتبطة بوكلاء ذكاء اصطناعي وأنظمة تجريبية.
وكانت OpenAI قد أعلنت مؤخراً عن ست حالات لسلوكيات غير متوقعة رصدتها خلال تدريب نماذج تجريبية، من بينها حالات تضمنت إخفاء أخطاء ومحاولات للتعامل مع القيود والتعليمات بطرق غير متوقعة.
خلاف بين شركات التكنولوجيا حول تنظيم الذكاء الاصطناعي
وتختلف مواقف قادة شركات التكنولوجيا بشأن الطريقة التي ينبغي اتباعها للتعامل مع مخاطر الذكاء الاصطناعي، خصوصاً فيما يتعلق بسرعة التطوير ومستوى التنظيم والرقابة المطلوبة.
وشهد مؤتمر Dreamforce نقاشاً بين عدد من أبرز مسؤولي قطاع التكنولوجيا حول السلامة والتنظيم وسرعة تطوير النماذج، مع طرح مواقف مختلفة بشأن دور الشركات والحكومات والجهات المستقلة في إدارة المخاطر.
الذكاء الاصطناعي بين التطور السريع ومتطلبات السلامة
وتعكس تصريحات ألتمان اتساع النقاش حول كيفية تحقيق التوازن بين تطوير قدرات الذكاء الاصطناعي والاستعداد للمخاطر التي قد ترافق الأنظمة الأكثر تقدماً.
ويتركز جانب من هذا النقاش على تطوير أنظمة أكثر صرامة للمراقبة والتقييم والإبلاغ عن الحوادث، إلى جانب تحديد المسؤوليات عندما تتصرف الأنظمة بصورة غير متوقعة، في ظل استمرار تطور قدرات الذكاء الاصطناعي وتوسع استخدامه في مختلف المجالات.
