يان ليكون يدعو إلى “الخضوع والتعاطف” كحواجز أساسية
أكد يان ليكون، كبير علماء الذكاء الاصطناعي في شركة ميتا، أن هناك حاجة إلى حاجزين رئيسيين لحماية البشر من مخاطر الذكاء الاصطناعي، وهما “الخضوع للبشر” و”التعاطف”.
وأشار ليكون إلى أن هذه التوجيهات تهدف إلى ضمان أن تعمل أنظمة الذكاء الاصطناعي وفق أهداف محددة مسبقًا، دون التسبب بأذى للبشر أو الخروج عن نطاق السيطرة الأخلاقية.
استجابة لمقابلة جيفري هينتون
قدّم ليكون اقتراحه عبر منصة لينكدإن ردًا على مقابلة أجريت مع جيفري هينتون، المعروف باسم “عراب الذكاء الاصطناعي”، والذي أشار إلى ضرورة إدخال ما يشبه “غرائز الأمومة” في أنظمة الذكاء الاصطناعي لضمان تعاطفها مع البشر.
وقال هينتون: “الناس يركزون على جعل الذكاء الاصطناعي أكثر ذكاءً، لكن الذكاء ليس سوى جزء واحد من الكائن، نحن بحاجة لجعلهم يتعاطفون معنا”، وهو ما أيده ليكون بشكل كامل.
مفهوم “الذكاء الاصطناعي الموجه بالأهداف”
شرح ليكون أن الهدف من هذه التوجيهات هو إنشاء بنية للذكاء الاصطناعي تضمن أن جميع الأفعال التي يمكن للأنظمة القيام بها موجهة نحو تحقيق الأهداف التي يحددها البشر، مع الالتزام بحواجز وقائية واضحة.
وصف ليكون هذا المفهوم بـ “الذكاء الاصطناعي الموجه بالأهداف”، مؤكدًا أن الخضوع للبشر والتعاطف يجب أن يكونا من الحواجز الوقائية الأساسية، إضافة إلى تطبيق إجراءات أبسط لضمان سلامة الأنظمة.
الحواجز الوقائية كغريزة مكتسبة
أكد ليكون أن هذه الحواجز الوقائية المبرمجة للذكاء الاصطناعي يمكن مقارنتها بالغريزة أو الدوافع لدى البشر والحيوانات، مثل غريزة حماية الصغار، التي يتم تعلمها عبر التطور الطبيعي.
وأوضح أن هذه الحواجز تضمن أن يعمل الذكاء الاصطناعي بطريقة أخلاقية ومتوافقة مع إرشادات المطورين، مشددًا على أن الشركات بحاجة إلى اعتماد إجراءات إضافية لضمان عدم ظهور سلوك مخادع أو خطير لدى الأنظمة.
الحاجة إلى تنظيم وسلامة الذكاء الاصطناعي
بين ليكون أن اعتماد هذه التوجيهات والحواجز الوقائية لا يقتصر على الحماية من الأذى المباشر، بل يشمل أيضًا ضمان مواءمة تصرفات الذكاء الاصطناعي مع مصالح البشر وأهدافهم على المدى الطويل.
وأضاف أن هذه الإجراءات تعد جزءًا من الجهود المستمرة لتطوير أنظمة ذكاء اصطناعي آمنة وموثوقة، خصوصًا مع تزايد قدرات الأنظمة الحديثة وانتشار استخدامها في مختلف القطاعات.
مستقبل الذكاء الاصطناعي الأخلاقي
مع تصاعد الاعتماد على الذكاء الاصطناعي في المجالات الحيوية، من المتوقع أن تصبح الحواجز الوقائية جزءًا أساسيًا من تطوير أي نظام ذكاء اصطناعي.
ويؤكد الخبراء على أن الجمع بين الذكاء والخضوع للبشر والتعاطف سيساهم في خلق أنظمة أكثر أمانًا وفعالية، ما يعزز ثقة المستخدمين ويقلل من المخاطر المحتملة على المجتمع.
