أداة ثورية بخطر محتمل: الوكيل الذكي في دائرة الرقابة
كشفت شركة “OpenAI” عن تصنيف ميزة “وكيل شات جي بي تي” الجديدة، كأول منتج ضمن أدواتها يتمتع بإمكانية إحداث “مخاطر بيولوجية عالية”، وفقًا لإطار التأهب والسلامة الذي تتبعه الشركة.
و”وكيل شات جي بي تي” هو أداة ذكاء اصطناعي قادرة على تنفيذ إجراءات نيابةً عن المستخدم، مثل جمع البيانات، إنشاء جداول، حجز الرحلات، وإعداد عروض تقديمية، مع طموحات بالوصول إلى مستويات استقلالية عالية في المستقبل.
تحذيرات من التهديد البيولوجي: هل يمكن للذكاء الاصطناعي تسهيل الإرهاب؟
وفقًا لتقرير نشرته مجلة Fortune، فإن تصنيف هذه الأداة كمصدر خطر بيولوجي جاء بعد تقييمات داخلية وخارجية أظهرت أن النموذج قد يُسهّل، ولو نظريًا، إنتاج أسلحة بيولوجية من قبل أشخاص مبتدئين لا يمتلكون خلفيات علمية متقدمة.
وقال بواز باراك، عضو فريق “OpenAI” الفني:
“الخطر لم يعد افتراضياً… النموذج قادر على تقليل الحواجز المعرفية، وهذا ما قد يتيح للمبتدئين الحصول على معرفة تكنولوجية متقدمة لتصنيع تهديدات بيولوجية حقيقية”.
إجراءات وقائية مشددة من OpenAI
رغم عدم وجود دليل قاطع على إساءة الاستخدام حتى الآن، أكدت “OpenAI” أنها اتخذت سلسلة من الإجراءات الاحترازية الصارمة، تشمل:
- رفض الوكيل تلقائيًا أي طلبات تُشتبه في كونها متعلقة بإنتاج أسلحة بيولوجية.
- أنظمة مراقبة لرصد السلوكيات غير الآمنة وتحويلها للمراجعة البشرية.
- تعزيز أنظمة حجب المحتوى الخطير.
- استجابات فورية لأي إشارات على سوء الاستخدام.
سياق تنافسي: سباق الشركات نحو وكلاء الذكاء الاصطناعي
تأتي هذه التطورات في ظل سباق متسارع بين كبرى شركات التكنولوجيا مثل “غوغل” و”أنثروبيك” لتطوير ما يُعرف بـ”وكلاء الذكاء الاصطناعي”، وهي أدوات قادرة على تنفيذ مهام رقمية معقدة باستقلالية شبه تامة.
وترى الشركات أن هذه التقنية تمثل مستقبل الأتمتة في بيئات الأعمال، ولكنها أيضًا تثير قلقًا متزايدًا بشأن استخدامها في مجالات عالية الخطورة.
تحكم المستخدم شرط أساسي
أكدت “OpenAI” أن مستوى تحكم المستخدم سيبقى أولوية قصوى، حيث لا يمكن للوكيل تنفيذ إجراءات حساسة دون إذن صريح، مع إمكانية إيقافه مؤقتًا أو إيقافه نهائيًا في أي وقت من قبل المستخدم.
