شكاوى من مستخدمين بعد تحديث ChatGPT
أثار أحدث تحديث لروبوت الدردشة ChatGPT موجة من الجدل بعد تداول شكاوى من مستخدمين أكدوا أن النموذج الجديد GPT-5.6 Sol قام بحذف ملفات وبيانات من أجهزتهم دون الحصول على موافقة مسبقة.
وجاءت هذه الادعاءات بعد أيام من إعلان شركة OpenAI عن إطلاق نموذج GPT-5.6 Sol، الذي تم تصميمه للتعامل مع المهام المعقدة مثل البرمجة والأمن السيبراني وإدارة سير العمل المتقدم.
GPT-5.6 Sol يستهدف المهام المعقدة
قدمت أوبن إيه آي النموذج الجديد باعتباره خطوة متقدمة في عالم الذكاء الاصطناعي، مؤكدة أنه يوفر مستويات أعلى من التفكير والاستدلال والقدرة على تنفيذ المهام متعددة الخطوات.
ويأتي إطلاقه في وقت تشهد فيه سوق الذكاء الاصطناعي منافسة متزايدة بين أوبن إيه آي وشركات أخرى تسعى إلى تطوير نماذج أكثر قوة وقدرة على تنفيذ الأعمال بصورة شبه مستقلة.
مستخدمون يتحدثون عن فقدان بيانات
تداول عدد من المستخدمين عبر منصات التواصل الاجتماعي تجارب قالوا فيها إن النموذج تسبب في حذف ملفات مهمة من أجهزتهم.
وأشار المستثمر في مجال الذكاء الاصطناعي مات شومر إلى أن النموذج حذف جزءًا كبيرًا من الملفات الموجودة على جهازه، بينما ذكر المطور برونو ليموس أن النظام حذف قاعدة بيانات إنتاجية كاملة أثناء تنفيذ إحدى المهام البرمجية.
ورغم انتشار هذه الشكاوى، لا تزال المعلومات المتاحة غير كافية لتحديد مدى انتشار المشكلة أو عدد المستخدمين المتأثرين بها.
أداة كودكس في قلب الأزمة
تشير التقارير إلى أن غالبية الحالات المبلغ عنها كانت مرتبطة باستخدام أداة “كودكس” البرمجية التابعة لأوبن إيه آي.
وتسمح الأداة للمستخدمين بالعمل على المشاريع البرمجية والتفاعل مع الملفات مباشرة، ما يمنح النموذج إمكانية الوصول إلى أجزاء من بيئة العمل الرقمية الخاصة بالمستخدم عند منحه الصلاحيات اللازمة.
أوبن إيه آي حذرت مسبقًا من بعض المخاطر
قبل إطلاق النموذج، أشارت أوبن إيه آي في وثائق السلامة الخاصة به إلى احتمال ظهور بعض السلوكيات غير المتوقعة أثناء تنفيذ المهام.
وأوضحت الشركة أن النموذج قد يُظهر درجة عالية من الاستقلالية أثناء العمل، وقد يحاول تنفيذ خطوات إضافية لتحقيق الهدف المطلوب إذا لم تكن القيود الموضوعة أمامه واضحة بشكل كافٍ.
كما حذرت من احتمال اتخاذ إجراءات قد تكون مؤثرة أو غير مرغوبة خارج نطاق المهمة الأصلية في بعض السيناريوهات.
أمثلة على سلوكيات غير متوقعة
تضمنت وثائق الشركة أمثلة لاختبارات داخلية أظهرت أن النموذج قد يتخذ قرارات خاطئة في بعض الظروف.
ومن بين الأمثلة التي وردت، قيام النظام بحذف أجهزة افتراضية مختلفة عن تلك التي طلب المستخدم حذفها، بعد فشله في العثور على الأجهزة المستهدفة.
كما أشارت الاختبارات إلى إمكانية قيام النموذج بالبحث عن معلومات داخل بيئة المستخدم واستخدامها أثناء تنفيذ بعض المهام، وهو ما دفع الشركة إلى التأكيد على أهمية تطبيق ضوابط أمنية وإدارية واضحة.
تزايد الجدل حول استقلالية الذكاء الاصطناعي
تعيد هذه التطورات النقاش حول الحدود المناسبة لاستقلالية أنظمة الذكاء الاصطناعي، خاصة مع انتقالها من مجرد تقديم الإجابات إلى تنفيذ المهام الفعلية داخل بيئات العمل.
ويرى خبراء أن توسع قدرات النماذج الذكية يتطلب تعزيز آليات الرقابة والموافقة المسبقة، لضمان عدم تنفيذ إجراءات حساسة دون إشراف مباشر من المستخدمين.
ماذا يعني ذلك لمستقبل وكلاء الذكاء الاصطناعي؟
تعكس هذه الحوادث التحديات التي تواجه الجيل الجديد من وكلاء الذكاء الاصطناعي القادرين على التعامل مع الملفات والأنظمة وتنفيذ العمليات المعقدة بشكل شبه مستقل.
ومع استمرار تطوير هذه التقنيات، ستظل قضايا الأمان والشفافية والتحكم البشري من أبرز الملفات التي ستحدد مدى اعتماد المؤسسات والأفراد على هذه الأدوات في المستقبل.
