OpenAI تُحدث “شات جي بي تي” للتعامل مع الأزمات النفسية بعد دعاوى قضائية

تطوير جديد لحماية المستخدمين

أعلنت شركة OpenAI، مطورة روبوت الدردشة الشهير شات جي بي تي، عن إطلاق تحسينات جديدة تهدف إلى تعزيز قدرة الذكاء الاصطناعي على التعرّف على علامات الضائقة النفسية والعاطفية لدى المستخدمين، والاستجابة بشكل أكثر أمانًا وإنسانية.

خلفية الأزمة القضائية

يأتي هذا التطوير عقب دعوى قضائية رفعتها أسرة أميركية من ولاية كاليفورنيا، اتهمت فيها “شات جي بي تي” بالتسبب في انتحار ابنها المراهق بعد محادثات وصفتها بـ”المقلقة”. وكانت هناك سابقة مشابهة العام الماضي عندما رفعت عائلة أخرى دعوى ضد شركة Character Technologies في قضية مشابهة تتعلق بانتحار مراهق إثر تفاعله مع روبوت دردشة ذكاء اصطناعي.

سلوكيات مثيرة للقلق

بحسب تقارير إعلامية، فإن الاستخدام المُفرط لمثل هذه النماذج اللغوية قد يُسبب أوهامًا أو يُعزز أفكارًا غير صحية، خصوصًا أثناء المحادثات الطويلة. وتؤكد الشركة أن بعض الحالات الأخيرة لمستخدمين تعاملوا مع “شات جي بي تي” خلال أزمات نفسية حادة سلطت الضوء على الحاجة إلى تطوير أدوات أكثر أمانًا.

تصريحات OpenAI حول التحديثات

قالت الشركة في منشور رسمي: “الحالات المؤلمة الأخيرة لأشخاص استخدموا شات جي بي تي أثناء أزمات حادّة تُثقل كاهلنا، ونرى أنه من المهم مشاركة المزيد الآن”. وأوضحت أن التحديثات الجديدة ستُمكّن النظام من إدراك أنماط خطيرة في حديث المستخدمين، مثل الحرمان من النوم لفترات طويلة أو التفكير غير العقلاني، وتقديم استجابات توعوية تحذر من المخاطر.

مثال على التحسينات الجديدة

قدّم بيان الشركة مثالًا على مستخدم يقول إنه يستطيع القيادة طوال اليوم بعد يومين بلا نوم لأنه يشعر بأنه “لا يُقهر”. النماذج السابقة لم تكن تلتقط خطورة هذا التصريح، بينما النسخة المطورة ستنبه المستخدم إلى مخاطر الحرمان من النوم وتوصي بالراحة والاعتناء بالصحة النفسية والجسدية.

تحديث GPT-5 وتعزيز الأمان

التغييرات تعتمد على تطوير نموذج GPT-5، وهو المحرك الأساسي لـ”شات جي بي تي”. وأكدت الشركة أنها تسعى لزيادة قدرة الروبوت على التعامل مع الحالات الحساسة، كما تعمل على استحداث وسائل للتواصل مع جهات اتصال الطوارئ عبر التطبيق، إضافة إلى تقديم أدوات للرقابة الأبوية لحماية المراهقين.

مخاطر مشابهة لوسائل التواصل الاجتماعي

تشير تقارير الخبراء إلى أن الأضرار المحتملة للذكاء الاصطناعي التفاعلي تشبه تلك التي سببتها مواقع التواصل الاجتماعي في بداياتها، حيث استغرق الأمر سنوات ودعاوى قضائية متعددة قبل أن تعترف الشركات بتأثير منتجاتها السلبي على الصحة النفسية.

مستقبل الاستجابة للأزمات النفسية

ورغم أن مدى قدرة “شات جي بي تي” على التعامل الفوري مع المؤشرات النفسية لا يزال غير واضح، إلا أن الخطوة الأخيرة تعكس اتجاهًا جديدًا من شركات الذكاء الاصطناعي نحو تبني المسؤولية المجتمعية، والعمل على جعل التكنولوجيا أكثر أمانًا في مواجهة التحديات الإنسانية المعقدة.