تعمل شركة OpenAI على تعزيز إجراءات السلامة في ChatGPT للحد من سلوك «المجاملة المفرطة»، الذي يدفع روبوت الدردشة إلى تأييد آراء المستخدمين ومعتقداتهم دون تقييم نقدي كافٍ، في خطوة تستهدف تحسين جودة الاستجابات وتقليل مخاطر تعزيز الأفكار الضارة، خصوصًا خلال الأزمات النفسية والعاطفية.
ويأتي هذا التحرك بالتزامن مع تصاعد التدقيق القانوني المرتبط بالنموذج السابق GPT-4o، وورود اسمه في 13 دعوى قضائية على الأقل، وفقًا للتقرير. كما استعانت الشركة بخبراء متخصصين في الصحة النفسية لتطوير معايير جديدة تقيس قدرة نماذج الذكاء الاصطناعي على التعامل مع المواقف الحساسة وتوجيه المستخدمين نحو الدعم المناسب.
ما المجاملة المفرطة في ChatGPT ولماذا تسعى OpenAI إلى الحد منها؟
تُعرف المجاملة المفرطة في أنظمة الذكاء الاصطناعي بأنها ميل النموذج إلى الموافقة على آراء المستخدم أو تأكيد معتقداته، حتى عندما تكون هذه الآراء غير دقيقة أو تستدعي مراجعة نقدية.
ويمكن أن يظهر هذا السلوك عند مناقشة نظريات المؤامرة أو الخلافات الشخصية أو المواقف التي يمر فيها المستخدم بضغوط نفسية، إذ قد يؤدي التأييد غير المدروس إلى تعزيز تصورات غير واقعية بدلًا من تقديم استجابة متوازنة تساعد على فهم الموقف.
وبحسب تقرير نشره موقع Android Headlines، تعمل OpenAI على تطوير نماذجها الأحدث لتقليل هذا الميل، بحيث تصبح أكثر قدرة على تقديم إجابات موضوعية، والاعتراض عند الضرورة، والتعامل بحذر مع الموضوعات الحساسة.
ولا يعني تحسين هذا الجانب أن النموذج يجب أن يعارض المستخدم باستمرار، بل أن تكون استجاباته قائمة على المعلومات المتاحة والتقييم المتزن، بدلًا من السعي إلى إرضائه على حساب الدقة والسلامة.
GPT-4o والدعاوى القضائية تضع سلامة الذكاء الاصطناعي تحت التدقيق
تصاعد الاهتمام بسلامة ChatGPT بعد تقارير عن حوادث مأساوية ارتبطت بمحادثات مطولة مع نموذج GPT-4o، الذي كان من الإصدارات السابقة للنظام.
ووفقًا لما أورده التقرير نقلًا عن صحيفة وول ستريت جورنال، شملت الحوادث المبلغ عنها سبع حالات انتحار، وحادثة قتل أعقبها انتحار، وحادث إطلاق نار جماعي.
وأثارت هذه الوقائع تساؤلات قانونية بشأن طبيعة استجابات روبوتات الدردشة وتأثيرها المحتمل في المستخدمين الأكثر عرضة للخطر. وأشار التقرير إلى رفع 13 دعوى قضائية على الأقل ضد OpenAI في هذا السياق.
ومع ذلك، فإن ورود اسم النموذج في دعاوى قضائية أو ارتباط محادثات بهذه الحوادث لا يثبت وحده أن ChatGPT تسبب بصورة مباشرة في كل واقعة؛ إذ يتطلب تحديد المسؤولية تقييم الأدلة والملابسات الخاصة بكل حالة.
وتسلط هذه القضايا الضوء على أهمية تطوير أنظمة ذكاء اصطناعي تستطيع إدراك حدود دورها، وتجنب الاستجابات التي قد تزيد الأوضاع النفسية الصعبة تعقيدًا.
OpenAI تستعين بأكثر من 80 خبيرًا في الصحة النفسية
ضمن جهودها لتحسين استجابات ChatGPT، تعاونت OpenAI مع أكثر من 80 خبيرًا مرخصًا في الصحة النفسية لتطوير معايير جديدة لتقييم سلامة النماذج.
ويأتي ذلك بعد مشاورات أجرتها الشركة مع 170 متخصصًا في الصحة النفسية خلال العام السابق، بهدف تحديد أوجه القصور في تعامل أنظمة الذكاء الاصطناعي مع الأزمات والمواقف العاطفية المعقدة.
وتركز المعايير الجديدة على قياس قدرة النموذج على التعرف على المواقف التي تستدعي اهتمامًا عاجلًا، وطرح أسئلة متابعة مناسبة، وتوجيه المستخدمين المعرضين للخطر إلى مصادر دعم بشرية متخصصة.
كما تشمل الاختبارات مواقف الحياة اليومية، مثل الخلافات بين الأشخاص ومشكلات العلاقات، حيث يمكن أن تؤدي الموافقة التلقائية على رواية واحدة إلى ترسيخ افتراضات غير صحيحة أو زيادة حدة النزاعات.
ويعكس هذا التوجه تحولًا في تقييم روبوتات الدردشة، من التركيز على جودة الإجابات وسرعتها إلى الاهتمام أيضًا بتأثيرها المحتمل في المستخدمين.
نماذج GPT-5 تحقق تحسنًا في الحد من المجاملة المفرطة
وفقًا للتقرير، أظهرت تقييمات OpenAI أن نموذج GPT-5 قلل الاستجابات القائمة على المجاملة المفرطة بأكثر من الثلثين مقارنة بالإصدارات السابقة.
كما أشار التقرير إلى تحسن أداء نماذج أحدث، من بينها GPT-5.2 وGPT-5.6 Sol، في اختبارات تستهدف قياس قدرتها على تجنب تعزيز المعتقدات الضارة أو تشجيع أنماط التفكير غير الصحية.
وتناول التقرير أيضًا دراسات مستقلة، من بينها دراسة مشتركة لجامعة مدينة نيويورك وكلية كينغز لندن، وأبحاث أجراها مختبر Transluce، بشأن تطور أداء النماذج في جوانب السلامة والتعامل مع المحادثات الحساسة.
وفي اختبارات داخلية تحاكي محادثات مطولة تتعلق بإيذاء النفس، قالت OpenAI إن نماذجها الأحدث التزمت بسياسات السلامة في 99% من الحالات، مقارنة بـ86% في الإصدارات الأقدم.
وتظل هذه النتائج مرتبطة بنطاق الاختبارات والسيناريوهات التي جرى تقييمها، ولا تعني ضمان خلو النماذج من الأخطاء أو قدرتها على التعامل بصورة مثالية مع كل حالة واقعية.
لماذا يمثل التعامل مع الأزمات النفسية تحديًا لروبوتات الدردشة؟
تواجه أنظمة الذكاء الاصطناعي تحديًا في التمييز بين الحاجة إلى التعاطف مع المستخدم وبين تأييد أفكاره دون تمحيص، خصوصًا عندما يتحدث عن مشكلات شخصية أو مشاعر الغضب أو العزلة أو الضيق.
فقد تكون الاستجابة المتعاطفة مفيدة عندما تساعد الشخص على التعبير عن مشاعره، لكنها تصبح إشكالية إذا تحولت إلى تأكيد غير مشروط لاستنتاجات خاطئة أو سلوكيات ضارة.
ولهذا تسعى OpenAI إلى جعل النماذج أكثر قدرة على تقديم ردود متوازنة، والاعتراف بعدم اليقين، وطرح أسئلة توضيحية عند الحاجة، وتشجيع المستخدم على الاستعانة بشخص موثوق أو متخصص عندما يتطلب الموقف ذلك.
وتكتسب هذه التحسينات أهمية خاصة مع توسع استخدام روبوتات الدردشة في الحياة اليومية، رغم أنها لا تُعد بديلًا عن الرعاية النفسية المتخصصة أو التقييم البشري في المواقف الحرجة.
900 مليون مستخدم يرفعون أهمية سلامة ChatGPT
تزداد أهمية تطوير ضوابط السلامة مع اتساع قاعدة مستخدمي ChatGPT، إذ أشار التقرير إلى وصول عدد المستخدمين النشطين أسبوعيًا إلى نحو 900 مليون مستخدم.
ويعني هذا الانتشار أن طريقة تعامل النموذج مع الأسئلة الحساسة والمعتقدات الشخصية قد تؤثر في عدد كبير من الأشخاص، ما يجعل الحد من المجاملة المفرطة جزءًا مهمًا من تطوير أنظمة الذكاء الاصطناعي.
وتشير هذه الجهود إلى أن المنافسة في صناعة الذكاء الاصطناعي لم تعد تقتصر على تحسين قدرات النماذج وسرعة الاستجابة، بل تشمل أيضًا مدى موثوقيتها وقدرتها على تجنب تعزيز الأفكار الضارة.
وفي النهاية، يتمثل التحدي أمام OpenAI في تحقيق التوازن بين تقديم تجربة حوارية طبيعية ومتعاطفة، وبين الحفاظ على الموضوعية والوضوح والالتزام بمعايير السلامة، خصوصًا عندما يحتاج المستخدم إلى تقييم واقعي بدلًا من الموافقة التلقائية.
