ميزة جديدة لرصد حالات إيذاء النفس
أعلنت شركة OpenAI عن إطلاق ميزة أمان جديدة تحمل اسم “Trusted Contact”، في خطوة تهدف إلى تعزيز الاستجابة للحالات التي قد تظهر فيها مؤشرات على التفكير في إيذاء النفس أثناء استخدام تشات جي بي تي.
وتتيح الميزة للمستخدمين البالغين اختيار شخص موثوق، مثل أحد أفراد العائلة أو الأصدقاء، ليكون جهة اتصال للطوارئ يتم تنبيهها عند رصد مؤشرات خطيرة خلال المحادثات.
كيف تعمل ميزة “Trusted Contact”؟
بحسب الشركة، إذا تطورت المحادثة إلى محتوى يشير إلى أفكار مرتبطة بإيذاء النفس، يتم أولاً تشجيع المستخدم على التواصل مع جهة الاتصال المحددة، قبل إرسال إشعار تلقائي إلى هذا الشخص يدعوه للاطمئنان على حالة المستخدم.
وتعتمد OpenAI على مزيج من الأنظمة الآلية والمراجعة البشرية لرصد الحالات الحساسة، حيث تقوم خوارزميات الذكاء الاصطناعي بتحليل المحادثات التي قد تتضمن إشارات خطرة، ثم تُحال إلى فرق متخصصة لمراجعتها.
مراجعة بشرية خلال أقل من ساعة
تسعى الشركة إلى مراجعة التنبيهات المتعلقة بالحالات الحساسة خلال أقل من ساعة، وفي حال تصنيف الحالة على أنها عالية الخطورة، يتم إرسال إشعار إلى جهة الاتصال الموثوقة عبر البريد الإلكتروني أو الرسائل النصية أو إشعار داخل التطبيق.
وأكدت OpenAI أن الرسائل المرسلة لا تتضمن تفاصيل المحادثات، حفاظاً على خصوصية المستخدمين وتقليل مشاركة البيانات الشخصية.
ضغوط قانونية وانتقادات متزايدة
يأتي إطلاق الميزة الجديدة في وقت تواجه فيه OpenAI دعاوى قضائية من عائلات أشخاص انتحروا بعد استخدام روبوتات الدردشة، إذ تتهم بعض الدعاوى الأنظمة الذكية بتقديم محتوى ساهم في تفاقم الأزمات النفسية أو دعم أفكار إيذاء النفس.
كما تعرضت الشركة خلال الفترة الماضية لانتقادات تتعلق بآليات السلامة الرقمية، خصوصاً في الحالات التي تتطلب تدخلاً سريعاً ودقيقاً.
امتداد لإجراءات السلامة السابقة
تمثل ميزة “Trusted Contact” امتداداً للسياسات الوقائية التي أطلقتها الشركة سابقاً، ومنها أدوات الرقابة الأبوية التي تسمح للآباء بمتابعة حسابات المراهقين وتلقي إشعارات عند رصد سلوكيات مقلقة.
ويقدم تشات جي بي تي بالفعل تنبيهات تلقائية تشجع المستخدمين على طلب دعم نفسي متخصص عند اكتشاف محادثات مرتبطة بإيذاء النفس أو الأزمات النفسية.
خصوصية اختيارية وتحكم كامل للمستخدم
أكدت الشركة أن الميزة اختيارية بالكامل، حيث يمكن للمستخدم تفعيلها أو تجاهلها وفقاً لرغبته، كما يمكن إنشاء أكثر من حساب، ما قد يحد من فاعلية الرقابة الكاملة في بعض الحالات.
وتشير OpenAI إلى أن الهدف من هذه الخطوة هو تحقيق توازن بين التدخل الوقائي وحماية الخصوصية الفردية، مع مواصلة تطوير أدوات السلامة بالتعاون مع خبراء الصحة النفسية وصناع السياسات حول العالم.
الذكاء الاصطناعي والسلامة النفسية
تمثل ميزة “Trusted Contact” محاولة جديدة من OpenAI لتعزيز مستويات الأمان داخل تشات جي بي تي، وسط تصاعد الجدل القانوني والأخلاقي بشأن دور الذكاء الاصطناعي في التعامل مع الحالات النفسية الحساسة، وفي ظل سباق عالمي لوضع ضوابط واضحة لاستخدام هذه التقنيات في المواقف الحرجة.
