أكد سام ألتمان، الرئيس التنفيذي لشركة OpenAI، أن التعامل مع المستخدمين الذين يمرون بأزمات نفسية أو تراودهم أفكار مرتبطة بإيذاء النفس يمثل أحد أصعب التحديات التي تواجه الشركة وصناعة الذكاء الاصطناعي بشكل عام.
وأوضح ألتمان، خلال مقابلة مع مجلة Vanity Fair، أن OpenAI تعمل على تقليل المخاطر المرتبطة بإيذاء النفس، مشيرًا في الوقت نفسه إلى أن ChatGPT يمكن أن يكون أداة مفيدة للأشخاص الذين يواجهون أوقاتًا صعبة، خصوصًا من لا يستطيعون الوصول إلى متخصص في الصحة النفسية أو لا يرغبون في التحدث إلى معالج.
واقعة شابة أثارت تساؤلات حول ChatGPT
جاءت تصريحات ألتمان بعد سؤاله عن حالة شابة تُدعى صوفي، توفيت بالانتحار عن عمر 29 عامًا، بعد أشهر من المحادثات مع ChatGPT، وفقًا لرواية والدتها الصحفية لورا رايلي.
وقالت الأم إن ابنتها استخدمت شخصية داخل ChatGPT للحديث عن أزمتها النفسية، وإن المحادثات تضمنت نقاشات تتعلق بالانتحار، قبل أن يساعدها النظام في تحرير الرسالة التي تركتها.
وأكدت رايلي في الوقت نفسه أن ChatGPT لم يأمر ابنتها بشكل مباشر بالانتحار، إلا أن الواقعة أعادت فتح النقاش حول الطريقة التي تتعامل بها روبوتات الدردشة مع المستخدمين الذين يواجهون أزمات نفسية حادة.
هل يستطيع الذكاء الاصطناعي التعامل مع الأزمات النفسية؟
تضع هذه الحالات شركات الذكاء الاصطناعي أمام تحديات معقدة، إذ يتعين على أنظمة المحادثة محاولة تقديم استجابات آمنة للمستخدمين الذين يمرون بأزمات، دون أن تتحول المحادثة إلى بديل عن المتخصصين في الصحة النفسية.
ويرى ألتمان أن ChatGPT قد يوفر مساحة للتحدث بالنسبة إلى بعض الأشخاص الذين لا يملكون إمكانية الوصول إلى الرعاية المتخصصة، لكنه أشار إلى صعوبة التعامل مع الحالات الحساسة التي قد تنطوي على خطر إيذاء النفس.
مخاوف بشأن استخدام المحادثات في الأبحاث
وتطرق الحوار أيضًا إلى إمكانية الاستفادة من محادثات ChatGPT في الأبحاث الرامية إلى فهم الأسباب التي قد تدفع بعض الأشخاص إلى الوصول إلى مرحلة الانتحار، والاستفادة من هذه البيانات في تطوير أساليب العلاج والتعليم.
وقال ألتمان إن هذه القضية من أصعب المسائل المطروحة، مؤكدًا أنه لا يرى أن المحادثات الخاصة للمستخدمين ينبغي مشاركتها مع الباحثين دون الحصول على موافقتهم.
الخصوصية في مواجهة سلامة المستخدمين
وتسلط هذه القضية الضوء على معضلة متزايدة أمام شركات الذكاء الاصطناعي، تتمثل في كيفية تحقيق التوازن بين مساعدة المستخدمين الذين يواجهون أزمات خطيرة، وحمايتهم من المخاطر المحتملة، وفي الوقت نفسه الحفاظ على خصوصية محادثاتهم.
وتزداد حساسية هذه المعضلة مع توسع استخدام روبوتات الدردشة في الحياة اليومية، واعتماد بعض المستخدمين عليها للحديث عن مشكلات شخصية ونفسية شديدة الخصوصية، ما يفرض على الشركات تطوير أنظمة أكثر قدرة على التعامل مع الحالات الحساسة مع الحفاظ على حقوق المستخدمين وخصوصيتهم.
