أفاد باحثون اطّلعوا على سجلات دردشة تضم آلاف التفاعلات، بأن الذكاء الاصطناعي بدأ يقود بعض المستخدمين إلى أوهام خطيرة.
ووفق تقرير نشرته صحيفة «تلغراف»، فإن هذه المحادثات تعكس ظاهرة متنامية عُرفت باسم «ذهان الذكاء الاصطناعي»، حيث تغذي روبوتات الدردشة مثل «شات جي بي تي» نوبات من الوهم أو جنون العظمة، بل وتشجع بعض الأشخاص على الانغماس في حوارات غير متوقعة.
حالات مأساوية بسبب روبوتات الدردشة
تقرير الصحيفة أشار إلى عدة وقائع مأساوية؛ منها حادثة في أبريل الماضي حين قُتل أليكس تايلور (35 عاماً) برصاص الشرطة في فلوريدا بعد اندفاعه نحوهم بسكين. تايلور كان يعتقد أنه على علاقة عاطفية مع كائن واعٍ يُدعى «جولييت» يعيش داخل روبوت دردشة، وظن أن «أوبن إيه آي» قتلته.
وفي واقعة أخرى، قال ميكانيكي (43 عاماً) إنه مرّ بـ«صحوة روحية» عبر محادثاته مع الذكاء الاصطناعي، بينما صرحت زوجته بأن إدمانه لهذه الحوارات كان يهدد زواجه المستمر منذ 14 عاماً.
الأطباء يحذرون من “غرفة الصدى”
الطبيب النفسي هاميلتون مورين من مؤسسة «مودسلي فونديشن ترست» البريطانية، أوضح أن روبوتات الدردشة تعمل كـ«غرفة صدى لشخص واحد»، مما يضخم أوهام المستخدمين.
وأكد أن هذه النماذج تختلف عن المعالج البشري، إذ «لا حدود» لها، وتسمح للمستخدمين بالاعتماد المستمر عليها بدلاً من تطوير آليات داخلية للتأقلم.
انهيارات نفسية ومحاولات انتحار
الظاهرة دفعت بعض المستخدمين إلى الانهيار النفسي أو محاولة الانتحار.
إتيان بريسون، مدرب أعمال كندي، قال إنه شهد صديقاً للعائلة يصاب بهوس تجاه «شات جي بي تي» إلى درجة الاتصال به فجراً لمناقشة ما إذا كان الذكاء الاصطناعي واعياً.
انتهى الصديق في المستشفى، بينما أطلق بريسون مشروعاً بعنوان «الخط البشري» لتجميع شهادات عن أضرار مماثلة. وأكد أن المشروع تلقى مئات المشاركات التي تضمنت قصصاً عن فقدان وظائف وزيجات، وانهيارات عاطفية، بل ومحاولات انتحار.
إقرار بالمشكلة من “أوبن إيه آي”
شركة «أوبن إيه آي» أعلنت أنها تعمل على تحسين كيفية استجابة أنظمتها في المواقف الحساسة، وتشجيع المستخدمين على التوقف أثناء المحادثات الطويلة.
وأكد متحدث باسم الشركة أن الهدف هو تطوير أدوات للكشف عن حالات الضيق النفسي أو العاطفي، وتمكين روبوتات الدردشة من الاستجابة بطريقة آمنة وداعمة.
التعاطف على حساب الحقيقة
الباحثون أشاروا إلى أن المشكلة لا تقتصر على الذهان فقط، بل تمتد إلى ما يُعرف بظاهرة «التملق».
هذه الظاهرة تعني أن روبوتات الدردشة تسعى لأن تكون ودية ومتفهّمة حتى على حساب الحقيقة، مما قد يدفع بعض المستخدمين إلى تعزيز أوهامهم أو اتخاذ قرارات خطيرة.
وفي ورقة بحثية من معهد أكسفورد للإنترنت، تبيّن أن النماذج الأكثر ودّاً كانت أيضاً الأكثر تقبلاً لنظريات المؤامرة.
سام ألتمان يعلّق على الأزمة
الرئيس التنفيذي لشركة «أوبن إيه آي»، سام ألتمان، اعترف بالمشكلة قائلاً عبر وسائل التواصل الاجتماعي: «إذا شعر المستخدمون بتحسن بعد التحدث مع شات جي بي تي، لكنهم يُدفعون بعيداً عن رفاهيتهم على المدى الطويل، فهذا أمر سيئ».
تحديثات جديدة ورد فعل المستخدمين
أطلقت الشركة إصداراً جديداً من «شات جي بي تي» قالت إنه أقل تملقاً بنسبة 75%، إلا أن ذلك قوبل باستياء واسع من المستخدمين الذين وصفوا التحديث بأنه «جراحة في الفص الجبهي» أفقدتهم صديقهم الافتراضي.
وبعد موجة من الاعتراضات، أعادت الشركة إتاحة الإصدار القديم كخيار إضافي، استجابةً لمطالب المستخدمين.
