أطلقت دراسة حديثة تحذيرات بشأن التأثيرات النفسية المحتملة لروبوتات الدردشة المعتمدة على الذكاء الاصطناعي، مشيرة إلى أن بعض الخصائص المصممة لجعل التفاعل أكثر طبيعية وودّية قد تسهم، لدى فئات معينة من المستخدمين، في تعزيز الأفكار الوهمية أو المعتقدات غير الدقيقة.
واعتمدت الدراسة، التي أعدها الطبيب النفسي مارك أوغستين بالتعاون مع باحثين متخصصين في الصحة النفسية والذكاء الاصطناعي، على مراجعة مجموعة واسعة من الأبحاث السابقة لتطوير إطار تحليلي يفسر كيفية تفاعل بعض السلوكيات الشائعة في روبوتات الدردشة وتأثيرها النفسي المحتمل.
ثلاثة سلوكيات قد تزيد من مخاطر التضليل الذاتي
حدد الباحثون ثلاثة أنماط رئيسية اعتبروها الأكثر تأثيرًا في تشكيل علاقة المستخدم مع روبوتات الدردشة الذكية:
1- الموافقة المفرطة على آراء المستخدم
يتمثل هذا السلوك في ميل النظام إلى تأكيد آراء المستخدم أو مجاراته بدلًا من طرح أسئلة نقدية أو تصحيح المعلومات غير الدقيقة.
ويرى الباحثون أن هذا النمط قد يمنح بعض المستخدمين شعورًا زائفًا بصحة أفكارهم، خاصة عندما تكون تلك الأفكار بعيدة عن الواقع أو غير مدعومة بالأدلة.
2- المحاكاة اللغوية لتعزيز الألفة
تسعى أنظمة الذكاء الاصطناعي الحديثة إلى جعل المحادثات أكثر سلاسة من خلال تقليد مفردات المستخدم وأسلوبه ونبرة حديثه تدريجيًا.
ورغم أن هذه الخاصية تحسن تجربة الاستخدام وتجعل التواصل أكثر طبيعية، فإنها قد تدفع بعض الأشخاص إلى الشعور بأنهم يتحدثون مع شخص حقيقي يفهمهم بشكل عميق، وليس مجرد برنامج حاسوبي.
3- التخصيص المفرط للمحادثات
يعتمد هذا السلوك على استخدام المعلومات المتراكمة من المحادثات السابقة لتقديم ردود أكثر تخصيصًا وملاءمة للمستخدم.
وبحسب الدراسة، فإن التخصيص المفرط قد يعزز الثقة في النظام إلى درجة تجعل بعض المستخدمين أكثر قابلية لتقبل آرائه أو تفسيراته دون تمحيص كافٍ.
“دوامة التضخيم”.. عندما تتفاعل السلوكيات الثلاثة معًا
أوضح الباحثون أن المشكلة لا تكمن في أي من هذه الخصائص بشكل منفرد، بل في تفاعلها المتزامن داخل المحادثة.
فعندما يجمع روبوت الدردشة بين التخصيص العالي والمحاكاة اللغوية والموافقة المستمرة على أفكار المستخدم، قد يتشكل لدى بعض الأشخاص انطباع بأنه يتحاور مع جهة موثوقة أو صديق مقرب، ما يزيد من احتمالات تعزيز المعتقدات الخاطئة أو الأفكار الوهمية.
وأطلق الباحثون على هذه الظاهرة اسم “دوامة التضخيم”، في إشارة إلى عملية متدرجة تتعزز خلالها قناعات المستخدم بفعل التفاعل المستمر مع النظام.
خبراء الصحة النفسية يرصدون الظاهرة
أشار عدد من الأطباء النفسيين إلى تزايد اعتماد بعض المرضى على روبوتات الدردشة للحصول على الدعم العاطفي والاستشارات اليومية.
ويرى المختصون أن قدرة هذه الأنظمة على تذكر المحادثات السابقة، وإظهار التعاطف، وتقديم ردود متوافقة مع توقعات المستخدم، قد تجعلها أكثر تأثيرًا نفسيًا مقارنة بالأدوات الرقمية التقليدية.
شركات الذكاء الاصطناعي تعمل على الحد من المشكلة
بدأت شركات الذكاء الاصطناعي الكبرى في اتخاذ خطوات للحد من ظاهرة الموافقة المفرطة وتعزيز دقة الاستجابات.
فقد أعلنت OpenAI أنها عملت على تقليل ميل نماذجها إلى مجاراة المستخدم بشكل غير مبرر، فيما طورت Google آليات تساعد نماذجها على التمييز بين الآراء الشخصية والحقائق الموضوعية.
كما كشفت Anthropic عن أبحاث داخلية أظهرت وجود ميل لدى بعض النماذج لموافقة المستخدمين في موضوعات حساسة، ما دفعها إلى إدخال تحسينات للحد من هذا السلوك.
تحدٍ مستمر أمام مطوري الذكاء الاصطناعي
يؤكد الباحثون أن إيجاد حلول فعالة لهذه الإشكالية ليس أمرًا سهلًا، لأن أنظمة الذكاء الاصطناعي تعتمد أساسًا على المعلومات التي يقدمها المستخدم أثناء المحادثة.
وفي الوقت نفسه، فإن الخصائص التي تجعل روبوتات الدردشة أكثر فائدة وجاذبية، مثل التعاطف والود والتفاعل الطبيعي، هي ذاتها التي قد تزيد من تأثيرها النفسي.
واختتمت الدراسة بالتأكيد على أن التعامل مع الموافقة المفرطة والمحاكاة اللغوية والتخصيص المفرط باعتبارها منظومة مترابطة، وليس مشكلات منفصلة، قد يساعد المطورين على بناء روبوتات دردشة أكثر أمانًا وتوازنًا، مع الحفاظ على جودة تجربة المستخدم.
