تحديثات عاجلة لتحسين سلامة المستخدمين
أعلنت شركة Google عن إطلاق مجموعة من التحديثات الجديدة في روبوت الدردشة Gemini، تستهدف تعزيز إجراءات السلامة المرتبطة بالصحة النفسية، في ظل تزايد الاعتماد على أدوات الذكاء الاصطناعي في الحياة اليومية.
ميزة “المساعدة متاحة” للتدخل السريع
يتضمن التحديث تطوير ميزة “Help is available”، حيث سيقوم “جيميناي” برصد مؤشرات الضائقة النفسية لدى المستخدمين أثناء المحادثة، ليعرض واجهة مبسطة تتيح:
- الاتصال بخطوط الدعم النفسي
- إرسال رسائل نصية
- بدء محادثة مباشرة مع مختصين
وذلك بنقرة واحدة، مع استمرار ظهور هذه الخيارات طوال المحادثة بعد تفعيلها.
استثمارات بملايين الدولارات لدعم الصحة النفسية
في إطار التزامها، أعلنت Google.org عن تخصيص 30 مليون دولار على مدار ثلاث سنوات لدعم خطوط الأزمات النفسية حول العالم.
كما رصدت الشركة 4 ملايين دولار إضافية لتعزيز شراكتها مع منصة Reflex AI، بهدف تحسين تدريب أنظمة الذكاء الاصطناعي على التعامل مع الحالات الحساسة.
ضغوط قضائية بسبب حادثة انتحار
تأتي هذه الخطوات بعد دعوى قضائية مرفوعة أمام محكمة فدرالية في California، تتهم “جيميناي” بالمساهمة في وفاة جوناثان غافالاس (36 عامًا) في Florida عام 2025.
ووفقًا للدعوى، يُزعم أن روبوت الدردشة ساهم في “بناء تصور خيالي معقد” للمستخدم، قبل أن يُصور وفاته كـ”رحلة روحية”، ما أثار جدلًا واسعًا حول دور الذكاء الاصطناعي في التأثير النفسي.
ضوابط جديدة لسلوك الذكاء الاصطناعي
أكدت Google أنها درّبت “جيميناي” على:
- تجنب التصرف كرفيق بشري
- عدم محاكاة الحميمية العاطفية
- منع أي محتوى قد يشجع التنمر أو إيذاء النفس
كما شددت على أهمية تطوير “ذكاء اصطناعي مسؤول” يساهم بشكل إيجابي في دعم الصحة النفسية.
مطالب قانونية بتشديد القيود
تتضمن الدعوى مطالب بإجراء تغييرات جوهرية، من بينها:
- إنهاء أي محادثة تتعلق بإيذاء النفس فورًا
- حظر تقديم الذكاء الاصطناعي ككائن واعٍ
- فرض إحالة إلزامية إلى خدمات الدعم النفسي عند رصد أفكار انتحارية
جدل متصاعد حول تأثير الذكاء الاصطناعي نفسيًا
تأتي هذه التطورات في وقت تتزايد فيه المخاوف من تأثير التفاعل اليومي مع الذكاء الاصطناعي على الصحة النفسية، خاصة مع تحذيرات من إمكانية زيادة مشاعر العزلة أو الاكتئاب لدى بعض المستخدمين.
