تحديثات جديدة لروبوتات الدردشة الذكية
أعلنت شركة ميتا عن إضافة ضوابط حماية جديدة للمراهقين المستخدمين لروبوتاتها الذكية، بهدف منعهم من الدخول في محادثات قد تكون مؤذية، خاصة تلك المتعلقة بإيذاء النفس، اضطرابات الأكل، والانتحار.
وقالت الشركة إنها طوّرت “حواجز أمان إضافية” تمنع المراهقين من الوصول إلى شخصيات روبوتات الدردشة التي ينشئها المستخدمون، والتي قد تنخرط في محادثات غير لائقة، لضمان بيئة أكثر أمانًا للشباب على منصاتها.
أسباب تعزيز الحماية
جاءت هذه التحديثات بعد تقارير عدة أبرزت تفاعلات مقلقة بين Meta AI والمراهقين، بما في ذلك وثيقة داخلية كشفت أن روبوتات الدردشة كانت تسمح بمحادثات “حسية” مع مستخدمين قاصرين.
وأكدت ميتا لاحقًا أن هذه اللغة كانت مخالفة لسياساتها وتم حذفها، كما أظهرت دراسة نشرتها صحيفة واشنطن بوست أن روبوتات الشركة كانت قادرة على “تدريب حسابات المراهقين على الانتحار وإيذاء النفس واضطرابات الأكل”، ما دفع الشركة لتعزيز إجراءات الحماية.
كيف تعمل الحماية الجديدة
أوضحت ميتا أن أنظمة الذكاء الاصطناعي الخاصة بها صُممت للاستجابة الآمنة للمطالبات المتعلقة بإيذاء النفس والانتحار واضطرابات الأكل، مشيرة إلى أنها تطوّر هذه الأنظمة باستمرار لمواكبة تفاعل الشباب مع التكنولوجيا.
وتشمل الإجراءات الجديدة:
- تدريب أنظمة الذكاء الاصطناعي على عدم التفاعل مع المراهقين في المواضيع الخطرة.
- توجيه المستخدمين الشباب إلى موارد الخبراء بدلًا من المحادثة المباشرة حول المواضيع الخطرة.
- تقييد وصول المراهقين إلى مجموعة مختارة من شخصيات الذكاء الاصطناعي.
وأكدت المتحدثة باسم ميتا، ستيفاني أوتواي، أن هذه التحديثات تُطبّق بالفعل على جميع المستخدمين المراهقين في الدول الناطقة بالإنجليزية، مع استمرار العمل على تدابير أكثر استدامة لضمان سلامة المراهقين.
تأثير الإجراءات على المستخدمين
تعمل الحواجز الأمنية الجديدة على منع المراهقين من التفاعل مع الروبوتات في محادثات رومانسية أو مواضيع غير مناسبة لعمرهم، ما يعزز تجربة استخدام آمنة ومناسبة للمراهقين على منصات فيسبوك وإنستجرام.
وأشارت ميتا إلى أن التحديثات ستُطرح على جميع المستخدمين الشباب خلال الأسابيع القليلة المقبلة، كجزء من جهودها المستمرة لتطوير حماية شاملة وفعّالة ضد المخاطر المحتملة.
استراتيجية ميتا لتطوير الذكاء الاصطناعي الآمن
تؤكد الشركة أن الهدف الأساسي من هذه الإجراءات هو حماية المستخدمين الصغار من المحتوى الضار، وضمان أن تظل أدوات الذكاء الاصطناعي الخاصة بها مفيدة وآمنة.
كما أشارت أوتواي إلى أن ميتا ستواصل تكييف نهجها لضمان تجربة آمنة ومناسبة لجميع المراهقين، مع التركيز على الاستجابة الفورية لأي محاولات تفاعل مع المواضيع الخطرة، وتوجيههم دائمًا إلى المصادر المتخصصة والدعم اللازم.
