تتصاعد المخاوف بشأن حدود الخصوصية في استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي، في ظل اتجاه شركات التكنولوجيا إلى مراقبة بعض المحادثات التي قد تتضمن مؤشرات على تهديدات أو مخاطر واقعية.
وفي واقعة أثارت جدلًا واسعًا، أبلغت شركة «أنثروبيك» السلطات الأمريكية عن مستخدمة لروبوت الدردشة «كلود»، بعدما رصدت أنظمة المراقبة الداخلية محادثات تضمنت تهديدات بالعنف وخططًا مزعومة لاستهداف مكتب للشرطة.
القبض على مستخدمة «كلود» في فلوريدا
ألقت السلطات القبض على كارلي ميشيل هيلر في بونيتا سبرينجز بولاية فلوريدا، بعدما اتُهمت بتوجيه تهديد مكتوب بالعنف، وهي جناية من الدرجة الثانية بموجب القانون في الولاية.
وجاء تحرك السلطات بعدما رصد نظام المراقبة التابع لشركة «أنثروبيك» محادثات أجرتها هيلر عبر «كلود»، قبل أن تُحال السجلات إلى أحد موظفي الشركة لمراجعتها وتقييم مدى خطورة ما ورد فيها.
«أنثروبيك» تعتبر التهديد موثوقًا
بعد مراجعة المحادثات، خلص موظف الشركة إلى أن ما ورد فيها يتجاوز مجرد التعبير النظري عن العنف، وأنه يمثل تهديدًا يمكن اعتباره موثوقًا، وهو ما دفع «أنثروبيك» إلى إبلاغ الشرطة المحلية بالواقعة.
وتشير هذه الخطوة إلى أن شركات الذكاء الاصطناعي قد تتدخل في بعض الحالات عندما ترى أن محتوى المحادثات يمكن أن يرتبط بخطر وشيك أو تهديد حقيقي لأشخاص أو مؤسسات.
المستخدمة اعتبرت «كلود» مذكرات شخصية
وقال قائد شرطة مقاطعة لي، كارمين مارسيلو، في تصريحات للصحفيين المحليين، إن هيلر أقرت باستخدام «كلود» باعتباره أشبه بـ«مذكرات شخصية» لتدوين أفكارها.
وبحسب التصريحات، يبدو أن المستخدمة لم تكن تدرك أن موظفي شركة «أنثروبيك» يمكنهم الوصول إلى سجل محادثاتها ومراجعته في ظروف معينة، ما يسلط الضوء على الفجوة بين تصور بعض المستخدمين لطبيعة هذه الخدمات وسياسات الخصوصية والمراقبة المرتبطة بها.
معضلة بين الخصوصية ومنع العنف
أعادت الواقعة فتح نقاش معقد حول العلاقة بين خصوصية مستخدمي الذكاء الاصطناعي ومسؤولية الشركات عن منع استخدام منتجاتها في تنفيذ أعمال عنيفة.
ففي الوقت الذي يرى فيه البعض أن مراقبة المحادثات قد تمثل تدخلًا في خصوصية المستخدمين، ترى شركات التكنولوجيا أن اكتشاف تهديدات حقيقية قبل تحولها إلى أفعال قد يكون ضروريًا لحماية الأرواح ومنع الجرائم.
جدل متواصل حول دور الذكاء الاصطناعي في الجرائم
ولا تقتصر المخاوف على «كلود»، إذ سبق أن ارتبطت روبوتات دردشة أخرى بوقائع أثارت تساؤلات حول مدى مسؤولية شركات الذكاء الاصطناعي عن المحتوى الذي ينتجه المستخدمون، خصوصًا عندما يتعلق الأمر بالتخطيط لأعمال عنف أو جرائم خطيرة.
وتزايدت هذه المخاوف مع الكشف عن حالات استخدم فيها أشخاص أدوات الذكاء الاصطناعي للحصول على معلومات أو مساعدة مرتبطة بعمليات عنيفة، الأمر الذي دفع شركات التكنولوجيا إلى تشديد أنظمة الرصد والحماية.
هل تكفي أنظمة المراقبة لمنع الكوارث؟
وتكشف واقعة هيلر عن تحدٍ أكبر يواجه صناعة الذكاء الاصطناعي، يتمثل في تحديد الخط الفاصل بين حماية المجتمع والحفاظ على سرية المستخدمين.
ومع الانتشار المتسارع لروبوتات الدردشة وتعدد المنصات التي تقدم خدمات مشابهة، تبدو مهمة اكتشاف التهديدات الخطيرة والتعامل معها أكثر تعقيدًا، خصوصًا مع استمرار الجدل حول مدى قدرة أنظمة المراقبة على التمييز بين الأفكار الافتراضية والتهديدات التي قد تتحول بالفعل إلى أعمال عنف.
