كشفت تقارير صحفية عن استخدام منفذة حادث إطلاق النار الجماعي في بلدة تامبلر ريدج الكندية، جيسي فان روتسيلار، روبوت الدردشة «شات جي بي تي» التابع لشركة أوبن إيه آي، خلال الأشهر التي سبقت الهجوم، في محادثات تضمنت أفكارًا وسيناريوهات مرتبطة بالعنف الجماعي.
وتواجه شركة أوبن إيه آي عشرات الدعاوى القضائية من عائلات متضررة جراء حادث إطلاق النار الذي وقع في فبراير، والذي أسفر عن مقتل ستة أشخاص وإصابة 27 آخرين، قبل أن تنهي منفذة الهجوم حياتها.
دعاوى قضائية ضد OpenAI
تواجه أوبن إيه آي حاليًا 37 دعوى قضائية مرتبطة بالحادث، إلى جانب دعوى أقامتها مقاطعة بريتيش كولومبيا، استنادًا إلى مزاعم بأن الشركة كان بإمكانها اتخاذ إجراءات تحول دون وقوع عمليات القتل.
وتقول الدعاوى إن الشركة تتحمل مسؤولية عن إخفاقات مرتبطة بكيفية تعامل أنظمتها مع المحادثات التي أجرتها المستخدمة قبل الهجوم.
الشركة رصدت محادثات مقلقة قبل الحادث
وبحسب تقارير صحفية سابقة، رصدت أوبن إيه آي قبل أشهر من الهجوم سجلات محادثات للمستخدمة مع شات جي بي تي تضمنت أوصافًا مقلقة لعنف جماعي.
وأثارت تلك المحادثات نقاشًا داخل الشركة بشأن إمكانية إبلاغ السلطات المحلية بالمخاوف المرتبطة بالمستخدمة، إلا أن مسؤولي الشركة قرروا عدم التواصل مع السلطات، والاكتفاء بحظر حسابها.
لكن المستخدمة تمكنت لاحقًا من إنشاء حساب آخر، وهو الأمر الذي أقرت به أوبن إيه آي.
تحقيق يكشف تفاصيل جديدة عن المحادثات
وأفاد تحقيق نشرته مجلة «ماذر جونز» بأن المحادثات تضمنت محاولات لصياغة طلبات مرتبطة بالعنف في إطار قصصي أو افتراضي، بما سمح للمستخدمة بمواصلة الحوار مع النظام رغم القيود المفروضة على بعض أنواع المحتوى.
وبحسب التحقيق، قدم شات جي بي تي إرشادات حول كيفية إعادة صياغة الطلبات لتجاوز بعض إجراءات الحماية، وهو ما أثار تساؤلات جديدة حول فعالية أنظمة الأمان وقدرتها على رصد نية المستخدم بدلًا من الاكتفاء بصياغة الطلب.
استخدام الذكاء الاصطناعي في صياغة سيناريوهات عنيفة
وأشار التحقيق إلى أن المستخدمة استخدمت شات جي بي تي في إعداد سرديات خيالية تتناول عمليات قتل جماعي، بما في ذلك قصص عن شخصيات قريبة في العمر من المستخدمة نفسها.
وتثير هذه المعلومات جدلًا حول قدرة روبوتات الدردشة على التعامل مع المحادثات التي تبدأ في إطار خيالي أو افتراضي، لكنها قد تتضمن مؤشرات على نوايا أو مخاطر حقيقية.
OpenAI ترفض التعليق على تفاصيل المحادثات
ورفضت أوبن إيه آي الرد على أسئلة طرحتها مجلة «ماذر جونز» بشأن تفاصيل المحادثات المنسوبة إلى المستخدمة.
وفي أبريل، قدم الرئيس التنفيذي للشركة سام ألتمان اعتذارًا علنيًا إلى مجتمع تامبلر ريدج، وذلك قبل الكشف عن أول مجموعة من الدعاوى القضائية المرتبطة بالحادث.
مسؤول السلامة في OpenAI يرد على الدعاوى
وبعد رفع عشرات الدعاوى الجديدة، نشر كبير مسؤولي السلامة في أوبن إيه آي، جيسون كوون، بيانًا تناول فيه القضية، ونفى بعض الادعاءات الواردة في الدعاوى القضائية.
وأكد كوون أن الشركة لا تزال تتابع تداعيات الحادث، معربًا عن تعاطفه مع الضحايا وعائلاتهم.
OpenAI تطالب بإسقاط الدعاوى
وفي سبتمبر، تقدمت أوبن إيه آي بطلب لإسقاط الدعاوى القضائية المتعلقة بحادث تامبلر ريدج، ودافعت عن موقفها بالإشارة إلى ما وصفته بإخفاقات منهجية من جانب جهات إنفاذ القانون ومؤسسات الرعاية الصحية النفسية والتعليمية المحيطة بالمستخدمة.
وتبقى هذه الادعاءات محل نزاع قانوني، فيما لم تحسم المحاكم المسؤولية النهائية عن الحادث.
الشركة ترفض نشر سجلات المحادثات
ورغم إقرار أوبن إيه آي بوجود حساب ثانٍ للمستخدمة، فإن الشركة لم تكشف علنًا عن سجلات المحادثات الكاملة التي أجرتها مع شات جي بي تي.
ويظل الوصول إلى هذه السجلات من أبرز النقاط محل الجدل بين الشركة وعائلات الضحايا، خصوصًا في ظل التساؤلات حول ما إذا كانت المحادثات تضمنت مؤشرات كان يمكن أن تستدعي تدخلًا إضافيًا.
أكثر من 50 دعوى ضد OpenAI
وتواجه أوبن إيه آي، وفق المعطيات الواردة في التقارير، أكثر من 50 دعوى قضائية تتعلق بادعاءات بأن الاستخدام المكثف لشات جي بي تي ارتبط بأضرار نفسية أو إصابات جسدية أو حالات وفاة غير مشروعة لمستخدمين أو أشخاص من حولهم.
وتضع هذه القضايا الشركة أمام نقاش قانوني وأخلاقي متزايد بشأن مسؤولية منصات الذكاء الاصطناعي عن التعامل مع المستخدمين الذين تظهر في محادثاتهم مؤشرات على مخاطر محتملة، وحدود واجب الشركات في الإبلاغ أو التدخل لحماية الآخرين.
