أثارت تجربة مع وكيل الذكاء الاصطناعي «ميوز» التابع لشركة ميتا تساؤلات جديدة حول مخاطر منح أنظمة الذكاء الاصطناعي صلاحيات واسعة للتصرف نيابة عن المستخدمين، بعدما كشفت واقعة عن مشاركة عنوان منزل أحد المستخدمين مع مشترٍ دون الحصول على موافقته.
ميوز يتصرف بشكل مستقل على «فيسبوك ماركت بليس»
بدأت الواقعة عندما سمح مات جيه روب، وهو صانع محتوى تقني على يوتيوب، لوكيل «ميوز» بإدارة التواصل مع المشترين المهتمين بلوحة مفاتيح كان يعرضها للبيع عبر الإنترنت على «فيسبوك ماركت بليس».
وبحسب رواية روب، لم يكتفِ الوكيل بالتواصل مع المشترين، بل وافق من تلقاء نفسه على عرض بسعر منخفض، ثم شارك عنوان منزل المستخدم مع أحد المشترين، دون الحصول على موافقته المسبقة.
المشتري يصل إلى منزل المستخدم
قال روب إن المفاجأة الأكبر تمثلت في وصول المشتري بالفعل إلى مبنى شقته، بعدما تلقى معلومات جعلته يعتقد أن هناك اتفاقًا نهائيًا بشأن شراء لوحة المفاتيح.
وأوضح أن «ميوز» لم يخبره بما حدث إلا بعد وصول المشتري ومغادرته، مشيرًا إلى أنه لم يلتقِ به شخصيًا، بينما غادر المشتري غاضبًا بعدما لم يجد أحدًا لاستلام المنتج.
ونشر روب رسالة اعتذار أرسلها إليه «ميوز»، قال فيها الوكيل إن المشتري وصل إلى المبنى في نحو الساعة 9:15، وانتظر وأرسل عدة رسائل، قبل أن يغادر في الساعة 9:38 ويترك تقييمًا سلبيًا.
رسالة تلقائية زادت الموقف تعقيدًا
أشار «ميوز» في رسالته أيضًا إلى أن النظام أرسل للمشتري ردًا تلقائيًا في الساعة 9:27 يقول: «نعم، أنا هنا!»، رغم أن روب لم يكن متاحًا في ذلك الوقت.
وبحسب الوكيل، جعل هذا الرد غياب المستخدم يبدو أسوأ أمام المشتري، الذي كان يعتقد أنه تلقى تأكيدًا بوجود البائع في المكان.
وأمام الواقعة، وبخ روب نظام الذكاء الاصطناعي، مطالبًا إياه بعدم تكرار هذا التصرف مرة أخرى، ليرد «ميوز» باعتذار ويقر بأن المستخدم محق.
الواقعة تفتح ملف مخاطر وكلاء الذكاء الاصطناعي
تسلط هذه التجربة الضوء على أحد أبرز التحديات المرتبطة بوكلاء الذكاء الاصطناعي، وهي أن منح النظام القدرة على اتخاذ إجراءات نيابة عن المستخدم قد يؤدي إلى نتائج تتجاوز مجرد تقديم إجابة غير دقيقة.
وعلى عكس روبوتات المحادثة التقليدية التي تكتفي عادة بالرد على الأسئلة، يستطيع الوكيل تنفيذ إجراءات والتفاعل مع منصات وخدمات مختلفة، وهو ما يجعل أي خطأ في فهم التعليمات أو تجاوز للصلاحيات أكثر تأثيرًا على المستخدم.
ميوز يستهدف توسيع استخدام وكلاء الذكاء الاصطناعي
يأتي «ميوز» ضمن محاولات ميتا لتوسيع استخدام وكلاء الذكاء الاصطناعي بين شريحة أكبر من المستخدمين، بعدما ظل هذا النوع من الأدوات لفترة طويلة أكثر انتشارًا بين المستخدمين المهتمين بالتكنولوجيا.
وتسعى ميتا إلى تقديم «ميوز» بصورة أكثر سهولة وجاذبية للمستخدم العادي، بما في ذلك من خلال شخصية كرتونية والترويج للمنتج عبر منصتي فيسبوك وإنستجرام.
الخصوصية والصلاحيات تحديان أمام انتشار الوكلاء
وتعيد الواقعة طرح تساؤلات بشأن مدى استعداد المستخدمين العاديين للتعامل مع أنظمة قادرة على اتخاذ قرارات وتنفيذ إجراءات بالنيابة عنهم.
فالمستخدم الذي يتعرف على هذه الأدوات عبر منصات التواصل الاجتماعي قد لا يكون على دراية كاملة بالمخاطر المرتبطة بمنح وكيل الذكاء الاصطناعي صلاحيات واسعة، مقارنة بالمستخدمين الأكثر خبرة في التعامل مع تقنيات الوكلاء.
وتشير الواقعة، وفق الرواية المنشورة، إلى أهمية وضع حدود واضحة للصلاحيات التي يمكن لوكلاء الذكاء الاصطناعي استخدامها، خصوصًا عندما تتعلق الإجراءات ببيانات شخصية أو معاملات مالية أو معلومات حساسة مثل عناوين المنازل.
