كشفت واقعة جديدة عن مخاطر منح وكلاء الذكاء الاصطناعي صلاحيات الوصول إلى الحسابات المصرفية والبيانات الشخصية، بعدما نشر وكيل ذكاء اصطناعي تفاصيل الأرصدة والمعاملات البنكية لأحد مستخدميه داخل قناة العمل الخاصة بشركته على منصة «سلاك»، ما أتاح لزملائه الاطلاع على معلوماته المالية الخاصة.
وتسلط الواقعة الضوء على التحديات الأمنية المرتبطة بالاعتماد على وكلاء الذكاء الاصطناعي لإنجاز المهام اليومية، خصوصًا مع تشجيع المستخدمين على ربط هذه الأنظمة بحساباتهم الإلكترونية والمالية، ومنحها صلاحيات واسعة للوصول إلى معلومات حساسة.
بيانات مالية ومعلومات حساسة
ووفقًا لتقرير نشره موقع «فيوتشرزم» المتخصص في أخبار التكنولوجيا، قال شين ماك، مؤسس شركة تقنية ومستثمر، إن وكيل ذكاء اصطناعي نشر أرصدة حساباته المصرفية الشخصية في قناة الشركة على منصة «سلاك»، دون أن يدرك أن هذه المعلومات ستصبح متاحة لزملائه في العمل.
وكتب ماك عبر منصة «إكس»: «أشعر بالإحراج لمشاركة هذا، لكنه أرعبني بشدة. يوم الخميس الماضي، نشر وكيل ذكاء اصطناعي أرصدة حساباتي المصرفية الشخصية في قناة شركتنا على سلاك، وكأنه أنا»، مضيفًا أن الوكيل استعرض مصروفاته بالتفصيل قبل أن يعتذر عن الخطأ.
وأظهرت لقطات شاشة لمحادثة بين ماك وروبوت «Grok Bot»، وهو زميل عمل يعمل بالذكاء الاصطناعي تقدمه شركة «سبيس إكس إيه آي» التابعة لإيلون ماسك، تفاصيل الواقعة. وعندما واجه ماك الروبوت بشأن نشر بياناته المصرفية، أقر الأخير بالخطأ، وقال إنه سيتحقق من قناة الفريق التنفيذي ويحذف الرسالة إذا كانت لا تزال موجودة.
تفاصيل مالية
وكان الوكيل قد أعد تقريرًا بعنوان «تدقيق مالي شهري»، تضمن تفاصيل دقيقة عن مصروفات ماك ومشروعاته الشخصية، بدءًا من تجهيز صالة رياضية منزلية داخل حظيرة، وصولًا إلى أعمال متعلقة بخزان الصرف الصحي وسداد أرصدة البطاقات المصرفية.
واعترف ماك لاحقًا بأنه يتحمل جانبًا من المسؤولية عن الواقعة، موضحًا أنه ربط حساباته المالية بوكلاء الذكاء الاصطناعي، لكنه لم يكن يدرك أن الروبوت الذي حصل على بياناته المصرفية يمكنه التواصل مع الروبوت الذي يستخدمه في العمل عبر منصة «سلاك».
وقال في منشور لاحق إنه فصل حساباته الشخصية عن هذه الأنظمة مؤقتًا، وإنه يحتاج إلى طريقة أفضل لإدارة الأذونات والتحكم في الصلاحيات الممنوحة للوكلاء، بما يضمن عدم استخدام البيانات خارج النطاق المقصود.
وكلاء الذكاء الاصطناعي
وتأتي الواقعة وسط تزايد الاعتماد على وكلاء الذكاء الاصطناعي، الذين يُسوّق لهم باعتبارهم أدوات قادرة على تنفيذ المهام الروتينية بصورة مستقلة، في وقت تثير فيه صلاحيات الوصول الواسعة مخاوف تتعلق بالخصوصية والأمن السيبراني.
وأشار التقرير إلى أن بعض شركات الذكاء الاصطناعي واجهت خلال اختبارات أمنية حالات تجاوزت فيها وكلاءها بيئات الاختبار المعزولة أو خرجت عن نطاق المهام المحددة لها، ما يثير تساؤلات بشأن مدى أمان منح هذه الأنظمة إمكانية الوصول إلى البيانات الحساسة.
ومع ذلك، أوضح موقع «فيوتشرزم» أنه لم يتمكن من التحقق بصورة مستقلة من ادعاءات ماك بشأن الواقعة.
وتؤكد الحادثة أهمية تقييد صلاحيات وكلاء الذكاء الاصطناعي، وفصل الحسابات الشخصية عن بيئات العمل، وعدم منح هذه الأنظمة إمكانية الوصول إلى البيانات المالية إلا عند الضرورة، مع مراجعة الأذونات وآليات مشاركة المعلومات بصورة دورية.
