نمو سريع يثير القلق
يثير الانتشار السريع لمساعدي الذكاء الاصطناعي، وعلى رأسهم أداة “أوبن كلو”، حالة من الحماسة والتخوف في آن واحد، خاصة مع تنامي التحذيرات المرتبطة بمخاطر الأمن السيبراني والأخطاء التشغيلية.
أداة “أوبن كلو” وانتشار واسع
تشهد أداة “أوبن كلو” استخدامًا متزايدًا في قطاع الذكاء الاصطناعي، حيث تجاوز عدد مستخدميها 3 ملايين مستخدم. وتعتمد الأداة على تمكين المستخدمين من إنشاء مساعدين ذكيين لتنفيذ مهام مختلفة عبر الإنترنت باستخدام نماذج ذكاء اصطناعي يختارها المستخدم.
من الدردشة إلى تنفيذ المهام
وأوضح يزيد أكاديري، المدير التقني لمجموعة “إلاستيك” في فرنسا، أن تطور الذكاء الاصطناعي انتقل من مجرد محادثات نصية إلى أنظمة قادرة على تنفيذ مهام واتخاذ قرارات بشكل مستقل، وهو ما يرفع مستوى المخاطر المحتملة.
نتائج دراسات تكشف أخطاء خطيرة
وفي دراسة بحثية بعنوان “وكلاء الفوضى”، اختبر نحو 20 باحثًا ستة وكلاء ذكاء اصطناعي لمدة أسبوعين، حيث أظهرت النتائج تنفيذ بعضهم لمهام خطرة، مثل حذف رسائل البريد الإلكتروني أو نقل بيانات شخصية دون قصد.
ثغرات أمنية واستهداف متزايد
يحذر خبراء الأمن السيبراني من أن هذه الأدوات، التي ترتبط عادةً ببريد إلكتروني أو جداول مهام أو محركات بحث، قد تصبح هدفًا مباشرًا للهجمات الإلكترونية، نظرًا لقدرتها على الوصول إلى بيانات حساسة.
وقالت ويندي ويتمور، مديرة المعلومات التحليلية للأمن السيبراني في شركة بالو ألتو نتووركس، إن هذه الأنظمة أصبحت هدفًا متزايدًا للقراصنة الذين يستغلونها للحصول على معلومات داخلية.
هجمات عبر تعليمات خفية
كشف فريق بحثي تابع للوحدة 42 التابعة للشركة عن رصد محاولات هجوم في مارس الماضي، تضمنت أوامر مخفية داخل مواقع إلكترونية تستهدف المساعدين الذكيين، من بينها أوامر لحذف قواعد بيانات كاملة.
مخاطر في ملفات المهارات
كما حذر باحثون من إمكانية استغلال ملفات “المهارات” التي يستخدمها المطورون لتحسين أداء الوكلاء، حيث تبين أن بعضها يحتوي على تعليمات خبيثة لسرقة البيانات عند تحميله من مصادر مفتوحة.
اعترافات وتحذيرات من المطورين
وأقر مؤسس “أوبن كلو” بيتر شتاينبرغر بوجود مخاطر حقيقية مرتبطة باستخدام هذه التقنيات، مؤكدًا أن تصميم الأداة بشكل غير مبسط كان بهدف دفع المستخدمين لفهم آليات الذكاء الاصطناعي ومحدوديته.
سلوك المستخدمين يفاقم التحديات
وترى خبراء أمن سيبراني أن المستخدمين غالبًا ما يعتمدون على هذه التقنيات بسرعة دون مراعاة كافية لجوانب الأمان والخصوصية، وهو ما قد يزيد من حجم المخاطر في المستقبل.
