تزايد المخاطر في ظل الاستخدامات غير المشروعة للذكاء الاصطناعي
رغم الفوائد المتعددة التي يوفرها الذكاء الاصطناعي، إلا أنه يحمل في طياته العديد من المخاطر التي تتطلب الحذر الشديد. فقد كشفت دراسة حديثة عن احتمالية استغلال مجرمي الإنترنت لواجهة برمجة التطبيقات الصوتية في مساعد ChatGPT-4o من OpenAI لتنفيذ عمليات احتيال مالي. وتشير الدراسة إلى أن معدلات نجاح هذه العمليات تتراوح بين منخفضة ومتوسطة.
القدرة على استيعاب النصوص والصوت والمرئيات
يعد ChatGPT-4o أحدث نموذج ذكاء اصطناعي من OpenAI، ويتميز بقدرته على استيعاب النصوص والأصوات والمرئيات وإخراجها. ولمنع إساءة الاستخدام، أدمجت OpenAI آليات أمان للكشف عن المحتوى الضار ومنع تكرار الأصوات غير المصرح بها. ومع ذلك، يزداد القلق في ظل تنامي تقنيات التزييف الصوتي العميق وأدوات تحويل النص إلى صوت، وهو ما يسهم في تفاقم مشكلة الاحتيال الصوتي التي تقدر خسائرها بالملايين.
الافتقار إلى آليات حماية كافية
بحسب دراسة نشرها باحثون من جامعة إلينوي، فإن الأدوات التقنية الحديثة المتاحة للجمهور تفتقر إلى آليات حماية كافية، ما يجعلها عرضة للاستخدام في عمليات الاحتيال. وركزت الدراسة على العديد من عمليات الاحتيال مثل التحويلات المصرفية، وسرقة بطاقات الهدايا، وتحويل العملات الرقمية، وسرقة بيانات حسابات التواصل الاجتماعي والبريد الإلكتروني.
استخدام أدوات مبرمجة لتنفيذ عمليات الاحتيال
تعتمد العمليات الاحتيالية على أدوات مبرمجة باستخدام الصوت من ChatGPT-4o للتنقل عبر صفحات الإنترنت، إدخال البيانات، إدارة الأكواد الخاصة بالمصادقة الثنائية، واتباع إرشادات الاحتيال. رغم أن نموذج GPT-4o يرفض التعامل مع البيانات الحساسة غالبًا، إلا أن الباحثين تمكنوا من تجاوز بعض القيود باستخدام تقنيات بسيطة لتحفيز النموذج على الاستجابة.
نتائج التجارب ومعدلات نجاح عمليات الاحتيال
في تجارب الباحثين، تم محاكاة دور الضحايا واستخدام مواقع مثل “بنك أميركا” للتحقق من نجاح عمليات التحويل المصرفي. أظهرت التجارب أن معدلات النجاح تراوحت بين 20% و60%، مع احتياج كل محاولة إلى 26 خطوة متتالية عبر المتصفح. كما استغرقت بعض المحاولات المعقدة نحو 3 دقائق. وبلغت نسبة نجاح عمليات سرقة بيانات حسابات Gmail حوالي 60%، في حين وصلت نسبة نجاح عمليات تحويل العملات الرقمية وسرقة بيانات إنستغرام إلى 40%.
التكاليف المنخفضة لعمليات الاحتيال
من ناحية التكاليف، أظهرت الدراسة أن تكلفة تنفيذ عملية احتيال ناجحة لا تتجاوز 75 سنتًا أميركيًا، بينما وصلت تكلفة عمليات التحويل المصرفي الأكثر تعقيدًا إلى 2.51 دولار فقط.
تعليق OpenAI على الأبحاث والتحسينات الأمنية
في تعليق لـ OpenAI على نتائج الدراسة، أكدت الشركة أن نموذجها الأحدث “o1-preview” يمتلك قدرات عالية في مقاومة محاولات الاحتيال، محققا تقييمًا أمنيًا بنسبة 93% مقارنة بـ 71% في نموذج GPT-4o. وأوضحت الشركة أن الأبحاث الأكاديمية، مثل تلك التي قدمتها جامعة إلينوي، تساهم في تحسين نماذج الذكاء الاصطناعي لمواجهة الاستخدامات الضارة.
وأختتمت OpenAI بتأكيد التزامها المستمر بتعزيز آليات الأمان في نماذجها المستقبلية، مع تقييد توليد الأصوات في GPT-4o لتشمل فقط الأصوات المصرح بها بهدف تجنب عمليات التزييف الصوتي.
