احتيال رقمي يستغل ثقة الأداة في روابط المواقع القديمة
كشف تقرير تقني نشره موقع Techradar Pro عن وجود ثغرة في آلية عمل الترشيحات التي يقدمها نموذج الذكاء الاصطناعي “شات جي بي تي”، ما سمح للبعض بالتلاعب بجودة النتائج ونشر محتوى مضلل عبرها.
التقرير استند إلى تجربة أجراها جيمس بروكبانك، المؤسس والرئيس التنفيذي لشركة Digitalloft المتخصصة في التسويق الرقمي، والذي لاحظ أن “شات جي بي تي” يعتمد على الروابط كمصادر للمعلومات، دون التحقق من صحة المحتوى الحالي لتلك الروابط.
شراء روابط منتهية الصلاحية لاستغلالها في الترشيحات
أوضح بروكبانك أن بعض المحتالين بدأوا في شراء روابط مواقع كانت موثوقة في السابق، لكنها انتهت صلاحيتها أو توقفت عن العمل، ومن ثم وضعوا فيها محتوى موجهًا يهدف إلى التضليل، مستغلين استمرار ثقة “شات جي بي تي” بهذه المواقع بناءً على سجلها السابق.
في إحدى الحالات، تم الاستحواذ على موقع كان تابعًا للأمم المتحدة بعد توقفه عن العمل، ليُعاد تشغيله بمحتوى جديد وروابط تشير إلى مواقع تروّج لخدمات خاصة، ونجح المحتالون في جعل “شات جي بي تي” يعرض تلك الروابط كترشيحات موثوقة.
مواقع خيرية تتحول إلى واجهات ترويجية للألعاب الخبيثة
التقرير كشف أيضًا عن حالة أخرى لموقع كان تابعًا لهيئة خيرية في المملكة المتحدة، وكان يُستخدم سابقًا كمصدر من قبل مؤسسات إعلامية كبرى مثل “بي بي سي” و”سي إن إن” و”بلومبيرغ”. بعد انتهاء صلاحية الموقع، استولى عليه مستخدمون مجهولون وأعادوا تشغيله بمحتوى مريب يروّج لألعاب خبيثة.
ورغم تغير طبيعة الموقع كليًا، واحتوائه على محتوى ضار، استمر “شات جي بي تي” في اعتباره مصدرًا موثوقًا، وبدأ في ترشيح تلك الألعاب ضمن نتائجه.
اختلاف جوهري عن آليات “جوجل” في تقييم المواقع
بحسب بروكبانك، فإن ما يحدث يختلف كليًا عن آليات تحسين محركات البحث (SEO) التقليدية، والتي تعتمد على بناء روابط موثوقة. إذ يملك “غوغل” أنظمة قادرة على تحليل نوعية المحتوى، والتأكد من تطابقه مع هوية الموقع السابقة، ما يقلل من احتمالات التلاعب.
لكن على النقيض، يفتقر “شات جي بي تي” حاليًا إلى القدرة على تقييم تطور محتوى الموقع أو التحقق من اتساقه مع تاريخه الرقمي، ويركز فقط على وجود الروابط، بغض النظر عن طبيعة النص أو التحديثات التي طرأت على الصفحة.
ثغرة تفتح المجال أمام استغلال واسع النطاق
هذه الثغرة التقنية تفتح المجال أمام المحتالين لاستغلال منصة “شات جي بي تي” في نشر محتوى مضلل، دون الحاجة إلى منافسة شرسة في محركات البحث أو الالتزام بمعايير التوثيق التي تفرضها منصات أخرى.
وما يزيد من خطورة الأمر هو اعتماد الملايين من المستخدمين حول العالم على “شات جي بي تي” في الحصول على إجابات ومقترحات، ما يجعل هذا النوع من التلاعب له تأثير مباشر وواسع النطاق.
دعوات لتحسين آليات التحقق في نماذج الذكاء الاصطناعي
يثير هذا التقرير تساؤلات مهمة حول ضرورة تحسين أدوات الذكاء الاصطناعي وتطوير آليات أكثر دقة في تقييم مصادر المعلومات، بما يشمل متابعة تطورات المحتوى المنشور وليس فقط الاعتماد على التاريخ السابق للموقع.
ويُتوقع أن تدفع هذه القضية الشركات المطورة، وعلى رأسها OpenAI، إلى مراجعة آلية التعامل مع الروابط كمصادر للمعلومة، والعمل على تعزيز قدرة النماذج اللغوية على التمييز بين المواقع الموثوقة والمحتوى المستحدث المضلل.
