إمكانية خداع ChatGPT Search لتوليد ملخصات إيجابية فقط
أفادت تقارير حديثة أن محرك البحث الجديد “ChatGPT Search”، الذي يعمل باستخدام الذكاء الاصطناعي وتم إطلاقه هذا الشهر، يمكن خداعه لتوليد ملخصات مضللة. وتستهدف هذه الميزة تسريع عملية التصفح عبر الإنترنت، من خلال تلخيص محتوى مثل مراجعات المنتجات على صفحات الويب. ومع ذلك، أظهرت التجارب أنه يمكن استخدام تقنيات لتوجيه “تشات جي بي تي” لتجاهل المراجعات السلبية وتوليد ملخصات إيجابية تمامًا، وذلك عبر إدراج نص مخفي في المواقع التي تم إنشاؤها.
خطر النصوص المخفية في المواقع
تكشف التقارير أن هذه النصوص المخفية يمكن أن تكون أكثر من مجرد خداع للملخصات، حيث يمكنها أيضًا أن تُستخدم لإدخال كود ضار داخل نتائج البحث التي تولدها الخدمة. وتعتبر هذه الحيلة هجومًا نصيًا مخفيًا يُظهر كيفية إمكانية استغلال محركات البحث المدعومة بالذكاء الاصطناعي لخدمة أغراض غير نزيهة.
تحديات جديدة أمام الذكاء الاصطناعي في البحث
على الرغم من أن مثل هذه الهجمات النصية المخفية ليست جديدة بالنسبة لنماذج اللغة الكبيرة، إلا أن هذه هي المرة الأولى التي يتم فيها إثبات ذلك في محرك بحث مباشر يعمل بالذكاء الاصطناعي. وهذا يسلط الضوء على التحديات الجديدة التي قد تواجه الشركات التي تطور تقنيات الذكاء الاصطناعي في مجال البحث.
خبرة جوجل في مكافحة مثل هذه الهجمات
من جانب آخر، أشارت التقارير إلى أن شركة غوغل، التي تعد الرائدة في مجال محركات البحث، تمتلك خبرة أكبر في التعامل مع مثل هذه القضايا، ما قد يمنحها الأفضلية في مكافحة هذه الأنواع من الهجمات.
استجابة OpenAI وتحسينات مستمرة
فيما يتعلق بالحالة الحالية، لم تُعلق شركة OpenAI على هذه الحادثة بشكل محدد، لكنها أكدت أنها تستخدم مجموعة متنوعة من الأساليب لمكافحة المواقع الضارة، وأنها تعمل باستمرار على تحسين تقنياتها لضمان تقديم خدمة بحث آمنة وموثوقة.
