رغم التوسع المتسارع في استخدام تقنيات الذكاء الاصطناعي بمختلف القطاعات، تتزايد المخاوف بشأن تداعياتها على مصداقية المحتوى الرقمي وقدرة المستخدمين على التمييز بين المعلومات الحقيقية والمزيفة، وسط تحذيرات من اتساع نطاق الاحتيال الإلكتروني والتلاعب بالمحتوى.
9 من كل 10 أشخاص يواجهون صعوبة في التحقق من المحتوى
كشف استطلاع رأي حديث شمل 1500 مشارك في النمسا وبريطانيا وألمانيا وسويسرا والولايات المتحدة، أن 90% من المشاركين يجدون أنفسهم أحيانًا غير قادرين على تحديد ما إذا كان المحتوى الذي يشاهدونه أو يقرؤونه حقيقيًا أم تم إنشاؤه أو تعديله بواسطة تقنيات الذكاء الاصطناعي.
وأظهرت نتائج الاستطلاع، الذي نشرت تفاصيله شركة “ميل وير بايتس” المتخصصة في الأمن السيبراني، أن التطور السريع لأدوات الذكاء الاصطناعي التوليدي أصبح يشكل تحديًا متزايدًا أمام المستخدمين في التحقق من صحة المعلومات المتداولة عبر الإنترنت.
ارتفاع المخاوف من الاحتيال الرقمي
أشارت نتائج الدراسة إلى تزايد القلق من عمليات الاحتيال الإلكتروني المدعومة بالذكاء الاصطناعي، حيث أكد عدد متزايد من المشاركين أنهم أصبحوا أقل ثقة في قدرتهم على اكتشاف محاولات الاحتيال التي تستهدفهم عبر الهواتف الذكية أو وسائل التواصل الرقمي.
كما أفاد 88% من المشاركين بأنهم يواجهون صعوبة في التمييز بين المحتوى الحقيقي والمحتوى المصطنع باستخدام تقنيات الذكاء الاصطناعي، وهي نسبة تعكس حجم التحديات التي تفرضها هذه التكنولوجيا على المستخدمين.
صعوبة متزايدة في كشف الاتصالات الاحتيالية
لم تقتصر المخاوف على المحتوى الرقمي فقط، بل امتدت إلى المكالمات والرسائل الإلكترونية، إذ أظهرت نتائج الاستطلاع أن النسبة نفسها تقريبًا من المشاركين تواجه صعوبة في التفريق بين الاتصالات الحقيقية ومحاولات الاحتيال.
ويمثل ذلك ارتفاعًا ملحوظًا مقارنة بالعام الماضي، عندما أشار 66% فقط من المشاركين إلى أنهم يجدون صعوبة في اكتشاف الاتصالات الاحتيالية.
الذكاء الاصطناعي يعزز أساليب المحتالين
كشف الاستطلاع أن شخصًا واحدًا من بين كل أربعة مشاركين تلقى خلال الأشهر الاثني عشر الماضية رسالة احتيالية مخصصة تتضمن معلومات شخصية أو تفاصيل تبدو واقعية.
وترى شركة “ميل وير بايتس” أن المحتالين باتوا يعتمدون بشكل متزايد على أدوات الذكاء الاصطناعي لتحليل البيانات الشخصية واستغلال العلاقات الاجتماعية للضحايا، ما يجعل عمليات الاحتيال أكثر إقناعًا وصعوبة في الاكتشاف.
المشاهير أيضًا ضحايا للتزييف الرقمي
ساهمت تقنيات الذكاء الاصطناعي في زيادة حالات التلاعب بالصور والتصريحات المنسوبة إلى الشخصيات العامة والمشاهير حول العالم، الأمر الذي تسبب في انتشار معلومات مضللة وأثار جدلًا واسعًا في العديد من الحالات.
ويؤكد خبراء الأمن الرقمي أن التطور المستمر في تقنيات التزييف العميق يجعل التحقق من صحة المحتوى أكثر أهمية من أي وقت مضى.
أوروبا تتحرك لتعزيز الشفافية
في مواجهة هذه التحديات، أطلقت المفوضية الأوروبية مدونة قواعد سلوك جديدة تهدف إلى تصنيف ووضع علامات واضحة على المحتوى الذي يتم إنتاجه أو تعديله باستخدام الذكاء الاصطناعي.
وتأتي هذه الخطوة قبل دخول متطلبات الشفافية المنصوص عليها في قانون الذكاء الاصطناعي الأوروبي حيز التنفيذ مطلع أغسطس المقبل، في إطار جهود الاتحاد الأوروبي لتعزيز الثقة الرقمية ومكافحة التضليل.
وأكدت نائبة رئيسة المفوضية الأوروبية، هينا فيركونين، أن المواطنين الأوروبيين من حقهم معرفة ما إذا كان المحتوى الذي يشاهدونه أو يسمعونه أو يقرؤونه قد تم إنشاؤه بواسطة الذكاء الاصطناعي، خاصة عندما يكون لهذا المحتوى تأثير مباشر على الرأي العام والنقاشات المجتمعية.
تحديات متزايدة أمام مستقبل الثقة الرقمية
تعكس نتائج الاستطلاع حجم التحديات التي يفرضها الانتشار المتسارع للذكاء الاصطناعي على المجتمعات الرقمية، حيث بات الحفاظ على الثقة في المعلومات وتمكين المستخدمين من التحقق من صحتها أحد أبرز التحديات التي تواجه الحكومات وشركات التكنولوجيا في المرحلة المقبلة.
