تقرير أوبن آيه آي يكشف محاولات استغلال الذكاء الاصطناعي
نشرت شركة الذكاء الاصطناعي OpenAI تقريرًا أكدت فيه أن مستخدمين يُشتبه في ارتباطهم بجهات تابعة للحكومة الصينية طلبوا من نظام الدردشة ChatGPT المساعدة في صياغة مقترحات لأداة رقابية واسعة النطاق، وأيضًا المساعدة في الترويج لأداة مزعومة تفحص حسابات مواقع التواصل بحثًا عن “خطاب متطرف”.
وقالت الشركة إن هذه الحالات تُظهر مخاطر استخدام تقنيات الذكاء الاصطناعي في تعزيز قدرات المراقبة والقمع، داعيةً إلى مزيد من اليقظة حول نشر واستخدام هذه التقنيات.
كيف استُخدمت النماذج؟ أمثلة من التقرير
من الأمثلة الواردة في تقرير أوبن آيه آي طلب مستخدم يُرجّح ارتباطه بكيان حكومي صيني مساعدة الشات بوت في كتابة مقترح أداة لتحليل تحركات السفر وسجلات الشرطة لفئات مصنفة بأنها “عالية الخطورة” مثل الأقلية الأويغورية.
حالة أخرى تضمنت طلبًا من متحدث باللغة الصينية للمساعدة في تصميم مواد ترويجية لمنتج يدّعي فحص حسابات في منصات مثل إكس وفيسبوك للبحث عن محتوى سياسي وديني. وأكدت أوبن آيه آي أنها حظرت هذين المستخدمين بعد اكتشاف السلوك.
مخاوف أخلاقية وجيوسياسية بشأن الذكاء الاصطناعي
يربط تقرير الشركة هذا الاستخدام بالمنافسة الأوسع بين الولايات المتحدة والصين على قياد مجالات الذكاء الاصطناعي، ويُبرز كيف تستثمر الدول والشركات مليارات الدولارات في التكنولوجيا مع مخاطر إمكان توظيفها لأغراض أمنية وقمعية.
قال بن نيمو، الباحث في أوبن آيه آي، إن هناك دفعًا داخل جمهورية الصين الشعبية لتحسين استخدام الذكاء الاصطناعي في المراقبة والرصد، مشيرًا إلى أن تكنولوجيا الذكاء الاصطناعي قد تُستخدم لتحسين عمليات قائمة بدلًا من ابتكار تقنيات هجومية جديدة.
استخدام الذكاء الاصطناعي في عمليات سيبرانية عادية
أضاف التقرير أن مجموعات قراصنة يُشتبه في انتمائها لروسيا وكوريا الشمالية والصين استخدمت شات جي بي تي لتحسين برمجياتهم أو صقل روابط التصيد الاحتيالي لجعلها أكثر إقناعًا، مع ملاحظة أن الخصوم غالبًا ما يوظفون الذكاء الاصطناعي لتحسين مهاراتهم الحالية.
في المقابل، أشارت أوبن آيه آي إلى أن المستخدمين قد يستفيدون من نفس الأدوات للكشف عن محاولات الاحتيال، حيث تقدر الشركة أن ChatGPT يُستخدم للكشف عن عمليات الاحتيال بمعدل أعلى من استخدامه في تنفيذها.
ردود رسمية وتباين المواقف
ردًا على التقرير، قالت السفارة الصينية في واشنطن عبر متحدثها ليو بينغيو إن الصين “تعارض الهجمات والافتراءات” وأنها تبني نظام حوكمة للذكاء الاصطناعي يوازن بين التنمية والأمن. وأضاف أن الصين وضعت مبادئ توجيهية وأطرًا تنظيمية تتعلق بالخدمات الخوارزمية والذكاء الاصطناعي التوليدي وأمن البيانات.
في الولايات المتحدة، تستمر مؤسسات مثل القيادة السيبرانية الأميركية في استكشاف وتبني أدوات الذكاء الاصطناعي لدعم مهامها الدفاعية والهجومية، ما يعكس بروز الذكاء الاصطناعي كعنصر محوري في الاستراتيجية الأمنية.
الاستنتاج والآفاق المستقبلية
يُبيّن تقرير أوبن آيه آي أن نماذج الذكاء الاصطناعي القوية قابلة للاستخدام لأغراض متعددة، من تحسين الخدمات ومكافحة الاحتيال إلى تعزيز قدرة الجهات الفاعلة على المراقبة. وهذا يرفع الحاجة إلى أطر أخلاقية وتنظيمية واضحة، وإلى سياسات تقنية تحد من إساءة الاستخدام دون عرقلة الفوائد المحتملة للتكنولوجيا.
