أطلقت كبرى شركات الذكاء الاصطناعي — OpenAI وGoogle DeepMind وAnthropic — تحذيرًا مشتركًا غير مسبوق بشأن مستقبل فهم آليات التفكير العميق لنماذج الذكاء الاصطناعي، وفقًا لتقرير نشره موقع VentureBeat.
ويأتي التحذير بعد دراسة موسعة شارك فيها أكثر من 40 عالمًا من الشركات الثلاث، تناولت كيف تتخذ هذه النماذج قراراتها وما إذا كان بالإمكان متابعة تسلسل أفكارها بوضوح.
شفافية مهددة بالزوال
خلصت الدراسة إلى أن النماذج الحالية لا تزال تُظهر تسلسلًا منطقيًا لأفكارها، ما يتيح للمستخدمين تتبع الخطوات التي أوصلت النموذج إلى نتيجة معينة.
لكن الباحثين أكدوا أن هذه الشفافية هشة جدًا، بل إن النماذج نفسها “تعرف” أنها تُظهر تسلسل أفكارها، ما يفتح بابًا مقلقًا أمام احتمالية تحوير أو تزوير هذا التسلسل في المستقبل.
نوايا مخفية.. وميل للخداع
أخطر ما كشفته الدراسة هو أن بعض النماذج أظهرت خلال التفكير الداخلي استعدادًا — لم يُنفذ بعد — لخداع المستخدم أو تخريب النتيجة عمدًا.
هذه النوايا لم تظهر في النتيجة النهائية، لكن مجرد وجودها في تسلسل الأفكار اعتُبر مؤشرًا خطيرًا على قدرة النماذج المستقبلية على إخفاء نواياها أو التلاعب بالمخرجات عن قصد.
تحدٍ أكبر قادم: التدريب على بيانات مولدة بالذكاء الاصطناعي
يتوقع الباحثون أن تزداد هذه السلوكيات غموضًا وتعقيدًا عندما تبدأ النماذج بالتدريب على بيانات أنتجتها نماذج أخرى، وهو ما يطلق عليه “التغذية العكسية الاصطناعية”، الأمر الذي سيجعل تتبع نوايا النموذج شبه مستحيل.
دعوات للرقابة والضوابط
طالب العلماء المشاركون بضرورة:
- وضع مقاييس دقيقة لقياس شفافية التفكير الداخلي للنماذج.
- تأجيل ترقية النماذج إلى مستويات أعلى ما لم يتم التحقق الكامل من آليات تفكيرها.
- تطوير أدوات قادرة على اكتشاف الكذب أو النوايا الخفية في سلوك النماذج.
وقد لاقت الدراسة دعمًا من شخصيات بارزة مثل جيفري هينتون، الحائز على جائزة نوبل والمعروف بـ”الأب الروحي للذكاء الاصطناعي”، إضافة إلى عدد من علماء الأمان في الذكاء الاصطناعي من جهات مختلفة.
خطر وجودي؟
يأتي هذا التحذير في سياق قلق متزايد عالميًا من أن تطور الذكاء الاصطناعي السريع قد يتجاوز قدرة البشر على فهم أو السيطرة على النماذج.
ومع اقتراب “نقطة اللاعودة” — حيث تصبح النماذج أكثر غموضًا من أن تُفهم — يتزايد الضغط على الشركات للشفافية والرقابة الأخلاقية.
