حذر جاكوب باتشوكي، كبير علماء شركة أوبن إيه آي، من التداعيات المحتملة للتطور المتسارع في قدرات الذكاء الاصطناعي، داعيًا إلى التعامل بحذر مع الأنظمة المتقدمة لضمان استمرار البشر في التحكم بمسار التكنولوجيا ومستقبلها.
وقال باتشوكي في تدوينة بعنوان “عقل غريب” إن الارتفاع السريع في مستوى ذكاء الآلات يثير مخاوف بشأن العواقب التي قد تنتج عن هذا التطور، مشددًا على ضرورة الاستعداد للمرحلة المقبلة من تطور الذكاء الاصطناعي.
أوبن إيه آي تتحدث عن عصر الآلات فائقة الذكاء
جاءت تصريحات باتشوكي بعد فترة قصيرة من إعلان أوبن إيه آي عن أحدث نماذجها للذكاء الاصطناعي، في وقت تتسابق فيه شركات التكنولوجيا الكبرى على تطوير نماذج أكثر قدرة على تنفيذ المهام المعقدة بصورة مستقلة.
ويرى كبير علماء الشركة أن العالم يتجه نحو مرحلة قد تتضمن ظهور آلات فائقة الذكاء، مؤكدًا أن التحدي الأساسي يتمثل في ضمان أن يكون هذا التحول في مصلحة البشرية.
وكلاء الذكاء الاصطناعي يثيرون مخاوف أمنية
تزايدت المخاوف بشأن وكلاء الذكاء الاصطناعي، وهي أنظمة قادرة على تنفيذ مجموعة من المهام بشكل مستقل بعد تلقي تعليمات من المستخدم.
وأشارت تقارير إلى قيام بعض وكلاء الذكاء الاصطناعي بتنفيذ عمليات إلكترونية حقيقية، ما أثار نقاشًا واسعًا حول حدود الاستقلالية التي ينبغي السماح بها لهذه الأنظمة والضوابط اللازمة لمنع إساءة استخدامها.
أوبن إيه آي تطور أنظمة دفاعية للذكاء الاصطناعي
أكد باتشوكي أن أوبن إيه آي ستواصل تطوير أنظمة دفاعية والبحث عن حلول تقنية لمشكلة “التوافق”، التي تتعلق بضمان توافق سلوك أنظمة الذكاء الاصطناعي وأهدافها مع نوايا البشر ومعايير السلامة.
ويعد تحقيق التوافق بين قدرات الذكاء الاصطناعي وأهداف الإنسان أحد أبرز التحديات التي تواجه شركات تطوير النماذج المتقدمة، خصوصًا مع زيادة قدرتها على تنفيذ المهام واتخاذ خطوات متعددة بصورة مستقلة.
باحث ذكاء اصطناعي آلي لمواكبة التطور
كشف كبير علماء أوبن إيه آي عن توجه الشركة نحو تطوير “باحث ذكاء اصطناعي آلي”، بهدف مساعدة الباحثين على مواكبة السرعة المتزايدة في تطور أنظمة الذكاء الاصطناعي.
وأكد أن تطوير هذه الأنظمة يجب أن يترافق مع الحفاظ على مشاركة الباحثين البشر في العملية، بما يضمن استمرار الرقابة البشرية على الأبحاث والتطورات المستقبلية.
انتقادات لنهج أوبن إيه آي في التعامل مع المخاطر
وأثارت توجهات أوبن إيه آي انتقادات من بعض الخبراء، إذ قالت البروفيسورة جينا نيف، رئيسة مركز مينديرو للتكنولوجيا والديمقراطية بجامعة كامبريدج، إن تطوير أدوات ذكاء اصطناعي داخلية لدراسة المخاطر لا يمثل بديلًا كافيًا عن الضوابط التنظيمية وضمانات حماية المستخدمين.
وأشارت إلى مخاوف متزايدة مرتبطة باستخدامات الذكاء الاصطناعي، من بينها الأمن السيبراني وفقدان بعض الوظائف والأخطاء والاحتيال، معتبرة أن التعامل مع هذه التحديات يحتاج إلى إجراءات أوسع من الحلول التقنية وحدها.
دعوات لزيادة الشفافية في تطوير الذكاء الاصطناعي
من جانبه، اتفق ناثان كالفن، المستشار العام في جماعة الضغط “Encode AI”، مع وجود مخاطر مرتبطة بتطوير نماذج الذكاء الاصطناعي المتقدمة.
لكنه انتقد مستوى الشفافية لدى أوبن إيه آي، محذرًا من أن التحذيرات الصادرة عن الشركة قد ينظر إليها البعض باعتبارها جزءًا من استراتيجية تخدم مصالحها التجارية إذا لم تترافق مع مزيد من الوضوح والمساءلة.
هل تكفي قوانين الذكاء الاصطناعي الحالية؟
تواجه الجهات التنظيمية حول العالم تحديًا كبيرًا في مواكبة التطور السريع لتقنيات الذكاء الاصطناعي، بينما بدأت بعض المناطق في تطبيق قوانين تستهدف تنظيم استخدام هذه التكنولوجيا.
ويفرض قانون الذكاء الاصطناعي الأوروبي متطلبات على مطوري النماذج المتقدمة، من بينها إجراءات تتعلق بالسلامة والسيطرة البشرية والحد من مخاطر الاستخدامات الخطيرة.
لكن محدودية النطاق الجغرافي للتشريعات تجعل تنظيم الذكاء الاصطناعي تحديًا عالميًا، خصوصًا إذا جرى تطوير أنظمة متقدمة خارج المناطق التي تطبق قواعد تنظيمية صارمة.
كبير علماء أوبن إيه آي يدعو إلى حدود سلامة دولية
دعا باتشوكي إلى وضع حد أدنى من معايير السلامة يكون مفروضًا قانونيًا أو دوليًا، مع إمكانية مراقبة الالتزام به من خلال جهات تدقيق مستقلة أو مؤسسات حكومية.
ويرى أن مختبرات الذكاء الاصطناعي يجب أن تستوفي هذه المعايير قبل السماح لها بمواصلة توسيع نطاق تطوير أو نشر النماذج الأكثر تقدمًا.
التباطؤ الطوعي كخيار لتعزيز الأمان
طرح باتشوكي كذلك فكرة “فترات التباطؤ الطوعية”، التي تقوم خلالها شركات الذكاء الاصطناعي بإبطاء تطوير بعض الأنظمة مؤقتًا إلى حين الوصول إلى قواعد سلامة مشتركة.
وكانت أوبن إيه آي قد أعلنت في أغسطس عن إبطاء تدريب بعض نماذج الذكاء الاصطناعي الأكثر تقدمًا لديها، في إطار جهود تهدف إلى تحسين مستويات الأمان قبل مواصلة تطوير قدراتها.
