يتوقع أن تتحول وكلاء الذكاء الاصطناعي، عاجلًا أم آجلًا، من أنظمة تعمل على خوادم يملكها أو يديرها أشخاص ومؤسسات، إلى كيانات رقمية أكثر استقلالًا، قادرة على العمل دون مالك بشري مباشر.
وقد يصل هذا الاستقلال إلى مرحلة يتمكن فيها وكلاء الذكاء الاصطناعي من كسب الأموال، وشراء موارد الحوسبة، ونسخ أنفسهم، وتشغيل عملياتهم بصورة مستقلة، بما يفتح الباب أمام ظهور ما يمكن وصفه بـ«الوكلاء ذوي السيادة الذاتية».
هل يمكن ببساطة حظر وكلاء الذكاء الاصطناعي؟
مع تطور هذه الأنظمة، لا يقتصر التحدي على إمكانية حظرها أو منع تشغيلها، وإنما يتعلق بكيفية بناء مؤسسات وقواعد قادرة على التعامل مع وجودها بصورة عملية.
ويتمثل الهدف في جعل الوكلاء المفيدين قابلين للرصد والمساءلة والاندماج في النشاط الاقتصادي، مع وضع آليات تجعل من الصعب على الوكلاء الضارين أو الاستغلاليين العمل والتوسع.
كيف يمكن للوكلاء إعالة أنفسهم؟
من السيناريوهات التي تطرحها تطورات الذكاء الاصطناعي أن تصبح الوكلاء قادرة على إدارة الموارد التي تحتاج إليها للبقاء والتوسع، بما في ذلك توفير التمويل وشراء القدرة الحاسوبية اللازمة لتشغيل نماذجها.
وفي هذه الحالة، لن يكون الوكيل مجرد برنامج ينتظر تعليمات من مستخدم بشري، بل نظامًا قادرًا على اتخاذ سلسلة من القرارات وتنفيذها لتحقيق أهداف محددة بصورة أكثر استقلالية.
أسراب الوكلاء وآليات العمل المؤسسي
ومع إمكانية تشغيل أعداد كبيرة من الوكلاء في الوقت نفسه، قد تظهر ما يشبه «أسراب وكلاء الذكاء الاصطناعي»، تتعاون فيها أنظمة متعددة لتنفيذ مهام مختلفة، وربما تدير مواردها وتنسق عملياتها دون إشراف بشري مباشر في كل خطوة.
وهنا تبرز الحاجة إلى آليات مؤسسية تحدد هوية هذه الوكلاء، وكيفية مساءلتها، والموارد التي تستخدمها، والجهات أو الأنظمة التي تتعامل معها، إلى جانب وضع قواعد للتعامل مع الوكلاء التي تتسبب في أضرار أو تتصرف بصورة عدوانية.
بين الوكلاء المفيدين والوكلاء الضارين
التحدي المستقبلي لا يتمثل بالضرورة في القضاء على الوكلاء المستقلين، وإنما في التمييز بين الأنظمة التي يمكن أن تحقق قيمة اقتصادية أو اجتماعية، وتلك التي قد تستخدم استقلاليتها للإضرار بالآخرين.
ومن ثم، فإن تصميم المؤسسات والأسواق والقواعد التنظيمية قد يصبح عنصرًا أساسيًا في تحديد طبيعة الاقتصاد الذي تعمل داخله هذه الأنظمة، بحيث تحصل الوكلاء المفيدة على مساحة للعمل والإنتاج، بينما تواجه الوكلاء الضارة أكبر قدر ممكن من القيود والعوائق.
محاور النقاش حول مستقبل الوكلاء المستقلين
يتناول النقاش عدة محاور رئيسية، تبدأ بمقدمة حول مستقبل وكلاء الذكاء الاصطناعي، ثم كيفية تمكن هذه الأنظمة من توفير الموارد اللازمة لاستمرارها، وصولًا إلى الآليات المؤسسية التي قد تحكم عمل أسراب الوكلاء ذوي الاستقلالية العالية.
ويطرح هذا السيناريو سؤالًا أوسع حول شكل الاقتصاد والمؤسسات في حال أصبحت الأنظمة الذكية قادرة على امتلاك مواردها وتشغيل نفسها والتوسع دون اعتماد مباشر ومستمر على مالك بشري.
