تصاعد الجدل عالميًا حول المخاطر المحتملة للذكاء الاصطناعي، بعدما حذر باحثون من أن تطور قدرات الأنظمة الذكية قد يفتح الباب أمام تهديدات تتجاوز مجرد إساءة استخدامها، لتصل إلى مخاطر واسعة النطاق تمس الأمن والبنية التحتية وربما مستقبل البشرية.
ويرى بعض الخبراء أن الخطر لا يرتبط بالضرورة بتمرد الآلات على البشر كما تصور أفلام الخيال العلمي، وإنما بإمكانية استخدام أنظمة الذكاء الاصطناعي المتقدمة في تعزيز مخاطر قائمة بالفعل، أو تنفيذ أهداف بطريقة تتعارض مع المصالح البشرية.
الذكاء الاصطناعي ونهاية العالم.. ما السيناريوهات المحتملة؟
تتعدد السيناريوهات التي يناقشها الباحثون بشأن المخاطر القصوى للذكاء الاصطناعي، وتشمل استخدام قدراته في مجالات خطرة، أو منحه صلاحيات واسعة على أنظمة حيوية، أو فقدان القدرة على السيطرة على أنظمة تتمتع بدرجة عالية من الاستقلالية.
ولا يعني ذلك أن الذكاء الاصطناعي سيسعى بالضرورة إلى القضاء على البشر، لكن امتلاك قدرات متقدمة قد يجعل بعض الأنشطة الخطرة أسرع وأقل تكلفة وأكثر صعوبة في الاحتواء.
الأسلحة البيولوجية.. أحد أخطر المخاطر المحتملة
من بين السيناريوهات التي يناقشها الباحثون إمكانية استخدام الذكاء الاصطناعي المتقدم في تعزيز المخاطر البيولوجية.
وقد تتيح القدرات الحاسوبية المتقدمة تسهيل بعض مراحل تصميم عوامل بيولوجية ضارة أو تحسين وسائل إيصالها، وهو ما قد يزيد من سرعة انتشار تهديدات صحية قبل تمكن أنظمة الرعاية الصحية من التعامل معها بكفاءة.
ويظل هذا السيناريو محل نقاش بين الباحثين، خصوصًا بشأن مدى قدرة الذكاء الاصطناعي فعليًا على تحويل هذه المخاطر إلى تهديد واسع النطاق.
الهجمات الإلكترونية تهدد البنية التحتية
يمثل الأمن السيبراني مسارًا آخر للمخاطر المحتملة، إذ يمكن لأنظمة الذكاء الاصطناعي القادرة على تنفيذ مهام متعددة أن تساعد في أتمتة بعض الهجمات الإلكترونية.
وتزداد خطورة هذه الهجمات عندما تستهدف قطاعات حيوية مثل شبكات الكهرباء والأنظمة المالية ومنشآت المياه والاتصالات، خاصة أن هذه القطاعات تعتمد على بنية رقمية مترابطة.
وفي حال تعرض عدد من هذه الأنظمة لهجمات متزامنة أو متسلسلة، فقد تمتد آثارها إلى قطاعات أخرى وتعطل خدمات أساسية على نطاق واسع.
ماذا يحدث إذا سيطر الذكاء الاصطناعي على البنية التحتية؟
من السيناريوهات الأخرى التي يدرسها الباحثون زيادة اعتماد الأنظمة الحيوية على الذكاء الاصطناعي، بما يشمل الطاقة والخدمات اللوجستية والدفاع وغيرها من القطاعات الأساسية.
وتتمثل المشكلة المحتملة في منح الأنظمة الذكية صلاحيات واسعة دون وجود وسائل بشرية فعالة للتدخل عند حدوث خلل.
وكلما ارتفعت درجة اعتماد البنية التحتية على أنظمة الذكاء الاصطناعي، تصبح مسألة تحديد حدود الصلاحيات وآليات الرقابة والتدخل البشري أكثر أهمية.
سيناريو «سيطرة الذكاء الاصطناعي»
يتعلق أحد أكثر السيناريوهات إثارة للجدل باحتمال وصول نظام ذكاء اصطناعي إلى قدرات عالية تمكنه من تنفيذ أهدافه بصورة مستقلة، دون أن يكون هدفه المباشر تدمير البشرية.
وتكمن المشكلة المحتملة في عدم توافق أهداف النظام مع مصالح البشر. فإذا تعامل النظام مع البشر باعتبارهم عائقًا أمام تحقيق الهدف المحدد له، فقد يؤدي ذلك إلى نتائج ضارة، حتى من دون وجود «نية» بشرية أو آلية للقضاء على البشر.
ما هي مشكلة مواءمة الذكاء الاصطناعي؟
تشير «مواءمة الذكاء الاصطناعي» إلى الجهود الرامية إلى ضمان عمل الأنظمة الذكية بما يتوافق مع نوايا وقيم البشر، خصوصًا عندما تصبح قادرة على تنفيذ مهام معقدة بصورة مستقلة.
وتزداد صعوبة تحقيق المواءمة عندما تكون الأهداف البشرية نفسها معقدة أو غامضة، أو عندما يفسر النظام التعليمات بطريقة تختلف عن المقصود من جانب مطوريه.
وقد يعمل نظام قوي على تحقيق هدف محدد بكفاءة، لكنه يتجاهل في الوقت نفسه عواقب أخرى يعتبرها البشر مهمة، وهو ما يثير مخاوف بشأن كيفية تصميم الأهداف والضوابط المحيطة بالأنظمة المتقدمة.
التحسين الذاتي يثير مخاوف جديدة
يرتبط أحد المخاوف الأخرى بإمكانية تطور قدرات بعض أنظمة الذكاء الاصطناعي بسرعة أكبر من قدرة البشر على اختبارها وتقييم مخاطرها.
وفي حال أصبحت الأنظمة قادرة على تحسين قدراتها أو الاستفادة من موارد حوسبية إضافية بصورة متسارعة، فقد يصبح من الصعب الحفاظ على مستوى الرقابة نفسه مع مرور الوقت.
ولهذا يركز الباحثون على أهمية تقييم الأنظمة المتقدمة بصورة مستمرة، وعدم الاكتفاء باختبارات السلامة التي تجرى قبل إطلاقها.
كيف يمكن الحد من مخاطر الذكاء الاصطناعي؟
تشمل المقترحات المطروحة لمواجهة المخاطر المحتملة تعزيز اختبارات السلامة، وتوسيع أبحاث مواءمة الذكاء الاصطناعي، وتشديد الرقابة على الأنظمة الأكثر تقدمًا، إلى جانب تعزيز التعاون والتنسيق الدولي.
ويرى مؤيدو هذه الإجراءات أن الأنظمة القادرة على تنفيذ مهام متقدمة ينبغي تقييمها بدقة قبل منحها قدرًا أكبر من الاستقلالية أو السماح لها بالوصول إلى البنية التحتية الحيوية.
كما يبرز دور الحكومات وشركات التكنولوجيا في وضع معايير واضحة للسلامة، وتحديد متطلبات الاختبار، ووضع آليات للتدخل البشري عند اكتشاف سلوك غير متوقع.
هل يقضي الذكاء الاصطناعي فعلًا على البشرية؟
لا يتفق الباحثون على أن الذكاء الاصطناعي سيؤدي حتمًا إلى انقراض البشر، كما تختلف تقديراتهم بشأن احتمالات تحقق السيناريوهات القصوى.
لكن النقاش لا يقتصر على احتمال انقراض البشرية، إذ يمكن لمخاطر أقل شمولًا، مثل الهجمات الإلكترونية واسعة النطاق أو إساءة استخدام التقنيات البيولوجية أو تعطل البنية التحتية الحيوية، أن تتسبب في أضرار كبيرة.
ومع استمرار تطور قدرات الذكاء الاصطناعي، تتركز جهود الباحثين وصناع السياسات على تطوير أنظمة أكثر أمانًا، وتحسين اختبارات المخاطر، وتعزيز الرقابة والضمانات، بما يقلل احتمالات فقدان السيطرة على الأنظمة المتقدمة.
