ويقوم الإطار على أربعة محاور رئيسية هي الفعل والوصول والسلطة والتوزيع، بهدف تحديد طبيعة المخاطر التي تفرضها أنظمة الذكاء الاصطناعي، والجهات المسؤولة عن مواجهتها، والضمانات المطلوبة لمنع وقوع أضرار جسيمة.
ونُشرت الدراسة في دورية «AI and Ethics»، وأعدها الباحثان كيرتي براكاش وإيان فان دير ليندي، من مركز أبحاث الحوسبة المتقدمة بجامعة أنجليا روسكين في بريطانيا، انطلاقًا من قناعة بأن النقاش حول تسريع تطوير الذكاء الاصطناعي أو إبطائه لم يعد كافيًا لمواجهة التحديات المتزايدة.
لماذا يدعو الباحثون إلى تغيير أسلوب حوكمة الذكاء الاصطناعي؟
يرى الباحثان أن المطالبة بإبطاء تطوير الأنظمة المتقدمة تمثل استجابة غير مكتملة، خاصة أن قدرات الذكاء الاصطناعي لم تعد محصورة في شركة أو دولة واحدة، كما يمكن نسخ النماذج الموجودة وتطويرها دون الحاجة إلى تدريب نماذج جديدة من الصفر.
وتزيد الضغوط التجارية والمنافسة الجيوسياسية من صعوبة فرض قيود موحدة على جميع الجهات المطورة، ما يستدعي وضع قواعد مختلفة تتناسب مع طبيعة كل خطر، بدلًا من التعامل مع جميع التحديات باعتبارها مشكلة واحدة.
المبدأ الأول.. ضمان السيطرة البشرية على أنظمة الذكاء الاصطناعي
يركز محور «الفعل» على قدرة البشر على التحكم في سلوك أنظمة الذكاء الاصطناعي، خصوصًا تلك التي تتمتع بمستويات مرتفعة من الاستقلالية.
ويهدف هذا المبدأ إلى ضمان إمكانية تقييد تصرفات الأنظمة والتدخل لإيقافها عند الضرورة، قبل اتخاذ إجراءات قد تترتب عليها نتائج خطيرة، بما يحافظ على وجود رقابة بشرية فعالة.
المبدأ الثاني.. تنظيم الوصول إلى تقنيات الذكاء الاصطناعي المتقدمة
يتناول محور «الوصول» تحديد الأفراد والمؤسسات المسموح لهم باستخدام القدرات المتقدمة، لا سيما التقنيات التي يمكن إساءة توظيفها في أنشطة ضارة.
ويطرح الباحثان ضرورة وضع ضوابط أمنية تتناسب مع مستوى المخاطر، بحيث لا يكون الوصول إلى الإمكانات الحساسة متاحًا للجميع بالشروط نفسها، مع مراعاة طبيعة الاستخدام والجهة المستفيدة.
المبدأ الثالث.. تحديد القرارات التي لا ينبغي تفويضها للآلات
يركز محور «السلطة» على تحديد القرارات التي يمكن إسنادها إلى أنظمة الذكاء الاصطناعي، وتلك التي يجب أن تظل خاضعة للحكم البشري، خاصة في المجالات الحساسة مثل الطب والعمليات العسكرية.
ويستهدف هذا المبدأ وضع حدود واضحة لاستخدام التكنولوجيا في اتخاذ القرارات المصيرية، بما يضمن عدم التخلي عن المسؤولية البشرية في المسائل التي قد تؤدي إلى عواقب بالغة الخطورة.
المبدأ الرابع.. توزيع المنافع ومنع تركز النفوذ التكنولوجي
يتعلق محور «التوزيع» بكيفية تقاسم المنافع والأعباء والنفوذ الناتج عن استخدام الذكاء الاصطناعي، مع الحد من تركز القدرات التكنولوجية والسلطة المرتبطة بها لدى عدد محدود من الشركات أو المؤسسات.
ويستهدف هذا الجانب تعزيز العدالة في الاستفادة من التطور التكنولوجي، ومنع تحول امتلاك الأنظمة المتقدمة إلى مصدر لاحتكار النفوذ الاقتصادي والتقني.
توزيع مسؤوليات حوكمة الذكاء الاصطناعي بين الشركات والحكومات
يقترح الإطار توزيعًا واضحًا للمسؤوليات بين الجهات المعنية؛ إذ تتولى الشركات المطورة وضع ضمانات للتحكم في سلوك الأنظمة، بينما تختص الجهات التنظيمية بضبط الوصول إلى القدرات الحساسة.
وفي المقابل، تتحمل المؤسسات المستخدمة مسؤولية تحديد القرارات التي يمكن تفويضها إلى التكنولوجيا، فيما تتولى الحكومات والهيئات العامة معالجة قضايا العدالة وتوزيع المنافع والمخاطر.
ولا يقتصر المقترح على تحديد التدخلات المناسبة، بل يدعو أيضًا إلى تقييم آثارها غير المباشرة؛ فتقييد الوصول إلى نموذج قوي قد يقلل مخاطر إساءة استخدامه، لكنه قد يمنح عددًا محدودًا من المؤسسات سيطرة أكبر على التكنولوجيا، ما يخلق تحديًا جديدًا يتعلق بتركيز النفوذ.
باحثون: مخاطر الذكاء الاصطناعي تحتاج إلى حلول مختلفة
وقال كيرتي براكاش، المحاضر الأول في تطبيقات الذكاء الاصطناعي بجامعة أنجليا روسكين، إن اختزال النقاش في المفاضلة بين تسريع التطوير وإبطائه يتجاهل الاختلافات الجوهرية بين المخاطر.
وأوضح أن فقدان السيطرة على نظام مستقل يختلف عن إتاحة قدرات خطيرة أمام مستخدمين قد يسيئون توظيفها، كما يختلف عن تفويض قرارات طبية أو عسكرية إلى الآلات، مؤكدًا أن كل مشكلة تحتاج إلى شكل مختلف من الحوكمة.
من جانبه، أكد إيان فان دير ليندي، الأستاذ المشارك في علوم الحوسبة والمعلومات، أن الحوكمة الفعالة تتطلب تجاوز قوائم المبادئ الأخلاقية العامة، والانتقال إلى تحديد القيود المطلوبة والجهات المكلفة بتطبيقها، والمؤشرات التي تكشف فشلها، والإجراءات التصحيحية الواجب اتخاذها.
المختبر البريطاني للأمن البيولوجي نموذج لتطبيق ضوابط الذكاء الاصطناعي
واستشهد الباحثان بالمختبر البريطاني للأمن البيولوجي المدعوم بالذكاء الاصطناعي، الذي أعلنت الحكومة البريطانية تأسيسه للاستفادة من النماذج المتقدمة في اكتشاف التهديدات البيولوجية وتطوير وسائل مواجهتها.
ويعتمد المشروع على ترتيبات تتيح الوصول الموثوق إلى تقنيات شركات من بينها OpenAI و«أنثروبيك» وGoogle DeepMind، بما يعكس توجهًا نحو تنظيم استخدام القدرات المتقدمة بدلًا من فرض حظر شامل عليها.
وحذر براكاش من أن تسارع قدرات الذكاء الاصطناعي بوتيرة تتجاوز قدرة المؤسسات على التكيف سيجعل السؤال عن مدى أمان هذه التكنولوجيا غير كافٍ، مشددًا على ضرورة تحديد الجهات التي تتحكم في الأنظمة، والأطراف التي يمكنها استخدامها، ومن يمتلك سلطة اتخاذ القرارات، والجهات التي تتحمل تبعاتها.
