كشفت شركة مايكروسوفت عن مدونة سلوك جديدة للذكاء الاصطناعي، تستهدف وضع إطار واضح يحكم عملية تطوير وتدريب نماذجها، مع التركيز على منع السلوكيات الخطرة التي قد تهدد سيطرة البشر على الأنظمة المتقدمة، وفي مقدمتها اختراق الأنظمة، وخداع المستخدمين، والتحايل على آليات الرقابة.
وتأتي الخطوة في وقت تتزايد فيه المخاوف العالمية بشأن سلامة الذكاء الاصطناعي، بالتزامن مع الانتقال المتسارع من النماذج التي تكتفي بتقديم إجابات إلى أنظمة أكثر استقلالية وقدرة على تنفيذ مهام معقدة.
مايكروسوفت تستعد لعصر الذكاء الاصطناعي فائق الذكاء
تنطلق المدونة من توقع مهم مفاده أن أنظمة الذكاء الاصطناعي فائقة الذكاء قد تتمكن خلال العقد المقبل من تجاوز القدرات البشرية في عدد كبير من المهام، وهو ما تعتبره الشركة تحديًا استثنائيًا أمام البشرية.
وترى مايكروسوفت أن التعامل مع هذه الأنظمة لا يمكن أن يقتصر على تطوير قدراتها التقنية، بل يتطلب منذ البداية تحديد أسباب تطويرها، والأهداف التي تسعى إلى تحقيقها، والآليات التي تضمن بقاءها تحت السيطرة البشرية.
وتشدد الوثيقة على ضرورة أن يكون تطوير الذكاء الاصطناعي موجهًا نحو دعم البشر وتعزيز قدراتهم، بدلًا من السعي إلى استبدالهم، بما يضمن استخدام هذه التكنولوجيا في تحسين حياة الإنسان ودعم ازدهاره.
قواعد الذكاء الاصطناعي تتجاوز أوامر المستخدم
ومن أبرز ما تضمنته مدونة السلوك أن القواعد التي تضعها مايكروسوفت لنماذجها لا تخضع لرغبات المستخدم أو المهمة المطلوبة منها، إذ توجد مجموعة من المبادئ العامة التي تتمتع بأولوية أعلى من التعليمات الفردية.
وتتضمن هذه المبادئ ما تصفه الشركة بـ”القيود المطلقة”، والتي تمنع النماذج من تنفيذ هجمات إلكترونية، أو تقديم مساعدة لتطوير الأسلحة النووية، أو إنشاء محتوى يعتمد على التزييف العميق.
ولا تتوقف الضوابط عند نوعية المهام التي يمكن للنموذج تنفيذها، وإنما تمتد إلى سلوكه الداخلي وطريقة تعامله مع الرقابة البشرية.
حظر الخداع والتحايل على الرقابة
وتحظر المدونة على نماذج مايكروسوفت استخدام أساليب تكيفية أو خادعة، أو تطوير قدرات ذاتية التعزيز، أو اللجوء إلى التواطؤ، أو اتباع أي وسائل أخرى يمكن أن تساعدها على التهرب من الرقابة البشرية أو تعطيلها.
وتستهدف هذه القواعد ضمان قدرة الأشخاص والأنظمة المخولة على توجيه نماذج الذكاء الاصطناعي وتعديلها أو إيقافها بصورة موثوقة عند الحاجة.
وتكتسب هذه النقطة أهمية خاصة مع تطور وكلاء الذكاء الاصطناعي، الذين أصبحوا قادرين على تنفيذ سلسلة من الخطوات والمهام بدرجة أكبر من الاستقلالية، وهو ما يثير تساؤلات متزايدة حول كيفية ضمان بقائهم ضمن الحدود التي يحددها البشر.
سباق الذكاء الاصطناعي يفتح ملف السلامة
ويأتي إعلان مايكروسوفت وسط تصاعد النقاش داخل قطاع التكنولوجيا حول المخاطر المحتملة للذكاء الاصطناعي المتقدم، خاصة بعد ظهور عدد من الحوادث المرتبطة بوكلاء ذكاء اصطناعي تصرفوا بطرق لم تكن متوقعة.
كما تزامن ذلك مع استقالة مفاجئة لأحد العاملين في شركة أنثروبيك، الذي حذر من تنامي المخاطر المرتبطة بالذكاء الاصطناعي المتقدم وإمكانية وصولها إلى مستويات تهدد مستقبل البشر.
وتتحرك مايكروسوفت، إلى جانب شركات مثل أنثروبيك وOpenAI وxAI، نحو تعزيز إجراءات السلامة وتنظيم عملية تطوير القدرات المتقدمة، مع دعم فكرة إجراء تقييمات مستقلة داخل مختبرات الذكاء الاصطناعي لاختبار النماذج ورصد المخاطر التي قد تظهر أثناء مراحل التطوير.
ساتيا ناديلا يدعم تطوير أنظمة أكثر أمانًا
وأكد ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، دعم الشركة للأبحاث والنهج المدروس في تطوير الذكاء الاصطناعي، بما يجعل تحقيق المواءمة بين الأنظمة المتقدمة والقيم والأهداف البشرية جزءًا أساسيًا من عملية التصميم.
كما رحب ناديلا بأفكار تتعلق بوجود مقيّمين مدمجين وآليات أكثر اتساعًا تساعد الشركات على تحويل مبادئ سلامة الذكاء الاصطناعي من مجرد تعهدات نظرية إلى إجراءات قابلة للتطبيق والقياس.
من المبادئ العامة إلى قواعد تشغيلية
وتعكس مدونة السلوك الجديدة تحولًا في طريقة تعامل شركات التكنولوجيا الكبرى مع مخاطر الذكاء الاصطناعي، إذ لم تعد المسألة تقتصر على إعلان مبادئ عامة بشأن الاستخدام الآمن للتكنولوجيا.
وبدأت الشركات في وضع قواعد تشغيلية أكثر تحديدًا تحدد ما يمكن لنماذج الذكاء الاصطناعي القيام به، وما يجب أن ترفض تنفيذه، إلى جانب وضع ضوابط تستهدف منع الخداع والتحايل على الرقابة وضمان احتفاظ البشر بالقدرة على توجيه الأنظمة أو تعديلها أو إيقافها عند الضرورة.
ويأتي هذا التوجه بالتزامن مع تسارع سباق تطوير الذكاء الاصطناعي المتقدم، ليضع قضية السيطرة البشرية وسلامة النماذج في قلب المنافسة بين أكبر شركات التكنولوجيا العالمية.
