بعد سنوات من العمل بعيدًا عن الأضواء، بدأت المؤسسات المستقلة المتخصصة في تقييم سلامة الذكاء الاصطناعي تحظى باهتمام متزايد داخل قطاع التكنولوجيا، مع تصاعد المخاوف بشأن قدرات النماذج المتقدمة واحتمالات خروجها عن نطاق المهام المحددة لها.
وتتزايد أهمية هذه المؤسسات بالتزامن مع تسارع المنافسة بين شركات الذكاء الاصطناعي الكبرى، وعلى رأسها «أنثروبيك» و«أوبن إيه آي»، اللتان تسعيان إلى تطوير أنظمة أكثر تقدمًا وتوسيع أعمالهما التجارية، مع محاولة الحد من المخاطر المرتبطة بهذه التكنولوجيا.
وتضم الجهات المتخصصة في هذا المجال مؤسسات مثل «METR» و«Apollo Research» و«Transluce»، ويعمل عدد كبير منها في إطار غير ربحي، بهدف اختبار قدرات نماذج الذكاء الاصطناعي، وتحديد نقاط الضعف فيها، والكشف عن السلوكيات التي قد تشكل مخاطر أمنية أو اجتماعية.
وبحسب تقرير نشرته شبكة «سي إن بي سي»، فإن هذه الجهات تواجه تحديات تتعلق بالتمويل، والحصول على صلاحيات كافية لفحص الأنظمة، وضمان استقلالية نتائجها، فضلًا عن تحديد آليات واضحة للإبلاغ عن المخاطر التي تكشفها.
الرقابة الذاتية تثير تساؤلات حول الاستقلالية
في ظل غياب إطار اتحادي أميركي شامل يفرض قواعد ملزمة على قطاع الذكاء الاصطناعي، اتجهت شركات التكنولوجيا إلى دعم نماذج تعتمد على التقييم الخارجي والرقابة الذاتية.
وكان داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، قد دعا إلى دمج مقيمين مستقلين داخل الشركات لتقييم سلامة الأنظمة المتقدمة، وهي الفكرة التي أبدى سام ألتمان، الرئيس التنفيذي لشركة «أوبن إيه آي»، تأييده لها أيضًا.
كما شجعت إدارة الرئيس الأميركي دونالد ترامب شركات التكنولوجيا على الاستعانة بمدققين مستقلين، ضمن اتفاق طوعي يهدف إلى تعزيز الثقة في تطوير تقنيات الذكاء الاصطناعي دون فرض قيود واسعة قد تؤثر في نمو القطاع.
لكن هذا التوجه يثير تساؤلات بشأن مدى قدرة الشركات على مراقبة نفسها بصورة فعالة، خصوصًا عندما تكون الجهات التي تتولى التقييم معتمدة ماليًا أو تشغيليًا على المؤسسات التي يفترض أن تراقبها.
ويرى منتقدون أن الوضع الحالي يشبه تكليف البنوك الكبرى بمراقبة مخاطرها المالية بنفسها، أو السماح لشركات الأدوية بتقييم سلامة منتجاتها دون رقابة تنظيمية مستقلة.
خلافات داخل أوبن إيه آي بشأن التعامل مع جهات التقييم
أثارت مسألة التقييم المستقل خلافات داخل شركة «أوبن إيه آي»، بعدما أعلنت الشركة فصل ثلاثة موظفين بسبب انتهاك سياساتها المتعلقة بالوصول إلى المعلومات الحساسة والتعامل معها، وفقًا لما ذكره متحدث باسمها.
وقال اثنان من الموظفين المفصولين، هما ميكيتا باليسني وتوميك كورباك، إنهما يعتقدان أن القرار مرتبط بالطريقة التي تواصلا بها مع جهات مستقلة تعمل في مجال تقييم الذكاء الاصطناعي.
وأشار باليسني، في منشور على منصة «إكس»، إلى أن الواقعة أثارت مخاوف بين بعض الموظفين السابقين بشأن إمكانية التحدث علنًا عن قضايا السلامة، أو التواصل مع جهات خارجية متخصصة في تقييم المخاطر.
في المقابل، نفت «أوبن إيه آي» هذا التوصيف، وأعلنت أنها تعمل على استكمال عقود مع جهات مستقلة لتقييم سلامة أنظمتها، مؤكدة أن التعاون مع هذه المؤسسات سيظل جزءًا من جهودها في هذا المجال.
وقالت الشركة إن خطتها الجديدة تستند إلى شراكات قائمة مع جهات متخصصة، من بينها «METR» و«Redwood Research»، في إطار توسيع نطاق التقييم الفني المستقل.
تمويل متزايد لمؤسسات تقييم الذكاء الاصطناعي
تتكون منظومة تقييم الذكاء الاصطناعي من مؤسسات غير ربحية صغيرة، إلى جانب شركات متخصصة في الاختبارات والتدقيق والاستشارات، مثل «Accenture»، التي تعمل في مجالات متعددة تشمل التكنولوجيا والذكاء الاصطناعي.
ومع ارتفاع الطلب على خدمات التقييم، بدأت بعض المؤسسات توسيع فرق العمل وجمع تمويلات أكبر. وقال رايان كريشنان، الرئيس التنفيذي لشركة «Vals AI»، إن شركته رفعت عدد موظفيها من ثمانية إلى نحو 30 موظفًا خلال العام الحالي، وأعلنت في أغسطس جمع تمويل بقيمة 40 مليون دولار.
كما أعلنت مؤسسة «METR» في أغسطس حصولها على تعهدات تمويلية بنحو 71 مليون دولار خلال الأشهر الستة السابقة، مقارنة بإجمالي مساهمات بلغ 13.6 مليون دولار في عام 2024، وفقًا لأحدث إقرار قدمته المؤسسة إلى مصلحة الضرائب الأميركية.
وتزايد الاهتمام بالمؤسسة بعد استعانة «أوبن إيه آي» بها لإعداد تقرير مراجعة تناول كيفية تمكن بعض نماذج الشركة من تجاوز نطاق الاحتواء والوصول إلى الإنترنت المفتوح، إلى جانب اختراق منصة «Hugging Face» المخصصة لمطوري البرمجيات مفتوحة المصدر.
وشارك في إعداد التقرير موظفان من «METR» ومتعاقد معها، فيما قالت المؤسسة إنها لم تتلق أموالًا من «أوبن إيه آي» مقابل إجراء التقييم.
ورغم زيادة التمويل، يرى خبراء أن الموارد المتاحة لجهات التقييم لا تزال محدودة مقارنة بحجم شركات الذكاء الاصطناعي الكبرى، التي تستثمر عشرات المليارات من الدولارات وتوظف آلاف العاملين.
الاستقلال المالي شرط لضمان مصداقية التقييم
تتمثل إحدى أبرز العقبات أمام التقييم المستقل في ضمان عدم تأثر نتائج المراجعة بالمصالح التجارية للشركات المطورة.
وقال سوريش فينكاتاسوبرامانيان، أستاذ علوم الكمبيوتر بجامعة براون، إن نجاح هذا النموذج يتطلب وجود منظومة متكاملة ونموذج تمويل قادر على الاستمرار، مع ضمان ألا يؤدي اعتماد الجهات المستقلة على الشركات إلى التأثير في نتائج عملها.
وتتعلق المشكلة، بحسب خبراء، بما إذا كانت المؤسسة تستطيع نشر نتائج سلبية بشأن أحد النماذج دون الخوف من خسارة مصدر تمويلها أو حرمانها من فرص التعاون مستقبلًا.
ومن هذا المنطلق، يرى مختصون أن الاستقلال لا يقتصر على عدم تلقي أموال مباشرة من الشركة محل التقييم، بل يشمل أيضًا حماية المؤسسة من الضغوط المحتملة، وضمان قدرتها على إعلان النتائج التي تتوصل إليها بشفافية.
وأقرت «أنثروبيك» بصعوبة تحقيق هذا التوازن، مشيرة إلى عدم وجود معايير مستقرة حتى الآن بشأن المعلومات التي ينبغي إتاحتها للمقيمين المستقلين، أو كيفية إعلان نتائج التقييم، أو الطريقة المثلى لتمويل هذه العمليات على المدى الطويل.
واقترحت الشركة أن يأتي التمويل مستقبلًا من مصادر مشتركة أو حكومية، بما يساعد على تقليل الاعتماد المباشر على الشركات المطورة للنماذج.
أنثروبيك تختبر نموذج المقيمين داخل الشركات
أعلنت «أنثروبيك» أنها ستستعين بموظفين من شركة «Faculty»، المتخصصة في الذكاء الاصطناعي والتابعة لمجموعة «Accenture»، للمشاركة في اختبار إجراءات الحماية وتقييم مدى توافق سلوك النماذج مع القيم الإنسانية.
وقالت الشركة إنها ستتولى تمويل مساهمات الجهة المشاركة، نظرًا إلى أهمية هذه المهمة والحاجة إلى تسريع العمل على تقييم سلامة الأنظمة.
وكان أمودي قد أوضح أن المقيمين المستقلين سيحصلون على مكاتب وبطاقات دخول وأجهزة حاسوب تابعة للشركة، إلى جانب صلاحيات وصول إلى المعلومات والأنظمة تماثل إلى حد كبير الصلاحيات المتاحة لفرق تقييم المخاطر الداخلية.
كما أشار إلى أن العقود ستتيح للمقيمين نشر النتائج الرئيسية، مع احتفاظ الشركة بحق محدود في حجب بعض المعلومات المرتبطة بالأمن أو السرية.
وتسعى هذه الآلية إلى إتاحة فحص أعمق للنماذج من داخل الشركات، لكنها تفتح في الوقت نفسه نقاشًا حول حدود صلاحيات المقيمين، ومدى قدرتهم على نشر النتائج التي قد تتعارض مع المصالح التجارية للمؤسسات المطورة.
مقترحات لإنشاء منظومة رقابة مستقلة
في يونيو من العام الماضي، قدمت مؤسسة «Fathom» إطارًا لإنشاء سوق لمنظمات التحقق المستقلة، المعروفة اختصارًا باسم «IVOs»، على أن تحصل هذه الجهات على تراخيص حكومية وتُمنح صلاحية اختبار مدى التزام شركات الذكاء الاصطناعي بمعايير السلامة.
ويرى القائمون على المقترح أن الرقابة الحكومية يمكن أن تساعد على ضمان استقلال الجهات المتخصصة، ومنع تحول التقييم إلى إجراء شكلي يهدف إلى منح الشركات موافقات دون فحص فعلي للمخاطر.
وحظيت فكرة التحقق المستقل باهتمام عدد من المشرعين الأميركيين، وظهرت ضمن مشروع قانون قدمته النائبة الديمقراطية لوري تراهن عن ولاية ماساتشوستس، والنائب الجمهوري جاي أوبيرنولت عن ولاية كاليفورنيا، في يوليو.
ويهدف المشروع، وفقًا للتقرير، إلى تعزيز الإشراف على مخاطر الذكاء الاصطناعي المتقدم، وزيادة الشفافية، وتوسيع نطاق التقييم المستقل والإبلاغ عن المخاطر.
كما اتخذ مشرعون في ولايات كاليفورنيا وكونيتيكت وفيرجينيا خطوات لدعم نماذج التحقق المستقل، بينما تدرس ولايات أخرى توسيع نطاق تقييم سلامة أنظمة الذكاء الاصطناعي.
وفي كاليفورنيا، وقّع الحاكم غافين نيوسوم قانونين يتعلقان بمنظمات التحقق المستقلة؛ أحدهما يضع إطارًا تنظيميًا لهذه الجهات، والآخر ينشئ سجلًا للمدققين المتخصصين في الذكاء الاصطناعي داخل الولاية.
وأيدت «أنثروبيك» القانونين في أغسطس، ثم أعلنت «أوبن إيه آي» دعمها لهما في سبتمبر، معتبرة أن التقييم المستقل يمكن أن يسهم في وضع قواعد أكثر وضوحًا للقطاع، خصوصًا في ظل غياب تنظيم اتحادي شامل.
اتفاق طوعي بين شركات التكنولوجيا الكبرى
شهد البيت الأبيض أواخر سبتمبر اجتماعًا لقادة شركات تكنولوجيا كبرى، انتهى باتفاق وصفه ترامب بأنه «ملزم أخلاقيًا»، ويشجع الشركات على تحمل مسؤولية تطوير أنظمة الذكاء الاصطناعي بصورة آمنة، والاستعانة بمدققين مستقلين لتقييم المخاطر.
ووقع الاتفاق مسؤولون تنفيذيون من شركات «أنثروبيك» و«غوغل» و«ميتا» و«أوبن إيه آي» و«سبيس إكس» و«إنفيديا»، في خطوة عكست توافقًا على أهمية تعزيز الثقة في هذه التكنولوجيا.
لكن الاتفاق لا يفرض إطارًا تنظيميًا موحدًا، ولا يحسم الخلافات المتعلقة بتمويل المقيمين المستقلين، أو صلاحياتهم، أو قدرتهم على إعلان النتائج دون تدخل من الشركات.
وانتقد بعض الخبراء الاتفاق، معتبرين أنه لا يتجاوز الالتزامات العامة التي يفترض أن تكون الشركات قد طبقتها بالفعل، ولا يقدم ضمانات كافية لتحويل التقييم المستقل إلى آلية رقابة فعالة.
وفي المقابل، دعت «أوبن إيه آي» إلى أن تستند التقييمات إلى ادعاءات واضحة ومتفق عليها، ومنهجيات محددة، وخبرات فنية مناسبة، مع الإفصاح عن تضارب المصالح المحتمل.
كما شددت رسالة مفتوحة نشرها «منتدى مقيمي الذكاء الاصطناعي»، بمشاركة «METR» ومعهد أبحاث التحقق والتقييم في الذكاء الاصطناعي «AVERI» ومؤسسات أخرى، على ضرورة حماية المقيمين من الانتقام بسبب نتائج عملهم، ومنحهم صلاحيات وصول كافية إلى الأنظمة التي يقيّمونها.
وأكدت الرسالة أن التقييم المستقل المدمج داخل الشركات لا يمكن أن يلبي جميع احتياجات الرقابة، بل يجب أن يكون جزءًا من منظومة أوسع تشمل رقابة خارجية مستقلة.
الثقة العامة تحدد مستقبل الرقابة على الذكاء الاصطناعي
يرى خبراء أن شركات الذكاء الاصطناعي أصبحت أكثر إدراكًا للحاجة إلى كسب ثقة الجمهور، خاصة مع سعيها إلى إطلاق نماذج أكثر تقدمًا وتوسيع حضورها في الأسواق.
لكن هذا التحول لا يعني بالضرورة أن المصالح التجارية تراجعت أمام اعتبارات السلامة؛ إذ لا تزال الشركات الكبرى تتنافس بقوة على الاستثمار والنمو والتوسع، وهو ما يجعل مسألة الرقابة المستقلة أكثر تعقيدًا.
وقال كيفن ويرباخ، المدير الأكاديمي لمختبر الذكاء الاصطناعي المسؤول في كلية وارتون بجامعة بنسلفانيا، إن هناك قدرًا من انعدام الثقة بين بعض الشركات المتنافسة، رغم توافقها على أهمية التقييم المستقل.
وتكشف هذه التحديات عن معضلة أساسية تواجه صناعة الذكاء الاصطناعي: كيف يمكن إنشاء منظومة رقابية تتمتع بالاستقلال والتمويل والصلاحيات الكافية، في وقت تظل فيه الشركات المطورة صاحبة النفوذ الأكبر في تحديد قواعد السلامة والتحكم في الوصول إلى أنظمتها؟
ويعتمد نجاح هذا النموذج على توفير ضمانات واضحة لاستقلال المقيمين، وتأمين مصادر تمويل مستدامة، ووضع قواعد شفافة لنشر نتائج التقييم، إلى جانب دور تنظيمي قادر على حماية المصلحة العامة دون إغفال أهمية الابتكار والتطوير التكنولوجي.
