منصة للكشف عن الأخطاء وضمان سلامة أنظمة الذكاء الاصطناعي
أطلقت شركة Patronus AI الناشئة منصة مبتكرة تهدف إلى الكشف عن ما يُعرف بـ”هلوسات الذكاء الاصطناعي” وتجنبها قبل وصولها إلى المستخدمين. وتصف الشركة هذا النظام بأنه “مدقق إملائي متقدم” لأنظمة الذكاء الاصطناعي، إذ يساعد في اكتشاف الأخطاء وتحسين دقة النماذج المستخدمة في مختلف التطبيقات.
تحديات الأمان وسلوك غير متوقع في الذكاء الاصطناعي
أكد الرئيس التنفيذي للشركة، أناند كانابان، أن الشركات التي تعتمد على الذكاء الاصطناعي تواجه تحديات تتعلق بالسلامة والأداء، تشمل الهلوسات وثغرات أمنية وسلوك غير متوقع، مما يبرز أهمية تطوير أدوات للكشف عن هذه المشاكل ومعالجتها.
دراسة حديثة تكشف عيوب النماذج المتقدمة
أشار تقرير لموقع “Venturebeat” إلى أن دراسة أجرتها Patronus AI أظهرت أن نماذج متقدمة مثل GPT-4 تعيد إنتاج محتوى محمي بحقوق الطبع والنشر بنسبة تصل إلى 44% في بعض التفاعلات. كما أن النماذج المتقدمة تفشل في اجتياز اختبارات السلامة الأساسية بنسبة تزيد عن 20%.
أدوات لتقييم النماذج وتحسين السلامة
يؤكد فاروق جوشي، مدير المنتجات في الشركة، على أهمية التقييم المستمر للنماذج وتقديم إجابات محسنة للمستخدمين كوسيلة لتحسين أداء المنتجات. ويشير إلى أن هذه العملية تساعد في تقديم أداء أفضل بدلًا من الاقتصار على وضع حواجز أمان.
حلول مخصصة للقطاعات المختلفة
تقدم Patronus AI أداة “تقييم القضاة Judge Evaluators”، التي تسمح بكتابة قواعد مخصصة بلغة بسيطة لتلائم احتياجات الشركات المختلفة، مثل القطاع المالي والصحي. كما يُعتبر “Lynx” النموذج الأساسي للنظام، والذي يتميز بكفاءة عالية في كشف الأخطاء بنسبة تتفوق على GPT-4 بنسبة 8.3% في الأخطاء الطبية.
أدوات متخصصة لضمان الامتثال وحماية حقوق النشر
تشمل المنصة أدوات متخصصة مثل “CopyrightCatcher” للكشف عن المحتوى المحمي بحقوق الطبع والنشر، وأداة “FinanceBench” التي تساعد في تقييم أداء الذكاء الاصطناعي في الإجابة على الأسئلة المالية، ما يُسهم في تعزيز دقة وأمان التطبيقات الذكية في مجالات حساسة.
نموذج تسعير مرن وتعاونات مع شركات كبرى
تعتمد Patronus AI نموذج تسعير مرن حسب الاستخدام، حيث يبدأ من 10 دولارات لكل 1000 استدعاء للسرعة المنخفضة و20 دولارًا للسرعة العالية. وقد ساعد هذا النظام الشركة في جذب عملاء مهمين، مثل HP وAngelList وPearson، إلى جانب شراكات استراتيجية مع شركات كبرى مثل Nvidia وMongoDB وIBM.
متطلبات قانونية جديدة لضمان سلامة الذكاء الاصطناعي
يأتي إطلاق هذه المنصة وسط تشريعات جديدة تفرض على الشركات معايير لضمان سلامة أنظمة الذكاء الاصطناعي، بما في ذلك الأمر التنفيذي للرئيس الأميركي جو بايدن وقانون الذكاء الاصطناعي الأوروبي، مما يعزز الحاجة إلى أدوات مثل تلك التي تقدمها Patronus AI لضمان الامتثال القانوني.
