مع التطور المتسارع في قدرات نماذج الذكاء الاصطناعي، تتزايد المخاوف من استخدامها في أنشطة ضارة، ما يدفع شركات التكنولوجيا إلى تطوير أنظمة أمان أكثر تطورًا لاكتشاف إساءة الاستخدام والحد من مخاطرها.
وتواجه شركات الذكاء الاصطناعي تحديًا مزدوجًا يتمثل في مراقبة الأنشطة المشبوهة من جهة، وحماية خصوصية بيانات العملاء، خصوصًا المؤسسات التي تتعامل مع معلومات حساسة، من جهة أخرى.
وفي هذا السياق، أعلنت شركة OpenAI توجهًا جديدًا يركز على الجمع بين الرقابة الأمنية والخصوصية، في خطوة تعزز المنافسة مع شركة Anthropic في سوق الذكاء الاصطناعي.
Private Safety Processing.. تقنية جديدة من OpenAI
كشفت OpenAI عن خدمة جديدة تحمل اسم Private Safety Processing، وتختبرها حاليًا مع عدد محدود من العملاء.
وتعتمد التقنية على نظام آلي مصمم لرصد مؤشرات إساءة استخدام نماذج الذكاء الاصطناعي، مع عدم احتفاظ OpenAI ببيانات العملاء خلال عملية المراقبة.
وتستهدف الخدمة اكتشاف أنماط الاستخدام الضارة التي قد لا تظهر بوضوح عند تحليل جلسة واحدة فقط، خاصة عندما يحاول المستخدم توزيع نشاطه على عدة محادثات لتجنب أنظمة الكشف التقليدية.
كيف تعمل تقنية Private Safety Processing؟
تقول OpenAI إن التقنية الجديدة تمثل توسعًا في نهج Zero Data Retention، المعروف اختصارًا بـ ZDR، والذي يتيح للعملاء استخدام نماذج الشركة مع تقليل أو منع الاحتفاظ ببياناتهم.
وتعتمد Private Safety Processing على وكيل آلي قادر على تحليل مدخلات ومخرجات مرتبطة بعدة جلسات، بهدف اكتشاف أنماط متكررة قد تشير إلى إساءة استخدام.
وفي حال رصد النظام نشاطًا يستدعي الانتباه، يمكنه إرسال إشارة محددة إلى OpenAI توضح نوع الخطر المحتمل، دون الحاجة إلى مشاركة كامل محادثات العميل أو إخضاعها لمراجعة بشرية مباشرة.
OpenAI تستهدف اكتشاف الهجمات الإلكترونية
أوضحت الشركة أن إحدى حالات الاستخدام المحتملة للتقنية تتمثل في اكتشاف الأنشطة المرتبطة بالهجمات الإلكترونية وتطوير البرمجيات الخبيثة.
فقد يحاول أحد المستخدمين توزيع طلباته على عدة جلسات ومحادثات بهدف تجاوز أنظمة الكشف التي تعتمد على تحليل كل جلسة بشكل منفصل.
وتتيح التقنية الجديدة رصد الأنماط التي تمتد عبر جلسات متعددة، ما يمنح أنظمة الأمان قدرة أكبر على اكتشاف السلوك المشبوه دون الاطلاع المباشر على محتوى المحادثات من جانب موظفي الشركة.
وفي حال احتاجت OpenAI إلى معلومات إضافية، يمكنها التواصل مع العميل، بينما يظل بإمكان المؤسسة تحديد ما إذا كانت تريد مشاركة بيانات إضافية مع الشركة.
سياسة Anthropic تثير مخاوف بشأن بيانات العملاء
يأتي تحرك OpenAI في وقت تواجه فيه Anthropic تساؤلات بشأن سياسة الاحتفاظ بالبيانات الخاصة ببعض نماذجها.
وكانت Anthropic قد أعلنت في يوليو الماضي سياسة تسمح بالاحتفاظ ببيانات المستخدمين، بما في ذلك المحادثات والجلسات، لمدة 30 يومًا عند استخدام ما تصفه الشركة بالنماذج المشمولة.
وبررت Anthropic هذه الخطوة بالحاجة إلى تعزيز إجراءات السلامة وإتاحة إمكانية فحص الأنشطة التي قد ترتبط بإساءة استخدام نماذج الذكاء الاصطناعي.
إلا أن السياسة أثارت مخاوف لدى بعض المؤسسات التي تتعامل مع كميات كبيرة من البيانات الحساسة، ولا ترغب في تخزين هذه المعلومات لدى شركات الذكاء الاصطناعي أو إتاحة مراجعتها.
Anthropic تفرض ضوابط على المراجعة البشرية
من جانبها، تؤكد Anthropic أن مراجعة بيانات العملاء من جانب البشر تتم وفق ضوابط صارمة، ومن خلال مسار وصول محدود ومراقب.
وتشير الشركة إلى أن عمليات المراجعة تقتصر على عدد صغير من المراجعين المعتمدين، مع تسجيل كل جلسة في سجل محمي ضد العبث، بما يمنع تعديل محتويات السجل أو إخفاءها.
وتعكس هذه الإجراءات حجم التحدي الذي تواجهه شركات الذكاء الاصطناعي في تحقيق التوازن بين حماية المستخدمين من إساءة الاستخدام والحفاظ على سرية بيانات المؤسسات.
منافسة متصاعدة بين OpenAI وAnthropic
يتزامن إطلاق Private Safety Processing مع تصاعد المنافسة بين OpenAI وAnthropic، في ظل سعي الشركتين إلى تعزيز موقعيهما في سوق الذكاء الاصطناعي المؤسسي.
ولا تقتصر المنافسة بين الشركتين على تطوير النماذج وتحسين قدراتها، بل تمتد أيضًا إلى مستويات الأمان والخصوصية وإدارة بيانات العملاء.
وتحاول OpenAI من خلال التقنية الجديدة تقديم حل يجمع بين القدرة على اكتشاف إساءة الاستخدام الممتدة عبر عدة جلسات، وتقليل مخاطر الاحتفاظ بمعلومات العملاء.
ويأتي ذلك في وقت تزداد فيه أهمية الخصوصية بالنسبة للشركات والمؤسسات التي تعتمد على نماذج الذكاء الاصطناعي لمعالجة بيانات مالية وتجارية وتقنية شديدة الحساسية.
الخصوصية تتحول إلى ساحة جديدة للمنافسة
يمثل إطلاق Private Safety Processing اتجاهًا جديدًا في المنافسة بين شركات الذكاء الاصطناعي، حيث أصبحت الخصوصية وأمن البيانات من العوامل الأساسية التي تؤثر في قرارات المؤسسات عند اختيار النماذج والخدمات الذكية.
وتسعى OpenAI من خلال هذا النظام إلى تعزيز قدراتها في اكتشاف الاستخدامات الضارة، مع تقديم ضمانات أكبر للعملاء بشأن عدم الاحتفاظ ببياناتهم، ما قد يمنحها ميزة تنافسية في سوق الخدمات الموجهة للشركات.
