سيجنال يقيّد تصوير المحادثات لمواجهة تجسس وكلاء الذكاء الاصطناعي

أعلن تطبيق المراسلة المشفرة «سيغنال» اتخاذ إجراءات جديدة للحد من قدرة وكلاء الذكاء الاصطناعي على الوصول إلى المحادثات الخاصة للمستخدمين، من خلال تقييد إمكانية التقاط صور للشاشة، في خطوة تستهدف تعزيز حماية البيانات الشخصية ومواجهة المخاطر المرتبطة بدمج تقنيات الذكاء الاصطناعي داخل أنظمة التشغيل.

وحذر التطبيق من أن التوسع المتسارع في دمج المساعدات الذكية داخل الهواتف وأجهزة الكمبيوتر أصبح يمثل تهديدًا لخصوصية المستخدمين، مشيرًا إلى أن وسائل الحماية المتاحة حاليًا لا توفر ضمانات كافية لمنع هذه الأدوات من الاطلاع على المعلومات الحساسة.

انتقادات لشركات أبل وغوغل ومايكروسوفت

ودعا «سيغنال» الشركات المطورة لأنظمة التشغيل، وفي مقدمتها أبل وغوغل ومايكروسوفت، إلى توفير أدوات واضحة تسمح لمطوري التطبيقات بمنع مساعدي الذكاء الاصطناعي من الوصول إلى البيانات الخاصة، إلى جانب الكشف عن طبيعة الصلاحيات التي تستخدمها هذه الأنظمة والآليات التي تعتمد عليها.

وأوضح التطبيق أن أنظمة التشغيل تتحكم في البيئة التقنية التي تعمل داخلها التطبيقات، لكن إدخال وكلاء الذكاء الاصطناعي إليها يغير طبيعة هذه البيئة ويجعل حماية المعلومات أكثر صعوبة.

وأشار إلى أن المساعدات المدمجة مثل «سيري» من أبل و«جيميناي» من غوغل تثير مخاوف خاصة بسبب ارتباطها المباشر بأجهزة المستخدمين واتساع نطاق الصلاحيات التي يمكن أن تحصل عليها.

حظر التقاط لقطات الشاشة افتراضيًا

وفي إطار الإجراءات الجديدة، يعتزم سيغنال تفعيل قيود تمنع وكلاء الذكاء الاصطناعي من التقاط صور لشاشات المحادثات، مع تشغيل هذه الحماية بصورة تلقائية، وإتاحة إمكانية تعطيلها للمستخدمين من خلال نوافذ تنبيه تظهر عند رصد محاولات الوصول إلى الشاشة أو تصوير محتواها.

وتختلف آلية تطبيق هذه القيود بحسب نظام التشغيل والجهاز المستخدم، إذ يسعى التطبيق إلى منع الأدوات الذكية من قراءة الرسائل الخاصة أو استخراج محتواها دون علم أصحابها.

وسبق لسيغنال أن اتخذ إجراءً مشابهًا ضد أداة «Recall» التابعة لشركة مايكروسوفت، بعدما منعها من التقاط صور للشاشة على نظام ويندوز، لكنه أقر بصعوبة توفير مستوى الحماية نفسه على أجهزة ماك التابعة لأبل.

وكلاء الذكاء الاصطناعي يثيرون مخاوف بشأن الخصوصية

وتأتي هذه التحركات وسط سباق شركات التكنولوجيا لتطوير وكلاء ذكاء اصطناعي قادرين على تنفيذ المهام نيابة عن المستخدمين، من خلال الاطلاع على المعلومات الموجودة داخل التطبيقات المختلفة، وإدارة رسائل البريد الإلكتروني، وحجز المواعيد، وإتمام عمليات الشراء عبر الإنترنت دون تدخل مباشر في كل خطوة.

ورغم ما توفره هذه التقنيات من تسهيلات، فإن امتلاكها صلاحيات واسعة للتعامل مع الأجهزة قد يسمح لها بتجاوز القيود الأمنية التي تضعها التطبيقات لحماية بيانات مستخدميها.

وكشفت تقارير لوكالة رويترز أن وكيل «ميوز» التابع لشركة ميتا تمكن من الوصول إلى محادثات سيغنال على جهاز كمبيوتر يعمل بنظام ماك وهاتف أندرويد، رغم القيود المفروضة على الوصول المباشر إلى التطبيق.

كيف تمكن وكيل ميوز من الوصول إلى الرسائل؟

واعتمد الوكيل على صلاحيات واسعة حصل عليها خلال الإعداد الأولي، مستفيدًا من أدوات نظام التشغيل التي تتيح التحكم في الشاشة والتفاعل مع التطبيقات، وهي وظائف صُممت في الأساس لتسهيل استخدام الأجهزة ومساعدة الأشخاص ذوي الإعاقة.

وعلى أجهزة ماك، استخدم «ميوز» أدوات تسهيلات الاستخدام إلى جانب إمكانات التقاط الشاشة، للوصول إلى محادثات سيغنال وتصويرها، ثم استخراج النصوص من الصور وإظهار الرسائل داخل واجهة الوكيل.

وأصدرت أبل تحديثًا لنظام التشغيل خلال الأسبوع الجاري أغلق مسار الوصول الذي استُخدم في هذه الواقعة، لكنها قدمت في المقابل مجموعة جديدة من الصلاحيات المخصصة لوكلاء الذكاء الاصطناعي، مع إضافة تحذيرات وتنبيهات للمستخدمين.

من جانبها، قالت ميتا إن الوكلاء يحتاجون إلى التفاعل مع أجهزة المستخدمين حتى يتمكنوا من تنفيذ المهام المطلوبة، مؤكدة أن «ميوز» لا يصل إلى التطبيقات الأخرى إلا من خلال الأذونات التي يمنحها المستخدمون.

سيغنال يحذر من انتقال الرسائل إلى خوادم خارجية

وطالب التطبيق شركات التكنولوجيا بتوفير خيارات تسمح للمطورين باستثناء تطبيقاتهم بصورة كاملة من معالجة البيانات بواسطة المساعدات الذكية، بما يشمل محتوى الشاشة والإشعارات والملفات المخزنة على الأجهزة.

وتكمن خطورة هذه المسألة، وفقًا لسيغنال، في أن وكلاء الذكاء الاصطناعي قد ينقلون محتوى المحادثات من البيئة الآمنة للتطبيق إلى خوادم خارجية تستخدمها الشركات المشغلة لهذه الأدوات، وهو ما قد يضعف ضمانات الخصوصية.

ويستند سيغنال في نموذج عمله إلى كونه خدمة تابعة لمؤسسة غير ربحية، تعتمد على التشفير التام بين الطرفين، بما يمنع الشركة نفسها من قراءة الرسائل المتبادلة بين المستخدمين، فضلًا عن تقليل البيانات المخزنة على خوادمها والابتعاد عن الإعلانات.

ويرى التطبيق أن هذه الضمانات قد تصبح غير كافية إذا تمكنت أنظمة الذكاء الاصطناعي من قراءة محتوى الشاشة والتعامل مع الرسائل مباشرة، ما يفتح تحديًا جديدًا أمام تطبيقات المراسلة الآمنة في ظل التوسع المتزايد في استخدام الوكلاء الذكيين.

 

يوسف إبراهيم
يوسف إبراهيم
المقالات: 1489

اترك ردّاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *