كشفت دراسة حديثة أجراها باحثون في ألمانيا وبلجيكا، أن نصائح مساعد الذكاء الاصطناعي من مايكروسوفت “كوبايلوت” الطبية، قد تشكل خطرًا جسيمًا على المستخدمين، حيث وُجد أن 22% من النصائح التي يقدمها يمكن أن تتسبب في أضرار خطيرة أو حتى وفاة.
وأجرى الباحثون هذه الدراسة عبر توجيه كوبايلوت للإجابة على 10 من أكثر الأسئلة الطبية شيوعًا في الولايات المتحدة، بالإضافة إلى تحليل 50 من الأدوية الأكثر وصفًا، في المجموع، تم تحليل 500 إجابة من كوبايلوت وتم تقييمها بناءً على دقتها وملاءمتها للمعايير الطبية المتعارف عليها.
نتائج مقلقة
وتزيد هذه الدراسة من الشكوك حول استخدام تقنيات الذكاء الاصطناعي في تقديم الاستشارات الطبية، وتسلط الضوء على المخاطر التي قد يواجهها الأشخاص الذين يعتمدون على هذه التقنيات بدلاً من الخبرة البشرية المؤهلة، ووفقًا للدراسة، كانت النتائج كما يلي:
- 54% من الإجابات كانت دقيقة علميًا وتطابق المعلومات الطبية المعترف بها.
- 24% من الإجابات لم تتوافق مع المعرفة الطبية المتعارف عليها، بينما كانت 3% من الإجابات خاطئة تمامًا.
أخطر ما كشفت عنه الدراسة هو أن 42% من الإجابات كانت قد تؤدي إلى أضرار متوسطة أو طفيفة، في حين أن 22% من الإجابات كانت قد تتسبب في أضرار جسيمة أو وفاة.
مخاطر محتملة
يشير الباحثون إلى أن الاعتماد على الذكاء الاصطناعي مثل كوبايلوت للحصول على معلومات طبية قد يؤدي إلى مخاطر جسيمة، كما أن هذه النتائج ليست حالة فردية، حيث تعرضت أنظمة الذكاء الاصطناعي الأخرى، مثل جوجل، لانتقادات حادة بسبب تقديم نصائح غير صحيحة وخطيرة.
على سبيل المثال، نُشرت تقارير سابقة عن اقتراحات مضحكة وخطيرة، مثل تناول الصخور أو إضافة الغراء إلى البيتزا، وهو ما لم يكن مخالفا للمنطق وحسب، وإنما انطوى أيضا على عدد من المخاطر.
وأكد الباحثون أن هذه الدراسة تشكل إنذارًا هامًا للجمهور الذي يعتمد بشكل متزايد على الذكاء الاصطناعي للحصول على نصائح طبية، وأوضحوا أن على المستخدمين أن يكونوا حذرين عند استخدام هذه التقنيات، وأن يعتمدوا على استشارات الأطباء المتخصصين، خاصة وأن الوصول إلى خدمات صحية آمنة ومؤهلة لا يزال غير متاح بسهولة في بعض المناطق.
وأوصت الدراسة بضرورة توخي الحذر عند استخدام تقنيات الذكاء الاصطناعي مثل كوبايلوت وGoogle AI للحصول على معلومات طبية، مؤكدةً أن الاستشارة الطبية المباشرة من مختصين هي الخيار الأكثر أمانًا وموثوقية.
