رغم الانتشار المتسارع لأدوات الذكاء الاصطناعي في الأبحاث العلمية، يؤكد خبراء مؤسسة كوكرين أن الاستفادة من هذه التقنيات لا تعني استخدامها في جميع المواقف، بل تتطلب تقييمًا دقيقًا للمخاطر والفوائد قبل اتخاذ قرار الاعتماد عليها.
وفي مقال نشرته إيلا فليمنغ، رئيسة سياسات التحرير ونزاهة البحث في “كوكرين”، أوضحت أن الاستخدام المسؤول للذكاء الاصطناعي يبدأ بطرح السؤال الأهم: هل هذه الأداة مناسبة حقًا للمهمة المطلوبة؟
الذكاء الاصطناعي بين الكفاءة والمسؤولية
أصبحت أدوات الذكاء الاصطناعي قادرة على دعم العديد من مراحل العمل البحثي، بدءًا من البحث وجمع الدراسات وصولًا إلى فرز البيانات وصياغة النصوص. ورغم ما توفره من سرعة وكفاءة، فإن استخدامها يتطلب قدرًا كبيرًا من الحذر لضمان عدم التأثير على جودة النتائج العلمية أو نزاهتها.
وتستند توصيات كوكرين إلى إرشادات “RAISE” الخاصة بالاستخدام المسؤول للذكاء الاصطناعي في استخلاص الأدلة العلمية، والتي تشدد على ضرورة الحفاظ على المعايير المنهجية الصارمة خلال جميع مراحل البحث.
أربع قواعد أساسية لاستخدام الذكاء الاصطناعي
حددت كوكرين أربعة مبادئ رئيسية يجب على الباحثين الالتزام بها عند استخدام أدوات الذكاء الاصطناعي:
- يتحمل الباحث المسؤولية الكاملة عن نتائج البحث وقرار استخدام الذكاء الاصطناعي.
- يجب التأكد من أن الأداة لا تؤثر سلبًا على الصرامة المنهجية أو نزاهة الدراسة.
- ينبغي الإفصاح بشكل كامل وشفاف عن كيفية استخدام الذكاء الاصطناعي.
- يجب أن يظل الإشراف البشري حاضرًا في جميع مراحل العمل.
كيف تقيّم أداة الذكاء الاصطناعي قبل استخدامها؟
تشير الإرشادات إلى ضرورة إجراء تقييم شامل للأداة قبل استخدامها، من خلال الإجابة عن مجموعة من الأسئلة الأساسية، أبرزها:
- ما الهدف الحقيقي من الأداة؟
- ما مصادر البيانات المستخدمة في تدريبها واختبارها؟
- هل خضعت لاختبارات تحقق مستقلة تثبت كفاءتها؟
- هل يمتلك المستخدم المهارات اللازمة للتعامل معها؟
- هل توفر الشركة المطورة معلومات شفافة ووثائق واضحة حول آلية عملها؟
كما تشجع كوكرين الباحثين على التواصل مباشرة مع مطوري الأدوات للحصول على معلومات إضافية في حال عدم توفرها بشكل علني.
متى يجب التوقف عن استخدام الأداة؟
تؤكد كوكرين أن هناك مؤشرات تحذيرية تستدعي عدم الاعتماد على أداة الذكاء الاصطناعي، من بينها:
- غياب الدراسات المستقلة التي تثبت كفاءة الأداة.
- عدم إمكانية تكرار نتائج التحقق أو اختبارها.
- الاعتماد فقط على دراسات أجراها المطورون أنفسهم.
- مخالفة المتطلبات القانونية أو التنظيمية المعمول بها.
- السماح بإعادة استخدام بيانات المستخدمين لتدريب النماذج دون خيارات واضحة للرفض.
- ضعف آليات الرقابة البشرية أو صعوبة تدقيق النتائج.
- نقص الشفافية أو عدم استجابة الشركة المطورة للاستفسارات.
وفي حال عدم ظهور هذه المشكلات، يمكن التفكير في استخدام الأداة مع تطبيق إجراءات رقابية إضافية لتقليل المخاطر المحتملة.
إثبات أن الذكاء الاصطناعي لا يضر بجودة البحث
بعد اجتياز مرحلة التقييم الأولي، يتعين على الباحث إثبات أن استخدام الأداة لن يؤثر على جودة المراجعة العلمية أو دقتها.
وتصنف إرشادات RAISE الأدوات وفق مستويات مختلفة من القبول، تتراوح بين أدوات يمكن استخدامها مباشرة مع الإفصاح عنها، وأخرى تتطلب مراجعة بشرية دقيقة، وصولًا إلى أدوات يجب التحقق من أدائها داخل الدراسة نفسها قبل الاعتماد عليها.
لماذا تحتاج النماذج اللغوية إلى رقابة إضافية؟
تشير كوكرين إلى أن جميع الأدوات المعتمدة على النماذج اللغوية الكبيرة والذكاء الاصطناعي التوليدي، مثل روبوتات المحادثة، تحتاج حاليًا إلى إجراءات تحقق إضافية قبل استخدامها في الأبحاث.
ويرجع ذلك إلى أن آلية عمل هذه النماذج ما زالت أشبه بـ”الصندوق الأسود”، حيث يصعب فهم كيفية وصولها إلى بعض النتائج أو التنبؤ بأخطائها المحتملة بشكل كامل.
لذلك توصي الإرشادات بضرورة إجراء مراجعة بشرية دقيقة أو تنفيذ دراسات تحقق مستقلة قبل دمج هذه الأدوات في المراجعات العلمية.
مشروع CESAR لاختبار أدوات الذكاء الاصطناعي
في إطار تقييم فعالية الذكاء الاصطناعي في مجال استخلاص الأدلة العلمية، أطلقت كوكرين مشروع CESAR الذي يختبر مجموعة من الأدوات الذكية عبر نحو 15 مراجعة علمية مختلفة.
ويهدف المشروع إلى مقارنة أداء الأدوات المدعومة بالذكاء الاصطناعي بالطرق التقليدية المستخدمة في إعداد المراجعات المنهجية، مع إمكانية استبعاد أي أداة لا تحقق معايير الأداء المطلوبة وإضافة أدوات جديدة مع تطور التكنولوجيا.
ما المقصود بحدود الأداء المقبولة؟
توضح كوكرين أن أحد أكبر التحديات الحالية يتمثل في تحديد المستوى المقبول لأداء أدوات الذكاء الاصطناعي.
فحتى الآن لا يوجد اتفاق عالمي واضح حول معيار “الجودة الكافية” أو مستوى الدقة المطلوب لاعتماد هذه الأدوات في البحث العلمي.
ورغم ذلك، ترى المؤسسة أن وضع حدود أداء واضحة يعد أمرًا ضروريًا لتعزيز الشفافية والمساءلة وضمان اتخاذ قرارات متسقة ومنع تراجع جودة المناهج البحثية.
الكفاءة وحدها لا تكفي
تختتم كوكرين توصياتها بالتأكيد على أن الهدف من الذكاء الاصطناعي هو تسريع العمل وتحسين الكفاءة، وليس إضافة أعباء جديدة على الباحثين.
ولهذا، إذا كانت الأداة تجعل سير العمل أكثر تعقيدًا أو تقلل الكفاءة أو تتطلب جهدًا أكبر من الفوائد التي تقدمها، فقد يكون القرار الأفضل هو عدم استخدامها والبحث عن بدائل أكثر ملاءمة للمهمة المطلوبة.
