تنشر Google إطارًا متعدد الأساليب لتقييم الذكاء الاصطناعي في مجال الصحة

أعلنت Google عن ورقة بيضاء في 4 نوفمبر 2026، توضح فيها كيفية تقييمها للذكاء الاصطناعي التوليدي ذي الأغراض العامة في مجال الصحة. ويجمع الإطار بين اختبارات معيارية ذات أسئلة مغلقة، وأنظمة تقييم آلية تعمل بالذكاء الاصطناعي، ومراجعة بشرية يجريها خبراء، للحكم على الدقة والسلامة والفائدة في سيناريوهات شائعة وأخرى عالية المخاطر.

تتولى المؤلفة، الدكتورة Sarah Montgomery-Taylor، قيادة التقييم السريري في Google for Health؛ وقد تعاونت الدكتورة Elizabeth McGlynn والدكتورة Dana Gelb Safran في هذا العمل. وتقول Google إنها طورت هذا النهج، وما زالت تستخدمه لتقييم مدى تقديم نماذجها إجابات مفيدة ودقيقة تدعم تفاعلات صحية آمنة. ويهدف نشر المنهجية إلى تعزيز الشفافية ومساعدة المطورين والباحثين والأطباء على بناء أدوات جديرة بثقة الناس.

مواءمة التقييم مع الاستخدام السريري الفعلي

يرى المؤلفون أن أساليب التقييم المصممة لمهام منفردة لا تغطي النماذج ذات الأغراض العامة تغطية كافية. ويضربون مثالًا بنموذج ذكاء اصطناعي سابق للذكاء الاصطناعي التوليدي، يستطيع اكتشاف سرطان الرئة في صورة مقطعية، لكنه لا يستطيع اكتشاف سرطان الثدي في صورة ماموغرام أو تلخيص محادثة في ملاحظة. وعندما يصبح النموذج الواحد قادرًا على تنفيذ مئات المهام أو آلافها أو أكثر، يحتاج المطورون ومؤسسات الرعاية الصحية إلى وسيلة لترتيب التفاعلات والمخاطر حسب الأولوية.

قبل اختيار حالات الاختبار، يرسم المقيمون خريطة «رحلة المستخدم الحرجة»: من يستخدم النظام، وما الذي يريد إنجازه، وما الخطوات اللازمة لذلك. وقد يشمل المستخدمون المرضى أو أفراد أسرهم أو الأطباء أو الإداريين. وتوجّه هذه الخريطة اختيار بيانات الاختبار والمقاييس التمثيلية. كما تشمل الاستخدام المقصود وأشكال إساءة الاستخدام الشائعة، ومنها الاعتماد على النظام خارج نطاق الاستخدام المصرح به ومحاولات تجاوز مرشحات السلامة.

بعد ذلك، يُقيَّم كل تطبيق ضمن ثلاثة مجالات. وتشمل الدقة التوافق مع الإجماع الطبي، والاستناد إلى الأدلة، وصحة المعلومات، والاستدلال السريري، والملاءمة للسياق؛ وتُضاف مراعاة المصادر في مهام مثل تلخيص المعلومات الطبية. أما السلامة، فلا تقتصر على التحقق من صحة العبارات، بل تشمل الضرر الذي قد ينجم عن تفسير شخص ما لإجابة والتصرف بناءً عليها، أو عدم التصرف. وتأخذ التقييمات في الحسبان كلاً من جسامة هذا الضرر واحتمال وقوعه. ويشمل تقييم الفائدة الثقافة الصحية، ومدى الصلة، والشمول، وإمكانية أن يتصرف الشخص بناءً على الإجابة. لذلك قد تكون الإجابة دقيقة لكنها غير آمنة، أو دقيقة وآمنة لكنها معقدة أكثر من اللازم أو لا تتيح للمستخدم اتخاذ إجراء، فلا تعود مفيدة له.

توضح الأمثلة الواردة في الورقة كيف يتغير الخطر الأساسي باختلاف المهمة. فعندما يتحقق أحد المستهلكين من أعراضه، يتمثل الشاغل المحوري المتعلق بالسلامة في عدم التنبيه إلى أعراض الخطر التي تستدعي رعاية عاجلة؛ وقد تثير الإجابة المفرطة في التحذير قلقًا لا داعي له، فيما قد تعرقل الإرشادات غير الواضحة للتقييم الذاتي اتخاذ الخطوات المناسبة لاحقًا. أما في ملخص خروج يصوغه الذكاء الاصطناعي لطبيب، فإن المعلومات المختلقة أو المحذوفة والأخطاء الواقعية تهدد الدقة، بينما يؤدي إغفال الحساسية أو الأدوية الممنوع تناولها إلى مخاطر على السلامة، وقد يقلل التنسيق المربك أو التسلسل الزمني غير المتسق من فائدة الملخص.

الجمع بين نطاق الأتمتة الواسع والحكم البشري

تعتمد طريقة التقييم الأولى على اختبارات ذات إجابات محددة، مثل أسئلة الاختيار من متعدد، ما يجعل إجراء عدد كبير من اختبارات المعرفة الأساسية قليل التكلفة نسبيًا. لكن الاختبارات الثابتة لا تستطيع محاكاة تعقيد التفاعلات الواقعية وتمثيلها. ويشكل تلوث البيانات قيدًا آخر: فعندما ترد أسئلة الاختبار في بيانات التدريب، قد تعكس النتائج الاستعداد للاختبار بدلًا من الاستدلال الطبي القابل للتعميم. لذلك يستخدم الإطار هذه الاختبارات المعيارية لتحديد مستوى أساسي وتوجيه التقييمات اللاحقة، مع الحاجة إلى أساليب إضافية للتحقق من الأداء في العالم الواقعي.

تُسند الطريقة الثانية عملية التقييم إلى نظام ذكاء اصطناعي آخر. وتطبّق أنظمة التقييم الآلي هذه معايير مكتوبة على الإجابات المفتوحة، ما يتيح فحص سيناريوهات أكثر بكثير مما يستطيع المراجعون الخبراء تقييمه على نحو معقول. ويمكنها تقييم محادثات متعددة الأدوار تحاكي الواقع، يمتنع فيها المستخدمون في البداية عن ذكر تفاصيل سريرية، لاختبار ما إذا كان النموذج يطرح أسئلة استيضاحية قبل تقديم الإرشادات. ومع ذلك، تتطلب أنظمة التحكيم الآلي التحقق منها بالاستناد إلى بيانات مرجعية أعدها خبراء، لأنها قد تكافئ الإسهاب، وتفضّل إجابات صادرة عن عائلة النماذج نفسها، وتنقل أثر التعليقات التوضيحية البشرية المشوشة.

بعد ذلك، يفحص الأطباء وغيرهم من خبراء المجال الحالات التي تكون فيها المعايير الآلية أقل فاعلية، بما فيها الحالات السريرية المعقدة والحالات الحدّية والموضوعات التي لا تحظى بإجماع سريري واسع. كما يحكمون على مدى توافق المخرجات مع الأعراف السريرية المحلية واحتياجات فئات المرضى المختلفة. ويختبر فريق مستقل متخصص في اختبار السلامة حدودها باستخدام أساليب مثل التوسل العاطفي، أو وضع الحالة في إطار خيالي، أو انتحال شخصية أحد العاملين في الرعاية الصحية، بهدف استدراج النظام إلى تقديم مخرجات تتجاوز النطاق المقصود للمنتج. والمراجعة البشرية عرضة للخطأ أيضًا: إذ يشير المؤلفون إلى أن تقييم طبيبين قد يختلف بنسبة 30–40% أو أكثر في مهمة تقييم واحدة، ما يجعل وضع ضوابط للحد من تفاوت المقيمين وإجراء التحليلات المناسبة أمرًا ضروريًا.

يستمر الرصد بعد النشر

يبدأ التقييم قبل وجود المنتج، باختبار القدرات العامة للنموذج الأساسي ومستوى سلامته. وعندما يجري دمج النموذج في تطبيق، يصبح التقييم مخصصًا لمستخدمي ذلك المنتج وسير العمل فيه. وقبيل الإطلاق، قد يشمل النشر المضبوط تجارب تشغيل ظلي صامتة، أو تجارب سريرية أولية، أو طرحًا مرحليًا، على أن تسبق الإتاحة الأوسع اختبارات العوامل البشرية وسهولة الاستخدام.

ينبغي للفرق السريرية وفرق التطوير أن تحدد معًا، عند كل مرحلة من مراحل اعتماد المنتج، عتبات اجتياز التقييم وأوزان بنود سلم التقييم، استنادًا إلى مستوى المخاطر السريرية للتطبيق، لا إلى حدود رقمية موحدة أو اعتباطية. وبعد النشر، يتابع المطورون الانحراف الخوارزمي واستقرار النظام. أما المؤسسات التي تعتمد هذه المنتجات، فتراقب سلامة سير العمل السريري في الأدوات المهنية، وسلامة المستخدمين وأنماط استخدامهم في المنتجات الاستهلاكية.

يشير المؤلفون إلى أن المؤشرات التفاعلية، مثل شكاوى المستخدمين والأحداث التحذيرية، لا تكفي وحدها لمتابعة الأداء بعد النشر. فمجموعات الاختبار تختلف عن التفاعلات الفعلية، كما يغيّر المستخدمون مطالباتهم وتوقعاتهم مع اكتسابهم الخبرة. وينبغي أن تُستثمر نتائج المراقبة في تحديث المتطلبات والتدريب وأولويات التقييم اللاحقة. وتواجه المراقبة طويلة الأمد للتفاعلات والنتائج الصحية عوائق تشمل تجزؤ البيانات، إلى جانب تحديات تتعلق بالخصوصية والجوانب التقنية والتنظيمية. كما تحدد الورقة مسؤوليات مشتركة بين المطورين والأنظمة الصحية، وتكاليف التنفيذ، والتحقق المستقل، والتوافق العلمي، بوصفها جوانب حوكمة لا يزال يتعين استكمالها.

بالنسبة إلى المطورين والأنظمة الصحية، ينقل هذا الإطار السؤال من مجرد التحقق مما إذا كان النموذج قد اجتاز معيارًا ثابتًا إلى بحث إمكانية إثبات دقته وسلامته وفائدته طوال مرحلتي التطوير والنشر. والتحدي الأساسي عملي: ربط المراقبة بالمساءلة، مع تحديد المسؤوليات وتمويل العمل والتحقق المستقل من النتائج عبر الحدود التنظيمية وحدود البيانات.