مشكلة الحسابية المبعثرة في تقنيات الذكاء الاصطناعي الصحية

في مجال الرعاية الصحية، أصبحت تقنيات الذكاء الاصطناعي جزءًا لا يتجزأ من كل شيء، من القرارات السريرية إلى الموارد البشرية والمالية. ومع ذلك، لا تزال العديد من المنظمات تفتقر إلى الهياكل اللازمة لإدارة المخاطر التي قد تسببها أدوات الذكاء الاصطناعي. ويتسبب غياب الإشراف المنظم في اتخاذ قرارات متعلقة بالذكاء الاصطناعي دون مسؤولية واضحة، مما يعرّض المنظمات لمخاطر انتهاكات أخلاقية وتنظيمية.

عندما لا يكون هناك شخص مسؤول عن القرارات والإجراءات التي يتخذها الذكاء الاصطناعي، سوف تتوسع النقاط العمياء بسرعة. وتكون عواقب نظام الذكاء الاصطناعي الذي يتخذ قرارات عالية المخاطر دون إشراف numerous وواسعة النطاق، خاصة عندما تكون حياة الناس على المحك.

تظهر الفجوات الحالية في حوكمة الذكاء الاصطناعي giống مثل النقاط الحاسمة السابقة حيث زادت منحنيات التكنولوجيا بسرعة أكبر من قدرة المؤسسات على إدارتها. لقد مررنا بهذا الأمر مع الحوسبة السحابية:採纳 فرق SaaS و IaaS و “shadow IT” لتسريع الأمور، في حين تأخر الإشراف في الأمور الأساسية مثل تصنيف البيانات وتنظيم الهوية والوصول والإشراف على البائعين وسجلات المراقبة ووضوح المسؤولية — لذلك أصبحت المسؤولية متفرقة عبر الإدارة و الأمن و الشراء و الأعمال. كما رأينا ذلك مع تكنولوجيا المستهلكين السريعة و الهواتف النقالة / BYOD، حيث جلب الموظفون أجهزة وتطبيقات جديدة إلى البيئات الخاضعة للتنظيم قبل أن تتمكن المنظمات من وضع سياسات ناضجة لتشفير النقاط النهاية ومراقبة التطبيقات واكتشاف الأخطاء واكتشاف البيانات. في كل حالة، كانت التكنولوجيا منطقية وغالبًا ما كانت قيمة، لكن غياب الملكية الواضحة والسيطرة الموحدة والإشراف على دورة الحياة أوجد فشلًا متوقعًا. الدرس للذكاء الاصطناعي واضح: لا يمكن أن تكون الحوكمة بعد الفكر؛ يجب بناؤها مثل البنية التحتية الحاسمة — عن قصد، مع حقوق القرار المحددة والمراقبة المستمرة والحدود القابلة للتنفيذ.

مشكلة الحسابية المبعثرة

لقد تجاوزت نشر الذكاء الاصطناعي تطوير معايير الحوكمة والمسؤولية، مما أدى إلى فجوة “حسابية مبعثرة” حيث لا يتحمل كيان واحد المسؤولية عندما يفشل الذكاء الاصطناعي.

المسؤولية هي بالفعل مشكلة موجودة في مجال الرعاية الصحية، وقد أضاف الذكاء الاصطناعي تحديات جديدة. لا تملك أدوات الذكاء الاصطناعي هوية قانونية معترف بها، مما يعني أنها لا يمكن أن تُدعى إلى المحكمة أو تأمينها أو دفع تعويض قانوني للضحايا. في الإجراءات القانونية، يجب نقل الخطأ إلى ممثل بشري أو شركة، وليس أداة.

يعتقد الباحثون في مجلة لانست، وهي مجلة بحثية طبية رائدة، مؤخرًا أن “يجب على هياكل المسؤولية المؤسسية إعادة توزيع المسؤولية من الأطباء إلى المنظمات التي تصمم وتنشر أدوات الذكاء الاصطناعي”. من الواضح أن هذه الأسئلة حول المسؤولية سوف تستمر في التواجد في المستقبل.

تحاول الاتحاد الأوروبي معالجة هذه القضايا على نطاق إقليمي. وقد قدمت الكتلة التشريعية两个 أداة تشريعية رئيسية: قانون الذكاء الاصطناعي، الذي ينظم استخدام الذكاء الاصطناعي حسب درجة المخاطر ويشدد على الحفاظ على الإشراف البشري؛ وتوجيه مسؤولية الذكاء الاصطناعي، الذي يحدد قواعد جديدة تجعل من السهل على الناس الحصول على تعويض لضرر يسببه الذكاء الاصطناعي.

لكن التنظيم وحده لن يحل المشكلة. تعمل المستشفيات في شبكة معقدة من الموردين والأطباء والإداريين وفرق تكنولوجيا المعلومات، لذلك عندما ينتج نظام الذكاء الاصطناعي مخرجات ضارة أو متحيزة، يتم نقل المسؤولية مثل الكرة بين أصحاب المصلحة: قد يشير المورد إلى الاستخدام غير الصحيح، وقد يقول الأطباء إن التصميم معيب، وقد يلوم القيادة الغموض التنظيمي.

خطوات عملية لسد الفجوات الحوكمة

الخبر السار هو أن المنظمات الصحية يمكنها سد الفجوات في حوكمة الذكاء الاصطناعي حتى بدون لوائح شاملة. للبدء، يمكن للقادة البدء بتقرير منظمة الصحة العالمية ” الأخلاقيات والحوكمة للذكاء الاصطناعي في مجال الصحة،” الذي يهدف إلى تحقيق وعد الذكاء الاصطناعي وتقليل المخاطر.

تهدف الخطوات المحددة في هذا التقرير إلى حماية الاستقلالية وتعزيز رفاهية الإنسان وسلامة العامة، وضمان الشفافية والقابلية للتفسير، وتعزيز المسؤولية والمسؤولية. لمعالجة الفجوات الحوكمة، دعونا نركز على النقطتين الأخيرتين.

نفذ نهجًا موحدًا لإدارة الذكاء الاصطناعي، مع التأكد من أنه موجه من أعلى بواسطة المجالس أو الخبراء. حاليًا، تسمح العديد من المنظمات لأقسامها الفردية باستخدام الذكاء الاصطناعي حيث يرون مناسبًا، مما يمنع القادة من تفسير كيفية استخدام هذه الأدوات وأين وكيف. من المهم أن يكون لديك قائمة بالprecise أدوات التي يتم استخدامها وأين ولماذا.

من المهم أيضًا تحديد مسارات واضحة للمسؤولية على مدار دورة حياة الذكاء الاصطناعي. هذا يعني جعل شخص أو قسم مسؤول عن كل شيء من الشراء والتحقق إلى المراقبة والاستجابة للحوادث. يجب على المستشفيات أن تطلب من الموردين أن يلبيوا معايير الشفافية والقابلية للفحص، وأن يضمنوا أن فرقها الداخلية مدربة على فهم القدرات والقيود الخاصة بأنظمة الذكاء الاصطناعي.

أخيرًا، يجب أن يتم تنفيذ الحوكمة، وليس فقط توثيقها. ادخل السياسات في سير العمل عن طريق دمج تقييمات مخاطر الذكاء الاصطناعي في عمليات الشراء، وإجراء مراجعات منتظمة لأداء الذكاء الاصطناعي، وإنشاء آليات لتمكين الموظفين من الإبلاغ عن المخاوف دون أي صعوبات.

الخطر الخفي: جودة البيانات

حتى عندما تكون هياكل المسؤولية موجودة، يوجد خطر آخر غالبًا ما يتم تحديره: صحة البيانات التي تغذي أنظمة الذكاء الاصطناعي وكيف تتطور هذه الأنظمة بمرور الوقت. نظام الذكاء الاصطناعي هو فقط موثوق بنسبة إلى البيانات التي يتم تدريبه عليها ويتعلم منها باستمرار، وبيئات البيانات في المستشفيات مشهورة بكونها متفرقة وغير متسقة ومستعدة للفجوات.

أنظمة السجلات الصحية والتصوير والإدارة غالبًا ما تعمل في مجالات منفصلة، مما يخلق اختلافات يمكن أن تؤثر مباشرة على مخرجات الذكاء الاصطناعي. يمكن أن ينتج نموذج مدرب على مجموعات بيانات غير كاملة أو متحيزة توصيات معيبة قد لا تلاحظ حتى بعد حدوث الأذى. وهو خطر خاص في البيئات السريرية، حيث يمكن أن تترجم الانحرافات الصغيرة في الدقة إلى عواقب كبيرة للمرضى.

يضاف إلى هذه القضية “انحراف النموذج“: نمط أنظمة الذكاء الاصطناعي للاختلاف عن الإرشادات والسياق مع دخول المزيد من البيانات إلى النظام. مع تطور السكان المرضى وطرح بروتوكولات علاجية جديدة وتأثير العوامل الخارجية على العمليات، يمكن أن تتغير افتراضات أدوات الذكاء الاصطناعي الأساسية. بدون مراقبة مستمرة وضبط دقيق، يمكن لنظام الذكاء الاصطناعي الذي كان يؤدي بشكل موثوق أن يبدأ في اتخاذ إجراءات أو اقتراح حلول تختلف عن تدريبه.

لمعالجة انحراف النموذج، يجب على المستشفيات معاملة أنظمة الذكاء الاصطناعي كأصول ديناميكية عالية الخطورة وليس أدوات ساكنة. هذا يعني تنفيذ مراقبة أداء مستمرة، وضبط عتبات واضحة للدقة المقبولة، وضبط ملكية إعادة التدريب والتحقق. يجب أيضًا تعزيز حوكمة البيانات، مع ممارسات موحدة لجودة البيانات والتفاعل بين الأنظمة واكتشاف التحيز.

احصل على الأمر الصحيح قبل تشغيله

يملك الذكاء الاصطناعي إمكانية تحويل الرعاية الصحية من خلال تحسين الكفاءة والدقة ونتائج المرضى. لكن بدون ملكية واضحة للمخاطر التي يطرحها، يمكن أن يصبح هذا الإمكانية سريعًا عبئًا.

لا يمكن للمستشفيات أن تعامل حوكمة الذكاء الاصطناعي كتمارين مطابقة. يجب أن تعاملها كأولوية تشغيلية أساسية: حدد الملكية، وحدد الإشراف، وتقييم مستمر. لأن في مجال الرعاية الصحية، عندما يحدث شيء خاطئ، يمكن أن تكون العواقب أسوأ بكثير من من هو على خطأ.