الاستخدام غير الخاضع للرقابة للنموذج اللغوي الكبير في مجال الرعاية الصحية وتحديات الامتثال

على مدار الصناعات، حقق الذكاء الاصطناعي التوليدي انتصارات يشهد الذكاء الاصطناعي التوليدي تطورًا سريعًا خلال فترة زمنية قصيرة نسبيًا. ويستند هذا التطور إلى نماذج أساسية، يُعرّفها تقرير كاليفورنيا لسياسات الذكاء الاصطناعي المتقدم بأنها “فئة من التقنيات العامة التي تتطلب موارد كبيرة لإنتاجها، وكميات هائلة من البيانات والعمليات لتحقيق قدرات تدعم مجموعة واسعة من التطبيقات الذكية المتدفقة”. تُظهر نماذج اللغة الكبيرة العامة هذه، مثل Gemini وChatGet، قدرة متزايدة على محاكاة القدرات المعرفية البشرية وتجاوزها في مجالات مثل تحليل البيانات والكتابة والاستدلال. في مجال الرعاية الصحية تحديدًا، يتزايد استخدام الذكاء الاصطناعي التوليدي مع سعي الأطباء وغيرهم من المتخصصين في الرعاية الصحية إلى استخدام التكنولوجيا لتقليل الأعباء الإدارية، وتسريع العمليات، ودعم اتخاذ القرارات السريرية. ومع ذلك، فبينما تتقدم هذه التقنية وتحقق عوائد كبيرة، فإن استخدام الذكاء الاصطناعي التوليدي في الرعاية الصحية يُثير مخاطر كبيرة تتعلق بالامتثال إذا لم يتم تنفيذه أو استخدامه بمسؤولية. على وجه الخصوص، يأتي استخدام نماذج اللغة الكبيرة العامة مصحوبًا بمخاطر امتثال محددة يجب على مؤسسات الرعاية الصحية فهمها تمامًا لمنع انتهاكات الخصوصية أو الأمن. قد تعتمد هذه النماذج علىالاعتماد على مصادر بيانات غير موثوقة، واستخدام معلومات المرضى الصحية بطرق غير مصرح بها، أو الترويج للتحيز وعدم الدقة. لحماية خصوصية بيانات المرضى، والامتثال للوائح المتغيرة، والحد من المخاطر المكلفة، يجب على قادة الرعاية الصحية اتخاذ نهج حاسم لنزع فتيل “القنبلة الموقوتة” المتمثلة في الاستخدام غير المنظم لنماذج اللغة الضخمة.

حالة استخدام النماذج اللغوية الكبيرة العامة في مجال الرعاية الصحية الحالية

على مدار مجال الرعاية الصحية، يزداد استخدام الموظفين للنماذج اللغوية الكبيرة لدعم المهام اليومية، من العمل الإداري ينطبق هذا أيضًا على التواصل مع المرضى. كما تُوسّع نماذج اللغة الكبيرة نطاق هذه التطبيقات بفضل قدرتها على معالجة النصوص والصور والصوت بسهولة. وإلى جانب الدعم الإداري، نشهد أيضًا تزايدًا في لجوء مقدمي الرعاية الصحية إلى التكنولوجيا لدعم المزيد من المهام السريرية. تُظهر هذه النماذج نتائج مبهرة، حيث تُثبت العديد من الدراسات أن نماذج اللغة الكبيرة تُضاهي أو حتى تتفوق على القدرات البشرية في مجالات مُحددة. على سبيل المثال، حقق نموذج GPT-4 نسبة 86.7% في امتحان الترخيص الطبي الأمريكي (USMLE). في الواقع، الإمكانات التي يقدملها الذكاء الاصطناعي تبرز

أيضًا حاجة ملحة إلى الحوكمة النشطة. كلما أصبحت هذه الأدوات متأصلة في عمليات الرعاية الصحية، زادت المخاطر المتعلقة بالدقة والأمان والامتثال. الذكاء الاصطناعي الهجين هو نهج متطور لاستخدام الذكاء الاصطناعي التوليدي في مجال الرعاية الصحية، والذي يجمع بين التعلم الآلي والنماذج اللغوية الكبيرة لمعالجة التحليلات المعقدة وترجمة النتائج إلى لغة بسيطة. من خلال دمج كلا النموذجين، يهدف هذا النهج إلى التغلب على عيوب النماذج اللغوية الكبيرة، بما في ذلك الهلوسة والضبط والانحياز، بينما يلعب دورًا في نقاط قوته. الوكلاء الذكيين يزدادون أيضًا في الاستخدام لقدرتهم على توفير المهام الرئيسية بدون تدخل بشري، مثل الاستجابة لرسائل المرضى أو جدولة المواعيد.

مخاطر الامتثال للنماذج اللغوية الكبيرة العامة في مجال الرعاية الصحية

بينما فتحت التكنولوجيا الرقمية في مجال الرعاية الصحية أفقًا جديدًا من الإمكانيات، كشفت أيضًا عن نقاط ضعف رئيسية. على سبيل المثال، بين نوفمبر 2023 واكتوبر 2024، شهد قطاع الرعاية الصحية 1710 حادثة أمنية ، 1542منها تم الكشف عنها كفضح بيانات مؤكد. تعميق العصر الذكاء الاصطناعي هذه الشقوق، وإضافة طبقة جديدة من التعقيد إلى الخصوصية والأمان. على وجه الخصوص، يثير استخدام النماذج اللغوية الكبيرة العامة في مجال الرعاية الصحية عدة مخاطر امتثالية رئيسية:

مخاطر #1: يمنع تطوير العلبة الغامضة الرقابة المستمرة أو التحقق

النماذج المغلقة تفتقر إلى الشفافية حول عملية تطويرها، مثل البيانات التي تم تدريب النموذج عليها أو كيفية تحديثها. هذه الغموض تمنع المطورين والباحثين من البحث في النموذج لتحديد مصدر المخاطر أو فهم عمليات اتخاذ القرارات. ونتيجة لذلك، يمكن للنماذج المغلقة تمكين استخدام مصادر بيانات طبية غير مؤكدة وترك الثغرات الأمنية بدون رقابة.

مخاطر #2: تسرب بيانات المرضى

النماذج اللغوية الكبيرة لا تعتمد دائمًا على بيانات المرضى المجهولة. قد تكشف التحفيزات أو التفاعلات المتخصصة عن معلومات صحية يمكن التعرف عليها عن غير قصد، مما قديؤدي إلى انتهاكات لقانون الخصوصية الصحية .

مخاطر #2: تسرب بيانات المرضى

النماذجاللغوية الكبيرة لا تعتمد دائمًا على بيانات المرضى المجهولة. قد تكشف التحفيزات أو التفاعلات المتخصصة عن معلومات صحية يمكن التعرف عليها عن غير قصد، مما قد يؤدي إلى انتهاكات لقانون الخصوصية الصحية .

مخاطر #3: تعزيز الانحياز والمعلومات غير الدقيقة

في تجربة واحدة ، أضاف الباحثون نسبة صغيرة من الحقائق الخاطئة إلى فئة واحدة من قاعدة المعرفة للنموذج البيولوجي، مع الحفاظ على سلوكه في جميع المجالات الأخرى. ووجد الباحثون أن المعلومات الخاطئة انتشرت عبر إخراج النموذج، مما يبرز ضعف النماذج اللغوية الكبيرة أمام هجمات المعلومات الخاطئة. أي عيوب وجدت في النماذج الأساسية تُورث لجميع النماذج المعتمدة والتطبيقات الناتجة ، وقد تزيد من عدم المساواة الصحية، مثل النصائح غير الدقيقة للمجموعات غير الممثلة.

مخاطر #4: عدم التطابق التنظيمي

قد لا يتوافق استخدام النماذج اللغوية الكبيرة العامة مع قانون الخصوصية الصحية أو اللوائح المتطورة، خاصة إذا لم يتمكن البائعون من التحقق من بيانات التدريب. وتتضاعف هذه المخاطر بسبب استخدام موظفي منظمات الرعاية الصحية لأدوات ذكاء اصطناعي غير معتمدة أو غير مراقبة، أو الذكاء الاصطناعي الخفي. وفقًا لشركة آي بي إم، 20٪ من المنظمات المستجية في جميع القطاعات تعرضت لانتهاك أمني ناتج عن حوادث تتعلق بالذكاء الاصطناعي الخفي. في النهاية، تملك مخاطر النماذج اللغوية الكبيرة العامة في مجال الرعاية الصحية عواقب حقيقية، بما في ذلك الإجراءات القانونية، والتلف الائتماني، وفقدان ثقة المرضى، وتكاليف التقاضي.

أفضل الممارسات: إرشادات النماذج اللغوية الكبيرة واعتباراتها

لتبني الذكاء الاصطناعي التوليدي بمسؤولية، يجب على قادة الرعاية الصحية وضع ضمانات واضحة لحماية كل من المرضى والمؤسسات. يمكن أن تُساعد الممارسات التالية مؤسسات الرعاية الصحية على إرساء الأساس لاستخدام الذكاء الاصطناعي بمسؤولية وامتثال:

أفضل ممارسة #1: اختر تكنولوجيا الذكاء الاصطناعي بحكمة

اطلب وضوحًا من البائعين حول كيفية تطوير تكنولوجيا الذكاء الاصطناعي وما هي مصادر البيانات المستخدمة في عملية التطوير. أهملهم الأدوات التي تعتمد فقط على المحتوى الطبي المعتمد من الخبراء، ولديها عمليات اتخاذ القرارات الشفافة، وتتجنب تدريب النماذج على معلومات صحية للمرضى.

أفضل ممارسة #2: بناء حواجز أمان بشري في الحلقة

اجعل الأطباء يراجعون أي مخرجات تم توليدها بواسطة الذكاء الاصطناعي والتي يمكن أن تؤثر على قرارات الرعاية. يمكن أن يكون الذكاء الاصطناعي أداة قوية، ولكن في صناعة تؤثر مباشرة على حياة المرضى، فإن الإشراف السريري هو مفتاح ضمان الاستخدام المسؤول ودقة أي معلومات مدعومة بالذكاء الاصطناعي.

أفضل ممارسة #3: التدريب والاستعداد القوي للقوى العاملة

أشر إلى الأطباء وموظفي الرعاية الصحية على فوائد و مخاطر استخدام الذكاء الاصطناعي لتقليل تبني الذكاء الاصطناعي الخفي. يعمل موظفو الرعاية الصحية في بيئة عمل معقدة، متأثرة بنقص الموظفين وارتفاع معدلات الإجهاد. يسهل عملية تعليم الذكاء الاصطناعي دون إضافة عبء إضافي إلى حملهم.

أفضل ممارسة #3: التدريب والاستعداد القوي للقوى العاملة

أشر إلى الأطباء وموظفي الرعاية الصحية على فوائد و مخاطر استخدام الذكاء الاصطناعي لتقليل تبني الذكاء الاصطناعي الخفي. يعمل موظفو الرعاية الصحية فيبيئة عمل معقدة، متأثرة بنقص الموظفين وارتفاع معدلات الإجهاد. يسهل عملية تعليم الذكاء الاصطناعي دون إضافة عبء إضافي إلى حملهم.

أفضل ممارسة #4: إنشاء ثقافة الحوكمة

اجعل التقييمات الخارجية لل حلول الذكائية جزءًا من عملية التحقق من السلامة والموثوقية والامتثال. في نفس الوقت، قم بتنفيذ إطار واضح على مستوى المنظمة لمراقبة الذكاء الاصطناعي، والذي يحدد الموافقة والاستخدام والمراقبة لتعزيز الثقة في التكنولوجيا ومنع الموظفين من اللجوء إلى أدوات غير مصرح بها.

أفضل ممارسة #5: التزام القيادة بالريادة في إدارة الذكاء الاصطناعي

تعاون مع القيادة للبقاء في صدارة اللوائح المتطورة، وكذلك إرشادات إدارة الأغذية والأدوية ومركز الرعاية الصحية والمعلومات. هناك جهود تنظيمية ناشئة على مستوى الولاية. على سبيل المثال، سنّت كاليفورنيا قانون الشفافية في الذكاء الاصطناعي المتقدم ، الذي يؤكد على الكشف عن المخاطر والشفافية والتخفيف، خاصة في بيئات الرعاية الصحية، وهناك أيضًا قانون كولورادو للذكاء الاصطناعي ، الذي يهدف إلى منع التمييز الخوارزمي.

أفضل ممارسة #6: المراقبة المستمرة ودوائر التغذية الراجعة

يجب أن لا يتم استخدام الذكاء الاصطناعي في بيئة الرعاية الصحية بأفكار “ضبط و