الاستخدام غير الخاضع للرقابة للنموذج اللغوي الكبير في مجال الرعاية الصحية وتحديات الامتثال

على مدار الصناعات، حقق الذكاء الاصطناعي التوليدي انتصارات سريعة في فترة زمنية قصيرة نسبيا. وتستند هذه التقدمات على نماذج أساسية، والتي تعرفها تقرير كاليفورنيا حول سياسة الذكاء الاصطناعي المتقدم على أنها “فئة من التكنولوجيا العامة التي تتطلب موارد كبيرة لإنتاجها، وتتطلب كميات كبيرة من البيانات والعمليات لتحقيق قدرات يمكن أن تدعم مجموعة من التطبيقات الذكية المتدفقة”.

تظهر هذه النماذج اللغوية الكبيرة العامة، مثل جيميني وчат جبت، قوة متزايدة في تكرار وتجاوز القدرات الإدراكية البشرية في مجالات مثل تحليل البيانات والكتابة والاستدلال. وفي مجال الرعاية الصحية على وجه الخصوص، يزداد استخدام الذكاء الاصطناعي التوليدي مع سعى الأطباء ومهنيي الرعاية الصحية الآخرين إلى تكنولوجيا لخفض العبء الإداري وتسريع العمليات ودعم اتخاذ القرارات السريرية.

然而، بينما تقدم التكنولوجيا وعودة كبيرة، يثير استخدام الذكاء الاصطناعي التوليدي في مجال الرعاية الصحية مخاطر امتثالية رئيسية إذا لم يتم تنفيذه أو استخدامه بشكل مسؤول. وعلى وجه الخصوص، يأتي استخدام النماذج اللغوية الكبيرة العامة مع مخاطر امتثالية محددة يجب على منظمات الرعاية الصحية فهمها بشكل كامل لمنع انتهاكات الخصوصية أو الأمان. قد تعتمد هذه النماذج على مصادر بيانات غير مؤكدة، أو تستخدم معلومات صحية للمرضى بطريقة غير مصرح بها، أو تعزز الانحياز والمعلومات غير الدقيقة.

للحفاظ على خصوصية بيانات المرضى، والامتثال لللوائح المتطورة، وتقليل المخاطر باهظة الثمن، يجب على قادة الرعاية الصحية اتخاذ نهج حاسم لتفجير قنبلة الامتثال “الزمنية” لاستخدام النماذج اللغوية الكبيرة “غير الخاضع للرقابة”.

حالة استخدام النماذج اللغوية الكبيرة العامة في مجال الرعاية الصحية الحالية

على مدار مجال الرعاية الصحية، يزداد استخدام الموظفين للنماذج اللغوية الكبيرة لدعم المهام اليومية، من العمل الإداري إلى الاتصالات مع المرضى. النماذج اللغوية الكبيرة المتعددة توسع أيضًا على هذه التطبيقات بقدرتهم على معالجة النصوص والصور والصوت بسهولة. بالإضافة إلى الدعم الإداري، نشهد أيضًا زيادة في مقدمي الرعاية الذين يلجأون إلى التكنولوجيا لدعم المزيد من المهام السريرية.

تظهر هذه النماذج نتائج مثيرة للإعجاب، حيث أظهرت دراسات عديدة أن أداء النماذج اللغوية الكبيرة يصل أو يتجاوز القدرات البشرية في مجالات محددة. على سبيل المثال، نجح نموذج جبت-4 في اختبار الترخيص الطبي الأمريكي بنسبة 86.7٪.

الذكاء الاصطناعي الهجين هو نهج متطور لاستخدام الذكاء الاصطناعي التوليدي في مجال الرعاية الصحية، والذي يجمع بين التعلم الآلي والنماذج اللغوية الكبيرة لمعالجة التحليلات المعقدة وترجمة النتائج إلى لغة بسيطة. من خلال دمج كلا النموذجين، يهدف هذا النهج إلى التغلب على عيوب النماذج اللغوية الكبيرة، بما في ذلك الهلوسة والضبط والانحياز، بينما يلعب دورًا في نقاط قوته. الوكلاء الذكيين يزدادون أيضًا في الاستخدام لقدرتهم على توفير المهام الرئيسية بدون تدخل بشري، مثل الاستجابة لرسائل المرضى أو جدولة المواعيد.

然而، فإن الإمكانات التي يقدملها الذكاء الاصطناعي تبرز أيضًا حاجة ملحة إلى الحوكمة النشطة. كلما أصبحت هذه الأدوات متأصلة في عمليات الرعاية الصحية، زادت المخاطر المتعلقة بالدقة والأمان والامتثال.

مخاطر الامتثال للنماذج اللغوية الكبيرة العامة في مجال الرعاية الصحية

بينما فتحت التكنولوجيا الرقمية في مجال الرعاية الصحية أفقًا جديدًا من الإمكانيات، كشفت أيضًا عن نقاط ضعف رئيسية. على سبيل المثال، بين نوفمبر 2023 واكتوبر 2024، شهد قطاع الرعاية الصحية 1710 حادثة أمنية، 1542 منها تم الكشف عنها كفضح بيانات مؤكد.

تعميق العصر الذكاء الاصطناعي هذه الشقوق، وإضافة طبقة جديدة من التعقيد إلى الخصوصية والأمان. على وجه الخصوص، يثير استخدام النماذج اللغوية الكبيرة العامة في مجال الرعاية الصحية عدة مخاطر امتثالية رئيسية:

مخاطر #1: يمنع تطوير العلبة الغامضة الرقابة المستمرة أو التحقق

النماذج المغلقة تفتقر إلى الشفافية حول عملية تطويرها، مثل البيانات التي تم تدريب النموذج عليها أو كيفية تحديثها. هذه الغموض تمنع المطورين والباحثين من البحث في النموذج لتحديد مصدر المخاطر أو فهم عمليات اتخاذ القرارات. ونتيجة لذلك، يمكن للنماذج المغلقة تمكين استخدام مصادر بيانات طبية غير مؤكدة وترك الثغرات الأمنية بدون رقابة.

مخاطر #2: تسرب بيانات المرضى

النماذج اللغوية الكبيرة لا تعتمد دائمًا على بيانات المرضى المجهولة. قد تكشف التحفيزات أو التفاعلات المتخصصة عن معلومات صحية يمكن التعرف عليها عن غير قصد، مما قد يؤدي إلى انتهاكات لقانون الخصوصية الصحية.

مخاطر #3: تعزيز الانحياز والمعلومات غير الدقيقة

في تجربة واحدة، أضاف الباحثون نسبة صغيرة من الحقائق الخاطئة إلى فئة واحدة من قاعدة المعرفة للنموذج البيولوجي، مع الحفاظ على سلوكه في جميع المجالات الأخرى. ووجد الباحثون أن المعلومات الخاطئة انتشرت عبر إخراج النموذج، مما يبرز ضعف النماذج اللغوية الكبيرة أمام هجمات المعلومات الخاطئة.

أي عيوب وجدت في النماذج الأساسية تُورث لجميع النماذج المعتمدة والتطبيقات الناتجة، وقد تزيد من عدم المساواة الصحية، مثل النصائح غير الدقيقة للمجموعات غير الممثلة.

مخاطر #4: عدم التطابق التنظيمي

قد لا يتوافق استخدام النماذج اللغوية الكبيرة العامة مع قانون الخصوصية الصحية أو اللوائح المتطورة، خاصة إذا لم يتمكن البائعون من التحقق من بيانات التدريب. وتتضاعف هذه المخاطر بسبب استخدام موظفي منظمات الرعاية الصحية لأدوات ذكاء اصطناعي غير معتمدة أو غير مراقبة، أو الذكاء الاصطناعي الخفي. وفقًا لشركة آي بي إم، 20٪ من المنظمات المستجية في جميع القطاعات تعرضت لانتهاك أمني ناتج عن حوادث تتعلق بالذكاء الاصطناعي الخفي.

في النهاية، تملك مخاطر النماذج اللغوية الكبيرة العامة في مجال الرعاية الصحية عواقب حقيقية، بما في ذلك الإجراءات القانونية، والتلف الائتماني، وفقدان ثقة المرضى، وتكاليف التقاضي.

أفضل الممارسات: إرشادات النماذج اللغوية الكبيرة واعتباراتها

为了 تبني الذكاء الاصطناعي التوليدي بشكل مسؤول، يجب على قادة الرعاية الصحية إنشاء حواجز واضحة تحمي المرضى والمنظمات على حد سواء. يمكن أن تساعد الممارسات التالية منظمات الرعاية الصحية في وضع أساس لاستخدام الذكاء الاصطناعي المسؤول والمتوافق:

أفضل ممارسة #1: اختر تكنولوجيا الذكاء الاصطناعي بحكمة

اطلب وضوحًا من البائعين حول كيفية تطوير تكنولوجيا الذكاء الاصطناعي وما هي مصادر البيانات المستخدمة في عملية التطوير. أهملهم الأدوات التي تعتمد فقط على المحتوى الطبي المعتمد من الخبراء، ولديها عمليات اتخاذ القرارات الشفافة، وتتجنب تدريب النماذج على معلومات صحية للمرضى.

أفضل ممارسة #2: بناء حواجز أمان بشري في الحلقة

اجعل الأطباء يراجعون أي مخرجات تم توليدها بواسطة الذكاء الاصطناعي والتي يمكن أن تؤثر على قرارات الرعاية. يمكن أن يكون الذكاء الاصطناعي أداة قوية، ولكن في صناعة تؤثر مباشرة على حياة المرضى، فإن الإشراف السريري هو مفتاح ضمان الاستخدام المسؤول ودقة أي معلومات مدعومة بالذكاء الاصطناعي.

أفضل ممارسة #3: التدريب والاستعداد القوي للقوى العاملة

أشر إلى الأطباء وموظفي الرعاية الصحية على فوائد و مخاطر استخدام الذكاء الاصطناعي لتقليل تبني الذكاء الاصطناعي الخفي. يعمل موظفو الرعاية الصحية في بيئة عمل معقدة، متأثرة بنقص الموظفين وارتفاع معدلات الإجهاد. يسهل عملية تعليم الذكاء الاصطناعي دون إضافة عبء إضافي إلى حملهم.

أفضل ممارسة #4: إنشاء ثقافة الحوكمة

اجعل التقييمات الخارجية لل حلول الذكائية جزءًا من عملية التحقق من السلامة والموثوقية والامتثال. في نفس الوقت، قم بتنفيذ إطار واضح على مستوى المنظمة لمراقبة الذكاء الاصطناعي، والذي يحدد الموافقة والاستخدام والمراقبة لتعزيز الثقة في التكنولوجيا ومنع الموظفين من اللجوء إلى أدوات غير مصرح بها.

أفضل ممارسة #5: التزام القيادة بالريادة في إدارة الذكاء الاصطناعي

تعاون مع القيادة للبقاء في صدارة اللوائح المتطورة، وكذلك إرشادات إدارة الأغذية والأدوية ومركز الرعاية الصحية والمعلومات. هناك جهود تنظيمية ناشئة على مستوى الولاية. على سبيل المثال، سنّت كاليفورنيا قانون الشفافية في الذكاء الاصطناعي المتقدم، الذي يؤكد على الكشف عن المخاطر والشفافية والتخفيف، خاصة في بيئات الرعاية الصحية، وهناك أيضًا قانون كولورادو للذكاء الاصطناعي، الذي يهدف إلى منع التمييز الخوارزمي.

أفضل ممارسة #6: المراقبة المستمرة ودوائر التغذية الراجعة

يجب أن لا يتم استخدام الذكاء الاصطناعي في بيئة الرعاية الصحية بأفكار “ضبط و