الذكاء الاصطناعي التوليدي في صناعة الرعاية الصحية يحتاج إلى جرعة من القابلية للفهم

سرعة الذكاء الاصطناعي التوليدي في أداء مهام الكتابة والاتصالات على مستوى عالٍ قد لفت الانتباه إلى الشركات والمستهلكين على حد سواء. لكن العمليات التي تحدث خلف الكواليس لتمكين هذه القدرات المذهلة يمكن أن تجعلها مخاطرة للصناعات الحساسة والخاضعة للتنظيم الحكومي ، مثل التأمين أو المالية أو الرعاية الصحية ، لاستخدام الذكاء الاصطناعي التوليدي بدون توخي الحذر الكافي.

يمكن العثور على بعض الأمثلة الأكثر توضيحًا لهذا في صناعة الرعاية الصحية.

تتمثل هذه القضايا عادةً في القواعد البيانية الشاملة والمتنوعة المستخدمة لتدريب نماذج اللغة الكبيرة (LLM) – النماذج التي تستمد منها أدوات الذكاء الاصطناعي التوليدي النصية لمهامها على مستوى عالٍ. بدون تدخل خارجي صريح من قبل المبرمجين ، تميل هذه النماذج إلى جمع البيانات بشكل عشوائي من مصادر مختلفة على الإنترنت لتوسيع قاعدة معارفها.

هذا النهج هو الأكثر ملاءمة لاستخدامات المستهلكين منخفضة المخاطر ، حيث يكون الهدف النهائي هو توجيه العملاء إلى عروض مرغوبة بدقة. ومع ذلك ، فإن مجموعات البيانات الكبيرة والمسارات المضطربة التي تولد بها نماذج الذكاء الاصطناعي مخرجاتها تؤدي إلى تعتيم الوضوح الذي يحتاجه المستشفيات ومقدمو الرعاية الصحية لمعرفة وتحديد الأخطاء المحتملة.

في هذا السياق ، يشير الوضوح إلى القدرة على فهم مسارات المنطق لأي نموذج LLM. يجب على المهنيين الصحيين الذين يرغبون في تبني أدوات الذكاء الاصطناعي التوليدي الحصول على وسيلة لفهم كيف تُنتج نماذجهم نتائجها ، بحيث يكون المرضى والموظفون على دراية تامة بكل شفافية خلال عمليات اتخاذ القرارات المختلفة. بعبارة أخرى ، في صناعة مثل الرعاية الصحية ، حيث تكون الأرواح على المحك ، فإن الرهان يكون مرتفعًا جدًا لدرجة أن المحترفين لا يمكنهم تفسير البيانات المستخدمة لتدريب أدوات الذكاء الاصطناعي الخاصة بهم.

幸运的是 ، هناك طريقة لتجاوز معضلة وضوح الذكاء الاصطناعي التوليدي – فقط يتطلب الأمر بعض التحكم والتركيز.

اللغز والشك

في الذكاء الاصطناعي التوليدي ، مفهوم فهم كيفية انتقال نموذج LLM من النقطة A – المدخل – إلى النقطة B – المخرج – أكثر تعقيدًا من الخوارزميات غير التوليدية التي تعمل على أنماط محددة.

تُشكل أدوات الذكاء الاصطناعي التوليدي اتصالات لا حصر لها أثناء انتقالها من المدخل إلى المخرج ، ولكن للمراقب الخارجي ، كيفية وسبب إجراء أي سلسلة من الاتصالات تبقى لغزًا. بدون وسيلة لمشاهدة “عملية التفكير” التي يتبعها خوارزمية الذكاء الاصطناعي ، يفتقر المشغلون البشريون إلى وسيلة شاملة لتحقيق العدالة في منطقها وتحديد الأخطاء المحتملة.

علاوة على ذلك ، تُ复ّع قابلية تفسير البيانات المستخدمة من قبل خوارزميات التعلم الآلي بسبب مجموعات البيانات المتزايدة باستمرار. كلما كانت القاعدة البيانية أكبر ، زادت احتمالية أن يتعلم النظام من المعلومات ذات الصلة وغير ذات الصلة ، وينتج “هلوسات الذكاء الاصطناعي” – أكاذيب تختلف عن الحقائق الخارجية والمنطق السياقي ، على الرغم من أنها قد تكون مقنعة.

في صناعة الرعاية الصحية ، يمكن أن تؤدي هذه النتائج المعيبة إلى سلسلة من المشاكل ، مثل التشخيصات الخاطئة والوصفات الطبية غير الصحيحة. إلى جانب العواقب الأخلاقية والقانونية والمالية ، يمكن أن تؤدي هذه الأخطاء بسهولة إلى ضرر سمعة مقدمي الرعاية الصحية والمؤسسات الطبية التي يمثلونها.

على الرغم من إمكانية تحسين التدخلات الطبية وتحسين الاتصالات مع المرضى وتعزيز الكفاءة التشغيلية ، يظل الذكاء الاصطناعي التوليدي في الرعاية الصحية محيطًا بالشك ، وبالتالي – 55٪ من الأطباء لا يعتقدون أنه جاهز للاستخدام الطبي و 58٪ لا يثقون به على الإطلاق. ومع ذلك ، فإن منظمات الرعاية الصحية تُقدّم قدمًا ، حيث تُدمج 98٪ أو تخطط لاستراتيجية تطبيق الذكاء الاصطناعي التوليدي في محاولة لتعويض تأثير النقص الحالي في العمالة في القطاع.

تحكم في المصدر

غالبًا ما تُضيع صناعة الرعاية الصحية في المناخ الاستهلاكي الحالي ، الذي يقدر الكفاءة والسرعة أكثر من ضمان تدابير السلامة الحديدية. لقد أثار الأخبار الأخيرة حول مخاطر جمع البيانات غير المحدود لتدريب نماذج LLM ، مما أدى إلى دعاوى قضائية لانتهاك حقوق النشر ، هذه القضايا إلى الواجهة. كما يواجه بعض الشركات ادعاءات بأن بيانات المواطنين قد تم استخراجها لتدريب هذه نماذج اللغة ، مما قد ينتهك قوانين الخصوصية.

يجب على مطورو الذكاء الاصطناعي في الصناعات الخاضعة للتنظيم أن يُظهروا التحكم في مصادر البيانات لتحديد الأخطاء المحتملة. أي ، يجب أن يُفضل استخراج البيانات من مصادر موثوقة ومراجعة الصناعة ، بدلاً من جمع البيانات بشكل عشوائي من صفحات الويب الخارجية دون إذن صريح. بالنسبة لصناعة الرعاية الصحية ، هذا يعني تقييد مدخلات البيانات إلى صفحات الأسئلة الشائعة وملفات CSV وقواعد البيانات الطبية – من بين مصادر داخلية أخرى.

إذا بدا هذا الأمر مقيدًا إلى حد ما ، hãy حاول البحث عن خدمة على موقع نظام صحي كبير. تنشر منظمات الرعاية الصحية الأمريكية مئات ، إن لم تكن آلاف ، من الصفحات المعلوماتية على منصاتها ؛ معظمها مدفون بعمق لدرجة أن المرضى لا يستطيعون الوصول إليها على الإطلاق. يمكن أن توفر حلول الذكاء الاصطناعي التوليدي المعتمدة على البيانات الداخلية هذه المعلومات للمرضى بسهولة وبدون عناء. هذا هو فوز لفائدة جميع الأطراف ، حيث يرى نظام الصحة أخيرًا عائد الاستثمار من هذا المحتوى ، ويمكن للمرضى العثور على الخدمات التي يحتاجونها على الفور وبسهولة.

ماذا يأتي بعد الذكاء الاصطناعي التوليدي في الصناعات الخاضعة للتنظيم؟

يمكن لصناعة الرعاية الصحية أن تستفيد من الذكاء الاصطناعي التوليدي بعدة طرق.

على سبيل المثال ، ضع في اعتبارك الإرهاق الشامل الذي يصيب قطاع الرعاية الصحية في الولايات المتحدة مؤخرًا – قريب من 50٪ من القوى العاملة من المتوقع أن يغادر مناصبهم بحلول عام 2025. يمكن أن تساعد بوتات الدردشة المدعومة بالذكاء الاصطناعي التوليدي في تخفيف جزء كبير من العبء الإضافي و الحفاظ على فرق وصول المرضى الممتدة.

من جانب المريض ، يمتلك الذكاء الاصطناعي التوليدي إمكانية تحسين خدمات مركز الاتصال لمقدمي الرعاية الصحية. يمتلك التأتمتة بالذكاء الاصطناعي القدرة على معالجة مجموعة واسعة من الاستفسارات من خلال قنوات الاتصال المختلفة ، بما في ذلك الأسئلة الشائعة ومشاكل تكنولوجيا المعلومات وإعادة تعبئة الأدوية والاستشارات الطبية. إلى جانب الإحباط الناجم عن الانتظار على الهاتف ، حوالي نصف فقط من المرضى الأمريكيين يحلون مشاكلهم بنجاح في المكالمة الأولى ، مما يؤدي إلى معدلات هجر عالية وصول الرعاية الصحية المنخفضة. النتيجة هي انخفاض رضا العملاء ، مما يزيد من الضغط على الصناعة للعمل. ولذلك ، من أجل أن تستفيد الصناعة حقًا من تطبيق الذكاء الاصطناعي التوليدي ، يحتاج مقدمو الرعاية الصحية إلى تسهيل هيكلة متعمدة للبيانات التي يصل إليها نماذج LLM.