Wann AI im Gesundheitswesen zu vermeiden ist

Jedes Mal, wenn eine neue technologische Errungenschaft in eine Branche eintritt, kann es verlockend sein, dieses neue Spielzeug als Allheilmittel für alle Probleme der Branche zu betrachten. AI im Gesundheitswesen ist ein gutes Beispiel. Da die Technologie weiter fortgeschritten ist, wurde sie für Einsatzfälle in der Arzneimittelentwicklung, der Versorgungskoordination und der Erstattung eingesetzt, um nur einige zu nennen. Es gibt eine Vielzahl von legitimen Einsatzfällen für AI im Gesundheitswesen, in denen die Technologie weit und breit besser ist als jede derzeit verfügbare Alternative.

Allerdings ist AI – wie es heute steht – nur bei bestimmten Aufgaben gut, wie zum Beispiel dem Verständnis großer Datenmengen und der Entscheidungsfindung auf der Grundlage gut definierter Regeln. Andere Situationen, insbesondere solche, bei denen zusätzlicher Kontext für die Entscheidungsfindung erforderlich ist, sind nicht gut für AI geeignet. Lassen Sie uns einige Beispiele betrachten.

Leistungs- und Versorgungsablehnungen

Sowohl bei der Ablehnung von Leistungen als auch bei der Versorgung handelt es sich um komplexe Entscheidungen, die zu wichtig sind, um von AI allein getroffen zu werden. Wenn eine Leistung oder Versorgung abgelehnt wird, gibt es eine offensichtliche moralische Verpflichtung, dies mit größter Vorsicht zu tun und auf der Grundlage der heutigen Fähigkeiten von AI ist menschliche Eingabe erforderlich.

Jenseits der moralischen Aspekte setzen sich Krankenversicherungen selbst einem Risiko aus, wenn sie zu sehr auf AI vertrauen, um Ablehnungsentscheidungen zu treffen. Krankenversicherungen können und werden wegen der unangemessenen Verwendung von AI zur Ablehnung von Leistungen verklagt, wobei Rechtsstreitigkeiten die Krankenversicherungen beschuldigen, die Mindestanforderungen für die ärztliche Überprüfung nicht zu erfüllen, da AI anstelle von menschlicher Überprüfung eingesetzt wurde.

Vertrauen auf vergangene Entscheidungen

Das Vertrauen auf AI, um Entscheidungen allein auf der Grundlage früherer Entscheidungen zu treffen, hat einen offensichtlichen Fehler: Eine falsche Entscheidung aus der Vergangenheit wird weiterhin andere beeinflussen. Darüber hinaus können AI-Systeme aufgrund unvollständiger oder fehlerhafter Kodifizierung von Richtlinien durch Menschen eine ungenaue Vorstellung von diesen Richtlinien entwickeln. Um dies zu vermeiden, müssen Organisationen eine einzige Quelle der Wahrheit für Richtlinien schaffen, damit AI auf eine verlässliche Datenmenge zurückgreifen kann.

Aufbau auf Legacy-Systemen

Als relativ neue Technologie bringt AI ein Gefühl der Möglichkeit mit sich, und viele Teams für Datenwissenschaft in der Gesundheitsbranche sind begierig, diese Möglichkeit schnell zu nutzen, indem sie AI-Tools einsetzen, die bereits in bestehenden Unternehmensplattformen integriert sind. Das Problem ist, dass die Prozesse für die Bearbeitung von Gesundheitsleistungen extrem komplex sind und Unternehmensplattformen oft die Feinheiten nicht verstehen. Die Verwendung von AI als universelle Lösung, die auf diesen Legacy-Plattformen aufsetzt, ohne alle verschiedenen Faktoren zu berücksichtigen, die die Bearbeitung von Leistungen beeinflussen, führt zu Verwirrung und Ungenauigkeit anstelle von effizienteren Prozessen.

Verlassen auf alte Daten

Einer der größten Vorteile von AI ist, dass es immer besser darin wird, Aufgaben zu orchestrieren, während es lernt, aber dieses Lernen kann nur stattfinden, wenn es eine konsistente Rückkopplungsschleife gibt, die AI hilft, zu verstehen, was es falsch gemacht hat, damit es entsprechend angepasst werden kann. Diese Rückkopplung muss nicht nur konstant sein, sondern auch auf sauberen, genauen Daten basieren. Schließlich ist AI nur so gut wie die Daten, aus denen es lernt.

Wenn AI im Gesundheitswesen sinnvoll ist

Die Verwendung von AI in einem Sektor, in dem die Ausgaben so folgenschwer sind wie im Gesundheitswesen, erfordert sicherlich Vorsicht, aber das bedeutet nicht, dass es keine Einsatzfälle gibt, in denen AI sinnvoll ist.

Zum einen gibt es im Gesundheitswesen keine Knappheit an Daten (denken Sie daran, dass die medizinische Akte einer Person Tausende von Seiten umfassen kann), und die Muster in diesen Daten können uns viel über die Diagnose von Krankheiten, die korrekte Bearbeitung von Leistungen und mehr sagen. Hierbei ist AI hervorragend, da es Muster erkennt und Vorschläge auf der Grundlage dieser Muster macht, die menschliche Prüfer weiterverfolgen können.

Ein weiterer Bereich, in dem AI hervorragend ist, ist die Katalogisierung und Aufnahme von Richtlinien und Regeln, die bestimmen, wie Leistungen bezahlt werden. Generative AI (GenAI) kann verwendet werden, um diese Richtlinieninhalte aus verschiedenen Formaten in maschinenlesbaren Code umzuwandeln, der konsistent auf alle Patientenleistungen angewendet werden kann. GenAI kann auch verwendet werden, um Informationen zusammenzufassen und in einem leicht lesbaren Format für eine menschliche Überprüfung anzuzeigen.

Der rote Faden durch all diese Einsatzfälle ist, dass AI als Co-Pilot für Menschen eingesetzt wird, die es überwachen, und nicht als alleiniger Entscheider. Solange Organisationen diese Idee im Hinterkopf behalten, wenn sie AI implementieren, werden sie in der Lage sein, in dieser Ära, in der das Gesundheitswesen durch AI transformiert wird, erfolgreich zu sein.