Wann ist im Gesundheitswesen auf KI zu verzichten?

Immer wenn ein neuer technologischer Fortschritt in einer Branche Einzug hält, besteht die Versuchung, dieses glänzende neue Spielzeug als Anekdote für alle Übel der Branche zu werten. KI im Gesundheitswesen ist ein hervorragendes Beispiel. Im Zuge der Weiterentwicklung der Technologie wurde sie für Anwendungsfälle in der Arzneimittelentwicklung, der Koordinierung der Gesundheitsversorgung und der Kostenerstattung übernommen, um nur einige zu nennen. Es gibt eine große Anzahl legitimer Anwendungsfälle für KI im Gesundheitswesen, bei denen die Technologie bei weitem besser ist als jede derzeit verfügbare Alternative.

Allerdings ist die KI – so wie sie heute ist – nur bei bestimmten Aufgaben hervorragend, wie etwa beim Verstehen großer Datenmengen und beim Treffen von Urteilen auf der Grundlage klar definierter Regeln. Andere Situationen, insbesondere wenn zusätzlicher Kontext für die richtige Entscheidung unerlässlich ist, sind nicht gut für KI geeignet. Sehen wir uns einige Beispiele an.

Ablehnung von Ansprüchen und Pflege

Ob es sich nun um einen Anspruch oder eine Behandlung handelt, Ablehnungen sind komplexe Entscheidungen und zu wichtig, als dass sie allein von der KI gehandhabt werden könnten. Bei der Ablehnung eines Anspruchs oder einer Behandlung besteht ein offensichtlicher moralischer Imperativ, dies mit äußerster Vorsicht zu tun, und angesichts der heutigen Fähigkeiten der KI ist menschliches Eingreifen erforderlich.

Abgesehen vom moralischen Aspekt setzen sich Krankenversicherungen einem Risiko aus, wenn sie sich bei Ablehnungsentscheidungen zu stark auf KI verlassen. Krankenversicherungen können mit Klagen konfrontiert werden, wenn sie KI missbrauchen, um Ansprüche abzulehnen. Rechtsstreit Sie warf den Plänen vor, die Mindestanforderungen für eine ärztliche Begutachtung nicht zu erfüllen, weil stattdessen KI zum Einsatz komme.

Sich auf vergangene Entscheidungen verlassen

Wenn man darauf vertraut, dass KI Entscheidungen ausschließlich auf Grundlage einer früheren Entscheidung trifft, hat das einen offensichtlichen Fehler: Eine falsche Entscheidung aus der Vergangenheit wird weiterleben und andere beeinflussen. Und da die Richtlinien, die der KI zugrunde liegen, oft über mehrere Systeme verteilt oder von Menschen nicht perfekt kodifiziert sind, kann es passieren, dass KI-Systeme ein ungenaues Verständnis dieser Richtlinien übernehmen und dann weiterverbreiten. Um dies zu vermeiden, müssen Organisationen eine einzige Quelle für die Wahrheit der Richtlinien schaffen, damit die KI auf einen zuverlässigen Datensatz zurückgreifen und daraus lernen kann.

Aufbauend auf Legacy-Systemen

Als relativ neue Technologie bietet KI ein Gefühl von Möglichkeiten, und viele Data-Science-Teams von Krankenkassen möchten diese Möglichkeiten schnell nutzen, indem sie KI-Tools einsetzen, die bereits in vorhandene Unternehmensplattformen integriert sind. Das Problem besteht darin, dass die Prozesse im Bereich der Krankenversicherungsansprüche extrem komplex sind und Unternehmensplattformen die Feinheiten oft nicht verstehen. Wenn man KI als Einheitslösung auf diese Altplattformen aufsetzt (eine Lösung, die nicht alle verschiedenen Faktoren berücksichtigt, die sich auf die Anspruchsbearbeitung auswirken), führt das letztendlich zu Verwirrung und Ungenauigkeiten, anstatt effizientere Prozesse zu schaffen.

Auf alten Daten aufbauen

Einer der größten Vorteile der KI besteht darin, dass sie im Laufe des Lernens immer besser darin wird, Aufgaben zu orchestrieren. Dieses Lernen kann jedoch nur stattfinden, wenn es eine konsistente Feedbackschleife gibt, die der KI hilft, zu verstehen, was sie falsch gemacht hat, damit sie sich entsprechend anpassen kann. Dieses Feedback muss nicht nur konstant sein, sondern auch auf sauberen, genauen Daten basieren. Schließlich ist die KI nur so gut wie die Daten, aus denen sie lernt.

Wann KI im Gesundheitswesen von Vorteil ist

Der Einsatz von KI in einem Sektor mit so schwerwiegenden Ergebnissen wie dem Gesundheitswesen erfordert sicherlich Vorsicht. Das heißt aber nicht, dass es keine Anwendungsfälle gibt, in denen KI sinnvoll ist.

Für eine, Es gibt keinen Mangel an Daten im Gesundheitswesen (denken Sie daran, dass die Krankenakte einer Person Tausende von Seiten umfassen kann) und die Muster in diesen Daten können uns viel über die Diagnose von Krankheiten, die korrekte Beurteilung von Ansprüchen und vieles mehr sagen. Hier zeichnet sich KI aus, denn sie sucht nach Mustern und schlägt auf der Grundlage dieser Muster Maßnahmen vor, die menschliche Prüfer umsetzen können.

Ein weiterer Bereich, in dem KI herausragend ist, ist Richtlinien und Regeln für das Katalogisieren und Aufnehmen die regeln, wie Ansprüche ausgezahlt werden. Generative KI (GenAI) kann verwendet werden, um diese Richtlinieninhalte aus verschiedenen Formaten in maschinenlesbaren Code umzuwandeln, der einheitlich angewendet werden kann alle Patientenansprüche. GenAI kann auch verwendet werden, um Informationen zusammenzufassen und in einem leicht lesbaren Format anzuzeigen, damit ein Mensch sie überprüfen kann.

Der rote Faden, der sich durch alle diese Anwendungsfälle zieht, ist, dass KI als Co-Pilot für die Menschen eingesetzt wird, die sie überwachen, und nicht, dass sie allein das Sagen hat. Solange Organisationen diese Idee bei der Implementierung von KI im Hinterkopf behalten, werden sie in dieser Ära, in der das Gesundheitswesen durch KI transformiert wird, erfolgreich sein können.