Generative KI in der Gesundheitsbranche benötigt eine Dosis Erklärbarkeit

Die bemerkenswerte Geschwindigkeit, mit der textbasierte generative KI-Tools komplexe Schreib- und Kommunikationsaufgaben erledigen können, hat bei Unternehmen und Verbrauchern gleichermaßen Anklang gefunden. Doch die Prozesse, die im Hintergrund ablaufen, um diese beeindruckenden Fähigkeiten zu ermöglichen, können es für sensible, staatlich regulierte Branchen wie Versicherungen, Finanzen oder Gesundheitswesen riskant machen, generative KI ohne erhebliche Vorsichtsmaßnahmen zu nutzen.

Einige der eindrucksvollsten Beispiele hierfür finden sich in der Gesundheitsbranche.

Solche Probleme sind typischerweise mit den umfangreichen und vielfältigen Datensätzen verbunden, die zur Ausbildung von Large Language Models (LLMs) verwendet werden – den Modellen, die textbasierte generative KI-Tools nutzen, um komplexe Aufgaben zu erledigen. Ohne explizite äußere Eingriffe von Programmierern neigen diese LLMs dazu, Daten unabhängig von ihren Quellen aus dem Internet zu sammeln, um ihre Wissensbasis zu erweitern.

Dieser Ansatz ist am besten für low-risk-Verbraucheranwendungen geeignet, bei denen das ultimative Ziel darin besteht, Kunden mit Präzision auf wünschenswerte Angebote zu lenken. Zunehmend jedoch verdecken große Datensätze und die verwirrenden Pfade, auf denen KI-Modelle ihre Ausgaben generieren, die Erklärbarkeit, die Krankenhäuser und Gesundheitsdienstleister benötigen, um potenzielle Ungenauigkeiten zu verfolgen und zu verhindern.

In diesem Kontext bezieht sich Erklärbarkeit auf die Fähigkeit, die Logikpfade eines gegebenen LLMs zu verstehen. Gesundheitspersonal, das assistive generative KI-Tools einführen möchte, muss die Möglichkeit haben, zu verstehen, wie ihre Modelle Ergebnisse liefern, damit Patienten und Personal während verschiedener Entscheidungsprozesse vollständig transparent sind. Mit anderen Worten: In einer Branche wie der Gesundheitsbranche, in der Menschenleben auf dem Spiel stehen, sind die Einsätze einfach zu hoch, als dass Fachleute die Daten, die zur Ausbildung ihrer KI-Tools verwendet werden, falsch interpretieren könnten.

Glücklicherweise gibt es einen Weg, das Erklärbarkeitsdilemma der generativen KI zu umgehen – es erfordert nur ein bisschen mehr Kontrolle und Fokus.

Mysterium und Skepsis

Bei der generativen KI ist das Konzept des Verständnisses, wie ein LLM von Punkt A – der Eingabe – zu Punkt B – der Ausgabe – gelangt, viel komplexer als bei nicht-generativen Algorithmen, die entlang fester Muster laufen.

Generative KI-Tools machen unzählige Verbindungen, während sie von der Eingabe zur Ausgabe navigieren, aber für den außenstehenden Beobachter bleibt unklar, wie und warum sie eine bestimmte Reihe von Verbindungen herstellen. Ohne Möglichkeit, den “Denkprozess” eines KI-Algorithmus zu sehen, fehlt es menschlichen Bedienern an einer gründlichen Möglichkeit, seine Argumentation zu untersuchen und potenzielle Ungenauigkeiten zu verfolgen.

Zusätzlich komplizieren die kontinuierlich expandierenden Datensätze, die von ML-Algorithmen verwendet werden, die Erklärbarkeit weiter. Je größer der Datensatz, desto wahrscheinlicher ist es, dass das System sowohl von relevanten als auch von irrelevanten Informationen lernt und “KI-Halluzinationen” – Falschheiten, die von externen Fakten und kontextueller Logik abweichen, jedoch überzeugend sind – produziert.

In der Gesundheitsbranche können solche fehlerhaften Ergebnisse eine Flut von Problemen auslösen, wie Fehldiagnosen und falsche Verschreibungen. Abgesehen von den ethischen, rechtlichen und finanziellen Konsequenzen können solche Fehler leicht den Ruf der Gesundheitsdienstleister und der medizinischen Einrichtungen, die sie vertreten, schädigen.

So bleibt die generative KI in der Gesundheitsbranche trotz ihres Potenzials, medizinische Eingriffe zu verbessern, die Kommunikation mit Patienten zu verstärken und die betriebliche Effizienz zu steigern, von Skepsis umgeben, und zu Recht – 55 % der Kliniker glauben nicht, dass sie für den medizinischen Einsatz bereit ist, und 58 % misstrauen ihr ganz. Dennoch gehen Gesundheitsorganisationen vorwärts, wobei 98 % eine Strategie zur Integration oder Planung einer generativen KI-Implementierung verfolgen, um den Einfluss des anhaltenden Arbeitskräftemangels in der Branche auszugleichen.

Die Quelle kontrollieren

Die Gesundheitsbranche wird oft auf dem falschen Fuß in der aktuellen Verbraucherlandschaft erwischt, die Effizienz und Geschwindigkeit über die Gewährleistung eiserner Sicherheitsmaßnahmen stellt. Aktuelle Nachrichten über die Fallstricke des nahezu unbeschränkten Datensammelns zur Ausbildung von LLMs, die zu Klagen wegen Urheberrechtsverletzungen führen, haben diese Probleme in den Vordergrund gerückt. Einige Unternehmen stehen auch vor dem Vorwurf, dass die persönlichen Daten von Bürgern zur Ausbildung dieser Sprachmodelle abgegriffen wurden, was möglicherweise gegen Datenschutzgesetze verstoßen hat.

KI-Entwickler für hoch regulierte Branchen sollten daher die Kontrolle über die Datenquellen ausüben, um potenzielle Fehler zu begrenzen. Das bedeutet, der Extraktion von Daten aus vertrauenswürdigen, branchenübergreifend geprüften Quellen Vorrang vor dem unkontrollierten Abrufen externer Webseiten ohne ausdrückliche Genehmigung zu geben. Für die Gesundheitsbranche bedeutet dies, die Dateninputs auf FAQ-Seiten, CSV-Dateien und medizinische Datenbanken – unter anderem interne Quellen – zu beschränken.

Wenn dies ein wenig einschränkend klingt, versuchen Sie, einen Dienst auf der Website eines großen Gesundheitssystems zu suchen. US-amerikanische Gesundheitsorganisationen veröffentlichen Hunderte, wenn nicht Tausende von Informationsseiten auf ihren Plattformen; die meisten sind so tief vergraben, dass Patienten sie tatsächlich nie zugänglich machen können. Generative KI-Lösungen auf der Grundlage interner Daten können diese Informationen Patienten bequem und nahtlos bereitstellen. Dies ist ein Gewinn für alle Beteiligten, da das Gesundheitssystem schließlich eine Rendite aus diesem Inhalt sieht und die Patienten die Dienste finden, die sie benötigen, sofort und mühelos.

Was kommt als Nächstes für generative KI in regulierten Branchen?

Die Gesundheitsbranche kann von der generativen KI auf verschiedene Weise profitieren.

Betrachten Sie beispielsweise den weit verbreiteten Burnout, der den US-Gesundheitssektor in letzter Zeit heimgesucht hat – fast 50 % der Belegschaft plant, bis 2025 ihre Stelle zu verlassen. Generative KI-gesteuerte Chatbots könnten einen großen Teil der Arbeitsbelastung lindern und das überlastete Patientenzugangsteam erhalten.

Auf der Patientenseite hat die generative KI das Potenzial, die Call-Center-Dienste der Gesundheitsdienstleister zu verbessern. KI-Automatisierung hat die Macht, eine breite Palette von Anfragen über verschiedene Kontaktkanäle zu bearbeiten, einschließlich FAQs, IT-Problemen, Arzneimittelabfüllungen und ärztlichen Überweisungen. Abgesehen von der Frustration, die mit dem Warten in der Warteschleife einhergeht, können nur etwa die Hälfte der US-Patienten ihre Probleme beim ersten Anruf erfolgreich lösen, was zu hohen Abbruchraten und eingeschränktem Zugang zur Versorgung führt. Die resultierende geringe Kundenzufriedenheit erzeugt weiteren Druck auf die Branche, zu handeln.

Damit die Branche von der Implementierung generativer KI tatsächlich profitieren kann, müssen Gesundheitsdienstleister eine bewusste Umstrukturierung der Daten ermöglichen, auf die ihre LLMs zugreifen.