Generative KI in der Gesundheitsbranche benötigt eine Dosis Erklärbarkeit

Die bemerkenswerte Geschwindigkeit, mit der textbasierte generative KI-Tools komplexe Schreib- und Kommunikationsaufgaben erledigen können, hat Unternehmen und Verbraucher gleichermaßen beeindruckt. Doch die Prozesse, die im Hintergrund ablaufen, um diese beeindruckenden Fähigkeiten zu ermöglichen, können es für sensible, staatlich regulierte Branchen wie Versicherungen, Finanzen oder Gesundheitswesen riskant machen, generative KI ohne erhebliche Vorsichtsmaßnahmen einzusetzen.

Einige der eindrucksvollsten Beispiele hierfür finden sich in der Gesundheitsbranche.

Solche Probleme sind typischerweise mit den umfangreichen und vielfältigen Datensätzen verbunden, die zur Ausbildung von Large Language Models (LLMs) verwendet werden – den Modellen, die textbasierte generative KI-Tools nutzen, um komplexe Aufgaben zu erledigen. Ohne explizite äußere Eingriffe von Programmierern neigen diese LLMs dazu, Daten unabhängig von verschiedenen Quellen im Internet zu sammeln, um ihre Wissensbasis zu erweitern.

Dieser Ansatz ist am besten für low-riskige, kundenorientierte Anwendungsfälle geeignet, bei denen das ultimative Ziel darin besteht, Kunden mit Präzision auf wünschenswerte Angebote zu lenken. Immer jedoch verdecken große Datensätze und die verwirrenden Pfade, auf denen KI-Modelle ihre Ausgaben erzeugen, die Erklärbarkeit, die Krankenhäuser und Gesundheitsdienstleister benötigen, um potenzielle Ungenauigkeiten zu verfolgen und zu verhindern.

In diesem Zusammenhang bezieht sich Erklärbarkeit auf die Fähigkeit, die logischen Pfade eines gegebenen LLMs zu verstehen. Gesundheitsfachleute, die assistive generative KI-Tools einführen möchten, müssen die Möglichkeit haben, zu verstehen, wie ihre Modelle Ergebnisse liefern, damit Patienten und Personal während verschiedener Entscheidungsprozesse vollständig transparent sind. Mit anderen Worten: In einer Branche wie der Gesundheitsbranche, in der Menschenleben auf dem Spiel stehen, sind die Einsätze einfach zu hoch, als dass Fachleute die Daten, die zur Ausbildung ihrer KI-Tools verwendet werden, falsch interpretieren könnten.

Gott sei Dank gibt es eine Möglichkeit, das Erklärbarkeitsproblem der generativen KI zu umgehen – es erfordert nur ein bisschen mehr Kontrolle und Fokus.

Rätsel und Skepsis

Bei der generativen KI ist das Konzept des Verständnisses, wie ein LLM von Punkt A – der Eingabe – zu Punkt B – der Ausgabe – kommt, viel komplexer als bei nicht-generativen Algorithmen, die entlang fester Muster laufen.

Generative KI-Tools erstellen unzählige Verbindungen, während sie von der Eingabe zur Ausgabe navigieren, aber für den externen Beobachter bleibt unklar, wie und warum sie eine bestimmte Reihe von Verbindungen herstellen. Ohne eine Möglichkeit, den “Denkprozess” eines KI-Algorithms zu sehen, fehlt es menschlichen Bedienern an einer gründlichen Möglichkeit, seine Argumentation zu untersuchen und potenzielle Ungenauigkeiten zu verfolgen.

Zusätzlich komplizieren die ständig wachsenden Datensätze, die von ML-Algorithmen verwendet werden, die Erklärbarkeit weiter. Je größer der Datensatz, desto wahrscheinlicher ist es, dass das System sowohl von relevanten als auch von irrelevanten Informationen lernt und “KI-Halluzinationen” produziert – Falschinformationen, die von externen Fakten und Kontextlogik abweichen, jedoch überzeugend.

In der Gesundheitsbranche können solche fehlerhaften Ergebnisse eine Flut von Problemen auslösen, wie Fehldiagnosen und falsche Verschreibungen. Abgesehen von den ethischen, rechtlichen und finanziellen Konsequenzen könnten solche Fehler leicht den Ruf der Gesundheitsdienstleister und der medizinischen Einrichtungen, die sie vertreten, schädigen.

Trotz ihres Potenzials, medizinische Eingriffe zu verbessern, die Kommunikation mit Patienten zu optimieren und die betriebliche Effizienz zu steigern, bleibt die generative KI in der Gesundheitsbranche von Skepsis umgeben, und zu Recht – 55 % der Kliniker glauben nicht, dass sie für den medizinischen Einsatz bereit ist, und 58 % misstrauen ihr ganz. Dennoch drängen sich Gesundheitsorganisationen vorwärts, wobei 98 % eine generative KI-Implementierungsstrategie integrieren oder planen, um den Einfluss des anhaltenden Arbeitskräftemangels in der Branche auszugleichen.

Die Quelle kontrollieren

Die Gesundheitsbranche wird oft auf dem falschen Fuß in der aktuellen Verbraucherlandschaft erwischt, die Effizienz und Geschwindigkeit über die Gewährleistung einwandfreier Sicherheitsmaßnahmen stellt. Jüngste Nachrichten über die Fallstricke des nahezu unbeschränkten Datensammelns für die Ausbildung von LLMs, die zu Urheberrechtsverletzungen führen, haben diese Probleme in den Vordergrund gerückt. Einige Unternehmen stehen auch vor dem Vorwurf, dass die persönlichen Daten von Bürgern zur Ausbildung dieser Sprachmodelle verwendet wurden, was möglicherweise Datenschutzgesetze verletzt.

KI-Entwickler für hoch regulierte Branchen sollten daher die Kontrolle über die Datenquellen ausüben, um potenzielle Fehler zu begrenzen. Das bedeutet, der Extraktion von Daten aus vertrauenswürdigen, branchenüberprüften Quellen Vorrang vor dem unkontrollierten Scraping externer Webseiten ohne ausdrückliche Genehmigung zu geben. Für die Gesundheitsbranche bedeutet dies, die Dateninputs auf FAQ-Seiten, CSV-Dateien und medizinische Datenbanken – unter anderem interne Quellen – zu beschränken.

Wenn dies ein bisschen einschränkend klingt, versuchen Sie, einen Dienst auf der Website eines großen Gesundheitssystems zu suchen. US-amerikanische Gesundheitsorganisationen veröffentlichen Hunderte, wenn nicht Tausende von Informationsseiten auf ihren Plattformen; die meisten sind so tief vergraben, dass Patienten sie tatsächlich nie erreichen können. Generative KI-Lösungen, die auf internen Daten basieren, können diese Informationen Patienten bequem und nahtlos bereitstellen. Dies ist ein Gewinn für alle Beteiligten, da das Gesundheitssystem schließlich eine Rendite aus diesem Inhalt erzielt und die Patienten die Dienste, die sie benötigen, sofort und mühelos finden können.

Was kommt als Nächstes für die generative KI in regulierten Branchen?

Die Gesundheitsbranche kann auf verschiedene Weise von der generativen KI profitieren.

Betrachten Sie beispielsweise den weit verbreiteten Burnout, der den US-Gesundheitssektor in letzter Zeit heimgesucht hat – fast 50 % der Belegschaft plant, bis 2025 ihre Positionen zu verlassen. KI-gestützte Chatbots könnten einen großen Teil der Arbeitsbelastung lindern und das überlastete Patientenzugangsteam erhalten.

Auf der Patientenseite hat die generative KI das Potenzial, die Call-Center-Dienste der Gesundheitsdienstleister zu verbessern. KI-Automatisierung hat die Macht, eine breite Palette von Anfragen über verschiedene Kontaktkanäle zu bearbeiten, einschließlich FAQs, IT-Problemen, Arzneimittelabfüllungen und Ärzteverweisen. Abgesehen von der Frustration, die mit dem Warten in der Warteschleife einhergeht, können nur etwa die Hälfte der US-Patienten ihre Probleme beim ersten Anruf erfolgreich lösen, was zu hohen Abandon-Raten und eingeschränktem Zugang zur Versorgung führt. Die resultierende niedrige Kundenzufriedenheit erzeugt weiteren Druck auf die Branche, zu handeln.

Um von der Implementierung der generativen KI zu profitieren, müssen Gesundheitsdienstleister eine bewusste Umstrukturierung der Daten ermöglichen, auf die ihre LLMs zugreifen, was zu hohen Abandon-Raten und eingeschränktem Zugang zur Versorgung führt. Die resultierende niedrige Kundenzufriedenheit erzeugt weiteren Druck auf die Branche, zu handeln. Für die Branche, die wirklich von der Implementierung der generativen KI profitieren will, müssen die Gesundheitsdienstleister eine bewusste Umstrukturierung der Daten ermöglichen, auf die ihre LLMs zugreifen.