Künstliche Intelligenz im Gesundheitswesen kann Risiken sowie Chancen mit sich bringen

Die KI hat enormes Potenzial im Gesundheitsbereich, da sie Diagnosen verbessern und neue, wirksamere Medikamente finden kann. Allerdings, wie ein Artikel in Scientific American kürzlich diskutierte, öffnet sich mit der Geschwindigkeit, mit der die KI in den Gesundheitsbereich eindringt, auch viele neue Herausforderungen und Risiken.

Im Laufe der letzten fünf Jahre hat die US-amerikanische Lebensmittel- und Arzneimittelbehörde (FDA) über 40 verschiedene KI-Produkte zugelassen. Allerdings, wie Scientific American berichtete, wurde die Leistung keines der Produkte, die in den USA zum Verkauf freigegeben wurden, in randomisierten kontrollierten klinischen Studien bewertet. Viele KI-Medizinprodukte benötigen nicht einmal eine Zulassung durch die FDA.

Evan Topol, der Autor von “Deep Medicine: Wie künstliche Intelligenz die Gesundheitsversorgung wieder menschlicher machen kann”, erklärte gegenüber Scientific American, dass viele der KI-Produkte, die behaupten, effektiv bei Aufgaben wie der Diagnose von Krankheiten zu sein, tatsächlich gründlich getestet wurden, wobei die erste große randomisierte Studie eines KI-Erkennungs- und Diagnose-Tools im vergangenen Oktober durchgeführt wurde. Darüber hinaus veröffentlichen nur wenige Tech-Startups ihre Forschungsarbeiten in begutachteten Zeitschriften, in denen ihre Arbeit von Wissenschaftlern analysiert wird.

Wenn sie ordnungsgemäß getestet und kontrolliert werden, können KI-Systeme leistungsstarke Werkzeuge sein, die medizinischem Personal helfen können, unbemerkte Symptome zu erkennen und damit die Gesundheitsergebnisse zu verbessern.

Als Beispiel wurde ein KI-Tool zur Erkennung von diabetischer Augenkrankheit bei Hunderten von Patienten getestet und schien zuverlässig zu sein. Das Unternehmen, das den Test durchführte, arbeitete über acht Jahre lang mit der FDA zusammen, um das Produkt zu verfeinern. Der Test, IDx-DR, wird nun in primäre Gesundheitszentren gebracht, wo er möglicherweise dazu beitragen kann, frühe Anzeichen von diabetischer Retinopathie zu erkennen und Patienten an Augenspezialisten zu überweisen, wenn verdächtige Symptome festgestellt werden.

Wenn sie nicht sorgfältig getestet werden, können KI-Systeme, die medizinischem Personal bei der Diagnose und Behandlung helfen sollen, möglicherweise mehr Schaden anrichten als vermeiden.

Der Artikel in Scientific American beschreibt ein potenzielles Problem bei der Verwendung von KI zur Diagnose von Erkrankungen und verweist auf das Beispiel eines KI-Systems, das zur Analyse von Röntgenbildern der Lunge und zur Erkennung von Patienten, die möglicherweise eine Lungenentzündung entwickeln, eingesetzt wurde. Obwohl das System bei Tests im Mount Sinai Hospital in New York genau war, schlug es bei Tests auf Bildern, die in anderen Krankenhäusern aufgenommen wurden, fehl. Die Forscher fanden heraus, dass die KI zwischen Bildern, die mit portablen Röntgenanlagen und solchen, die in einer Radiologieabteilung aufgenommen wurden, unterschied. Ärzte verwenden portable Röntgenanlagen bei Patienten, die oft zu krank sind, um ihr Bett zu verlassen, und diese Patienten haben ein höheres Risiko, eine Lungenentzündung zu entwickeln.

Falsche Alarme sind auch ein Anliegen. DeepMind entwickelte eine KI-App, die in der Lage ist, akutes Nierenversagen bei hospitalisierten Patienten bis zu 48 Stunden im Voraus vorherzusagen. Allerdings gab das System berichtet auch zwei falsche Alarme für jedes Nierenversagen, das erfolgreich vorhergesagt wurde. Falsch-Positives können schädlich sein, da sie Ärzte dazu veranlassen können, unnötig Zeit und Ressourcen für weitere Tests oder Änderungen der verschriebenen Behandlungen aufzuwenden.

In einem anderen Vorfall kam ein KI-System zu dem falschen Schluss, dass Patienten, die eine Lungenentzündung hatten, eher überleben würden, wenn sie auch Asthma hatten, was Ärzte dazu veranlassen könnte, die Behandlung von Patienten mit Asthma zu ändern.

KI-Systeme, die für ein Krankenhaus entwickelt werden, funktionieren oft nicht gut, wenn sie in einem anderen Krankenhaus eingesetzt werden. Es gibt mehrere Gründe dafür. Einerseits werden KI-Systeme oft mit elektronischen Gesundheitsakten trainiert, aber viele elektronische Gesundheitsakten sind oft unvollständig oder falsch, da ihr Hauptzweck oft die Abrechnung und nicht die Patientenversorgung ist. Zum Beispiel fand eine Untersuchung durchgeführt von KHN heraus, dass es gelegentlich lebensbedrohliche Fehler in den medizinischen Akten der Patienten gab, wie z. B. Medikationslisten, die falsche Medikamente enthielten. Darüber hinaus sind Krankheiten oft komplexer und das Gesundheitssystem komplexer, als von KI-Ingenieuren und Wissenschaftlern oft angenommen.

Wenn die KI immer mehr verbreitet wird, wird es wichtig sein, dass KI-Entwickler mit Gesundheitsbehörden zusammenarbeiten, um sicherzustellen, dass ihre KI-Systeme gründlich getestet werden, und dass Regulierungsbehörden sicherstellen, dass Standards festgelegt und eingehalten werden, um die Zuverlässigkeit von KI-Diagnose-Tools zu gewährleisten.