Studie untersucht, wie das Risiko der Verwendung von KI in der Medizin reduziert werden kann

Künstliche Intelligenz-Programme sind in der Lage, die Gesundheitsversorgung auf verschiedene Weise zu verbessern. Zum Beispiel können KI-Anwendungen mit Hilfe von Computer-Vision dabei helfen, Ärzten dabei zu helfen, Erkrankungen aus Röntgenbildern und MRT-Bildern zu diagnostizieren. Machine-Learning-Algorithmen können auch verwendet werden, um falsch-positiven Raten zu reduzieren, indem sie feine Muster aus Daten extrahieren, die Menschen möglicherweise nicht in medizinischen Daten finden können. Allerdings kommen mit den Möglichkeiten neue Herausforderungen, und kürzlich wurde ein neuer Artikel in Science veröffentlicht, der mögliche Risiken und regulatorische Strategien für medizinische Machine-Learning-Techniken untersuchte, um mögliche negative Nebenwirkungen der Verwendung von KI in einem medizinischen Kontext zu minimieren.

Erweiterte Anwendungen für KI in der Gesundheitsversorgung

KI sieht seine Anwendungen im medizinischen Bereich rapide expandieren. Kürzliche Entwicklungen im Bereich der Gesundheitsversorgung, getrieben von KI, umfassen die Gründung eines neuen Pharma-Unternehmens, das darauf abzielt, KI zur Entwicklung neuer Medikamente zu verwenden, die Gründung von KI-gesteuerten Ferngesundheitssensoren und Computer-Vision-Apps, die CT-Scans und Röntgenbilder analysieren.

Um genauer zu sein, ist Genesis Therapeutics ein Startup, das darauf abzielt, KI zu verwenden, um den Prozess der Arzneimittelentdeckung zu beschleunigen, in der Hoffnung, Medikamente zu entwickeln, die die Schwere von debilitierenden Erkrankungen reduzieren können. Genesis Therapeutics ist nur eines von fast 170 verschiedenen Unternehmen, die KI zur Erforschung neuer Arzneimittel-Formulierungen verwenden. Währenddessen verwenden iRhythm (IRTC ) und der französische KI-Startup Cardiologs KI-Algorithmen, um EEG-Daten zu analysieren und die Gesundheit von Menschen zu überwachen, die an Herz-Kreislauf-Erkrankungen leiden und einem Risiko von Komplikationen ausgesetzt sind. Die von den Unternehmen entwickelte Software kann Herzgeräusche erkennen, eine Erkrankung, die durch turbulente Blutströmung verursacht wird.

Schließlich fand eine kürzliche Studie, die untersuchte, wie Computer-Vision auf medizinische Bilder angewendet werden kann, heraus, dass Computer-Vision-Systeme mindestens so gut oder besser wie Experten-Radiologen sind, wenn sie CT-Scans untersuchen, um kleine Blutungen zu finden. Die in der Studie verwendeten Algorithmen konnten Vorhersagen treffen, nachdem sie CT-Scans nur für eine Sekunde untersucht hatten. Die Computer-Vision-Systeme konnten auch die Blutung im Gehirn lokalisieren.

Also, während die potenziellen Vorteile der Verwendung von KI in der Gesundheitsversorgung klar sind, ist weniger klar, welche neuen Herausforderungen und Risiken als Nebenwirkung der Verwendung von KI im Gesundheitswesen entstehen werden.

Regulierung eines expandierenden Feldes

Wie TechXplore berichtete, veröffentlichte eine Gruppe von Forschern kürzlich einen Artikel in Science, um mögliche Nachteile der Verwendung von KI in der Gesundheitsversorgung zu bewerten und mögliche Lösungen für diese Probleme zu erforschen. Probleme, die durch die Verwendung von KI in der Gesundheitsversorgung entstehen können, umfassen die unangemessene Empfehlung von Behandlungen, die zu Verletzungen führen, Datenschutzbedenken und algorithmische Vorurteile/Ungleichheit.

Die FDA hat nur medizinische KI-Systeme genehmigt, die “gesperrte Algorithmen” verwenden, Algorithmen, die zuverlässig das gleiche Ergebnis produzieren, wenn sie ausgeführt werden. Allerdings liegt viel von KI’s Potenzial in seiner Fähigkeit, zu lernen und auf neue Arten von Eingaben zu reagieren. Um “adaptive Algorithmen” zu ermöglichen, die mehr Verwendung finden und die Genehmigung der FDA erhalten, untersuchten die Autoren des Artikels, wie die Risiken im Zusammenhang mit der Aktualisierung von Algorithmen minimiert werden können.

Die Autoren befürworten, dass Maschinen-Learning-Ingenieure und Forscher sich auf die kontinuierliche Überwachung von Modellen über die Lebensdauer ihrer Bereitstellung konzentrieren sollten. Zu den vorgeschlagenen Tools, um KI-Systeme zu überwachen, gehörte KI selbst, das automatisierte Berichte über das Verhalten eines KI-Systems liefern konnte. Es ist auch möglich, dass mehrere KI-Geräte einander überwachen.

“Um die Risiken zu managen, sollten Regulierungsbehörden sich insbesondere auf kontinuierliche Überwachung und Risikobewertung konzentrieren und weniger auf die Planung von zukünftigen Algorithmus-Änderungen”, sagten die Autoren des Artikels.

Die Autoren des Artikels empfehlen auch, dass Regulierungsbehörden sich auf die Entwicklung neuer Methoden zur Identifizierung, Überwachung, Bewertung und Verwaltung von Risiken konzentrieren sollten. Der Artikel wendet viele der Techniken an, die die FDA verwendet hat, um andere Formen von medizinischer Technologie zu regulieren.

Wie die Autoren des Artikels erklärten:

“Unser Ziel ist es, die Risiken hervorzuheben, die durch unvorhergesehene Änderungen in der Reaktion oder Anpassung von medizinischen KI/ML-Systemen an ihre Umgebung entstehen können. Subtile, oft unerkannte parametrische Updates oder neue Arten von Daten können große und teure Fehler verursachen.”