Studie untersucht, wie das Risiko der Verwendung von KI in der Medizin reduziert werden kann

Künstliche Intelligenz-Programme sind in der Lage, die Gesundheitsversorgung auf verschiedene Weise zu verbessern. Zum Beispiel können KI-Anwendungen Computer-Vision verwenden, um Ärzten zu helfen, Zustände aus Röntgenbildern und FMRIs zu diagnostizieren. Machine-Learning-Algorithmen können auch verwendet werden, um falsch-positiven Raten zu reduzieren, indem sie subtile Muster aus Daten extrahieren, die Menschen möglicherweise nicht in medizinischen Daten finden können. Allerdings kommen mit den Möglichkeiten neue Herausforderungen, und kürzlich wurde ein neuer Artikel in Science veröffentlicht, der mögliche Risiken und regulatorische Strategien für medizinische Machine-Learning-Techniken untersuchte, um mögliche negative Nebenwirkungen der Verwendung von KI in einem medizinischen Kontext zu minimieren.

Erweiterung der Anwendungen für KI im Gesundheitswesen

KI sieht seine Anwendungen im medizinischen Bereich schnell expandieren. Kürzliche Entwicklungen im Bereich der Gesundheitsversorgung, getrieben von KI, umfassen die Gründung eines neuen Pharma-Unternehmens, das KI verwenden möchte, um neue Medikamente zu entwickeln, die Gründung von KI-basierten Ferngesundheitssensoren und Computer-Vision-Apps, die CT-Scans und Röntgenbilder analysieren.

Um genauer zu sein, ist Genesis Therapeutics ein Startup, das KI verwenden möchte, um den Prozess der Arzneimittelentdeckung zu beschleunigen, in der Hoffnung, Medikamente zu entwickeln, die die Schwere von debilitierenden Krankheiten reduzieren können. Genesis Therapeutics ist nur eines von fast 170 verschiedenen Firmen, die KI zur Erforschung neuer Medikamentenformulierungen verwenden. Währenddessen verwenden iRhythm und der französische KI-Startup Cardiologs KI-Algorithmen, um EEG-Daten zu analysieren und die Gesundheit von Menschen zu überwachen, die an Herz-Kreislauf-Erkrankungen leiden oder ein Risiko für Komplikationen haben. Die von den Unternehmen entwickelte Software kann Herzgeräusche erkennen, eine Erkrankung, die durch turbulente Blutfluss verursacht wird.

Schließlich fand eine kürzlich durchgeführte Studie, die untersuchte, wie Computer-Vision auf medizinische Bilder angewendet werden kann, heraus, dass Computer-Vision-Systeme mindestens so gut oder besser als Experten-Radiologen sind, wenn es darum geht, CT-Scans zu untersuchen, um kleine Blutungen zu finden. Die in der Studie verwendeten Algorithmen konnten Vorhersagen treffen, nachdem sie CT-Scans nur für eine Sekunde untersucht hatten. Die Computer-Vision-Systeme konnten auch die Blutung im Gehirn lokalisieren.

Also, während die potenziellen Vorteile der Verwendung von KI in der Gesundheitsversorgung klar sind, ist weniger klar, welche neuen Herausforderungen und Risiken als Nebenwirkung der Verwendung von KI im Gesundheitswesen entstehen werden.

Regulierung eines expandierenden Feldes

Wie TechXplore berichtete, haben eine Gruppe von Forschern kürzlich einen Artikel in Science veröffentlicht, um mögliche Nachteile der Verwendung von KI in der Gesundheitsversorgung zu bewerten und mögliche Lösungen für diese Probleme zu finden. Probleme, die entstehen können, wenn KI in der Gesundheitsversorgung verwendet wird, umfassen die unangemessene Empfehlung von Behandlungen, die zu Verletzungen führen, Datenschutzbedenken und algorithmische Voreingenommenheit/Ungleichheit.

Die FDA hat nur medizinische KI genehmigt, die “gesperrte Algorithmen” verwendet, Algorithmen, die zuverlässig das gleiche Ergebnis produzieren, wenn sie ausgeführt werden. Allerdings liegt viel von KI’s Potenzial in seiner Fähigkeit, zu lernen und auf neue Arten von Eingaben zu reagieren. Um “adaptive Algorithmen” zu ermöglichen, die mehr Verwendung finden und die Genehmigung der FDA erhalten, haben die Autoren des Artikels einen tiefen Blick darauf geworfen, wie die Risiken im Zusammenhang mit der Aktualisierung von Algorithmen gemindert werden können.

Die Autoren empfehlen, dass Maschinen-Learning-Ingenieure und Forscher sich auf die kontinuierliche Überwachung von Modellen über die Lebensdauer ihrer Bereitstellung konzentrieren sollten. Unter den vorgeschlagenen Werkzeugen zur Überwachung von KI-Systemen war KI selbst, das automatisierte Berichte über das Verhalten eines KI-Systems liefern konnte. Es ist auch möglich, dass mehrere KI-Geräte einander überwachen.

“Um die Risiken zu managen, sollten Regulierungsbehörden sich besonders auf die kontinuierliche Überwachung und Risikobewertung konzentrieren und weniger auf die Planung für zukünftige Algorithmus-Änderungen”, sagten die Autoren des Artikels.

Die Autoren des Artikels empfehlen auch, dass Regulierungsbehörden sich auf die Entwicklung neuer Methoden zur Identifizierung, Überwachung, Bewertung und Verwaltung von Risiken konzentrieren sollten. Der Artikel wendet viele der Techniken an, die die FDA verwendet hat, um andere Formen von medizinischer Technologie zu regulieren.

Wie die Autoren des Artikels erklärten:

“Unser Ziel ist es, die Risiken hervorzuheben, die entstehen können, wenn medizinische KI/ML-Systeme auf unvorhergesehene Weise reagieren oder sich an ihre Umgebung anpassen. Subtile, oft unerkannte parametrige Aktualisierungen oder neue Arten von Daten können große und teure Fehler verursachen.”