Algorithmus könnte rassische Vorurteile im Gesundheitswesen angehen, wenn er ordnungsgemäß trainiert wird

Ein Team von Forschern der Stanford University, der Harvard University und der University of Chicago hat Algorithmen trainiert, um Arthrose in Röntgenbildern von Knien zu diagnostizieren. Es stellt sich heraus, dass die Algorithmen genauer waren als Radiologen, wenn sie die Akten von schwarzen Patienten analysierten, wenn die Patientenberichte als Trainingsdaten für den Algorithmus verwendet wurden.

Problem des algorithmischen Vorurteils

Die Verwendung von Machine-Learning-Algorithmen im medizinischen Bereich kann möglicherweise die Ergebnisse für Patienten mit verschiedenen Krankheiten verbessern, aber es gibt auch gut dokumentierte Probleme mit der Verwendung von KI-Algorithmen zur Diagnose von Patienten. Studien über die Auswirkungen von eingesetzten KI-Modellen haben eine Reihe von bemerkenswerten Vorfällen mit algorithmischem Vorurteil festgestellt. Dazu gehören Algorithmen, die Minderheiten weniger Überweisungen an Kardiologie-Einheiten als weiße Patienten geben, obwohl alle Symptome gleich waren.

Einer der Autoren der Studie, Professor Ziad Obermeyer an der School of Public Health der University of California Berkeley, entschied sich, KI zu verwenden, um Ungleichheiten zwischen Diagnosen von Röntgenbildern durch Radiologen und der Menge an Schmerzen, die die Patienten berichteten, zu untersuchen. Obwohl schwarze Patienten und Patienten mit niedrigem Einkommen höhere Schmerzlevel berichteten, wurden ihre Röntgenbild-Interpretationen gleich wie die der allgemeinen Bevölkerung bewertet. Die Daten über die berichteten Schmerzlevel stammten vom NIH, und die Forscher wollten untersuchen, ob menschliche Ärzte etwas in ihrer Analyse der Daten übersehen hatten.

Wie von Wired berichtet, um die potenziellen Ursachen dieser Unterschiede zu identifizieren, entwickelten Obermeyer und andere Forscher ein Computer-Vision-Modell, das auf Daten vom NIH trainiert wurde. Die Algorithmen wurden so konzipiert, dass sie Röntgenbilder analysieren und die Schmerzlevel eines Patienten auf der Grundlage der Bilder vorhersagen konnten. Die Software fand Muster innerhalb der Bilder, die hoch korreliert mit den Schmerzleveln der Patienten waren.

Wenn der Algorithmus mit einem unbekannten Bild präsentiert wird, gibt das Modell Vorhersagen für das Schmerzlevel eines Patienten aus. Die Vorhersagen, die das Modell ausgab, stimmten besser mit den tatsächlichen Schmerzleveln der Patienten überein als die Bewertungen, die die Radiologen zugeteilt hatten. Dies war besonders bei schwarzen Patienten der Fall. Obermeyer erklärte gegenüber Wired, dass das Computer-Vision-Algorithmus Phänomene erkennen konnte, die häufiger mit Schmerzen bei schwarzen Patienten verbunden waren.

Ordentliche Trainingsverfahren

Laut Berichten wurden die Kriterien, die zur Bewertung von Röntgenbildern verwendet wurden, ursprünglich auf der Grundlage der Ergebnisse einer kleinen Studie entwickelt, die 1957 in Nordengland durchgeführt wurde. Die ursprüngliche Population, die zur Entwicklung der Osteoarthritis-Bewertungskriterien verwendet wurde, unterschied sich erheblich von der sehr vielfältigen Bevölkerung der modernen USA, so dass es nicht überraschend ist, dass Fehler bei der Diagnose dieser vielfältigen Menschen gemacht werden.

Die neue Studie zeigt, dass KI-Algorithmen, wenn sie ordnungsgemäß trainiert werden, Vorurteile reduzieren können. Die Trainingsdaten basierten auf den Rückmeldungen der Patienten selbst und nicht auf Expertenmeinungen. Obermeyer und seine Kollegen haben zuvor gezeigt, dass ein häufig verwendetes KI-Algorithmus weißen Patienten gegenüber schwarzen Patienten bevorzugte, aber Obermeyer zeigte auch, dass die Trainings eines Machine-Learning-Systems auf die richtigen Daten helfen kann, Vorurteile zu vermeiden.

Ein bemerkenswerter Vorbehalt der Studie ist ein bekanntes Problem für viele Machine-Learning-Forscher. Das von dem Forschungsteam entwickelte KI-Modell ist eine Black-Box, und das Team der Forscher weiß selbst nicht, welche Arten von Merkmalen der Algorithmus in den Röntgenbildern erkennt, was bedeutet, dass sie den Ärzten nicht sagen können, welche Merkmale sie übersehen.

Andere Radiologen und Forscher versuchen, in die Black-Box einzudringen und die Muster darin zu entdecken, um den Ärzten zu helfen, zu verstehen, was sie übersehen. Der Radiologe und Professor an der Emory University, Judy Gichoya, sammelt eine umfangreichere und vielfältigere Sammlung von Röntgenbildern, um das KI-Modell zu trainieren. Gichoya wird Radiologen anweisen, detaillierte Notizen zu diesen Röntgenbildern zu erstellen. Diese Notizen werden mit der Ausgabe des Modells verglichen, um zu sehen, ob die vom Algorithmus erkannten Muster entdeckt werden können.