KI kann Freund oder Feind bei der Verbesserung der Gesundheitsgerechtigkeit sein. Hier erfahren Sie, wie Sie sicherstellen, dass sie hilft und nicht schadet

Gesundheitsungleichheiten und Ungleichheiten in der Versorgung sind in sozioökonomischen, rassischen und geschlechtsspezifischen Gruppen weit verbreitet. Als Gesellschaft haben wir eine moralische, ethische und wirtschaftliche Verantwortung, diese Lücken zu schließen und sicherzustellen, dass jeder Zugang zu gleichwertiger, fairer und erschwinglicher Gesundheitsversorgung hat.

Künstliche Intelligenz (KI) hilft, diese Ungleichheiten zu bekämpfen, ist aber auch ein zweischneidiges Schwert. KI hilft bereits dabei, die Versorgung zu rationalisieren, personalisierte Medizin im großen Maßstab zu ermöglichen und bahnbrechende Entdeckungen zu unterstützen. Allerdings kann die inhärente Voreingenommenheit in den Daten, Algorithmen und Benutzern das Problem verschlimmern, wenn wir nicht vorsichtig sind.

Daher müssen wir, die KI-gesteuerte Gesundheitslösungen entwickeln und einsetzen, vorsichtig sein, um zu verhindern, dass KI unbeabsichtigt bestehende Lücken vergrößert, und dass Regulierungsbehörden und Berufsverbände eine aktive Rolle bei der Festlegung von Richtlinien spielen, um Voreingenommenheit zu vermeiden oder zu mildern.

Hier erfahren Sie, wie KI Ungleichheitslücken überbrücken kann, anstatt sie zu vergrößern.

Gerechtigkeit in klinischen Studien erreichen

Viele neue Arzneimittel- und Behandlungsstudien waren historisch gesehen in ihrer Konzeption voreingenommen, ob absichtlich oder nicht. Zum Beispiel war es erst 1993, dass Frauen per Gesetz in klinische Forschung des NIH einbezogen werden mussten. Vor kurzem wurden COVID-Impfstoffe nie absichtlich an schwangeren Frauen getestet – es war nur, weil einige Teilnehmerinnen der Studie zum Zeitpunkt der Impfung unbewusst schwanger waren, dass wir wussten, dass es sicher war.

Eine Herausforderung bei der Forschung ist, dass wir nicht wissen, was wir nicht wissen. KI hilft jedoch dabei, voreingenommene Datensätze aufzudecken, indem sie Bevölkerungsdaten analysiert und unverhältnismäßige Darstellung oder Lücken in der demografischen Abdeckung kennzeichnet. Durch die Sicherstellung einer vielfältigen Darstellung und das Training von KI-Modellen auf Daten, die die Zielbevölkerung genau repräsentieren, hilft KI dabei, Inklusivität zu fördern, Schäden zu reduzieren und Ergebnisse zu optimieren.

Gerechte Behandlungen sicherstellen

Es ist allgemein anerkannt, dass schwarze werdende Mütter, die während der Geburt Schmerzen und Komplikationen erleben, oft ignoriert werden, was zu einer Müttersterblichkeitsrate 3-mal höher für schwarze Frauen als für nicht-hispanische weiße Frauen unabhängig von Einkommen oder Bildung führt. Das Problem wird hauptsächlich durch inhärente Voreingenommenheit verursacht: Es gibt eine weit verbreitete Fehlvorstellung unter medizinischem Personal, dass schwarze Menschen eine höhere Schmerztoleranz als weiße Menschen haben.

Voreingenommenheit in KI-Algorithmen kann das Problem verschlimmern: Harvard-Forscher entdeckten, dass ein häufig verwendetes Algorithmus vorhersagte, dass schwarze und lateinamerikanische Frauen weniger wahrscheinlich eine erfolgreiche vaginale Geburt nach einer Kaiserschnittentbindung (VBAC) haben würden, was möglicherweise dazu führte, dass Ärzte mehr Kaiserschnitte an Frauen von Farbe durchführten. Die Forscher fanden jedoch heraus, dass “die Assoziation nicht durch biologische Plausibilität unterstützt wird“, was darauf hindeutet, dass Rasse “ein Proxy für andere Variablen ist, die die Auswirkungen von Rassismus auf die Gesundheit widerspiegeln”. Der Algorithmus wurde anschließend aktualisiert, um Rasse oder Ethnie bei der Risikoberechnung auszuschließen.

Dies ist eine perfekte Anwendung für KI, um implizite Voreingenommenheit aufzudecken und (mit Beweisen) Behandlungspfade vorzuschlagen, die zuvor möglicherweise übersehen wurden. Anstatt weiterhin “Standardversorgung” zu praktizieren, können wir KI verwenden, um zu bestimmen, ob diese besten Praktiken auf der Erfahrung aller Frauen oder nur weißer Frauen basieren. KI hilft sicherzustellen, dass unsere Datenfundamente die Patienten umfassen, die am meisten von Fortschritten in der Gesundheitsversorgung und Technologie profitieren können.

Es kann Bedingungen geben, bei denen Rasse und Ethnie ausschlaggebende Faktoren sein können, aber wir müssen vorsichtig sein, um zu wissen, wie und wann sie berücksichtigt werden sollten und wann wir einfach auf historische Voreingenommenheit zurückgreifen, um unsere Wahrnehmungen und KI-Algorithmen zu informieren.

Gerechte Präventionsstrategien bereitstellen

KI-Lösungen können leicht bestimmte Bedingungen in benachteiligten Gemeinschaften übersehen, wenn sie nicht sorgfältig auf potenzielle Voreingenommenheit geprüft werden. Zum Beispiel arbeitet die Veterans Administration an mehreren Algorithmen, um Anzeichen von Herzkrankheiten und Herzinfarkten vorherzusagen und zu erkennen. Dies hat ein enormes lebensrettendes Potenzial, aber die meisten Studien haben historisch gesehen nicht viele Frauen einbezogen, bei denen Herz-Kreislauf-Erkrankungen die häufigste Todesursache sind. Daher ist es unbekannt, ob diese Modelle für Frauen, die oft andersartige Symptome als Männer zeigen, genauso effektiv sind.

Durch die Einbeziehung einer angemessenen Anzahl von Frauen in diese Datenbank könnte dies dazu beitragen, einige der 3,2 Millionen Herzinfarkte und 500.000 herzbedingten Todesfälle pro Jahr bei Frauen durch frühzeitige Erkennung und Intervention zu verhindern. Ähnlich entfernen neue KI-Tools rassengebundene Algorithmen bei der Nierenerkrankungstestung, die historisch gesehen Schwarze, Hispanier und Ureinwohner ausgeschlossen haben, was zu Behandlungsverzögerungen und schlechten klinischen Ergebnissen führte.

Anstatt benachteiligte Personen auszuschließen, kann KI tatsächlich dabei helfen, Gesundheitsrisiken für benachteiligte Bevölkerungsgruppen vorherzusagen und personalisierte Risikobewertungen zu ermöglichen, um Interventionen besser zu zielen. Die Daten sind möglicherweise bereits vorhanden; es ist nur eine Frage der “Feinabstimmung” der Modelle, um zu bestimmen, wie Rasse, Geschlecht und andere demografische Faktoren die Ergebnisse beeinflussen – wenn sie überhaupt.

Administrative Aufgaben rationalisieren

Abgesehen von der direkten Auswirkung auf Patientenergebnisse hat KI ein enormes Potenzial, Arbeitsabläufe im Hintergrund zu beschleunigen, um Ungleichheiten zu reduzieren. Zum Beispiel verwenden Unternehmen und Anbieter bereits KI, um Lücken in der Kodierung und Abrechnung von Ansprüchen zu füllen, Diagnosecodes gegenüber ärztlichen Notizen zu validieren und Vorabgenehmigungsprozesse für häufige diagnostische Verfahren zu automatisieren.

Durch die Rationalisierung dieser Funktionen können wir die Betriebskosten drastisch reduzieren, helfen, dass Arztpraxen effizienter laufen, und dem Personal mehr Zeit geben, um mit Patienten zu verbringen, was die Versorgung exponentiell erschwinglicher und zugänglicher macht.

Jeder von uns hat eine wichtige Rolle zu spielen

Die Tatsache, dass wir diese unglaublichen Werkzeuge zur Verfügung haben, macht es noch dringlicher, dass wir sie verwenden, um Gesundheitsvoreingenommenheit zu überwinden. Leider gibt es in den USA keine Zertifizierungsstelle, die die Bemühungen reguliert, KI zu verwenden, um “ungerechte” Gesundheitsversorgung zu “entvoreingenommen”, und selbst für die Organisationen, die Richtlinien vorgelegt haben, gibt es keine regulatorischen Anreize, diese einzuhalten.

Daher liegt die Verantwortung bei uns als KI-Praktikern, Datenwissenschaftlern, Algorithmus-Erstellern und -Benutzern, eine bewusste Strategie zu entwickeln, um Inklusivität, Vielfalt der Daten und gerechte Nutzung dieser Werkzeuge und Erkenntnisse sicherzustellen.

Um dies zu tun, sind genaue Integration und Interoperabilität unerlässlich. Mit so vielen Datenquellen – von Wearables und Drittanbieter-Labors und Bildgebungsanbietern bis hin zu primären Versorgungseinrichtungen, Gesundheitsinformationssystemen und stationären Aufzeichnungen – müssen wir all diese Daten integrieren, damit wichtige Teile unabhängig von der Formatierung unserer Quelle einbezogen werden. Die Branche benötigt Datennormalisierung, Standardisierung und Identitätsabgleich, um sicherzustellen, dass wesentliche Patientendaten einbezogen werden, auch bei unterschiedlichen Schreibweisen oder Benennungskonventionen aufgrund verschiedener Kulturen und Sprachen.

Wir müssen auch Vielfaltsbewertungen in unseren KI-Entwicklungsprozess einbauen und auf “Drift” in unseren Metriken über die Zeit hinweg achten. KI-Praktiker haben die Verantwortung, die Modellleistung über demografische Subgruppen hinweg zu testen, Voreingenommenheitsaudits durchzuführen und zu verstehen, wie das Modell Entscheidungen trifft. Wir müssen möglicherweise über rassengebundene Annahmen hinausgehen, um sicherzustellen, dass unsere Analyse die Bevölkerung repräsentiert, für die wir sie entwickeln. Zum Beispiel haben Mitglieder des Pima-Indianerstamms, die in der Gila River Reservation in Arizona leben, extrem hohe Raten an Adipositas und Typ-2-Diabetes, während Mitglieder desselben Stammes, die nur auf der anderen Seite der Grenze in den Sierra-Madre-Bergen Mexikos leben, deutlich niedrigere Raten an Adipositas und Diabetes aufweisen, was beweist, dass Genetik nicht der einzige Faktor ist.

Schließlich benötigen wir Organisationen wie die American Medical Association, das Office of the National Coordinator for Health Information Technology und Fachverbände wie die American College of Obstetrics and Gynecology, American Academy of Pediatrics, American College of Cardiology und viele andere, um gemeinsam Standards und Rahmenbedingungen für den Austausch von Gesundheitsdaten und die Abstimmung zu festzulegen, um Voreingenommenheit zu verhindern.

Indem wir den Austausch von Gesundheitsdaten standardisieren und HTI-1 und HTI-2 erweitern, um Entwickler zu verpflichten, mit Zertifizierungsstellen zusammenzuarbeiten, helfen wir sicherzustellen, dass die Einhaltung gesichert und vergangene Ungerechtigkeiten korrigiert werden. Darüber hinaus können wir, indem wir den Zugang zu vollständigen, genauen Patientendaten demokratisieren, die Blindheit beseitigen, die Voreingenommenheit aufrechterhalten hat, und KI verwenden, um Versorgungsungleichheiten durch umfassendere, objektivere Erkenntnisse zu lösen.