KI kann bei der Verbesserung der Gesundheitsgerechtigkeit Freund oder Feind sein. So stellen Sie sicher, dass sie hilft und nicht schadet

Ungleichheiten und Unterschiede in der Gesundheitsversorgung sind weit verbreitet, unabhängig von sozioökonomischen, ethnischen und geschlechtsspezifischen Unterschieden. Als Gesellschaft haben wir eine moralische, ethische und wirtschaftliche Verantwortung, diese Lücken zu schließen und einen einheitlichen, fairen und erschwinglichen Zugang zur Gesundheitsversorgung für alle sicherzustellen.

Künstliche Intelligenz (KI) hilft, diese Ungleichheiten zu beseitigen, ist aber auch ein zweischneidiges Schwert. Sicherlich hilft KI bereits dabei, die Gesundheitsversorgung zu optimieren, personalisierte Medizin im großen Maßstab zu ermöglichen und bahnbrechende Entdeckungen zu unterstützen. Wenn wir jedoch nicht aufpassen, könnte eine inhärente Verzerrung der Daten, Algorithmen und Benutzer das Problem noch verschlimmern.

Das bedeutet, dass diejenigen von uns, die KI-gesteuerte Gesundheitslösungen entwickeln und einsetzen, darauf achten müssen, dass KI nicht unbeabsichtigt bestehende Lücken vergrößert. Zudem müssen Leitungsgremien und Berufsverbände eine aktive Rolle bei der Festlegung von Leitplanken spielen, um Voreingenommenheit zu vermeiden oder abzuschwächen.

Hier erfahren Sie, wie durch den Einsatz von KI Ungleichheiten überbrückt und nicht vergrößert werden können.

Gleichberechtigung bei klinischen Studien erreichen

Viele Studien zu neuen Medikamenten und Behandlungen waren in der Vergangenheit in ihrem Design voreingenommen, ob beabsichtigt oder nicht. Zum Beispiel Erst 1993 waren Frauen verpflichtet, gesetzlich verpflichtet, in die von den NIH finanzierte klinische Forschung einbezogen zu werden. COVID-Impfstoffe wurden nie absichtlich an schwangeren Frauen getestet– nur weil einige Studienteilnehmerinnen zum Zeitpunkt der Impfung unwissentlich schwanger waren, wussten wir, dass die Impfung sicher war.

Eine Herausforderung bei der Forschung besteht darin, dass wir nicht wissen, was wir nicht wissen. KI hilft jedoch dabei, verzerrte Datensätze aufzudecken, indem sie Bevölkerungsdaten analysiert und unverhältnismäßige Repräsentation oder Lücken in der demografischen Abdeckung aufzeigt. Indem KI eine vielfältige Repräsentation sicherstellt und KI-Modelle anhand von Daten trainiert, die die Zielbevölkerung genau repräsentieren, trägt sie dazu bei, Inklusivität zu gewährleisten, Schäden zu reduzieren und Ergebnisse zu optimieren.

Für eine gerechte Behandlung sorgen

Es ist gut etabliert dass schwarze werdende Mütter, die Schmerzen und Komplikationen während der Geburt haben, oft ignoriert werden, was zu einer Müttersterblichkeitsrate führt 3x höher für schwarze Frauen als nicht-hispanische weiße Frauen unabhängig von Einkommen oder BildungDas Problem wird größtenteils durch inhärente Vorurteile verschärft: Unter Medizinern herrscht die weitverbreitete Fehleinschätzung, dass Schwarze Menschen haben eine höhere Schmerztoleranz als weiße Leute.

Verzerrungen in KI-Algorithmen können das Problem verschlimmern: Harvard-Forscher entdeckten, dass ein gängiger Algorithmus vorhersagte, dass schwarze und lateinamerikanische Frauen nach einem Kaiserschnitt weniger wahrscheinlich eine erfolgreiche vaginale Geburt haben (VBAC), was Ärzte dazu veranlasst haben könnte, mehr Kaiserschnitte bei Frauen mit dunkler Hautfarbe durchzuführen. Doch die Forscher fanden heraus, dass „der Zusammenhang nicht durch biologische Plausibilität gestützt”, was darauf hindeutet, dass Rasse „ein Proxy für andere Variablen ist, die die Wirkung von Rassismus auf die Gesundheit.“ Der Algorithmus wurde anschließend aktualisiert, um Rasse oder ethnische Zugehörigkeit bei der Risikoberechnung auszuschließen.

Dies ist eine perfekte Anwendung für KI, um implizite Vorurteile aufzudecken und (mit Belegen) Behandlungspfade vorzuschlagen, die bisher möglicherweise übersehen wurden. Anstatt weiterhin „Standardbehandlungen“ zu praktizieren, können wir KI verwenden, um festzustellen, ob diese Best Practices auf den Erfahrungen aller Frauen oder nur weißer Frauen basieren. KI hilft sicherzustellen, dass unsere Datengrundlagen die Patienten umfassen, die am meisten von Fortschritten in Gesundheitsversorgung und Technologie profitieren.

Zwar mag es Bedingungen geben, unter denen Rasse und ethnische Zugehörigkeit einflussreiche Faktoren sein könnten, doch müssen wir darauf achten, wie und wann sie berücksichtigt werden sollten und wann wir bei der Gestaltung unserer Wahrnehmungen und KI-Algorithmen einfach auf historische Voreingenommenheit zurückgreifen.

Bereitstellung gerechter Präventionsstrategien

KI-Lösungen können bestimmte Erkrankungen in marginalisierten Gemeinschaften leicht übersehen, wenn sie nicht sorgfältig auf mögliche Voreingenommenheit achten. Beispielsweise arbeitet die Veteranenverwaltung an mehreren Algorithmen zur Vorhersage und Erkennung von Anzeichen von Herzerkrankungen und Herzinfarkten. Dies birgt enormes lebensrettendes Potenzial, doch die meisten Studien haben bisher nur wenige Frauen einbezogen, für die Herz-Kreislauf-Erkrankungen die häufigste Todesursache darstellen. Daher ist unklar, ob diese Modelle bei Frauen, die oft ganz andere Symptome aufweisen als Männer, genauso effektiv sind.

Die Einbeziehung einer angemessenen Anzahl von Frauen in diesen Datensatz könnte dazu beitragen, einige der 3.2 Millionen Herzinfarkte und eine halbe Million herzbedingte Todesfälle jährlich bei Frauen durch Früherkennung und Intervention. Ebenso beseitigen neue KI-Tools die Rassenbasierte Algorithmen im Nierenkrankheits-Screening, von denen in der Vergangenheit Schwarze, Hispanoamerikaner und amerikanische Ureinwohner ausgeschlossen wurden, was zu Verzögerungen in der Behandlung und schlechten klinischen Ergebnissen führte.

Anstatt marginalisierte Personen auszuschließen, kann KI tatsächlich dabei helfen, Gesundheitsrisiken für unterversorgte Bevölkerungsgruppen vorherzusagen und personalisierte Risikobewertungen zu ermöglichen, um Interventionen gezielter zu gestalten. Die Daten sind möglicherweise bereits vorhanden; es geht lediglich darum, die Modelle „abzustimmen“, um festzustellen, wie Rasse, Geschlecht und andere demografische Faktoren die Ergebnisse beeinflussen – falls sie das überhaupt tun.

Optimieren Sie administrative Aufgaben

Abgesehen davon, dass KI direkte Auswirkungen auf die Behandlungsergebnisse hat, bietet sie auch ein enormes Potenzial, Arbeitsabläufe im Hintergrund zu beschleunigen und so Ungleichheiten zu verringern. Unternehmen und Anbieter nutzen KI beispielsweise bereits, um Lücken bei der Kodierung und Beurteilung von Ansprüchen zu schließen, Diagnosecodes anhand von Arztnotizen zu validieren und Vorabgenehmigungsprozesse für gängige Diagnoseverfahren zu automatisieren.

Durch die Rationalisierung dieser Funktionen können wir die Betriebskosten drastisch senken, den Betrieb der Arztpraxen effizienter gestalten und den Mitarbeitern mehr Zeit für die Patienten geben. Auf diese Weise wird die medizinische Versorgung deutlich erschwinglicher und zugänglicher.

Jeder von uns hat eine wichtige Rolle zu spielen

Die Tatsache, dass uns diese unglaublichen Werkzeuge zur Verfügung stehen, macht es umso wichtiger, dass wir sie nutzen, um Vorurteile im Gesundheitswesen auszumerzen und zu überwinden. Leider gibt es in den USA keine Zertifizierungsstelle, die die Bemühungen reguliert, KI zur „unvoreingenommenen“ Gesundheitsversorgung einzusetzen, und selbst für die Organisationen, die Richtlinien aufgestellt haben, gibt es keinen regulatorischen Anreiz, diese einzuhalten.

Daher liegt es an uns als KI-Praktikern, Datenwissenschaftlern, Algorithmenentwicklern und -nutzern, eine bewusste Strategie zu entwickeln, um Inklusivität, Datenvielfalt und eine gerechte Nutzung dieser Tools und Erkenntnisse sicherzustellen.

Dazu sind genaue Integration und Interoperabilität unerlässlich. Bei so vielen Datenquellen – von tragbaren Geräten und externen Labor- und Bildgebungsanbietern bis hin zur Primärversorgung, dem Austausch von Gesundheitsinformationen und Patientenakten – müssen wir all diese Daten integrieren, damit wichtige Teile einbezogen werden, unabhängig von der Formatierung unserer Quelle. Die Branche muss Daten normalisieren, standardisieren und Identitätsabgleiche durchführen, um sicherzustellen, dass wichtige Patientendaten einbezogen werden, selbst bei unterschiedlichen Schreibweisen von Namen oder Namenskonventionen aufgrund verschiedener Kulturen und Sprachen.

Wir müssen auch Diversitätsbewertungen in unseren KI-Entwicklungsprozess einbauen und im Laufe der Zeit auf „Drift“ in unseren Kennzahlen achten. KI-Praktiker haben die Verantwortung, die Modellleistung in verschiedenen demografischen Untergruppen zu testen, Bias-Audits durchzuführen und zu verstehen, wie das Modell Entscheidungen trifft. Wir müssen möglicherweise über rassenbasierte Annahmen hinausgehen, um sicherzustellen, dass unsere Analyse die Bevölkerung repräsentiert, für die wir sie erstellen. Beispielsweise Mitglieder der Indianerstamm der Pima die im Gila River Reservat in Arizona leben, weisen extrem hohe Fettleibigkeits- und Typ-2-Diabetesraten auf, während die Mitglieder des gleichen Stammes, die gleich hinter der Grenze in den Bergen der Sierra Madre in Mexiko leben, deutlich niedrigere Fettleibigkeits- und Diabetesraten aufweisen. Dies beweist, dass die Genetik nicht der einzige Faktor ist.

Und schließlich müssen Organisationen wie die American Medical Association, das Office of the National Coordinator for Health Information Technology und Fachorganisationen wie das American College of Obstetrics and Gynecology, die American Academy of Pediatrics, das American College of Cardiology und viele andere zusammenarbeiten, um Standards und Rahmenbedingungen für den Datenaustausch und die Genauigkeit der Datenerhebung zu schaffen und so Verzerrungen vorzubeugen.

Durch die Standardisierung des Austauschs von Gesundheitsdaten und den Ausbau HTI-1 und HTI-2 Indem wir Entwickler verpflichten, mit Akkreditierungsstellen zusammenzuarbeiten, helfen wir dabei, die Einhaltung von Vorschriften sicherzustellen und frühere Fehler zu korrigieren. Indem wir den Zugang zu vollständigen, genauen Patientendaten demokratisieren, können wir außerdem die Scheuklappen entfernen, die zu Vorurteilen geführt haben, und KI nutzen, um Ungleichheiten in der Versorgung durch umfassendere, objektivere Erkenntnisse zu beseitigen.