AI může být přítelem nebo nepřítelem při zlepšování zdravotní rovnosti. Zde je, jak zajistit, aby pomáhala, neškodila

Zdravotnické nerovnosti a rozdíly v péči jsou všudypřítomné napříč socioekonomickými, rasovými a genderovými rozdíly. Jako společnost máme morální, etickou a ekonomickou odpovědnost tyto mezery uzavřít a zajistit konzistentní, spravedlivý a dostupný přístup ke zdravotní péči pro každého.

Umělá inteligence (AI) pomáhá řešit tyto rozdíly, ale je také dvouřezový meč. Určitě, AI již pomáhá streamlinovat poskytování péče, umožňovat personalizovanou medicínu ve velkém měřítku a podporovat průlomové objevy. Nicméně, inherentní bias v datech, algoritmech a uživatelích by mohl zhoršit problém, pokud nebudeme opatrní.

To znamená, že ti z nás, kteří vyvíjí a nasazují AI poháněná zdravotnická řešení, musíme být opatrní, abychom zabránili tomu, aby AI neúmyslně rozšiřovala existující mezery, a regulační orgány a profesní asociace musí hrát aktivní roli při stanovení ochranných opatření, aby se zabránilo nebo zmírnilo bias.

Zde je, jak využití AI může mosty překlenout mezery nerovnosti místo toho, aby je rozšiřovalo.

Dosáhnout rovnosti v klinických studiích

Mnohé nové léky a léčebné studie byly historicky zaujaté ve svém designu, ať už úmyslně nebo ne. Například až do roku 1993 nebyly ženy povinny být zahrnuty do klinického výzkumu financovaného NIH. Nedávno COVID vakcíny nebyly nikdy úmyslně testovány u těhotných žen—bylo to pouze proto, že někteří účastníci studií byli nevědomky těhotní v době očkování, že jsme věděli, že je to bezpečné.

Výzvou pro výzkum je, že nevíme, co nevíme. Nicméně, AI pomáhá odhalit zaujaté datové sady analýzou populací a signalizací nesouladu nebo mezer v demografickém pokrytí. Zajištěním rozmanité reprezentace a školením AI modelů na datech, které přesně reprezentují cílové populace, AI pomáhá zajistit inkluzivitu, snižovat škody a optimalizovat výsledky.

Zajistit rovnocennou léčbu

Je dobře etablováno, že černé očekávané matky, které zažívají bolest a komplikace během porodu, jsou často ignorovány, což vede k mateřské mortalitě 3krát vyšší pro černé ženy než pro nehispánské bílé ženy nezávisle na příjmu nebo vzdělání. Problém je largely perpetuován inherentním bias: existuje rozšířený omyl mezi zdravotnickými profesionály, že černí lidé mají vyšší toleranci bolesti než bílí lidé.

Bias v AI algoritmech může problém zhoršit: výzkumníci z Harvardu objevili, že běžný algoritmus předpovídal, že černé a latinskoamerické ženy jsou méně pravděpodobně mít úspěšný vaginální porod po císařském řezu (VBAC), což by mohlo vést k tomu, že lékaři provedou více císařských řezů u žen barevné pleti. Nicméně, výzkumníci zjistili, že „asociace není podporována biologickou pravděpodobností“, což naznačuje, že rasa je „proxy pro jiné proměnné, které odrážejí efekt rasismu na zdraví“. Algoritmus byl následně aktualizován, aby vyloučil rasu nebo etnickou příslušnost při výpočtu rizika.

To je ideální aplikace pro AI, aby odstranila implicitní bias a navrhla (s důkazy) léčebné postupy, které by jinak mohly být přehlédnuty. Místo toho, aby pokračovaly v „standardní péči“, můžeme použít AI, abychom zjistili, zda tyto nejlepší postupy jsou založeny na zkušenostech všech žen nebo pouze bílých žen. AI pomáhá zajistit, aby naše datové základy zahrnovaly pacienty, kteří mají nejvíce co získat z pokroků ve zdravotnictví a technologiích.

Zatímco mohou existovat podmínky, ve kterých by rasa a etnická příslušnost mohly být významnými faktory, musíme být opatrní a vědět, kdy a jak by měly být zvažovány, a kdy se prostě uchylujeme k historickému bias, aby informoval naše vnímání a AI algoritmy.

Poskytnout rovnocenné preventivní strategie

AI řešení mohou snadno přehlédnout určité podmínky v marginalizovaných komunitách bez pečlivého zvažování potenciálního bias. Například, Veteránská správa pracuje na několika algoritmech, aby předpovídala a detekovala známky srdečních onemocnění a infarktů. To má obrovský potenciál pro záchranu životů, ale většina studií historicky nezahrnovala mnoho žen, pro které je kardiovaskulární onemocnění nejčastější příčinou smrti. Proto není známo, zda tyto modely jsou stejně efektivní pro ženy, které často vykazují velmi odlišné symptomy než muži.

Zahrnutí proporcionálního počtu žen do této datové sady by mohlo pomoci zabránit některým z 3,2 milionům infarktů a půl milionu srdečních úmrtí ročně u žen prostřednictvím včasné detekce a intervence. Podobně, nová AI nástroje odstraňují rasově založené algoritmy v screeningu ledvin, které historicky vyloučily černé, hispánské a domorodé Američany, což vedlo k zpožděné péči a špatným klinickým výsledkům.

Místo toho, aby vyloučily marginalizované jedince, AI může vlastně pomoci předpovídat zdravotní rizika pro znevýhodněné populace a umožnit personalizované hodnocení rizika, aby lépe cílené intervence. Data mohou být již tam; je to prostě otázka „naladění“ modelů, aby se určilo, jak rasa, pohlaví a další demografické faktory ovlivňují výsledky—pokud vůbec.

Streamlinovat administrativní úkoly

Kromě přímého dopadu na výsledky pacientů má AI neuvěřitelný potenciál urychlit pracovní postupy na pozadí, aby se snížily rozdíly. Například, společnosti a poskytovatelé již používají AI, aby vyplnili mezery v kódování a vyřizování nároků, ověřovali diagnostické kódy proti poznámkám lékařů a automatizovali procesy předautorizace pro běžné diagnostické postupy.

Tím, že budeme streamlinovat tyto funkce, můžeme dramaticky snížit provozní náklady, pomoci poskytovatelům, aby jejich kanceláře fungovaly efektivněji, a dát personálu více času, aby se věnoval pacientům, což z něj činí péči exponenciálně dostupnější a dostupnější.

Každý z nás má důležitou roli

Skutečnost, že máme k dispozici tyto úžasné nástroje, činí ještě více naléhavým, abychom je používali k odstranění a překonání zdravotnických bias. Bohužel, v USA neexistuje žádný certifikující orgán, který reguluje úsilí o použití AI k „odstranění“ zdravotnické péče, a i pro ty organizace, které vydaly pokyny, neexistuje regulační pobídka k dodržování nich.

Proto je na nás, jako na AI praktiků, data scientifiků, tvůrců algoritmů a uživatelů, abychom vyvinuli uvědomělou strategii, abychom zajistili inkluzivitu, rozmanitost dat a rovnocenné použití těchto nástrojů a poznatků.

Abychom to mohli udělat, je nezbytná přesná integrace a interoperabilita. S mnoha zdroji dat—od nositelných zařízení a třetích stran poskytujících laboratorní a zobrazovací služby až po primární péči, zdravotnické informační výměny a záznamy o hospitalizaci—musíme integrovat všechna tato data, aby byly zahrnuty klíčové části, bez ohledu na formát nebo zdroj. Průmysl potřebuje normalizaci dat, standardizaci a shodu identit, aby se ujistil, že základní pacientská data jsou zahrnuta, i s rozdílným pravopisem nebo pojmenováním na základě různých kultur a jazyků.

Musíme také zavést hodnocení rozmanitosti do našeho procesu vývoje AI a monitorovat „drift“ v našich metrikách v průběhu času. Praktici AI mají odpovědnost testovat výkon modelů napříč demografickými subskupinami, provádět audit bias a rozumět, jak modely činí rozhodnutí. Musíme jít za hranice rasových předpokladů, aby se zajistilo, že naše analýza reprezentuje populaci, pro kterou ji stavíme. Například, členové kmene Pima, kteří žijí v rezervaci Gila River v Arizoně, mají extrémně vysoké míry obezity a cukrovky 2. typu, zatímco členové stejného kmene, kteří žijí jen za hranicí v pohoří Sierra Madre v Mexiku, mají výrazně nižší míry obezity a cukrovky, což dokazuje, že genetika nejsou jediným faktorem.

Nakonec potřebujeme organizace, jako je Americká lékařská asociace, Úřad národního koordinátora pro zdravotnické informační technologie a specializované organizace, jako je Americká kolej porodníků a gynekologů, Americká akademie pediatrie, Americká kolej kardiologie a mnoho dalších, aby pracovaly společně, aby stanovily standardy a rámce pro výměnu dat a akutní péči, aby se zabránilo bias.

Standardizací sdílení zdravotních dat a rozšiřováním HTI-1 a HTI-2 na vyžádání, aby vývojáři pracovali s akreditačními orgány, pomáháme zajistit dodržování a opravovat minulé chyby nerovnosti. Kromě toho, demokratizací přístupu ke kompletním, přesným pacientským údajům, můžeme odstranit „brýle“, které perpetuovaly bias, a použít AI, aby se vyřešily rozdíly v péči prostřednictvím komplexnějších, objektivnějších poznatků.