Umělá inteligence může být přítelem nebo nepřítelem při zlepšování zdravotní rovnosti. Zde je vysvětleno, jak zajistit, aby pomáhala, neškodila

Nerovnosti ve zdravotní péči a rozdíly v péči jsou všudypřítomné napříč socioekonomickými, rasovými a genderovými rozdíly. Jako společnost máme morální, etickou a ekonomickou odpovědnost uzavřít tyto mezery a zajistit konzistentní, spravedlivý a dostupný přístup ke zdravotní péči pro každého.

Umělá inteligence (AI) pomáhá řešit tyto rozdíly, ale je to také dvojí čepel. Určitě AI již pomáhá streamlinovat poskytování péče, ermögňovat personalizovanou medicínu ve velkém měřítku a podporovat průlomové objevy. Nicméně, vrozená předpojatost v datech, algoritmech a uživatelích by mohla zhoršit problém, pokud nebudeme opatrní.

To znamená, že ti z nás, kteří vyvíjí a nasazují AI-poháněná zdravotnická řešení, musíme být opatrní, abychom zabránili tomu, aby AI neúmyslně rozšiřovala stávající mezery, a řídící orgány a profesní asociace musí hrát aktivní roli při stanovení ochranných opatření, aby se zabránilo nebo zmírnilo předpojatost.

Zde je vysvětleno, jak lze pomocí AI překlenout mezery v nerovnosti místo toho, aby je rozšiřovala.

Dosáhnout rovnosti v klinických studiích

Mnohé nové léky a léčebné studie byly historicky předpojaté ve svém designu, ať už úmyslně nebo ne. Například až do roku 1993 nebyly ženy povinny být zahrnuty do klinických studií financovaných NIH. Nedávno vakcíny proti COVID-19 nebyly nikdy úmyslně testovány u těhotných žen—bylo to pouze proto, že některé účastnice studií byly nevědomky těhotné v době očkování, že jsme věděli, že je to bezpečné.

Výzvou pro výzkum je, že nevíme, co nevíme. Nicméně, AI pomáhá odhalit předpojatá data soubory analýzou populací a signalizací nespravedlivého zastoupení nebo mezer v demografickém pokrytí. Zajištěním rozmanitého zastoupení a školením AI modelů na datech, které přesně reprezentují cílové populace, AI pomáhá zajistit inkluzivitu, snížit škodu a optimalizovat výsledky.

Zajistit rovné léčby

Je dobře zavedeno, že černé očekávané matky, které zažívají bolest a komplikace během porodu, jsou často ignorovány, což vede k mateřské úmrtnosti 3x vyšší pro černé ženy než pro bělošské ženy nezávisle na příjmu nebo vzdělání. Problém je převážně způsoben vrozenou předpojatostí: existuje rozšířený omyl mezi zdravotnickými profesionály, že černí lidé mají vyšší toleranci bolesti než bílí lidé.

Předpojatost v AI algoritmech může problém zhoršit: výzkumníci z Harvardu objevili, že běžný algoritmus předpovídal, že černé a latinskoamerické ženy jsou méně pravděpodobně úspěšné při vaginálním porodu po císařském řezu (VBAC), což mohlo vést k tomu, že lékaři provedli více císařských řezů u žen barevné pleti. Nicméně, výzkumníci našli, že „asociace není podporována biologickou pravděpodobností“, což naznačuje, že rasa je „proxy pro jiné proměnné, které odrážejí účinek rasismu na zdraví“. Algoritmus byl následně aktualizován, aby vyloučil rasu nebo etnickou příslušnost při výpočtu rizika.

To je ideální aplikace pro AI, aby odstranila implicitní předpojatost a navrhla (s důkazy) léčebné postupy, které by mohly být dříve přehlédnuty. Místo pokračování v „standardní péči“ můžeme použít AI, aby určila, zda tyto nejlepší postupy jsou založeny na zkušenostech všech žen nebo pouze bílých žen. AI pomáhá zajistit, aby naše datové základy zahrnovaly pacienty, kteří mají nejvíce co získat z pokroků ve zdravotnictví a technologiích.

Zatímco mohou existovat podmínky, ve kterých by rasa a etnická příslušnost mohly být významnými faktory, musíme být opatrní, abychom věděli, kdy a jak by měly být zohledněny, a kdy se pouze řídíme historickou předpojatostí, abychom informovali naše vnímání a AI algoritmy.

Poskytnout rovné preventivní strategie

Řešení AI mohou snadno přehlédnout určité podmínky v marginalizovaných komunitách bez pečlivého zohlednění potenciální předpojatosti. Například, Administrativa pro veterány pracuje na několika algoritmech pro předpověď a detekci příznaků srdečních onemocnění a infarktů. To má obrovský potenciál pro záchranu životů, ale většina studií historicky nezahrnovala mnoho žen, pro které je kardiovaskulární onemocnění nejčastější příčinou úmrtí. Proto je neznámé, zda tyto modely jsou stejně účinné pro ženy, které často vykazují odlišné symptomy než muži.

Zahrnutím proporcionálního počtu žen do tohoto datového souboru by mohlo pomoci zabránit některým z 3,2 milionu infarktů a půl milionu srdečních úmrtí ročně u žen prostřednictvím včasné detekce a intervence. Podobně, nová AI nástroje odstraňují rasově založené algoritmy v testování ledvin, které historicky vyloučily černé, hispánské a domorodé Američany, což vedlo k zpožděním v péči a špatným klinickým výsledkům.

Místo vyloučení marginalizovaných jedinců může AI pomoci předpovídat zdravotní rizika pro znevýhodněné populace a umožnit personalizované hodnocení rizik, aby lépe cílené intervence. Data mohou být již tam; je to pouze otázka „naladění“ modelů, aby se určilo, jak rasa, pohlaví a další demografické faktory ovlivňují výsledky—if vůbec.

Zefektivnit administrativní úkoly

Kromě přímého dopadu na výsledky pacientů má AI obrovský potenciál urychlit pracovní postupy na pozadí, aby se snížily rozdíly. Například, společnosti a poskytovatelé již používají AI k vyplnění mezer v kódování a vyřizování nároků, ověřování diagnóz proti lékařským poznámkám a automatizaci procesů předautorizace pro běžné diagnostické postupy.

Zefektivněním těchto funkcí můžeme dramaticky snížit provozní náklady, pomoci poskytovatelům úřadů fungovat efektivněji a dát personálu více času strávit s pacienty, což činí péči exponenciálně dostupnější a dostupnější.

Každý z nás má důležitou roli

Skutečnost, že máme tyto úžasné nástroje k dispozici, činí to ještě důležitějším, abychom je používali k odstranění a překonání zdravotnických předpojatostí. Bohužel, v USA neexistuje žádný certifikující orgán, který reguluje úsilí o použití AI k „odstranění“ zdravotnické péče, a i pro ty organizace, které vydaly pokyny, neexistuje žádný regulační podnět k dodržování těchto pokynů.

To znamená, že je na nás jako na odbornících AI, datech, tvůrcích algoritmů a uživatelích, abychom vyvinuli vědomou strategii, aby se zajistila inkluzivita, rozmanitost dat a rovné použití těchto nástrojů a poznatků.

Abychom to udělali, je přesně integrována a interoperabilní. S mnoha zdroji dat—od nositelných zařízení a třetích stran poskytujících laboratorní a zobrazovací služby až po primární péči, zdravotnické informační výměny a hospitalizační záznamy—musíme integrovat všechna tato data, aby se zajistilo, že klíčové části budou zahrnuty, bez ohledu na formátování našeho zdroje. Průmysl potřebuje normalizaci dat, standardizaci a identifikační shodu, aby se zajistilo, že základní pacientská data budou zahrnuta, i když se liší pravopis nebo pojmenování na základě různých kultur a jazyků.

Musíme také zavést hodnocení rozmanitosti do našeho procesu vývoje AI a monitorovat „drift“ v našich metrikách v průběhu času. Odborníci AI mají odpovědnost testovat výkon modelu napříč demografickými subskupinami, provádět audity předpojatosti a rozumět tomu, jak model činí rozhodnutí. Musíme jít za rasovými předpoklady, abychom zajistili, že naše analýza reprezentuje populaci, pro kterou ji budujeme. Například, členové kmenů Pima, kteří žijí v rezervaci Gila River v Arizoně, mají extrémně vysoké míry obezity a cukrovky 2. typu, zatímco členové stejného kmenů, kteří žijí jen přes hranici v pohoří Sierra Madre v Mexiku, mají výrazně nižší míry obezity a cukrovky, což dokazuje, že genetika není jediným faktorem.

Nakonec potřebujeme organizace, jako je Americká lékařská asociace, Úřad národního koordinátora pro zdravotnické informační technologie a specializované organizace, jako je Americká kolej porodníků a gynekologů, Americká akademie pediatrie, Americká kolej kardiologie a mnoho dalších, aby pracovaly společně, aby stanovily standardy a rámce pro výměnu dat a akutní péči, aby se zabránilo předpojatosti.

Standardizací sdílení zdravotních dat a rozšiřováním HTI-1 a HTI-2 a vyžadováním, aby vývojáři spolupracovali s akreditačními orgány, pomáháme zajistit dodržování předpisů a opravovat minulé chyby nerovnosti. Kromě toho, demokratizací přístupu ke kompletním a přesným pacientským datům, můžeme odstranit „brýle“, které způsobili předpojatost, a použít AI k řešení zdravotních disparit prostřednictvím komplexnějších, objektivnějších poznatků.