Inteligența Artificială poate fi prieten sau dușman în îmbunătățirea echității în sănătate. Iată cum să ne asigurăm că ajută, nu dăunează

Inechitățile și disparitățile în îngrijirea sănătății sunt omniprezente în diviziunile socioeconomice, rasiale și de gen. Ca societate, avem o responsabilitate morală, etică și economică de a închide aceste lacune și de a asigura acces consistent, echitabil și accesibil la îngrijirea sănătății pentru toată lumea.

Inteligența Artificială (IA) ajută la abordarea acestor disparități, dar este și o sabie cu două tăișuri. Cu siguranță, IA ajută deja la optimizarea furnizării de îngrijire, la facilitarea medicinei personalizate la scară largă și la sprijinirea descoperirilor revoluționare. Cu toate acestea, prejudecățile inerente din date, algoritmi și utilizatori ar putea înrăutăți problema dacă nu suntem atenți.

Acest lucru înseamnă că cei care dezvoltăm și implementăm soluții de îngrijire a sănătății bazate pe IA trebuie să fim atenți să prevenim ca IA să nu accentueze neintenționat lacunele existente, iar organismele de reglementare și asociațiile profesionale trebuie să joace un rol activ în stabilirea unor limite pentru a evita sau a reduce prejudecățile.

Iată cum putem utiliza IA pentru a reduce lacunele de inechitate în loc de a le accentua.

Să obținem echitate în studiile clinice

Multe studii și teste de medicamente noi au fost istoric viciate în proiectare, fie intenționat, fie neintenționat. De exemplu, abia în 1993 femeile au fost obligate prin lege să fie incluse în cercetarea clinică finanțată de NIH. Mai recent, vaccinurile împotriva COVID nu au fost niciodată testate intenționat la femei însărcinate – a fost doar pentru că unii participanți la test au fost nevătămați însărcinați la momentul vaccinării că am știut că este sigur.

O provocare cu cercetarea este că nu știm ce nu știm. Cu toate acestea, IA ne ajută să descoperim seturi de date viciate prin analizarea datelor populației și prin semnalarea reprezentării disproporționate sau a lacunelor în acoperirea demografică. Asigurând reprezentarea diversă și antrenând modelele IA cu date care reprezintă cu acuratețe populațiile țintă, IA ajută la asigurarea incluzivității, la reducerea prejudiciului și la optimizarea rezultatelor.

Să asigurăm tratamente echitabile

Este bine stabilit că mamele negre care așteaptă copii și care experimentează dureri și complicații în timpul nașterii sunt adesea ignorate, ceea ce duce la o rată a mortalității materne de 3 ori mai mare pentru femeile negre decât pentru femeile non-hispanice albe indiferent de venit sau educație. Problema este în mare măsură perpetuată de prejudecăți inerente: există o concepție răspândită printre profesioniștii medicali că oamenii negri au o toleranță mai mare la durere decât oamenii albi.

Prejudecățile din algoritmii IA pot înrăutăți problema: cercetătorii de la Harvard au descoperit că un algoritm comun a prezis că femeile negre și latine au o șansă mai mică de a avea nașteri vaginale de succes după o cezariană (VBAC), ceea ce ar fi putut determina medicii să efectueze mai multe cezariene la femeile de culoare. Cu toate acestea, cercetătorii au constatat că „asocierea nu este susținută de plauzibilitate biologică”, sugerând că rasa este „un proxy pentru alte variabile care reflectă efectul rasismului asupra sănătății”. Algoritmul a fost ulterior actualizat pentru a exclude rasa sau etnia atunci când se calculează riscul.

Acesta este un exemplu perfect de aplicare a IA pentru a eradica prejudecățile implicite și a sugera (cu dovezi) căi de îngrijire care ar fi putut fi anterior ignorate. În loc să continuăm să practicăm „îngrijirea standard”, putem utiliza IA pentru a determina dacă aceste practici sunt bazate pe experiența tuturor femeilor sau doar a femeilor albe. IA ne ajută să ne asigurăm că fundațiile noastre de date includ pacienții care au cel mai mult de câștigat de pe urma progreselor în sănătate și tehnologie.

Deși pot exista condiții în care rasa și etnia ar putea fi factori importanți, trebuie să fim atenți să știm când și cum ar trebui să fie luate în considerare și când ne bazăm pur și simplu pe prejudecățile istorice pentru a informa percepțiile și algoritmii noștri IA.

Să oferim strategii de prevenire echitabile

Soluțiile IA pot ușor să ignore anumite afecțiuni în comunitățile marginalizate fără o considerare atentă a potențialelor prejudecăți. De exemplu, Administrația pentru Veterani lucrează la mai multe algoritmi pentru a prezice și a detecta semnele bolilor cardiace și ale atacurilor de cord. Acest lucru are un potențial imens de salvare a vieții, dar majoritatea studiilor nu au inclus niciodată multe femei, pentru care bolile cardiovasculare sunt principala cauză de deces. Prin urmare, nu se știe dacă aceste modele sunt la fel de eficiente pentru femei, care adesea prezintă simptome foarte diferite decât bărbații.

Includerea unui număr proporțional de femei în acest set de date ar putea ajuta la prevenirea unora dintre cele 3,2 milioane de atacuri de cord și jumătate de milion de decese cardiovasculare anuale la femei prin detectare și intervenție precoce. Similar, noi unelte IA elimină algoritmii bazati pe rasa în testarea bolilor renale, care au istoric exlus pe negri, hispanici și amerindieni, ceea ce a dus la întârzieri în îngrijire și rezultate clinice slabe.

În loc să excludem indivizi marginalizați, IA poate de fapt să ne ajute să prognozăm riscurile de sănătate pentru populațiile defavorizate și să permitem evaluări personalizate de risc pentru a îmbunătăți intervențiile. Datele pot fi deja acolo; este doar o chestiune de „reglare” a modelelor pentru a determina cum rasa, sexul și alte factori demografici afectează rezultatele – dacă o fac.

Să optimizăm sarcinile administrative

În afara impactului direct asupra rezultatelor pacienților, IA are un potențial incredibil de a accelera fluxurile de lucru din spatele scenei pentru a reduce disparitățile. De exemplu, companiile și furnizorii already utilizează IA pentru a completa lacunele în codificarea și adjudecarea cererilor, pentru a valida codurile de diagnostic împotriva notițelor medicilor și pentru a automatiza procesele de preautorizare pentru proceduri diagnostice comune.

Prin optimizarea acestor funcții, putem reduce drastic costurile operaționale, putem ajuta birourile furnizorilor să funcționeze mai eficient și putem oferi personalului mai mult timp pentru a petrece cu pacienții, făcând astfel îngrijirea mult mai accesibilă și mai ieftină.

Fiecare dintre noi are un rol important de jucat

Faptul că avem aceste instrumente incredibile la dispoziție ne face și mai imperios să le utilizăm pentru a eradica și a depăși prejudecățile în îngrijirea sănătății. Din nefericire, nu există un organism de certificare în Statele Unite care să reglementeze eforturile de a utiliza IA pentru a „debiasa” furnizarea de îngrijire a sănătății, iar chiar și pentru acele organizații care au emis ghiduri, nu există niciun stimulent regulator pentru a se conforma acestora.

Prin urmare, responsabilitatea noastră, ca practicieni IA, oameni de știință în domeniul datelor, creatori de algoritmi și utilizatori, este să dezvoltăm o strategie conștientă pentru a asigura incluzivitatea, diversitatea datelor și utilizarea echitabilă a acestor instrumente și a acestor informații.

Pentru a face acest lucru, integrarea precisă și interoperabilitatea sunt esențiale. Având în vedere multiple surse de date – de la dispozitive purtabile și furnizori de laboratoare și imagistică medicală terțe părți la îngrijire primară, schimburi de informații de sănătate și înregistrări spitalicești – trebuie să integrăm toate aceste date astfel încât să includem piesele cheie, indiferent de formatul sursă. Industria are nevoie de normalizarea datelor, standardizare și identificarea corespondenței pentru a se asigura că datele esențiale ale pacientului sunt incluse, chiar și în cazul în care există ortografii sau convenții de denumire diferite bazate pe diverse culturi și limbi.

De asemenea, trebuie să construim evaluări de diversitate în procesul nostru de dezvoltare a IA și să monitorizăm „deriva” în metricile noastre în timp. Practicienii IA au responsabilitatea de a testa performanța modelului în subgrupuri demografice, de a efectua audituri de prejudecăți și de a înțelege cum ia modelul decizii. Putem fi nevoiți să mergem dincolo de presupunerile bazate pe rasă pentru a ne asigura că analiza noastră reprezintă populația pentru care o construim. De exemplu, membrii tribului Pima Indian care trăiesc în Rezervația Gila River din Arizona au rate extrem de ridicate de obezitate și diabet de tip 2, în timp ce membrii aceluiași trib care trăiesc doar peste graniță în munții Sierra Madre din Mexic au rate mult mai scăzute de obezitate și diabet, demonstrând că genetica nu este singurul factor.

În final, avem nevoie de organizații precum Asociația Medicală Americană, Biroul Coordonator Național pentru Tehnologia Informației de Sănătate, și organizații specializate precum Colegiul American de Obstetrică și Ginecologie, Academia Americană de Pediatrie, Colegiul American de Cardiologie și multe altele pentru a lucra împreună pentru a stabili standarde și cadre pentru schimbul de date și acuitate pentru a preveni prejudecățile.

Prin standardizarea schimbului de date de sănătate și prin extinderea HTI-1 și HTI-2 pentru a cere dezvoltatorilor să lucreze cu organizațiile de acreditare, ne ajutăm să asigurăm conformitatea și să corectăm erorile trecutului de inechitate. În plus, prin democratizarea accesului la date complete și precise ale pacienților, putem înlătura orbirea care a perpetuat prejudecățile și putem utiliza IA pentru a rezolva disparitățile în îngrijirea sănătății prin insights mai cuprinzătoare și mai obiective.