Inteligența Artificială În Sănătate Poate Aduce Riscuri Împreună Cu Oportunități

IA are un potențial enorm în domeniul sănătății, capabilă să îmbunătățească diagnosticarea și să descopere noi medicamente mai eficiente. Cu toate acestea, un articol din Scientific American a discutat recent despre faptul că viteza cu care IA pătrunde în domeniul sănătății deschide și multe noi provocări și riscuri.

De-a lungul ultimilor cinci ani, Administrația pentru Alimente și Medicamente din Statele Unite a aprobat peste 40 de produse diferite de IA. Cu toate acestea, așa cum a raportat Scientific American, niciunul dintre produsele aprobate pentru vânzare în Statele Unite nu a avut performanța evaluată în studii clinice controlate randomizate. Multe instrumente medicale de IA nu necesită nici măcar aprobarea FDA.

Evan Topol, autorul cărții “Deep Medicine: Cum poate Inteligența Artificială să facă sănătatea mai umană”, a declarat pentru Scientific American că multe dintre produsele de IA care afirmă că sunt eficiente în sarcini precum diagnosticarea bolilor nu au fost testate riguros, primul studiu major randomizat al unui instrument de detectare și diagnostic de IA fiind realizat în urmă cu câteva luni. Mai mult, foarte puține startup-uri din domeniul tehnologiei publică cercetările lor în reviste științifice peer-review, unde lucrările lor vor fi analizate de către oameni de știință.

Când sunt testate și controlate corespunzător, sistemele de IA pot fi instrumente puternice care pot ajuta profesioniștii din domeniul medical să detecteze simptome neobservate, îmbunătățind astfel rezultatele sănătății.

De exemplu, un instrument de IA pentru detectarea bolii oculare diabetice a fost testat pe sute de pacienți și a părut a fi fiabil. Compania responsabilă cu testul a lucrat împreună cu FDA timp de peste opt ani pentru a perfecționa produsul. Testul, IDx-DR, este pe cale să ajungă în clinici de îngrijire primară, unde ar putea detecta semne timpurii de retinopatie diabetică și trimite pacienții la specialiști în ochi dacă se suspectează simptome.

Dacă nu sunt testate cu atenție, sistemele de IA pe care profesioniștii din domeniul medical le pot folosi pentru a-și ghida diagnosticul și tratamentul au potențialul de a crea prejudicii în loc să le evite.

Articolul din Scientific American detaliază o posibilă problemă cu folosirea IA pentru diagnosticarea afecțiunilor, arătând spre exemplul unui IA destinat să analizeze radiografiile toracice și să detecteze care pacienți ar putea dezvolta pneumonie. Deși sistemul s-a dovedit a fi precis atunci când a fost testat la Spitalul Mount Sinai din New York, a eșuat atunci când a fost testat pe imagini realizate în alte spitale. Cercetătorii au constatat că IA distingea între imagini create de sistemele de radiografie portabile și cele create într-un departament de radiologie. Medicii folosesc sisteme de radiografie toracică portabile pe pacienții care sunt adesea prea bolnavi pentru a părăsi paturile, iar acești pacienți sunt la un risc mai mare de a dezvolta pneumonie.

Alarmele false sunt, de asemenea, o preocupare. DeepMind a creat o aplicație mobilă de IA care poate prezice insuficiența renală acută la pacienții spitalizați cu până la 48 de ore în avans. Cu toate acestea, sistemul a raportat de asemenea două alarme false pentru fiecare insuficiență renală care a fost prezisă cu succes. Alarmele false pozitive pot fi dăunătoare, deoarece pot determina medicii să cheltuiască timp și resurse inutile pentru a comanda teste suplimentare sau pentru a modifica tratamentele prescrise.

Într-un alt incident, un sistem de IA a concluzionat în mod greșit că pacienții care aveau pneumonie erau mai susceptibili să supraviețuiască dacă aveau astm, ceea ce ar putea determina medicii să modifice tratamentele pentru pacienții cu astm.

Sistemele de IA dezvoltate pentru un spital adesea subperformează atunci când sunt utilizate într-un alt spital. Există multiple cauze pentru acest lucru. În primul rând, sistemele de IA sunt adesea antrenate pe dosarele electronice de sănătate, dar multe dosare electronice de sănătate sunt adesea incomplete sau incorecte, deoarece scopul lor principal este de obicei facturarea și nu îngrijirea pacientului. De exemplu, o investigație realizată de KHN a constatat că, ocazional, existau erori care puneau viața în pericol în dosarele medicale ale pacienților, cum ar fi liste de medicamente care conțineau medicamente incorecte. Dincolo de aceasta, bolile sunt adesea mai complicate, iar sistemul de sănătate este mai complex decât se poate anticipa de către inginerii și oamenii de știință din domeniul IA.

Pe măsură ce IA devine tot mai prolifică, va fi important pentru dezvoltatorii de IA să lucreze împreună cu autoritățile de sănătate pentru a se asigura că sistemele lor de IA sunt testate temeinic și pentru ca organismele de reglementare să se asigure că standardele sunt stabilite și respectate pentru fiabilitatea instrumentelor de diagnostic de IA.