Când să evitați inteligența artificială în sănătate

Orice dată când o nouă tehnologie face parte dintr-o industrie, poate exista o ispită de a o numi pe acea jucărie strălucitoare ca o soluție pentru toate problemele industriei. Inteligența artificială în sănătate este un exemplu excelent. Pe măsură ce tehnologia a continuat să evolueze, a fost adoptată pentru cazuri de utilizare în dezvoltarea de medicamente, coordonarea îngrijirii și rambursarea costurilor, pentru a numi câteva. Există multe cazuri de utilizare valabile pentru inteligența artificială în sănătate, unde tehnologia este cu mult mai bună decât orice alternativă disponibilă în prezent.

Cu toate acestea, inteligența artificială – așa cum este ea astăzi – excelează doar la anumite sarcini, cum ar fi înțelegerea unor cantități mari de date și luarea deciziilor pe baza unor reguli bine definite. Alte situații, în special cele în care contextul adăugat este esențial pentru luarea deciziilor corecte, nu sunt potrivite pentru inteligența artificială. Să explorăm câteva exemple.

Respingerea pretențiilor și îngrijirii

Indiferent dacă este vorba de o pretenție sau de îngrijire, respingerile sunt decizii complexe și prea importante pentru a fi luate de inteligența artificială singură. Atunci când se respinge o pretenție sau o îngrijire, există o imperativ moral evident de a face acest lucru cu cea mai mare prudență și pe baza capacităților inteligenței artificiale de astăzi, ceea ce necesită input uman.

Dincolo de aspectul moral, planurile de sănătate se expun la risc atunci când se bazează prea mult pe inteligența artificială pentru a lua decizii de respingere. Planurile pot și sunt, în fața unor procese, pentru utilizarea necorespunzătoare a inteligenței artificiale pentru a respinge pretențiile, cu litigii care acuză planurile de a nu îndeplini cerințele minime pentru revizuirea medicală, deoarece inteligența artificială a fost utilizată în locul acesteia.

Încrederea în deciziile trecute

Încrederea în inteligența artificială pentru a lua decizii bazate exclusiv pe modul în care a luat o decizie anterioară are o eroare evidentă: o decizie greșită din trecut va continua să influențeze alte decizii. Plus, deoarece regulile de politică care informează inteligența artificială sunt adesea distribuite în sisteme sau codificate imperfect de către oameni, sistemele de inteligență artificială pot ajunge să adopte și să perpetueze o înțelegere inexactă a acestor politici. Pentru a evita acest lucru, organizațiile trebuie să creeze o sursă unică de adevăr al politicii, astfel încât inteligența artificială să poată face referire la și să învețe dintr-un set de date fiabile.

Construirea pe sisteme legacy

Ca o tehnologie relativ nouă, inteligența artificială aduce un sentiment de posibilitate, iar multe echipe de știință a datelor din planurile de sănătate sunt nerăbdătoare să profite de această posibilitate, utilizând instrumentele de inteligență artificială deja integrate în platformele enterprise existente. Problema este că procesele de pretenții de sănătate sunt extrem de complexe, iar platformele enterprise nu înțeleg întotdeauna complexitățile. Adăugarea inteligenței artificiale la aceste platforme legacy ca o soluție universală (care nu ține cont de toți factorii care afectează procesul de pretenții) duce la confuzie și inexactitate, mai degrabă decât la crearea unor procese mai eficiente.

Înclinarea spre date vechi

Unul dintre cele mai mari beneficii ale inteligenței artificiale este că devine din ce în ce mai bună la orchestrarea sarcinilor pe măsură ce învață, dar acest proces de învățare poate avea loc doar dacă există un buclă de feedback constant care ajută inteligența artificială să înțeleagă ce a făcut greșit, astfel încât să poată ajusta corespunzător. Acest feedback nu numai că trebuie să fie constant, dar trebuie să se bazeze și pe date curate și precise. După all, inteligența artificială este la fel de bună pe cât sunt datele din care învață.

Când inteligența artificială în sănătate este benefică

Utilizarea inteligenței artificiale într-un sector în care ieșirile sunt la fel de importante ca sănătatea necesită cu siguranță prudență, dar acest lucru nu înseamnă că nu există cazuri de utilizare în care inteligența artificială are sens.

Pentru unul, nu există o lipsă de date în sănătate (luați în considerare că un singur dosar medical al unei persoane poate fi de mii de pagini), iar modelele din aceste date pot spune multe despre diagnosticarea bolilor, procesarea corectă a pretențiilor și multe altele. Acesta este locul în care inteligența artificială excelează, căutând modele și sugerând acțiuni pe baza acestor modele pe care reviewerii umani le pot urma.

Altă zonă în care inteligența artificială excelează este în catalogarea și ingurgitarea politicilor și regulilor care guvernează modul în care se plătesc pretențiile. Inteligența artificială generativă (GenAI) poate fi utilizată pentru a transforma conținutul de politică din diverse formate în cod mașină care poate fi aplicat în mod consecvent pe toate pretențiile pacienților. GenAI poate fi utilizată și pentru a rezuma informații și a le afișa într-un format ușor de citit pentru revizuirea umană.

Firul principal care străbate toate aceste cazuri de utilizare este că inteligența artificială este utilizată ca un copilot pentru oamenii care o supraveghează, și nu ca o entitate care conduce singură. Atâta timp cât organizațiile pot păstra această idee în minte atunci când implementează inteligența artificială, vor fi într-o poziție de a reuși în această eră în care sănătatea este transformată de inteligența artificială.