Inteligența Artificială Generativă în Industria Sănătății Are Nevoie de o Doză de Explicabilitate

Viteza remarcabilă cu care uneltele de inteligență artificială generativă bazate pe text pot finaliza sarcini de scriere și comunicare de nivel înalt a atras atenția companiilor și consumatorilor deopotrivă. Dar procesele care au loc în spatele scenei pentru a permite aceste capacități impresionante pot face ca utilizarea inteligenței artificiale generative în industrii sensibile și reglementate de guvern, cum ar fi asigurările, finanțele sau sănătatea, să fie riscantă, fără a lua măsuri de precauție considerabile.

Unele dintre cele mai ilustrative exemple ale acestor probleme pot fi găsite în industria sănătății.

Aceste probleme sunt de obicei legate de seturile de date extinse și diverse utilizate pentru antrenarea Modelelor Lingvistice Mari (LLM) – modelele pe care uneltele de inteligență artificială generativă bazate pe text le utilizează pentru a efectua sarcini de nivel înalt. Fără intervenție externă explicită din partea programatorilor, aceste LLM tind să extragă date indiscriminat din diverse surse de pe internet pentru a-și extinde baza de cunoștințe.

Acest abordare este cea mai potrivită pentru cazuri de utilizare orientate către consumatori cu risc scăzut, în care obiectivul final este de a direcționa clienții către oferte dorite cu precizie. Însă, din ce în ce mai mult, seturile de date mari și căile confuze prin care modelele de inteligență artificială generează ieșirile lor obscurează explicabilitatea pe care spitalele și furnizorii de servicii de sănătate o necesită pentru a urmări și preveni potențialele inexactități.

În acest context, explicabilitatea se referă la capacitatea de a înțelege orice LLM dată logică. Profesioniștii din domeniul sănătății care doresc să adopte unelte de inteligență artificială generativă asistente trebuie să aibă mijloacele de a înțelege cum modelele lor produc rezultate, astfel încât pacienții și personalul să fie echipați cu transparență deplină pe tot parcursul proceselor de luare a deciziilor. Cu alte cuvinte, într-o industrie precum sănătatea, unde viețile sunt în joc, riscurile sunt pur și simplu prea mari pentru ca profesioniștii să interpreteze greșit datele utilizate pentru antrenarea uneltelor lor de inteligență artificială.

Din fericire, există o modalitate de a ocoli problema explicabilității inteligenței artificiale generative – necesită doar un pic mai mult control și focalizare.

Mister și Scepticism

În inteligența artificială generativă, conceptul de înțelegere a modului în care un LLM ajunge de la Punctul A – intrarea – la Punctul B – ieșirea – este mult mai complex decât în cazul algoritmilor non-generativi care rulează pe modele mai stabilite.

Uneltele de inteligență artificială generativă fac legături nelimitate în timp ce traversează de la intrare la ieșire, dar pentru observatorul extern, modul și motivul pentru care fac orice serie de legături rămâne un mister. Fără o modalitate de a vedea “procesul de gândire” pe care un algoritm de inteligență artificială îl parcurge, operatorii umani lipsesc de o modalitate cuprinzătoare de a investiga raționamentul său și de a urmări inexactitățile potențiale.

În plus, seturile de date în continuă extindere utilizate de algoritmii de învățare a mașinilor complică și mai mult explicabilitatea. Cu cât setul de date este mai mare, cu atât este mai probabil ca sistemul să învețe atât din informații relevante, cât și din informații nerelevante și să producă “halucinații de inteligență artificială” – minciuni care se abat de la fapte externe și de la logica contextuală, oricât de convingător.

În industria sănătății, acest tip de rezultate eronate poate provoca o mulțime de probleme, cum ar fi diagnosticări greșite și prescrieri incorecte. Consecințele etice, legale și financiare la o parte, astfel de erori ar putea dăuna cu ușurință reputației furnizorilor de servicii de sănătate și instituțiilor medicale pe care le reprezintă.

Așadar, în ciuda potențialului său de a îmbunătăți intervențiile medicale, de a îmbunătăți comunicarea cu pacienții și de a consolida eficiența operațională, inteligența artificială generativă în sănătate rămâne înconjurată de scepticism, și pe bună dreptate – 55% dintre clinicieni nu cred că este gata pentru utilizare medicală și 58% nu au încredere în ea deloc. Cu toate acestea, organizațiile de sănătate înaintează, cu 98% integrând sau planificând o strategie de implementare a inteligenței artificiale generative, în încercarea de a compensa impactul lipsei de personal din sector.

Controlați Sursa

Industria sănătății este adesea prinsă pe picior greșit în climatul actual al consumatorilor, care valorizează eficiența și viteza mai mult decât asigurarea măsurilor de siguranță inatacabile. Știrile recente despre capcanele extragerii de date nelimitate pentru antrenarea LLM-urilor, care duc la procese pentru încălcarea drepturilor de autor, au adus aceste probleme în prim-plan. Unele companii se confruntă și cu acuzații că datele personale ale cetățenilor au fost extrase pentru a antrena aceste modele de limbaj, posibil încălcând legile privind confidențialitatea.

Dezvoltatorii de inteligență artificială pentru industrii puternic reglementate ar trebui, prin urmare, să exercite control asupra surselor de date pentru a limita greșelile potențiale. Adică, să prioritizeze extragerea de date din surse de încredere, verificate de industrie, în loc de a extrage pagini web externe haotic și fără permisiune expresă. Pentru industria sănătății, acest lucru înseamnă limitarea intrărilor de date la pagini de întrebări frecvente, fișiere CSV și baze de date medicale – printre alte surse interne.

Dacă acest lucru pare puțin limitativ, încercați să căutați un serviciu pe site-ul unui sistem de sănătate mare. Organizațiile de sănătate din SUA publică sute, dacă nu mii, de pagini informative pe platformele lor; majoritatea sunt îngropate atât de adânc încât pacienții nu pot niciodată să le acceseze. Soluțiile de inteligență artificială generativă bazate pe date interne pot furniza aceste informații pacienților în mod convenabil și fără efort. Acesta este un câștig pentru toate părțile, deoarece sistemul de sănătate vede în final rentabilitatea acestui conținut, iar pacienții pot găsi serviciile de care au nevoie instantaneu și fără efort.

Ce Urmează pentru Inteligența Artificială Generativă în Industriile Reglementate?

Industria sănătății are de câștigat de pe urma inteligenței artificiale generative în mai multe moduri.

Să considerăm, de exemplu, epuizarea generalizată care afectează sectorul sănătății din SUA în ultima vreme – aproape 50% din forța de muncă este prognozată să părăsească locurile de muncă până în 2025. Chatbot-urile alimentate de inteligență artificială generativă ar putea ajuta la allevierea unei părți semnificative a sarcinii de muncă și la conservarea accesului pacienților la echipele suprasolicitate.

Pe partea pacientului, inteligența artificială generativă are potențialul de a îmbunătăți serviciile de call center ale furnizorilor de sănătate. Automatizarea inteligenței artificiale are puterea de a aborda o gamă largă de întrebări prin diverse canale de contact, inclusiv întrebări frecvente, probleme IT, reînnoiri de prescripții medicale și referiri medicale. În afara frustrării care vine cu așteptarea în linie, doar cam jumătate dintre pacienții din SUA reușesc să-și rezolve problemele la primul apel, ceea ce duce la rate ridicate de abandon și la accesul împiedicat la îngrijire. Satisfacția scăzută a clienților creează o presiune suplimentară asupra industriei pentru a acționa.

Pentru ca industria să beneficieze cu adevărat de implementarea inteligenței artificiale generative, furnizorii de servicii de sănătate au nevoie să faciliteze restructurarea intenționată a datelor la care LLM-urile lor au acces.