Inteligența Artificială Generativă în Industria Sănătății Are Nevoie de o Doză de Explicabilitate

Viteza remarcabilă cu care uneltele de inteligență artificială generativă text-basedă pot finaliza sarcini de scriere și comunicare de nivel înalt a lovit o coardă cu companiile și consumatorii deopotrivă. Dar procesele care au loc în spatele scenelor pentru a permite aceste capacități impresionante pot face ca este riscant pentru industrii sensibile, reglementate de guvern, cum ar fi asigurări, finanțe sau sănătate, să utilizeze inteligența artificială generativă fără a lua măsuri de precauție considerabile.

Unele dintre cele mai ilustrative exemple ale acestui lucru pot fi găsite în industria sănătății.

Asemenea probleme sunt de obicei legate de seturile de date extinse și diverse utilizate pentru antrenarea Modelelor de Limbaj Mare (LLM) – modelele pe care uneltele de inteligență artificială generativă text-basedă se bazează pentru a efectua sarcini de nivel înalt. Fără intervenție externă explicită din partea programatorilor, aceste LLM-uri tind să extragă date indiscriminat din diverse surse de pe internet pentru a-și extinde baza de cunoștințe.

Acest abordare este cel mai potrivit pentru cazuri de utilizare orientate către consumator, cu risc scăzut, în care obiectivul final este de a direcționa clienții către oferte dorite cu precizie. Însă, din ce în ce mai mult, seturile de date mari și căile încurcate prin care modelele de inteligență artificială generează ieșirile lor sunt obscure explicabilitatea pe care spitalele și furnizorii de servicii de sănătate au nevoie pentru a urmări și preveni potențialele inexactități.

În acest context, explicabilitatea se referă la capacitatea de a înțelege orice cale logică a unui LLM dat. Profesionistilor din domeniul sănătății care doresc să adopte unelte de inteligență artificială generativă asistente trebuie să aibă mijloacele de a înțelege cum modelele lor produc rezultate, astfel încât pacienții și personalul să fie echipați cu transparență deplină pe parcursul diverselor procese de luare a deciziilor. Cu alte cuvinte, într-o industrie precum sănătatea, unde viețile sunt în joc, riscurile sunt pur și simplu prea mari pentru ca profesioniștii să interpreteze greșit datele utilizate pentru a antrena uneltele lor de inteligență artificială.

În mod fericit, există o modalitate de a ocoli enigma explicabilității inteligenței artificiale generative – necesită doar un pic mai mult control și focalizare.

Mister și Scepticism

În inteligența artificială generativă, conceptul de înțelegere a modului în care un LLM ajunge de la Punctul A – intrarea – la Punctul B – ieșirea – este mult mai complex decât în cazul algoritmilor non-generativi care rulează pe modele mai stabilite.

Uneltele de inteligență artificială generativă fac legături nelimitate în timp ce traversează de la intrare la ieșire, dar pentru observatorul extern, modul și motivul pentru care fac orice serie de legături rămâne un mister. Fără o modalitate de a vedea “procesul de gândire” pe care un algoritm de inteligență artificială îl parcurge, operatorii umani lipsesc de o modalitate cuprinzătoare de a investiga raționamentul său și de a urmări inexactitățile potențiale.

În plus, seturile de date în continuă extindere utilizate de algoritmii de învățare a mașinilor complică și mai mult explicabilitatea. Cu cât setul de date este mai mare, cu atât este mai probabil ca sistemul să învețe atât din informații relevante, cât și din informații nerelevante și să producă “halucinații de inteligență artificială” – minciuni care se abat de la fapte externe și de la logica contextuală, oricât de convingător.

În industria sănătății, astfel de rezultate defecte pot declanșa o serie de probleme, cum ar fi diagnostice greșite și rețete incorecte. Pe lângă consecințele etice, juridice și financiare, astfel de erori ar putea dăuna cu ușurință reputației furnizorilor de servicii de sănătate și a instituțiilor medicale pe care le reprezintă.

Deci, în ciuda potențialului său de a îmbunătăți intervențiile medicale, de a îmbunătăți comunicarea cu pacienții și de a spori eficiența operațională, inteligența artificială generativă în sănătate rămâne învăluită în scepticism, și pe bună dreptate – 55% din clinicieni nu cred că este gata pentru utilizare medicală și 58% nu au încredere în ea deloc. Cu toate acestea, organizațiile de sănătate înaintează, cu 98% integrând sau planificând o strategie de implementare a inteligenței artificiale generative în încercarea de a compensa impactul lipsei de personal din sector.

Controlați Sursa

Industria sănătății este adesea prinsă pe picior greșit în climatul consumatorilor actual, care valorizează eficiența și viteza mai mult decât asigurarea măsurilor de siguranță inatacabile. Știrile recente despre capcanele extragerii de date nelimitate pentru antrenarea LLM-urilor, care duc la procese pentru încălcarea drepturilor de autor, au adus aceste probleme în prim-plan. Unele companii se confruntă, de asemenea, cu acuzații că datele personale ale cetățenilor au fost extrase pentru a antrena aceste modele de limbaj, posibil încălcând legile privind confidențialitatea.

Deci, dezvoltatorii de inteligență artificială pentru industrii puternic reglementate ar trebui să exercite control asupra surselor de date pentru a limita greșelile potențiale. Adică, ar trebui să prioritizeze extragerea de date din surse de încredere, verificate de industrie, în loc de a extrage pagini web externe în mod haotic și fără permisiune expresă. Pentru industria sănătății, acest lucru înseamnă limitarea intrărilor de date la pagini de întrebări frecvente, fișiere CSV și baze de date medicale – printre alte surse interne.

Dacă acest lucru sună puțin limitativ, încercați să căutați un serviciu pe site-ul unui sistem de sănătate mare. Organizațiile de sănătate din SUA publică sute, dacă nu mii, de pagini informative pe platformele lor; majoritatea sunt îngropate atât de adânc încât pacienții nu pot niciodată să le acceseze. Soluțiile de inteligență artificială generativă bazate pe date interne pot furniza aceste informații pacienților în mod convenabil și fără efort. Acesta este un câștig pentru toate părțile, deoarece sistemul de sănătate vede în sfârșit randamentul investiției din conținut, iar pacienții pot găsi serviciile de care au nevoie instantaneu și fără efort.

Următorul Pas pentru Inteligența Artificială Generativă în Industrii Reglementate?

Industria sănătății are de câștigat de pe urma inteligenței artificiale generative în mai multe moduri.

Să considerăm, de exemplu, epuizarea generalizată care afectează sectorul sănătății din SUA în ultima vreme – aproape 50% din forța de muncă este prognozată să părăsească posturile până în 2025. Chatbot-urile alimentate de inteligență artificială generativă ar putea ajuta la reducerea sarcinii de muncă și la conservarea echipelor de acces la pacienți suprasolicitate.

Pe partea pacientului, inteligența artificială generativă are potențialul de a îmbunătăți serviciile de call center ale furnizorilor de servicii de sănătate. Automatizarea inteligenței artificiale are puterea de a aborda o gamă largă de întrebări prin diverse canale de contact, inclusiv întrebări frecvente, probleme IT, reîncărcări de medicamente și referiri medicale. În afara frustrării care vine cu așteptarea în linie, doar cam jumătate dintre pacienții din SUA reușesc să-și rezolve problemele la primul apel, rezultând rate ridicate de abandon și acces împiedicat la îngrijire. Satisfacția scăzută a clienților care decurge din aceasta creează o presiune suplimentară asupra industriei pentru a acționa.

Pentru ca industria să beneficieze cu adevărat de implementarea inteligenței artificiale generative, furnizorii de servicii de sănătate trebuie să faciliteze restructurarea intenționată a datelor la care LLM-urile lor au acces.