Generativnoj umjetnoj inteligenciji u zdravstvenoj industriji potrebna je doza objašnjivosti

Izvanredna brzina kojom generativni alati umjetne inteligencije temeljeni na tekstu mogu dovršiti zadatke pisanja i komunikacije na visokoj razini pogodila je žicu kako tvrtki tako i potrošača. Ali procesi koji se odvijaju iza kulisa kako bi se omogućile te impresivne sposobnosti mogu učiniti rizičnim za osjetljive, državno regulirane industrije, poput osiguranja, financija ili zdravstva, da iskoriste generativnu umjetnu inteligenciju bez značajnog opreza.

Neki od najilustrativnijih primjera za to mogu se pronaći u zdravstvenoj industriji.

Takvi problemi obično su povezani s opsežnim i raznolikim skupovima podataka koji se koriste za obuku velikih jezičnih modela (LLM-ova) – modela koje tekstualno temeljeni generativni alati umjetne inteligencije koriste za izvođenje zadataka visoke razine. Bez eksplicitne vanjske intervencije programera, ti LLM-ovi imaju tendenciju neselektivno crpiti podatke iz raznih izvora diljem interneta kako bi proširili svoju bazu znanja.

Ovaj je pristup najprikladniji za niskorizične slučajeve korištenja orijentirane na potrošače, u kojima je krajnji cilj precizno usmjeriti kupce na poželjne ponude. Međutim, veliki skupovi podataka i zbrkani putovi kojima AI modeli generiraju svoje rezultate zaklanjaju objašnjivost koje bolnice i pružatelji zdravstvenih usluga zahtijevaju da prate i spriječe potencijalne netočnosti.

U ovom kontekstu, objašnjivost se odnosi na sposobnost razumijevanja bilo kojeg logičkog puta LLM-a. Zdravstveni djelatnici koji žele usvojiti pomoćne generativne alate umjetne inteligencije moraju imati sredstva za razumijevanje kako njihovi modeli daju rezultate tako da su pacijenti i osoblje opremljeni potpunom transparentnošću kroz različite procese donošenja odluka. Drugim riječima, u industriji kao što je zdravstvo, gdje su životi ugroženi, ulozi su jednostavno previsoki da bi stručnjaci krivo protumačili podatke korištene za treniranje svojih AI alata.

Srećom, postoji način da se zaobiđe zagonetka objašnjivosti generativne umjetne inteligencije – potrebno je samo malo više kontrole i fokusa.

Misterij i skepticizam

U generativnoj umjetnoj inteligenciji, koncept razumijevanja načina na koji LLM dolazi od točke A – ulaza – do točke B – izlaza – daleko je složeniji nego kod negenerativnih algoritama koji rade prema više postavljenih obrazaca.

Generativni AI alati stvaraju bezbrojne veze dok prelaze od ulaza do izlaza, ali za vanjskog promatrača ostaje misterij kako i zašto stvaraju bilo koju seriju veza. Bez načina da vide 'misaoni proces' koji poduzima algoritam umjetne inteligencije, ljudskim operaterima nedostaju temeljiti načini istraživanja njegovog razmišljanja i praćenja potencijalnih netočnosti.

Dodatno, skupovi podataka koji se stalno šire i koje koriste ML algoritmi dodatno kompliciraju objašnjivost. Što je skup podataka veći, to je vjerojatnije da će sustav učiti iz relevantnih i nerelevantnih informacija i izbacivati ​​"halucinacije umjetne inteligencije" - neistine koje odstupaju od vanjskih činjenica i kontekstualne logike, koliko god bile uvjerljive.

U zdravstvenoj industriji ove vrste manjkavih ishoda mogu potaknuti niz problema, poput pogrešnih dijagnoza i netočnih recepata. Osim etičkih, pravnih i financijskih posljedica, takve pogreške lako bi mogle naštetiti ugledu pružatelja zdravstvenih usluga i medicinskih ustanova koje predstavljaju.

Dakle, unatoč svom potencijalu za poboljšanje medicinskih intervencija, poboljšanje komunikacije s pacijentima i jačanje operativne učinkovitosti, generativna umjetna inteligencija u zdravstvu ostaje obavijen velom skepse, i to s pravom – 55% kliničara ne vjeruje da je spreman za medicinsku upotrebu, a 58% ga uopće ne vjeruje. Ipak, zdravstvene organizacije jesu guranje naprijed, pri čemu 98% integrira ili planira generativnu strategiju razvoja umjetne inteligencije u pokušaju neutraliziranja utjecaja tekućeg nedostatka radne snage u sektoru.

Kontrolirajte Izvor

Zdravstvena industrija često je zatečena u trenutnoj potrošačkoj klimi, koja cijeni učinkovitost i brzinu umjesto osiguravanja željeznih sigurnosnih mjera. Nedavne vijesti o zamkama gotovo neograničenog skupljanja podataka za LLM-ove, što dovodi do tužbe zbog kršenja autorskih prava, stavio je ova pitanja u prvi plan. Neke tvrtke također se suočavaju s tvrdnjama da su osobni podaci građana minirani kako bi se uvježbali ovi jezični modeli, što potencijalno krši zakone o privatnosti.

Programeri umjetne inteligencije za visoko regulirane industrije stoga bi trebali kontrolirati izvore podataka kako bi ograničili moguće pogreške. Odnosno, dajte prednost izvlačenju podataka iz pouzdanih izvora provjerenih u industriji umjesto nasumičnom struganju vanjskih web stranica i bez izričitog dopuštenja. Za zdravstvenu industriju to znači ograničavanje unosa podataka na stranice s često postavljanim pitanjima, CSV datoteke i medicinske baze podataka – između ostalih internih izvora.

Ako ovo zvuči donekle ograničavajuće, pokušajte potražiti uslugu na web stranici velikog zdravstvenog sustava. Američke zdravstvene organizacije objavljuju stotine ako ne i tisuće informativnih stranica na svojim platformama; većina je zakopana tako duboko da im pacijenti zapravo nikada ne mogu pristupiti. Generativna rješenja umjetne inteligencije temeljena na internim podacima mogu isporučiti ove informacije pacijentima jednostavno i neprimjetno. Ovo je win-win za sve strane, jer zdravstveni sustav konačno vidi ROI iz ovog sadržaja, a pacijenti mogu pronaći usluge koje su im potrebne trenutno i bez napora.

Što je sljedeće za generativnu umjetnu inteligenciju u reguliranim industrijama?

Zdravstvena industrija može imati koristi od generativne umjetne inteligencije na više načina.

Razmotrite, na primjer, široko rasprostranjeno izgaranje koje je u zadnje vrijeme pogađalo američki zdravstveni sektor – blizu 50% predviđa se da će radna snaga prestati do 2025. Generativni chatbotovi pokretani umjetnom inteligencijom mogli bi pomoći u smanjenju velikog dijela posla i očuvati preopterećene timove za pristup pacijentima.

Na strani pacijenata, generativna umjetna inteligencija ima potencijal poboljšati usluge pozivnog centra pružatelja zdravstvenih usluga. Automatizacija umjetne inteligencije ima moć rješavanja širokog raspona upita putem različitih kanala za kontakt, uključujući često postavljana pitanja, IT probleme, farmaceutske nadopune i preporuke liječnika. Samo osim frustracije koja dolazi s čekanjem na čekanju oko pola američkih pacijenata uspješno riješi svoje probleme na prvi poziv, što rezultira visokim stopama napuštanja i smanjenim pristupom skrbi. Posljedično nisko zadovoljstvo kupaca stvara daljnji pritisak na industriju da djeluje.

Kako bi industrija doista imala koristi od implementacije generativne umjetne inteligencije, pružatelji zdravstvenih usluga trebaju olakšati namjerno restrukturiranje podataka kojima pristupaju njihovi LLM-ovi.