Generativní AI v odvětví zdravotnictví potřebuje vysvětlení

Rychlost, s jakou textové generativní nástroje AI mohou dokončit úkoly vysoké úrovně psaní a komunikace, zaznamenala ohlas u firem i spotřebitelů. Ale procesy, které se dějí za scénou, aby tyto působivé schopnosti umožnily, mohou udělat generativní AI rizikovou pro citlivá, státem regulovaná odvětví, jako je pojišťovnictví, finance nebo zdravotnictví, bez použití značné opatrnosti.

Některé z nejvíce ilustrativních příkladů tohoto lze najít v odvětví zdravotnictví.

Takové problémy jsou obvykle spojeny s rozsáhlými a rozmanitými datovými soubory, které se používají k výcviku velkých jazykových modelů (LLM) – modelů, které textové generativní nástroje AI používají k provádění úkolů vysoké úrovně. Bez vnějšího zásahu programátorů tyto LLM tendují k tomu, aby data sbíraly nezřídka z různých zdrojů na internetu, aby rozšířily svou znalostní základnu.

Tento přístup je nejvhodnější pro nízkorizikové spotřebitelské případy, ve kterých je konečným cílem směrovat zákazníky na žádoucí nabídky s přesností. Nicméně, stále více, velké datové soubory a zmatené cesty, kterými modely AI generují své výstupy, zakrývají vysvětlitelnost, kterou nemocnice a poskytovatelé zdravotní péče vyžadují, aby stopovaly a zabránily potenciálním nepřesnostem.

V tomto kontextu se vysvětlitelnost týká schopnosti pochopit logické cesty daného LLM. Odborníci ve zdravotnictví, kteří chtějí přijmout asistivní generativní nástroje AI, musí mít prostředky, aby pochopili, jak jejich modely poskytují výsledky, aby pacienti a personál měli plnou transparentnost během různých rozhodovacích procesů. Jinými slovy, v odvětví, jako je zdravotnictví, kde jsou na hře lidské životy, jsou sázky prostě příliš vysoké, aby odborníci špatně interpretovali data, která se používají k výcviku svých nástrojů AI.

Naštěstí existuje způsob, jak obejít vysvětlovací dilema generativního AI – vyžaduje to jen trochu více kontroly a zaměření.

Záhada a skepse

V generativním AI je pojem porozumění tomu, jak LLM přechází z bodu A – vstupu – do bodu B – výstupu – mnohem složitější než u nelogických algoritmů, které běží podle stanovených vzorců.

Generativní nástroje AI vytvářejí nesčetné spojení, zatímco přecházejí z vstupu do výstupu, ale pro vnějšího pozorovatele zůstává, jak a proč vytvářejí jakékoli série spojení, záhadou. Bez možnosti vidět „myšlenkový proces“, který algoritmus AI provádí, lidský operátor postrádá důkladné prostředky, aby prošetřoval jeho úsudek a stopoval potenciální nepřesnosti.

<p Navíc neustále se rozšiřující datové soubory, které se používají u algoritmů ML, komplikují vysvětlitelnost dále. Čím větší je datový soubor, tím více je systém pravděpodobný, že se naučí z relevantních i irelevantních informací a „vyplodí AI halucinace“ – nepravdy, které se odchylují od vnějších faktů a kontextové logiky, byť přesvědčivě.

V odvětví zdravotnictví mohou tyto typy vadných výsledků vyvolat řadu problémů, jako jsou nesprávné diagnózy a chybné předpisy. Kromě etických, právních a finančních důsledků by takové chyby mohly snadno poškodit pověst poskytovatelů zdravotní péče a lékařských institucí, které zastupují.

I přes svůj potenciál zlepšit zdravotní intervence, zlepšit komunikaci s pacienty a posílit provozní efektivitu zůstává generativní AI ve zdravotnictví zahalený v skepticismu, a správně tak – 55 % klinických pracovníků nevěří, že je připraven pro lékařské použití, a 58 % jim nedůvěřuje vůbec. Přesto se zdravotnické organizace rozhodly jít dál, s 98 % integrujícími nebo plánujícími strategii nasazení generativního AI, aby kompenzovaly dopad pokračujícího nedostatku pracovních sil v sektoru.

Kontrola zdroje

Odvětví zdravotnictví je často chyceno na odskočku v současné spotřebitelské atmosféře, která upřednostňuje efektivitu a rychlost před zajištěním železných bezpečnostních opatření. Nedávné zprávy o pastích téměř neomezeného sběru dat pro výcvik LLM, vedoucí k žalobám za porušení autorských práv, přinesly tyto problémy do popředí. Některé společnosti také čelí tvrzením, že osobní data občanů byla vytěžena k výcviku těchto jazykových modelů, potenciálně porušujících zákony o ochraně osobních údajů.

Pro vývojáře AI pro vysoce regulovaná odvětví by se proto mělo cvičit kontrolu nad zdroji dat, aby se omezily potenciální chyby. To znamená, že by se mělo upřednostňovat získávání dat z důvěryhodných, odvětvově ověřených zdrojů, namísto toho, aby se data sbírala z externích webových stránek náhodně a bez vyjádřeného souhlasu. Pro odvětví zdravotnictví to znamená omezení vstupů dat na stránky FAQ, soubory CSV a lékařské databáze – mezi jinými interními zdroji.

Jestliže to zní somewhat omezujícím, zkuste vyhledat službu na webové stránce velké zdravotnické sítě. Americké zdravotnické organizace publikují stovky, ne-li tisíce informačních stránek na svých platformách; většina z nich je tak hluboko uložena, že pacienti je nikdy nemohou skutečně získat. Řešení generativního AI založená na interních datech mohou tuto informaci pacientům poskytnout pohodlně a bezproblémově. To je výhra pro všechny strany, protože zdravotnický systém konečně vidí návratnost z tohoto obsahu a pacienti mohou najít služby, které potřebují okamžitě a bez námahy.

Co dál pro generativní AI v regulovaných odvětvích?

Odvětví zdravotnictví může těžit z generativního AI mnoha způsoby.

Zvažte například rozšířenou vyhoření, které postihuje americké zdravotnické odvětví – téměř 50% pracovní síly je předpokládáno, že odejde do roku 2025. Generativní AI poháněné chatboty by mohly pomoci zmírnit velkou část pracovní zátěže a zachovat přístup k pacientům pro týmy, které jsou příliš vytížené.

Na straně pacientů má generativní AI potenciál zlepšit služby call center poskytovatelů zdravotní péče. Automatizace AI má sílu řešit širokou škálu dotazů prostřednictvím různých kontaktních kanálů, včetně FAQ, problémů s IT, lékových předpisů a odkazů na lékaře. Kromě frustrace, která přichází s čekáním na drátě, pouze přibližně polovina amerických pacientů úspěšně řeší své problémy při prvním hovoru, což vede k vysokým sazbám opuštění a narušenému přístupu k péči. Nízká spokojenost zákazníků vytváří další tlak na odvětví, aby jednal.

Pro to, aby odvětví skutečně těžit z implementace generativního AI, musí poskytovatelé zdravotní péče usnadnit úmyslnou restrukturalizaci dat, ke kterým jejich LLM mají přístup.