Kdy se vyhnout umělé inteligenci ve zdravotnictví

Kdykoli se do odvětví dostane nový technologický pokrok, může se objevit pokušení pomazat tuto zářivou novou hračku jako anekdotu všech neduhů tohoto odvětví. Skvělým příkladem je umělá inteligence ve zdravotnictví. Jak technologie pokračovala vpřed, byla přijata pro případy použití při vývoji léků, koordinaci péče a úhradách, abychom jmenovali alespoň některé. Existuje velké množství legitimních případů použití umělé inteligence ve zdravotnictví, kde je technologie daleko lepší než jakákoliv v současnosti dostupná alternativa.

Umělá inteligence – tak jak je dnes – však vyniká pouze v určitých úkolech, jako je porozumění velkým množstvím dat a rozhodování na základě dobře definovaných pravidel. Jiné situace, zejména tam, kde je pro správné rozhodnutí nezbytný další kontext, nejsou příliš vhodné pro AI. Pojďme prozkoumat několik příkladů.

Odmítání nároků a péče

Ať už jde o reklamaci nebo péči, zamítnutí jsou složitá rozhodnutí a jsou příliš důležitá na to, aby je umělá inteligence zvládla sama. Když popíráte nárok nebo péči, je zřejmým morálním imperativem dělat to s maximální opatrností a na základě dnešních schopností umělé inteligence, což vyžaduje lidský vstup.

Kromě morálního prvku se zdravotní plány vystavují riziku, když příliš spoléhají na AI při rozhodování o odmítnutí. Plány mohou, a jsou, čelit žalobám za nesprávné použití AI k popření nároků Soudní spory obviňování plánů z toho, že nesplňují minimální požadavky na lékařskou kontrolu, protože místo toho byla použita umělá inteligence.

Spoléhání na minulá rozhodnutí

Důvěřovat umělé inteligenci, že se rozhoduje pouze na základě toho, jak učinila předchozí rozhodnutí, má zřejmou chybu: jedno špatné rozhodnutí z minulosti přežije a ovlivní ostatní. Navíc, protože pravidla zásad, která informují AI, jsou často distribuována napříč systémy nebo nedokonale kodifikována lidmi, mohou systémy AI skončit tak, že převezmou a poté udrží nepřesné chápání těchto zásad. Aby se tomu zabránilo, musí organizace vytvořit jediný zdroj pravdivosti zásad, aby umělá inteligence mohla odkazovat a učit se ze spolehlivé datové sady.

Stavíme na starších systémech

Jako relativně nová technologie přináší umělá inteligence pocit možnosti a mnoho týmů zabývajících se daty o zdravotních plánech se snaží tuto možnost rychle využít využitím nástrojů umělé inteligence již zabudovaných do stávajících podnikových platforem. Problém je v tom, že procesy žádostí o zdravotní péči jsou extrémně složité a podnikové platformy často nerozumí složitosti. Připlácnutí umělé inteligence na tyto starší platformy jako univerzální řešení (které nezohledňuje všechny různé faktory ovlivňující posuzování nároků) vede spíše ke zmatku a nepřesnosti než k vytváření efektivnějších procesů.

Opírající se o stará data

Jednou z největších výhod umělé inteligence je to, že se stále lépe zdokonaluje v organizování úkolů, jak se učí, ale toto učení může probíhat pouze tehdy, pokud existuje konzistentní smyčka zpětné vazby, která pomáhá umělé inteligenci pochopit, co udělala špatně, aby se mohla odpovídajícím způsobem přizpůsobit. Tato zpětná vazba musí být nejen konstantní, ale musí být založena na čistých a přesných datech. Umělá inteligence je totiž jen tak dobrá, jak dobrá jsou data, ze kterých se učí.

Když je AI ve zdravotnictví prospěšná

Využití umělé inteligence v odvětví, kde jsou výstupy stejně důsledkové jako zdravotnictví, jistě vyžaduje opatrnost, ale to neznamená, že neexistují případy použití, kdy má umělá inteligence smysl.

Pro jednoho, o data ve zdravotnictví není nouze (předpokládejme, že lékařský záznam této osoby může mít tisíce stránek) a vzory v těchto datech nám mohou hodně napovědět o diagnostice onemocnění, správném posuzování nároků a další. Zde vyniká umělá inteligence, která hledá vzory a navrhuje akce založené na těchto vzorcích, se kterými mohou lidští recenzenti pracovat.

Další oblastí, kde umělá inteligence vyniká, je katalogizace a přijímání zásad a pravidel které řídí způsob vyplácení nároků. Generativní AI (GenAI) lze použít k transformaci tohoto obsahu zásad z různých formátů do strojově čitelného kódu, který lze konzistentně aplikovat napříč všechno nároky pacientů. GenAI lze také použít ke shrnutí informací a jejich zobrazení ve snadno čitelném formátu, který si může člověk prohlédnout.

Klíčovou nití všech těchto případů použití je, že umělá inteligence je používána jako druhý pilot pro lidi, kteří na ni dohlížejí, a nikoli samotná show. Dokud organizace budou mít na paměti tuto myšlenku při implementaci umělé inteligence, budou schopny uspět v této éře, v níž je zdravotní péče transformována umělou inteligencí.