Umělá inteligence ve zdravotnictví může přinést rizika spolu s příležitostmi

Umělá inteligence má enormní potenciál ve zdravotnictví, schopný zlepšit diagnózy a najít nové, účinnější léky. Nicméně, článek v Scientific American nedávno diskutoval, že rychlost, s jakou umělá inteligence proniká do zdravotnictví, také otevírá mnoho nových výzev a rizik.

Během posledních pěti let schválil americký Úřad pro kontrolu potravin a léčiv (FDA) více než 40 různých produktů s umělou inteligencí. Nicméně, jak uvádí Scientific American, žádný z produktů schválených pro prodej v USA nebyl testován v randomizovaných kontrolovaných klinických studiích. Mnoho nástrojů pro lékařskou diagnózu s umělou inteligencí dokonce nevyžaduje schválení FDA.

Evan Topol, autor knihy „Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again“, uvedl pro Scientific American, že mnoho produktů s umělou inteligencí, které tvrdí, že jsou efektivní při úkolech, jako je diagnostika onemocnění, nebylo důkladně testováno. První velkou randomizovanou studii nástroje pro detekci a diagnostiku s umělou inteligencí provedli teprve minulý říjen. Navíc, velmi málo technologických startupů publikuje své výzkumné články v recenzovaných časopisech, kde budou jejich práce analyzovány vědci.

Pokud jsou důkladně testovány a kontrolovány, systémy s umělou inteligencí mohou být mocnými nástroji, které pomáhají zdravotnickým profesionálům detekovat jinak nezpozorované symptomy, zlepšují tak výsledky léčby.

Jako příklad lze uvést nástroj pro detekci diabetické oční choroby, který byl testován u stovek pacientů a zdál se být spolehlivý. Společnost odpovědná za test spolupracovala s FDA po dobu osmi let, aby produkt zdokonalila. Test, IDx-DR, se nyní dostává do primárních zdravotnických klinik, kde by mohl pomoci detekovat časná znamení diabetické retinopatie a odkázat pacienty na oční specialisty, pokud se objeví podezřelé symptomy.

Pokud nejsou systémy s umělou inteligencí důkladně testovány, mohou vytvořit více škody než užitku.

Článek v Scientific American popisuje jeden potenciální problém spojený s využíváním umělé inteligence pro diagnostiku onemocnění, a to případ umělé inteligence určené k analýze rentgenových snímků hrudníku a detekci pacientů, kteří by mohli vyvinout pneumonii. Zatímco systém prokázal přesnost při testování v Mount Sinai Hospital v New Yorku, selhal při testování na snímcích pořízených v jiných nemocnicích. Výzkumníci zjistili, že umělá inteligence rozlišovala mezi snímky pořízenými pomocí přenosných rentgenových systémů a snímky pořízenými v radiologickém oddělení. Lékaři používají přenosné rentgenové systémy u pacientů, kteří jsou často příliš nemocní, aby mohli opustit své postele, a tito pacienti jsou ve větším riziku vzniku pneumonie.

Falešné poplachy jsou také problémem. DeepMind vytvořil mobilní aplikaci s umělou inteligencí, která je schopná předpovídat akutní selhání ledvin u hospitalizovaných pacientů až 48 hodin předem. Nicméně, systém údajně také vyvolal dva falešné poplachy pro každé úspěšně předpovězené selhání ledvin. Falešné pozitivy mohou být škodlivé, protože mohou vést lékaře k tomu, aby trávili zbytečné čas a zdroje dalšími testy nebo úpravami předepsané léčby.

V jiném případě jeden systém s umělou inteligencí nesprávně uzavřel, že pacienti s pneumonií mají větší šanci na přežití, pokud mají astma, což by mohlo vést lékaře k úpravě léčby pro pacienty s astmatem.

Systémy s umělou inteligencí, které jsou vyvinuty pro jednu nemocnici, často podávají horší výkon, když jsou použity v jiné nemocnici. Existuje několik příčin tohoto jevu. Jednou z nich je, že systémy s umělou inteligencí jsou často trénovány na elektronických zdravotních záznamech, ale mnohé elektronické zdravotní záznamy jsou často neúplné nebo nesprávné, protože jejich primárním účelem je často fakturace a ne péče o pacienty. Například, jedna vyšetřování provedená KHN zjistilo, že někdy existovaly život ohrožující chyby v pacientových zdravotních záznamech, jako jsou seznamy léků obsahující nesprávné léky. Kromě toho, onemocnění jsou často složitější a zdravotnický systém komplexnější, než lze často předvídat inženýry a vědci, kteří se zabývají umělou inteligencí.

Umělá inteligence se stává stále více rozšířenou, bude důležité, aby vývojáři umělé inteligence spolupracovali se zdravotnickými úřady, aby zajistili, že jejich systémy s umělou inteligencí jsou důkladně testovány, a aby regulační orgány zajistily, že jsou stanoveny a dodržovány standardy pro spolehlivost diagnostických nástrojů s umělou inteligencí.