Možný zánik federálního programu není odmítáním AI ve zdravotnictví

Díky AI stojí zdravotní péče ve Spojených státech na křižovatce.

Na jedné straně se zdravotnické organizace snaží transformovat způsob, jakým je poskytována péče. Investoři si uvědomili, že AI má potenciál změnit trh a přinést obrovské zisky. V mé vlastní oblasti – správě zdravotní péče – se jedná o automatizaci administrativy. V jiných oblastech, jako je radiologie, identifikují a diagnostikují LLMs lékařské podmínky.

Do AI ve zdravotnictví je investováno obrovské množství peněz. Minulý rok získaly americké společnosti zabývající se AI ve zdravotnictví více než 18 miliard dolarů – téměř o 10 % více než v roce 2024. Tento rychlý růst by měl pokračovat a změní mnoho toho, co víme o poskytování zdravotní péče.

Na druhé straně je zde výzva regulace. Regulátoři se snaží pochopit AI a účinně ji legislativně upravit. Všichni víme, že stát má odpovědnost vůči svým občanům. Ale pokud se průmysl rychle mění, může být pro vlády obtížné držet krok.

Nejvíce vidíme tuto dynamiku v oblasti zdravotního pojištění. Ve Spojených státech musí nemocnice a lékaři často získat předchozí souhlas od pojišťovny pacienta před poskytnutím péče. Pojišťovny si vyhrazují právo odmítnout léčbu, kterou považují za ne nezbytnou.

AI healthtech slibuje zvýšit efektivitu celého sektoru, ale musí být pečlivě řízen. CMS (Centers for Medicare & Medicaid Services) odhaduje, že 25 % všech nákladů v průmyslu jsou administrativní odpad. AI může snížit tuto zátěž, což bude prospěšné pro veřejnost. Nicméně, potřebujeme správná principy pro úspěch.

Vstoupí WISeR. Představený CMS na začátku tohoto roku, program WISeR (Wasteful and Inappropriate Services Reduction) je jedním z největších pilotních projektů AI ve zdravotnictví. Používá se AI modely pro souhrn důkazů, kvalifikovaní klinici se snaží vyřídit nároky v tradičním Medicare programu mnohem rychleji. Experiment je目前 prováděn v šesti státech.

V červnu hlasoval výbor Sněmovny reprezentantů pro rozpočet jednomyslně zablokovat financování WISeR. Rozpočet ještě musí být schválen Kongresem, a pilot zůstává aktivní. Ale jeho budoucnost po 30. září zůstává nejasná.

Co chci říci, je to, že – ať už si o hlasování WISeR myslíme cokoli – základní princip pilotu zůstává pevný. „AI označuje, klinický pracovník potvrzuje“ zůstává základem dobré správy AI ve zdravotnictví.

Legislativci vyzvali k lepšímu procesu

Zatímco je snadné tuto rozhodnutí číst jako odmítnutí AI ve zdravotnictví, bylo by to chyba. Hlasování o zrušení financování WISeR bylo učiněno z obav o implementaci a strukturální motivace – ne proto, že legislativci byli proti přijetí AI do klinické revize.

Hlavním důvodem, proč výbor Sněmovny reprezentantů pro rozpočet učinil toto rozhodnutí, bylo, že zavedl předchozí souhlas do tradičního Medicare. 13 zdravotních služeb vybraných pro pilotní projekt dříve vyžadovaly pouze souhlas lékaře, nikoli souhlas pojišťovny. Legislativci proto odmítli WISeR pro to, co považovali za zvýšení administrativní složitosti a změnu federálních motivací.

To není kritika AI ve zdravotnictví. Místo toho je to kritika toho, jak byl proces navržen.

“AI označuje, klinický pracovník potvrzuje” zůstává základem zdravotnické technologie

Zatímco osud WISeR je nyní nejistý, jeho centrální princip není. Princip, že „AI označuje, klinický pracovník potvrzuje“, zůstává základem moderní zdravotnické technologie.

Tento princip je centrální kvůli statusu AI jako emergentního systému. Na rozdíl od jiných forem automatizace mají LLMs potenciál učinit rozhodnutí, která jejich tvůrci nezamýšleli. To je záměrné. Emergence umožňuje AI chovat se flexibilně a tvořivě, ale také přináší riziko. Bez ohledu na to, jak rafinované tyto systémy jsou, regulátoři budou vždy potřebovat „člověka v smyčce“, aby chytili náhodná rozhodnutí a zajistili bezpečnost pacientů.

V praxi to znamená, že kvalifikovaný klinický pracovník si zachovává veškerou právní a etickou odpovědnost, když používá AI. LLMs shromažďují a souhrnují důkazy rychlostí stroje, zdůrazňují důležité nálezy. Kliničtí pracovníci přehledně procházejí data a používají je k informování svého úsudku. Tento proces slibuje zvýšit efektivitu, zatímco zachovává maximální přesnost. Klinický úsudek je posílen, protože lidé zůstávají centrální pro proces, ne navzdory jejich zapojení, ale kvůli němu.

V současné době můžeme vidět, jak se tato shoda buduje na všech úrovních zdravotnického průmyslu.

Minulý rok se největší zdravotní pojišťovny zavázaly ke zlepšení procesu předchozího souhlasu. To zahrnuje zvýšení transparentnosti a urychlení rozhodování, s důrazem na okamžité schválení pro určité naléhavé nebo klinicky standardní léčby, což vedlo k tomu, že se AI stalo virtuální nutností pro mnoho pojišťoven. Vedení průmyslové asociace pro nezávislé kontrolní organizace také definovalo svou pozici na používání AI.

Regulační základna státu se také zvyšuje. Již nyní mají státy relevantní zákony na ochranu spotřebitelů, které se nyní přizpůsobují AI. Do konce roku 2026 43 států předložilo 240 návrhů zákonů o AI ve zdravotnictví. Z nich devět zakazuje používání AI jako jediného rozhodujícího faktoru pro odmítnutí nároku.

Pokud je program WISeR nakonec zrušen, nebude to mít vliv na shodu, že „AI označuje, klinický pracovník potvrzuje“. S ním máme vše, co potřebujeme pro úspěch v průmyslu. Jen potřebujeme upravit strukturu implementace AI.

Přijetí AI je nezbytné

Vzhledem k potenciálu AI pro zvýšení efektivnosti budou zdravotnické subjekty, které budou pomalé v přijetí této technologie, rychle překonány.

Lekce, kterou lze vyvodit z WISeR, není to, že nemůžeme mít AI ve zdravotnictví. Daleko od toho. Místo toho musíme uznat potenciál LLMs pro zlepšení efektivnosti ve zdravotnictví. Pro tuto změnu je třeba, aby kvalifikovaní profesionálové zůstali centrální. Shoda, že „AI označuje, klinický pracovník potvrzuje“, poskytuje základ pro přechod, již stanovující standard napříč velkou částí průmyslu.

AI slibuje významné zlepšení efektivnosti a přístupu k péči, ale nemůže fungovat bez lidské kontroly. WISeR ukazuje, že můžeme a musíme zůstat v smyčce. Ne jako doplněk, ale jako nezbytnost.