Myslitelé

AI už je chytřejší než váš lékař. To ale není ta děsivá část.

Dr. Brandy Zachary
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyKlinická AI selhává, když data tiše přehlédne, místo aby přiznala nejistotu.
Zobrazit více
  • Klinická AI selhává, když data tiše přehlédne, místo aby přiznala nejistotu.
  • Lidská přítomnost poskytuje klinická data, která žádná dokumentace ani model nedokážou zachytit.
  • Těžká práce spočívá ve spolehlivých systémech kolem modelu, nikoli v surové inteligenci.

Chtěl jsem, aby AI tento problém vyřešila.

Po léta jsem sbíral komplikované anamnézy pacientů, laboratorní výsledky, příznaky, léky, doplňky a roky předchozí léčby a snažil se z toho vytvořit soudržný klinický plán. Složitý případ mohl vyžadovat tři hodiny výzkumu, než jsem se cítil jistý, co je podstatné a co by mělo následovat.

Pak přišla generativní AI.

Moje první myšlenka byla zřejmá: konečně.

Byla tu technologie, která dokáže vstřebat obrovské množství informací, vybavit si lékařské znalosti rychleji, než kdykoliv já, a během sekund najít souvislosti v případě. Předpokládal jsem, že mohu obklopit velký jazykový model rozhraním, vytvořit několik bezpečnostních opatření a být hotov.

To by bylo úžasné.

Místo toho, přibližně rok a 1 milion dolarů později, s programátory pracujícími po boku desetčlenného klinického týmu, jsme stále stavěli.

Důvod nebyl v tom, že AI nebyla dostatečně inteligentní.

Bylo to tím, že inteligence byla ta snadná část.

Dostával jsem jinou AI než ostatní

Moje první vodítko přišlo ještě před tím, než jsme se pokusili vytvořit klinický software. Všiml jsem si, že mohu používat stejný AI nástroj jako osoba sedící vedle mě a dosahovat výrazně lepších výsledků.

Proč? Protože jsem jen nekladl otázku a nepřijímal odpověď. Hádal jsem se s ní. Zpochybňoval předpoklady. Dodával kontext, který jí unikl. Opravoval chyby. Měnil rámec. Znovu tlačil.

Technicky jsme používali stejný nástroj. Z funkčního hlediska však ne.

To je zajímavý problém produktivity, když píšete reklamu. Stává se to úplně jiným problémem, když je předmětem pacient.

Spolupracoval jsem s více než 70 000 odborníky. Někdo může být klinicky brilantní a přesto špatně získávat užitečné informace z AI systému.

Jedná se o různé dovednosti.

Přesto se zdá, že většina odpovědí ve zdravotnictví je, že klinici jen potřebují se naučit „prompt engineering“.

Nemyslím si, že je to vážné řešení.

Pokud klinický AI systém vyžaduje, aby se lékař stal sofistikovaným prompt inženýrem, než bude systém spolehlivý, ještě jsme nedokončili vývoj klinické AI.

Výzkum nám už říká něco nepříjemného

Randomizovaná klinická studie z roku 2024 poskytla 50 lékařům obtížné diagnostické případy. Lékaři používající GPT-4 dosáhli 76 procent, ti, kteří používali konvenční zdroje, 74 procent, rozdíl nebyl statisticky významný.

Pak výzkumníci otestovali GPT-4 samostatně. Přebila lékaře používající konvenční zdroje o 16 procentních bodů.

V roce 2026 proběhla zkouška v Pákistánu, která zjistila, že po školení v AI gramotnosti dosáhli lékaři s přístupem k GPT-4o 71,4 procenta v diagnostickém uvažování oproti 42,6 procentům u těch, kteří používali konvenční zdroje. Ale samotný GPT-4o dosáhl 82,9 procent.

V roce 2026 ve Velké Británii byla provedena replikace, která našla podobný rozdíl: lékaři se s pomocí AI zlepšili, ale stále dosahovali o více než 21 procentních bodů méně než LLM pracující samostatně.

Musíme nahlas říct nepříjemnou pravdu: při určitých kognitivních úlohách je AI už lepší než jednotlivý lékař.

Žádný lékař nečetl všechny medicínské články ani si nedokáže okamžitě zapamatovat každou vzácnou poruchu, interakci nebo kontraindikaci, jakmile se stane relevantní. AI dokáže zpracovat obrovské množství informací, aniž by se unavila nebo jí došel čas.

Chyba spočívá v předpokladu, že můžeme postavit chatbota před klinika a považovat problém za vyřešený.

Problém je prázdné pole pro prompt

Představte si, že lékař nahraje laboratorní zprávu obsahující 150 markerů a požádá LLM o její analýzu.

Odpověď se vrátí krásně uspořádaná. Je tu jen jeden problém: systém spolehlivě nevyextrahoval všech 150 markerů.

Obecné LLM nejsou deterministické klinické parsovací nástroje. Tabulky a husté medicínské zprávy zůstávají obzvláště obtížné. Děsivá část je, že konečná odpověď nemusí oznámit: „Chybí mi 50 hodnot.“

Může jednoduše odpovědět.

Nyní si představte, že jedna z chybějících hodnot vyžaduje urgentní lékařské vyšetření.

To nebylo omezení, které bych byl ochoten obcházet. Museli jsme vytvořit jinou extrakční technologii, která bude zpracovávat laboratorní zprávy přesně a reprodukovatelně, než mohla začít část našeho systému zaměřená na klinické uvažování.

Tato zkušenost změnila můj pohled na bezpečnost AI.

AI systém, který vám řekne, že něco neví, je nepohodlný.

AI systém, který neví, co mu uniklo, je nebezpečný.

Proč jsme museli stavět mimo AI

Klinická práce vyžaduje něco, co obecná generativní AI přirozeně neposkytuje: reprodukovatelnost.

Potřebovali jsme kontrolu nad tím, co vstupuje a co vychází: spolehlivé získávání dat, strukturované znalosti, deterministickou logiku, zabezpečení a systémy schopné vyhodnocovat vztahy v historii pacienta.

Klinické uvažování není jen sbírkou podmínek typu pokud‑pak. Někdy je signálem vztah mezi několika ukazateli. Někdy se pět jednotlivě nevýznamných nálezů stane důležitými, když jsou posuzovány společně.

Inženýři potřebují pravidla dostatečně explicitní, aby je software mohl vykonat. Klinici celý život říkají: „Ano, kromě…“

Lidská biologie je plná výjimek, modifikátorů, kontextu a konkurenčních vysvětlení. Někdy se při budování systému zdálo, že jedna skupina komunikuje znakovým jazykem, zatímco druhá mluví klingonštinou.

Odpověď nikdy nebyla „AI“ nebo „ne AI“. Šlo o to přesně určit, kam co patří.

AI může číst zdravotní dokumentaci. Lidé mohou vnímat atmosféru v místnosti.

Při správném použití může AI rozšířit paměť klinika, urychlit výzkum, odhalit neobvyklé možnosti a rozpoznat vzory v obrovském množství informací.

To vypadá méně jako nahrazení praktika a spíše jako vytvoření bionického.

Ale pacient není stručný popis klinického případu.

Praktik slyší váhání před odpovědí. Všimne si, když se příběh mění. Zjistí, že jeden pacient systematicky minimalizuje příznaky, zatímco jiný hlásí každý vjem s maximální intenzitou. Ví, kdy „Mám se dobře“ zjevně neznamená dobře.

Tyto informace se ve zdravotní dokumentaci možná nikdy neobjeví.

Lidská interakce v medicíně není jen příjemná vrstva, kterou přidáváme po tom, co stroj vykonal intelektuální práci. Je to další zdroj klinických dat.

AI může číst zdravotní dokumentaci. Lidé mohou vnímat atmosféru v místnosti.

Nejlepší klinické systémy budou potřebovat obojí.

Přestaňte se ptát, zda AI nahradí lékaře

Kládeme špatnou otázku.

Budoucnost nebude nutně patřit společnosti s nejchytřejším chatbotem nebo nejinteligentnějším základním modelem. Důležitá inovace se stále více odehrává kolem modelu: jak jsou informace zachyceny a ověřeny, jaké znalosti jsou poskytovány, co je systému dovoleno odvodit, kde převládají deterministické kontroly a kde musí člověk zůstat v cyklu.

Surová inteligence se stává hojně dostupnou.

Spolehlivé systémy pro využití této inteligence jsou mnohem obtížnější postavit.

A neměli bychom tento problém řešit tím, že budeme požadovat, aby se každý klinik stal amatérským vývojářem AI. Složitost by měla být uvnitř technologie, ne v promptu lékaře.

Lékař budoucnosti nepřekoná AI v paměti. Tento souboj už se stává zbytečným.

Místo toho bychom měli budovat systémy, které klinikům poskytnou paměť, výpočetní výkon a rozpoznávání vzorů stroje, a přitom zachovají kontext, úsudek, skepsi a lidské spojení praktika.

Nazýváme to bionickým praktikem.

Domnívám se, že pacienti to nakonec nazvou mnohem jednodušeji.

Jejich lékař.

Dr. Brandy Zachary, DC, IFMCP, známá jako Dr. Z, je zakladatelkou a generální ředitelkou TDZ Functional Medicine Academy (TDZ-FMA), LabDX a DiagnoseThis. Je chiropraktičkou (DC) a certifikovanou odbornicí Institute for Functional Medicine. Vybudovala TDZ-FMA bez externích investic a posunula ji mezi společnosti zařazené v žebříčku Inc. 5000 v roce 2026 s růstem 2095% během tří let. Dr. Z je první vítězkou Gold Stevie® Award v kategorii Best Female Entrepreneur a autorkou osmi knih, včetně titulu vydaného společností McGraw-Hill.