ШІ вже розумніший за вашого лікаря. Це не найстрашніше.

Я хотів, щоб ШІ вирішив цю проблему.

Протягом багатьох років я збирав складні історії хвороб пацієнтів, лабораторні дані, симптоми, медикаменти, добавки та роки попереднього лікування, намагаючись перетворити все це на послідовний клінічний план. Складний випадок міг займати три години досліджень, перш ніж я відчував себе впевнено, вирішуючи, що важливо і що має статися далі.

Тоді з’явився генеративний ШІ.

Моя перша думка була очевидною: нарешті.

Ось технологія, яка могла споживати величезні об’єми інформації, згадувати медичні знання швидше, ніж я коли‑небудь міг, і знаходити зв’язки в межах випадку за секунди. Я припустив, що можу обгорнути велику мовну модель інтерфейсом, створити кілька захисних механізмів і завершити роботу.

Це було б чудово.

Натомість, приблизно через рік і 1 млн доларів, коли інженери‑програмісти працювали разом з 10‑особовою клінічною командою, ми все ще будували.

Причина не була в тому, що ШІ був недостатньо інтелектуальним.

Проблема полягала в тому, що інтелект — це легка частина.

Я отримував інший ШІ, ніж усі інші

Моя перша підказка з’явилася ще до того, як ми спробували створювати клінічне програмне забезпечення. Я постійно помічав, що можу використовувати той самий інструмент ШІ, що і людина поруч, і отримувати значно кращі результати.

Чому? Тому що я не просто ставив питання і приймав відповідь. Я сперечався з ним. Ставив під сумнів припущення. Надавав контекст, який він пропустив. Виправляв помилки. Змінював рамки. Знову підштовхував.

Технічно ми користувалися одним і тим же інструментом. Функціонально — ні.

Це цікава проблема продуктивності, коли ви пишете рекламу. Вона стає зовсім іншою, коли предметом є пацієнт.

Я працював з більш ніж 70 000 практикуючими фахівцями. Хтось може бути клінічно блискучим, але при цьому жахливо отримувати корисну інформацію від системи ШІ.

Це різні навички.

Проте більшість відповідей у сфері охорони здоров’я, схоже, полягає в тому, що клініцисти просто мають вивчити «інженерію підказок».

Я не вважаю це серйозним рішенням.

Якщо клінічна система ШІ вимагає, щоб лікар став складним інженером підказок, перш ніж система стане надійною, ми ще не завершили створення клінічного ШІ.

Дослідження вже повідомляє нам про щось незручне

2024 randomізоване клінічне дослідження дало 50 лікарям складні діагностичні випадки. Лікарі, які використовували GPT-4, отримали 76 відсотків; ті, хто користувався традиційними ресурсами, — 74 відсотки, різниця, яка не була статистично значущою.

Потім дослідники випробували лише GPT-4. Він обігнав лікарів, які користувалися традиційними ресурсами, на 16 процентних пунктів.

2026 випробування у Пакистані виявило, що після навчання AI-грамотності лікарі з доступом до GPT-4o отримали 71,4 відсотка у діагностичному мисленні порівняно з 42,6 відсотка у тих, хто користувався традиційними ресурсами. Але GPT-4o самостійно набрав 82,9 відсотка.

2026‑й британський реплікація виявила подібну різницю: лікарі покращилися за допомогою ШІ, але все ще відставали більш ніж на 21 процентний пункт від великої мовної моделі, що працює самостійно.

Ми маємо вимовити незручну частину вголос: у певних когнітивних завданнях ШІ вже кращий за окремого лікаря.

Жоден лікар не читав усі медичні статті і не може миттєво згадати кожне рідкісне захворювання, взаємодію чи протипоказання, коли воно стає актуальним. ШІ може обробляти величезні об’єми інформації без втоми та без обмеження часу.

Помилкою є припущення, що ми можемо поставити чат‑бота перед лікарем і вважати проблему вирішеною.

Проблема — порожнє поле підказки

Уявіть, що лікар завантажує лабораторний звіт, що містить 150 маркерів, і просить великий мовний модель проаналізувати його.

Відповідь повертається красиво організованою. Є лише одна проблема: система не змогла надійно витягти всі 150 маркерів.

Універсальні LLM не є детерміністичними парсерами клінічних документів. Таблиці та щільні медичні звіти залишаються особливо складними. Страшна частина полягає в тому, що остаточна відповідь може не повідомити: «Я пропустив 50 значень».

Вона може просто відповісти.

Тепер уявіть, що одне з цих пропущених значень потребує термінальної медичної оцінки.

Це не була обмеження, яку я був готовий обійти. Нам довелося створити іншу технологію витягування, щоб точно та відтворювально обробляти лабораторні звіти, перш ніж могла розпочатися частина нашої системи, що відповідає за клінічне мислення.

Цей досвід змінив мій підхід до безпеки ШІ.

Система ШІ, яка повідомляє, що вона чогось не знає, незручна.

Система ШІ, яка не знає, що пропустила, є небезпечною.

Чому нам довелося будувати поза ШІ

Клінічна робота вимагає того, чого загального призначення генеративний ШІ природно не забезпечує: відтворюваності.

Нам потрібен був контроль над тим, що вводиться і що виходить: надійне вилучення даних, структуровані знання, детермінована логіка, запобіжні механізми та системи, здатні оцінювати взаємозв’язки в історії пацієнта.

Клінічне міркування — це не просто набір умовних операторів «якщо‑то». Іноді сигналом є взаємозв’язок між кількома маркерами. Іноді п’ять окремо незначних знахідок стають важливими, коли їх розглядати разом.

Інженерам потрібні правила, достатньо явні для виконання програмним забезпеченням. Клініцисти все життя говорять: “Так, окрім…”.

Людська біологія сповнена винятків, модифікаторів, контексту та суперечливих пояснень. Іноді створення системи виглядало так, ніби одна група спілкувалася жестовою мовою, а інша — на клінгонській.

Відповіддю ніколи не було “ШІ” чи “не ШІ”. Потрібно було точно визначити, куди кожне належить.

ШІ може читати медичну карту. Люди — читати атмосферу.

При правильному використанні ШІ може розширити пам’ять лікаря, прискорити дослідження, виявити рідкісні можливості та розпізнавати патерни у величезних об’ємах інформації.

Це виглядає менш як заміна практикуючого лікаря і більше як створення біонічного.

Але пацієнт — це не клінічний випадок.

Практикуючий чує вагання ще до відповіді. Він помічає, коли історія змінюється. Він дізнається, що один пацієнт звично мінімізує симптоми, тоді як інший повідомляє про кожне відчуття з максимальною інтенсивністю. Він розуміє, коли “Я в порядку” явно не означає, що все гаразд.

Ця інформація може ніколи не потрапити в карту.

Людська взаємодія в медицині — це не лише приємний шар, який ми додаємо після того, як машина виконала інтелектуальну роботу. Це ще одне джерело клінічних даних.

ШІ може читати карту. Люди — читати атмосферу.

Найкращим клінічним системам потрібні обидва.

Перестаньте запитувати, чи замінить ШІ лікаря

Ми ставимо не те питання.

Майбутнє не обов’язково належатиме компанії з найрозумнішою чат‑ботом чи найрозумнішою базовою моделлю. Важливі інновації все більше відбуваються навколо моделі: як збираються та верифікуються дані, які знання надаються, що система може робити висновки, де детерміновані контролі беруть на себе управління і де людина має залишатися у процесі.

Сира інтелектуальна потужність стає надмірно доступною.

Надійні системи для застосування цієї інтелектуальної потужності набагато складніше створити.

І ми не повинні вирішувати цю проблему, вимагаючи, щоб кожен лікар став аматорським розробником ШІ. Складність має залишатися в технології, а не в підказці лікаря.

Лікар майбутнього не переможе ШІ у пам’яті. Це змагання вже стає безглуздим.

Натомість ми маємо створювати системи, які надають лікарям пам’ять, обчислювальну потужність та розпізнавання патернів машини, зберігаючи при цьому контекст, судження, скептицизм і людський зв’язок практикуючого.

Ми називаємо це біонічним практикуючим.

Я підозрюю, що пацієнти зрештою назватимуть це набагато простіше.

Їхній лікар.