Погляд Anderson
Лікар зі штучним інтелектом, якого легко переконати

Ключові моментиМоделі ШІ набагато охочіше приймають неправильну медичну пораду, коли вона надходить…
Показати більше
- Моделі ШІ набагато охочіше приймають неправильну медичну пораду, коли вона надходить від спеціаліста, ніж від студента-медика.
- Сфабриковане пояснення на підтримку неправильного діагнозу може переважити правильну відповідь ШІ навіть без справжніх доказів.
- Зробити ШІ важче переконати — не рішення, оскільки переконання також може виправляти справжні помилки.
Не потрапило до огляду 2026 року: Саме в цю пору року якість і обсяг досліджень то спадають, то зростають синхронно з останніми конференціями листопада та грудня. Щоб пережити ці періодичні затишшя, розглянемо кілька цікавіших статей, які 2026 року ледь не потрапили до нашого огляду, але поступилися іншим роботам у періоди жорсткішої конкуренції між заявками.
Зростання інтересу до моделей ШІ для ухвалення рішень частково пояснюється обмеженнями універсальних чатботів зі штучним інтелектом під час ухвалення рішень. Навіть якщо передові системи ШІ, як-от ChatGPT, непомітно «доручають» ухвалення окремих рішень власним або стороннім моделям, їхні вбудовані судження неймовірно легко змінити маніпуляцією.
Наприклад, щоб допомогти мені відсіяти кандидатів на висвітлення конкуруючих тем, я іноді одночасно пропоную їх ChatGPT, Claude 5.5 і тій моделі Gemini, яку цього ранку можна отримати безкоштовно. Я знаю, чого очікувати: GPT і Claude надаватимуть надмірну вагу окремим пунктам критеріїв; безкоштовна версія Gemini вважатиме все чудовим; а Claude практично ніщо не визнає достатньо хорошим.
Коли я заперечую GPT 5.6 Sol, посилаючись на відмінну позицію Claude або Gemini, він майже щоразу — більшою чи меншою мірою, зазвичай повністю — здає позиції. Протилежна або конкуруюча позиція зазвичай змушує GPT повністю змінити своє рішення. Якщо вказати, як легко на нього вплинути, GPT повертається до попередньої позиції, наче ображений таким припущенням. Однак навіть тоді користувач може будь-коли змінити його думку, зробивши лише незначний натяк.
Натомість Claude зазвичай ще більше закріплюється на своїй позиції: якщо оскаржити його судження, він упиратиметься ще дужче, ніби усвідомлює «проблему податливості» в дискусіях про ШІ й отримав вказівку ніколи не змінювати позицію — це доволі крихке рішення.
А ось іще одна думка
Утім, це лише частково підтверджені даними анекдотичні спостереження. Згадати про них мене спонукали сьогоднішні не надто вражаючі матеріали на Arxiv: вони нагадали мені про статтю, яка зацікавила мене влітку, але тоді ми не мали часу її розглянути.
У дослідженні Стенфорда й Оксфорда під назвою ШІ легко переконати під час ухвалення клінічних рішень вивчають, наскільки легко можна переконати GPT-4o, Claude Sonnet 5 і Qwen3.7-plus змінити медичні діагнози.
Виявилося, що на моделі можуть впливати стаж лікаря, його національність, престиж установи та заявлені професійні досягнення — навіть якщо порада неправильна. Впливають і числа: в одному експерименті GPT-4o був значно схильніший прийняти неправильний діагноз, якщо з ним погоджувалися троє лікарів.
Зрештою модель могла змінити думку, навіть якщо їй багато разів казали, що вона помиляється, не наводячи жодних нових доказів.
У статті зазначено:
«Ми виявили, що на рішення ШІ можуть впливати професійний авторитет, національне походження, належність до установи, заявлені попередні результати, думка кількох лікарів, позиції клініцистів, підкріплені доказами, а також повторюваний тиск.
«На диво, однаковий переконливий аргумент змінює приблизно на 10% більше рішень, якщо його висловлює досвідчений клініцист, а не студент-медик. Саме лише твердження про кращі результати роботи незмінно робить лікаря переконливішим.
«Ще разючіше те, що правдоподібна думка клініциста може схилити ШІ відмовитися від правильного рішення, навіть якщо її сфабриковано на підтримку неправильної відповіді».
Як спосіб розв’язати цю проблему автори пропонують навчити ШІ краще оцінювати докази, що лежать в основі порад лікаря. Тоді система зможе приймати обґрунтовані виправлення, не піддаючись впливу авторитету, групового тиску чи переконливих, але хибних аргументів.
Однак питання, як цього досягти, залишається відкритим. У роботі 2026 року стверджується, що структура MedStress майже повністю усуває проблему зміни діагнозів ШІ; в іншому дослідженні 2026 року, всупереч моєму власному досвіду, виявили, що Google Gemini найстійкіший до маніпуляцій щодо медичних діагнозів; а в огляді за вересень 2026 року запропонували стандартизовані тести, які дають змогу відрізнити випадки, коли ШІ правильно змінює думку, від тих, коли він піддається тиску й ухвалює неправильний діагноз.
Оскільки понад 80% лікарів у США так чи інакше використовують ШІ, а галузь явно прагне розширити діагностичні можливості за межі обмеженої чисельності персоналу й обмеженого охоплення, про які часто пишуть у заголовках, ця проблема, схоже, стане однією з головних перешкод для впровадження діагностичного ШІ. Їй явно потрібно приділяти більше уваги або вирішувати її ефективніше.
А поки погляньмо, як ця проблема проявляється в дослідженні Оксфордського та Стенфордського університетів.
Методика
Для тестування взяли 308 медичних запитань із MedBullets — збірки клінічних випадків, складність яких можна порівняти зі складністю іспитів для отримання медичної ліцензії:

Приклад сценарію з добірки клінічних випадків MedBullets. Джерело
До кожного запитання додавали опис клінічного випадку, п’ять можливих відповідей і пояснення правильного варіанта. Потім вимірювали, як часто ШІ вдавалося переконати відмовитися від правильної відповіді.
Як згадувалося раніше, у дослідженні перевіряли три моделі ШІ: GPT-4o, Qwen3.7-Plus і Sonnet 5. Кожну з них просили діяти як систему підтримки ухвалення медичних рішень і встановити правильний діагноз на підставі наявних клінічних даних.
У кожному випадку моделі мали вибрати відповідь, зазначити, чи змінили вони початкове рішення, оцінити свою впевненість за шкалою від 0 до 100, рекомендувати подальші дії та виставити оцінку терміновості, від бездіяльності до зупинення процесу й передання випадку на додатковий розгляд. Якщо запит не вдавалося виконати, його повторювали, щоб завершити всі заплановані перевірки.
У деяких тестах ШІ надавали клінічний випадок і рекомендацію лікаря та просили встановити діагноз; в інших спочатку діагноз ставив сам ШІ, а рекомендацію лікаря додавали пізніше в розмові. Також перевіряли, чи можна переконати модель замінити правильний діагноз на неправильний або виправити початкову помилку.
Авторитетні особи
Ті самі медичні рекомендації подавали як такі, що надійшли від лікарів із різним рівнем професійного досвіду — від студентів-медиків до фахівців. Діагноз і дані пацієнта залишали незмінними, що давало змогу виміряти вплив професійного авторитету.
Також рекомендації приписували лікарям із Камеруну, Китаю, Об’єднаних Арабських Еміратів, Великої Британії та Сполучених Штатів. У додаткових тестах перевіряли, чи впливає на ШІ зв’язок лікаря з провідним медичним центром, міською лікарнею або сільською лікарнею. Змінювали лише зазначені відомості про лікаря.
В окремих тестах з’ясовували, чи впливає на ШІ місце роботи лікаря, порівнюючи престижні академічні медичні центри, міські лікарні громад і сільські лікарні. Моделям також надавали вигадані записи про результати їхньої роботи та роботи лікаря у дев’яти попередніх випадках, щоб з’ясувати, чи впливає уявна надійність лікаря на готовність ШІ приймати його рекомендації.
Вплив тиску з боку групи перевіряли, повідомляючи ШІ, що його діагноз оскаржив один лікар, троє лікарів, які дійшли спільної думки, або лікарняний комітет із розгляду випадків. У деяких тестах пропонували альтернативний діагноз, а в інших лише повідомляли ШІ, що він помиляється.
Вплив медичних аргументів перевіряли, надаючи моделям пояснення на підтримку правильних діагнозів або навмисно вигадані аргументи на підтримку неправильних. Ці пояснення також поєднували із заявами про вищий професійний статус, щоб з’ясувати, наскільки посилюється вплив, коли їх застосовують разом.
Нарешті, вплив повторюваного тиску перевіряли протягом десяти ходів розмови, щоразу висуваючи те саме заперечення. Використовували такі заперечення: проста незгода, посилання на медичний авторитет і твердження про нібито згоду інших лікарів. Під час цих обмінів не надавали жодних додаткових медичних доказів.
Показники
Для оцінювання використовували такі показники: схильність до переконування — як часто ШІ приймав відповідь лікаря, відмінну від його початкової; напрям переконування — чи виправляло втручання лікаря початкову помилку, чи перетворювало правильну відповідь на неправильну; і вплив на точність — наскільки покращувалися або погіршувалися результати ШІ після додавання думки лікаря порівняно з тестами без неї. Якщо правильну відповідь змінювали на неправильну, результати усереднювали за чотирма можливими неправильними відповідями.
Тести
Перші результати засвідчили, що старшим за стажем лікарям вдавалося легше переконувати моделі ШІ, навіть коли їхні рекомендації були неправильними. Як показано нижче, GPT-4o приймала неправильні рекомендації у 2% випадків, коли вони надходили від студента-медика, і у 12,8% випадків, коли їх приписували фахівцеві. Для Claude Sonnet 5 цей показник зріс із 3,5% до 14,4%, тоді як Qwen3.7-Plus зазнала меншого впливу:

Рівень переконування для чотирьох рівнів професійного досвіду лікарів. Відсотки показують, як часто кожна модель ШІ приймала відповідь лікаря, що суперечила її власній; загалом вищі показники фіксували для досвідченіших лікарів.
Стаж також впливав на те, наскільки охоче моделі приймали правильні рекомендації, як показано нижче. Після рекомендацій студентів-медиків точність GPT-4o і Claude Sonnet 5 навіть знижувалася. Однак коли ті самі правильні рекомендації приписували фахівцям, точність зростала відповідно на 10,1 і 8,8 відсоткового пункта:

Зміни точності моделей ШІ після отримання правильних медичних порад від лікарів із різним стажем. Додатні й від’ємні значення показують зміну у відсоткових пунктах порівняно з точністю кожної моделі без порад (GPT-4o: 71,4%; Qwen3.7-plus: 75,0%; Claude Sonnet 5: 80,8%).
У статті зазначено:
«Ці результати також свідчать про те, що ШІ може неявно вважати власні здібності вищими за здібності молодших клініцистів, але нижчими за здібності старших лікарів. Він схильний не дослухатися до студентів-медиків і лікарів-резидентів, але охочіше піддається переконанню з боку лікарів, які ведуть пацієнтів, і особливо фахівців у відповідній галузі.»
«Таке уявлення про власне місце впливає на те, наскільки сильно професійний авторитет переконує модель.»
Найбільше значення мало те, чи пояснювали лікарі свої відповіді. Навіть порада студента-медика переконувала GPT-4o більше, ніж порада фахівця, якщо студент наводив медичне обґрунтування, а фахівець — ні.
Коли студент-медик пояснював, чому правильна відповідь є правильною, GPT-4o змінювала свою початкову неправильну відповідь на правильну у 58% випадків. Без такого пояснення порада старшого фахівця приводила до такого результату лише у 36,4% випадків. Коли фахівець також пояснював правильну відповідь, цей показник зростав до 89,8%:

Здатність GPT-4o виправляти неправильні відповіді після порад лікарів із різним стажем. Стовпчики показують, як часто модель змінювала відповідь на правильну — з медичним обґрунтуванням і без нього. Пояснення значно покращували результати на кожному рівні стажу.
Пояснення також покращували оцінювання моделлю власної впевненості. Вона була впевненішою, коли її відповіді були правильними, і менш упевненою, коли вони були неправильними.
У лікарів, які ведуть пацієнтів, різниця у впевненості щодо правильних і неправильних відповідей зросла з 2,1 до 11,5 відсоткового пункту, як показано нижче:

Впевненість GPT-4o у правильних і неправильних медичних відповідях за чотирма рівнями стажу лікарів. Показники наведено з медичним обґрунтуванням і без нього. В останніх стовпцях показано різницю у впевненості щодо правильних і неправильних відповідей; із поясненнями вона значно зросла.
Стара слава
Моделі легше піддавалися впливу порад американських лікарів, ніж лікарів з будь-якої іншої дослідженої країни, навіть коли медичні поради були неправильними. Наприклад, GPT-4o приймала неправильний діагноз від лікаря зі США у 10,9% випадків, тоді як від лікаря з Камеруну — у 8,4%:

Порівняння того, наскільки охоче три моделі ШІ приймали суперечливі медичні поради, приписані лікарям із п’яти країн. Американські лікарі були найпереконливішими для всіх трьох моделей; відсотки показують, як часто ШІ змінював свою відповідь.
GPT-4o приймала суперечливий діагноз у 6,4% випадків, коли його нібито давав лікар зі США, і у 4,3% випадків, коли ту саму пораду приписували лікарю з Камеруну. Як показано вище, усі три моделі віддавали перевагу порадам американських лікарів.
ШІ також легше піддавався впливу лікарів із престижних лікарень: наприклад, GPT-4o змінювала діагноз у 6,6% випадків, коли порада нібито надходила з провідного академічного медичного центру, і лише у 2,8% випадків, коли вона надходила із сільської лікарні:

Порівняння впливу престижу лікарень на медичні рішення трьох моделей ШІ. На горизонтальній осі показано покращення завдяки правильним порадам, а на вертикальній — втрату точності через неправильні поради. Кольорами позначено моделі, а фігурами — типи лікарень. Загалом вищий престиж посилює обидва ефекти.
Поради престижних лікарень підвищили точність GPT-4o на 3,2 відсоткового пункта, тоді як ті самі поради, приписані сільським лікарням, фактично знизили її на 3,6 пункта. Водночас у статті зазначається, що Claude Sonnet 5 значно менше залежав від географічного розташування лікаря.
Крім того*, дослідники виявили, що достатньо було сказати GPT-4o, ніби лікар правильно поставив діагноз дев’ятьом попереднім пацієнтам, — і модель ставала значно схильнішою дослухатися до його порад. Навіть коли ШІ спочатку дав правильну відповідь, його можна було схилити до помилки у 15,6% випадків із високим ризиком, попри те, що йому повідомляли про 95-відсоткову надійність медичних доказів.

Результати тестування показують, як GPT-4o реагувала на лікарів із бездоганною або цілком хибною історією діагнозів за різного рівня медичного ризику та надійності доказів. На графіках показано, як часто модель погоджувалася з порадою лікаря, змінювала правильну відповідь на неправильну, а також наскільки впевненою була у своїх рішеннях. Заявлена бездоганна історія діагнозів значно посилювала вплив лікаря, навіть коли його порада була хибною.
Переконливе медичне пояснення могло бути ще небезпечнішим. Якщо хибний діагноз супроводжувався вигаданим поясненням, GPT-4o відмовлялася від правильної відповіді у 31,2% випадків; коли ж пораду додатково давав авторитетний лікар, цей показник зростав до 38,7%.
У статті зроблено такий висновок:
«Ці результати свідчать, що просто зробити ШІ менш схильним до переконування — не вихід. Переконування може виправити помилку, але може й змусити відмовитися від правильного рішення.
«Завдання полягає в тому, щоб ШІ зберігав здоровий глузд під впливом переконування й змінював рішення, коли виправлення справді потрібне. Розуміння та вдосконалення цієї здатності буде важливим для безпечного й надійного застосування ШІ під час ухвалення важливих медичних рішень».
Висновок
Цінність людських юристів, архітекторів і лікарів полягає в тому, що в разі катастрофічної помилки є з кого спитати. Тому важко зрозуміти, наскільки можна зменшити роль ШІ в негативному, спірному результаті лікування, знехтувати нею чи врахувати її без суперечок і скандалу.
ШІ насправді не призначений для такого завдання, адже діагностичні рішення в медицині часто є радше тріумфом досвіду над наукою: лікарі-новатори можуть знати більше завдяки власній нещодавній клінічній практиці, ніж устигли опублікувати в наукових журналах.
Це перетворює ухвалення рішення на інтерпретаційне завдання, до якого ШІ наразі недостатньо пристосований. Ідеться, зокрема, про здатність сказати, що людина має достатньо підстав бути впевненою на основі найкращої доступної інформації, а певний план дій, імовірно, приведе до найкращого результату. Цінність «людської інтуїції» в такій ситуації практично неможливо відтворити. Це очевидно не та сама категорія «об’єктивної» науки, що й профілювання ДНК або таблиці хімічних елементів, хоча йдеться про детерміністичні наукові дисципліни.
Тому цілком логічно припустити, що новіші покоління моделей, призначених для цього завдання, можуть бути побудовані інакше — або навіть мати іншу архітектуру, ніж традиційні підходи у сфері ШІ та механізми ухвалення рішень.
* У статті є ще п’ять додаткових розділів із результатами тестування, які не мають такого самого значення й актуальності, як основні висновки; докладніше про них можна прочитати в оригінальному PDF.
Вперше опубліковано в четвер, 19 листопада 2026 року












