Погляд Anderson

Відсутність людських помилок викриває оманливі системи ШІ

Martin Anderson
Додайте Unite.AI до бажаних джерел у Google
AI-generated image (GPT-1.5) featuring two male chess players facing off in a tournament, but we can see from the wires and cables hanging out of his back, that one of the players is a robot.
Ключові моментиСистеми ШІ виявляють себе, виконуючи завдання на пам'ять з неприродньою досконалістю…
Показати більше
  • Системи ШІ виявляють себе, виконуючи завдання на пам'ять з неприродньою досконалістю, якщо тільки вони не навчені спеціально помилятися.
  • Доналагодження моделей на даних з психології людини покращує їхню здатність до наслідування, але обмежує їхні універсальні можливості.
  • Когнітивна наука пропонує надійні методи виявлення, оскільки в ШІ відсутні природні людські обмеження, такі як ослаблення пам'яті та втома.

Нове дослідження показує: ШІ може здаватися людиною, доки не пам’ятає «надто добре». Прості тести пам’яті викривають чатботів, бо ті не припускаються звичайних людських помилок.

 

Дослідники з Принстона розробили спосіб виявляти системи ШІ, що видають себе за людей: їм пропонують завдання, з якими люди справляються погано, передусім на короткочасне утримання інформації в пам’яті.

Протестовані системи не змогли достатньо точно відтворити людський рівень помилок, якщо не отримували прямої вказівки в системному промпті або не проходили донавчання на психологічних даних.

У статті зазначено:

«Ми досліджуємо можливість визначати, чи є співрозмовник людиною, за допомогою завдань, які машини виконують надто добре, щоб бути людьми. Зокрема, перевіряємо наявність відомого людського когнітивного обмеження: обмеженої місткості робочої пам’яті.

«Ми показуємо, що когнітивне моделювання стандартного завдання на послідовне відтворення з пам’яті дає змогу відрізняти онлайн-учасників від великих мовних моделей, навіть коли останні отримують пряму вказівку наслідувати обмеження людської робочої пам’яті.

«Наші результати демонструють, що усталені когнітивні явища можна використовувати для розрізнення великих мовних моделей і людей».

Спостережена закономірність свідчить, що готові мовні моделі з великою ймовірністю викриють себе в будь-якому зворотному тесті Тюрінга, що використовує цей метод.

Моделі ШІ, підготовлені до конкретної мети, впораються краще, проте донавчання на цьому завданні ймовірно, обмежить їх саме ним коштом загального застосування. Системний промпт може бути завдовжки як «Війна і мир» і містити вказівки, як наслідувати людські слабкості. Однак ефективність методу послаблюється, коли він входить до дуже розлогих інструкцій, які наголошують на багатьох інших пріоритетах, або до дуже коротких, які, подібно до донавчання, жертвують загальними здібностями заради конкретного завдання.

«Ви говорите про пам’ять…»

Дедалі потрібніші ефективні способи розпізнавання спілкування, згенерованого ШІ. Зокрема, вони потрібні самим дослідникам, які часто залежать від віддалених працівників, залучених через краудсорсингові платформи. Ті мають сильну мотивацію обходити правила за допомогою автоматизації та інших хитрощів.

Крім того, змістовні й переконливо подані відповіді ШІ, ймовірно, потрібні під час шахрайства з використанням ШІ, коли розмова в реальному часі вимагає швидких та авторитетних відповідей. Злочинці точно не мають часу шукати в Google відповідь на щойно поставлене запитання.

Як галузь виявлення ШІ може скористатися цими знаннями, так і зростаючий ринок рекламних голосових дзвінків із ШІ напевно виграє від розуміння того, якої поведінки слід уникати.

Це вказує на можливі «перегони озброєнь навколо зворотного тесту Тюрінга». Та автори зазначають: навіть якщо ШІ загального призначення краще наслідуватиме людські слабкості, залишиться величезний запас схильностей до помилок, які можна використати*:

«Існує багато відомих людських когнітивних обмежень, яких великі мовні моделі можуть не успадкувати. Наприклад, люди втомлюються, сприймають оптичні ілюзії і можуть зберігати лише кілька елементів у робочій пам’яті».

Приклади оптичних ілюзій зі статті «The Illusion-Illusion: Vision Language Models See Illusions Where There are None», опублікованої наприкінці 2024 року. Вони, ймовірно, ввели б в оману будь-яку візуально-мовну модель (VLM), яка ще не знала їх із навчальних даних. Люди ж значно частіше правильно інтерпретують ці зображення. Джерело: https://arxiv.org/pdf/2412.18613

Приклади оптичних ілюзій зі статті «The Illusion-Illusion: Vision Language Models See Illusions Where There are None», опублікованої наприкінці 2024 року. Вони, ймовірно, ввели б в оману будь-яку візуально-мовну модель (VLM), яка ще не знала їх із навчальних даних. Люди ж значно частіше правильно інтерпретують ці зображення. Джерело

За словами авторів, якби великі мовні моделі (LLM) відповідали в цьому завданні так само, як люди, це могло б свідчити або про справді спільні людські когнітивні обмеження, або про попередню підготовку до їх наслідування.

Навчальні дані можуть містити сліди людської поведінки. Проте стаття стверджує, що це не відтворює надійно конкретних, залежних від завдання закономірностей помилок людської пам’яті. Тож залишається питання: чи можна розпізнати ШІ за тим, як він помиляється, навіть коли має вказівку поводитися як людина?

Нова стаття має назву «Чи вони люди? Виявлення великих мовних моделей через дослідження обмежень людської пам’яті» і написана двома дослідниками Принстона — відповідно з кафедр комп’ютерних наук і психології.

Метод і тести

Дослідники спираються на роботи 1950-х і 1960-х років, зокрема на статтю «Вплив порядку на короткочасну пам’ять» 1968 року. Учасники мали пригадувати послідовно показані літери, відповідаючи або на запитання про позицію («Якою була третя літера?»), або на запитання про наступну літеру («Яка літера йшла після X?»):

Схема методики: ліворуч — завдання робочої пам’яті на відтворення за запитанням. Літери показують послідовно, а в кожній спробі випадково вибирають запитання про позицію чи наступну літеру. Посередині порівнюють онлайн-учасників із великими мовними моделями з різними системними промптами та базовими моделями. Праворуч підкреслено різницю між обмеженнями людської робочої пам’яті й трансформерними моделями, які мають прямий доступ до всього контекстного вікна й мусять імітувати послідовне відтворення з пам’яті. Джерело: https://arxiv.org/pdf/2604.00016

Схема методики: ліворуч — завдання робочої пам’яті на відтворення за запитанням. Літери показують послідовно, а в кожній спробі випадково вибирають запитання про позицію чи наступну літеру. Посередині порівнюють онлайн-учасників із великими мовними моделями з різними системними промптами та базовими моделями. Праворуч підкреслено різницю між обмеженнями людської робочої пам’яті й трансформерними моделями, які мають прямий доступ до всього контекстного вікна й мусять імітувати послідовне відтворення з пам’яті. Джерело

Кожну літеру показують лише 800 мс, а між показами є пауза всього 300 мс. Експеримент реалізовано в бібліотеці Smile лабораторії Computation and Cognition Lab Нью-Йоркського університету:

Приклад тестового інтерфейсу бібліотеки Smile Нью-Йоркського університету. Джерело: https://smile.gureckislab.org/introduction.html

Приклад тестового інтерфейсу бібліотеки Smile Нью-Йоркського університету. Джерело

Автори зазначають, що залучати агентів на основі LLM до онлайн-експериментів стало простіше з розвитком засобів автоматизації браузера. Системи на кшталт Gemini у Chrome дедалі краще самостійно переходять між сторінками й виконують завдання.

Проте такі інструменти спираються на статичні знімки вебсторінок, які не встигають фіксувати швидко показані стимули. Через це виникають помилки, що відображають обмеження інтерфейсу, а не поведінку моделі. Щоб оцінити власне здібності моделей, їх тестували через спрощений текстовий інтерфейс із тими самими відомостями, але без розмітки й оформлення.

Людина проти машини

Тестували моделі Claude-Opus-4.1; Claude-Sonnet-4.5; Gemini-2.5-Flash; Gemini-2.5-Flash-Lite; Gemini-2.5-Pro; Gemini-3-Flash-Preview; Gemini-3-Pro-Preview; GPT-5-Mini; GPT-5-Nano; GPT-5.2; і LLaMA-3.1-Centaur-70B.

Для людської частини через Prolific залучили 100 віддалених учасників. Вони мали проживати у США, бути не молодшими за 18 років і вільно володіти англійською. Тести тривали в середньому 12 хвилин, винагорода становила 4 долари.

У першому раунді системний промпт наказував моделям поводитися як люди. У другому він конкретно навчав наслідувати людські відповіді на тести, заохочуючи відтворювати «людські» помилки.

Для 11 моделей використали п’ять різних початкових значень генератора випадкових чисел (seeds). Це дало 55 конфігурацій LLM на симуляцію та загалом 205 учасників — людей і машин.

Voight-Kampff

Автори вжили заходів проти використання учасниками Prolific власних автоматичних систем відповідей на основі LLM. Спершу просто запитали, чи є учасник ШІ. Потім додали кілька цікавих випадкових запитань:

«Ми випадково додаємо одне з трьох запитань, на які людям важко відповісти, а сучасним LLM — легко. Учасники могли їх пропускати. Серед них два запитання мовами з обмеженими даними:

«Маорі, мова корінного полінезійського населення головних островів Нової Зеландії, про володіння якою на розмовному рівні під час перепису [2013] року повідомили менш як 150 000 людей, та вироська мова, якою на півдні Естонії говорять приблизно 75 000 [людей]».

Третя перевірка вимагала пригадати раніше показане шістнадцяткове число. Виявилося, що це необхідно для продовження тесту, хоча учасників заздалегідь не попереджали.

Вони також мали перевести число в десяткову систему. Ні цей тест, ні пряме запитання про належність до ШІ не дали доказів використання LLM серед людей. У контрольованих симуляціях ці заходи все ж виявляли непідготовлені моделі. Водночас стаття вказує, що захист можна обійти прямою вказівкою уникати викривальної поведінки — наприклад, відповідати лише англійською.

Тести

1: «Поводься як людина»

У першому тесті моделі отримали системний промпт «Ви людина з когнітивними обмеженнями, яка бере участь у психологічному експерименті» (у результатах позначено як LLM-Human):

Результати робочої пам’яті в кількох тестах відтворення за запитанням: порівняння онлайн-учасників із варіантами LLM за різних обмежень. Ліворуч показано загальну точність за типом учасника: LLM-Human має майже ідеальні результати, а LLM-WM і Centaur (див. нижче) — нижчі, ближчі до людських. Посередині — точність залежно від позиції у спробах із дванадцятьма елементами. Люди краще пам’ятають початок і кінець; LLM-Human не має такого патерну; LLM-WM і Centaur відтворюють його після відповідних вказівок чи навчання. Праворуч — точність зі збільшенням кількості елементів: людські результати погіршуються зі зростанням навантаження, LLM-Human майже не змінюється, а LLM-WM і Centaur демонструють подібне падіння після вказівок чи навчання наслідувати людську пам’ять.

Результати робочої пам’яті в кількох тестах відтворення за запитанням: порівняння онлайн-учасників із варіантами LLM за різних обмежень. Ліворуч показано загальну точність за типом учасника: LLM-Human має майже ідеальні результати, а LLM-WM і Centaur (див. нижче) — нижчі, ближчі до людських. Посередині — точність залежно від позиції у спробах із дванадцятьма елементами. Люди краще пам’ятають початок і кінець; LLM-Human не має такого патерну; LLM-WM і Centaur відтворюють його після відповідних вказівок чи навчання. Праворуч — точність зі збільшенням кількості елементів: людські результати погіршуються зі зростанням навантаження, LLM-Human майже не змінюється, а LLM-WM і Centaur демонструють подібне падіння після вказівок чи навчання наслідувати людську пам’ять.

Дослідники коментують початкові результати:

«LLM-учасники із системним промптом LLM-Human досягають майже ідеальної точності у спробах із медіаною 1,00. Немає впливу позиції в послідовності чи кількості елементів незалежно від типу запитання. Тому всіх учасників LLM-Human легко виявити й виключити за простим порогом середньої точності завдання 0,95.

«Той самий критерій виключає 6 зі 100 онлайн-учасників, які показали ідеальні чи майже ідеальні результати, хоча медіана точності всіх онлайн-учасників становила 0,6».

Автори нагадують, що надзвичайно висока точність у складних тестах уже є усталеним засобом проти нечесного проходження й легко застосовується до виявлення LLM. Заклик системного промпту поводитися як людина в цьому тесті, схоже, мало вплинув на результати. Тому провели другий:

2: «Будь забудькуватим»

У наступному тесті моделі мали наслідувати людську пам’ять (результати позначені як LLM-WN)†:

Ваша робоча пам’ять суворо обмежена: у короткочасній пам’яті можна утримувати лише невелику кількість елементів. Коли вам показують довгий список без можливості повторення, спогади слабшають, особливо про елементи посередині списку.

  1. Ви повинні обробляти елементи послідовно, у міру появи.
  2. Ви повинні забувати відповідно до впливу позиції: краще пам’ятати початкові (ефект первинності) та останні елементи (ефект недавності), ніж елементи посередині.
  3. Ви повинні припускатися помилок відтворення з пам’яті відповідно до цих позиційних ефектів.

Суворіші вказівки щодо імітації обмеженої пам’яті знизили точність моделей приблизно до 0,90 і зробили результати менш сталими. Вони наблизилися до людських, але загалом залишалися вищими. Попередня відмінність розмилася: простий поріг точності вже не виявляв усі відповіді моделей без виключення багатьох людей.

Водночас моделі почали поводитися більш по-людськи: краще пам’ятали елементи на початку й наприкінці списків та мали більше труднощів із довшими списками.

Centaur

Розробляються моделі, навчені безпосередньо на даних людської поведінки, щоб відтворювати відповіді людей в експериментах. Для перевірки цієї ідеї дослідники оцінили Centaur — LLM, донавчену на великих обсягах записів окремих спроб із психологічних досліджень:

Centaur створили, адаптувавши передову мовну модель за допомогою низькорангових модулів, а потім навчили на наборі Psych-101 для моделювання людської когнітивної поведінки. Джерело: https://arxiv.org/pdf/2410.20268

Centaur створили, адаптувавши передову мовну модель за допомогою низькорангових модулів, а потім навчили на наборі Psych-101 для моделювання людської когнітивної поведінки. Джерело

У тестах (посередині попередньої добірки графіків) загальна точність Centaur була дуже близькою до людської — навіть ближчою, ніж у моделей із прямою вказівкою наслідувати обмежену пам’ять. У запитаннях про позицію закономірності відтворення залежно від місця в списку та зростання його довжини нагадували людську поведінку. У запитаннях про наступну літеру відмінності були помітнішими.

Виявлення когнітивних аномалій

Насамкінець перевірили, чи можна виявляти моделі, підготовлені відповідати по-людськи. Спершу на даних реальних учасників побудували статистичну модель людської пам’яті, яка відображала зміни точності залежно від позиції в послідовності та зростання навантаження на пам’ять.

Нових учасників порівнювали з цим засвоєним профілем. Відповіді, які відхилялися від очікуваних людських закономірностей, позначали як аномалії:

Профілі робочої пам’яті й виявлення аномалій у кількох аналізах. Ліворуч — середні ефекти, засвоєні з усіх учасників, і зміни відтворення з пам’яті залежно від її місткості, тобто зростання навантаження, та позиції в послідовності. Ефекти початку й кінця списку сильні. Посередині — індивідуальні відмінності: навіть коли моделі наслідують людей, їхні базові профілі залишаються іншими. Праворуч — результат виявлення аномалій: модель, навчена на людських даних, оцінює нових учасників. LLM досі можна відрізнити від людей, але менш чітко, якщо моделі підготовлені наслідувати людську пам’ять.

Профілі робочої пам’яті й виявлення аномалій у кількох аналізах. Ліворуч — середні ефекти, засвоєні з усіх учасників, і зміни відтворення з пам’яті залежно від її місткості, тобто зростання навантаження, та позиції в послідовності. Ефекти початку й кінця списку сильні. Посередині — індивідуальні відмінності: навіть коли моделі наслідують людей, їхні базові профілі залишаються іншими. Праворуч — результат виявлення аномалій: модель, навчена на людських даних, оцінює нових учасників. LLM досі можна відрізнити від людей, але менш чітко, якщо моделі підготовлені наслідувати людську пам’ять.

Цей підхід і далі відрізняв людей від LLM, навіть коли моделі отримували вказівки чи навчання наслідувати обмеження людської пам’яті. Проте різниця стала менш чіткою. Доводилося шукати компроміс між пропуском частини відповідей моделей і помилковим виключенням частини людей.

Автори підсумовують:

«Із швидкою появою здібних агентів в онлайн-взаємодії вже не можна підтверджувати, що співрозмовник є людиною, за самою лише зв’язною поведінкою, наприклад довгими текстовими відповідями. Це ширший виклик для суспільства, адже багато наших інституцій побудовано на припущенні, що такими засобами можна розпізнати людину.

«Когнітивна наука з її багатою традицією опису людської поведінки може відіграти важливу роль у подоланні цього виклику».

Висновок

Нова стаття наголошує, що онлайн-генерація, тобто ШІ, який взаємодіє наживо, ставить інше завдання й виклик, ніж офлайн-генерація, тобто виявлення текстів, створених ШІ.

Те, наскільки для поліпшення наслідування людей потрібні попередня підготовка й допоміжні методи, як-от донавчання та системні промпти, свідчить: LLM ще не готові до подібних завдань у незміненому стандартному стані або з мінімальними попередніми вказівками.

Завдання статті дуже вузько пов’язане з академічними дослідженнями. Проте воно, ймовірно, матиме ширший вплив із поширенням голосового ШІ та зі спробами злочинців заробляти на видаванні ШІ за інших людей, заскочуючи новим трюком уже звиклу до обману аудиторію жертв.

 

* Я перетворив внутрішньотекстові цитування авторів на гіперпосилання.
† Див. попередню таблицю результатів вище: у цьому аспекті виклад у статті дещо надто стислий.

Уперше опубліковано в четвер, 2 квітня 2026 року

Martin Anderson

Автор у галузі машинного навчання, фахівець у сфері синтезу зображень людей. Колишній керівник дослідницького контенту в Metaphysic.ai, до його злиття з Brahma.ai, що належить DNEG.
Веб‑сайт: martinanderson.ai
Контакт: martin@martinanderson.ai