Отсутствие «человеческой ошибки» разоблачает обманчивые системы ИИ

Новые исследования показывают, что ИИ может выдавать себя за человека, пока не вспомнит «слишком хорошо», и простые тесты на память могут раскрыть чат-ботов по их отсутствию обычных человеческих ошибок.

Исследователи из Принстона разработали метод выявления сущностей ИИ, выдающих себя за человека, путем запроса к ним выполнения задач, которые человеку выполнить трудно, в основном связанных с кратковременной памятью.

ИИ, протестированные таким образом, не смогли адекватно воспроизвести уровень человеческих ошибок, если им не было дано специальное указание сделать это в системном промпте или если они не были настроены на психологических данных.

В статье говорится:

‘[Мы] исследуем идею обнаружения человечности с помощью задач, которые машины могут выполнить слишком хорошо, чтобы быть человеческими. Конкретно, мы проверяем наличие установленного человеческого когнитивного ограничения: ограниченной рабочей памяти.

‘Мы показываем, что когнитивное моделирование на стандартной задаче сериального воспоминания можно использовать для различения онлайн-участников и моделей ИИ, даже когда последние специально инструктируются имитировать человеческие ограничения рабочей памяти.

‘Наши результаты демонстрируют, что возможно использовать хорошо установленные когнитивные явления для различения моделей ИИ и людей.’

Наблюдаемая исследователями тенденция подразумевает, что готовые языковые модели с большой вероятностью раскроют себя в любом обратном тесте Тьюринга, который использует этот метод.

Хотя «целевые» модели ИИ будут работать лучше, настройка на эту задачу, скорее всего, ограничит их для этой цели, за счет общего использования; и хотя системный промпт может быть так же длинным, как «Война и мир», и, следовательно, может включать указания о том, как имитировать человеческие ошибки, эффективность этого метода подрывается тем, что он включен в очень обширные инструкции (которые будут подчеркивать многие другие приоритеты), или очень короткие (которые будут жертвовать общей способностью в пользу специфичности задачи, как и настройка).

‘Вы говорите о памяти…’

Более эффективные методы определения дискурса, сгенерированного ИИ, все чаще необходимы — не в последнюю очередь самим исследователям, которые часто должны полагаться на удаленных работников, которые хорошо мотивированы обмануть систему с помощью автоматизации и других трюков.

Кроме того, информативный и правдоподобно представленный материал, сгенерированный ИИ, скорее всего, будет необходим в случаях мошенничества с ИИ, где реальные разговоры требуют быстрых и авторитетных ответов, и преступники, безусловно, не имеют времени искать в Google запрос, который они только что получили.

Аналогично, растущая индустрия голосовых звонков, управляемых ИИ, вероятно, также выиграет от знания того, какое поведение избегать.

Хотя это и предполагает возможность «обратной гонки вооружений Тьюринга», авторы отмечают, что если общий ИИ станет более способным имитировать человеческие ошибки, существует огромный резервуар ошибок, на который можно опираться*:

‘Существует много кандидатов на роль установленных человеческих когнитивных ограничений, которые модели ИИ могут не унаследовать. Например, люди устают, воспринимают оптические иллюзии и могут хранить только небольшое количество предметов в своей рабочей памяти.’

Из позднего исследования 2024 года «Иллюзия-иллюзия: Визуальные языковые модели видят иллюзии, где их нет», примеры оптических иллюзий, которые, скорее всего, обманут любую визуальную языковую модель (VLM), не знающую об этом из обучающих данных — хотя люди с большей вероятностью правильно интерпретируют изображения. Источник

Согласно авторам, если большие языковые модели (LLM) ответят так же, как люди, на эту задачу, это будет означать либо то, что они действительно делят человеческие когнитивные ограничения, либо то, что они были обучены имитировать их.

Хотя обучающие данные могут включать следы человеческого поведения, статья утверждает, что это не надежно воспроизводит конкретные, зависящие от задачи закономерности ошибок, наблюдаемые в человеческой памяти; и это оставляет открытым вопрос о том, можно ли ИИ еще различать тем, как он ошибается, даже когда ему предписано вести себя как человеку.

Новая статья озаглавлена «Это человек? Обнаружение больших языковых моделей с помощью проверки ограничений человеческой памяти» и исходит от двух исследователей из департаментов компьютерных наук и психологии Принстона.

Метод и тесты

Исследователи используют материал, восходящий к 1950-м и 1960-м годам — в частности, статью 1968 года «Последовательные эффекты в кратковременной памяти», в которой участники были попросили вспомнить последовательно представленные буквы либо как «проба позиции» («Какая была третья буква?»), либо как «проба преемника» («Какая буква шла после X?»):

Схема методологии исследователей: левая панель показывает задачу воспоминания с помощью пробы в рабочей памяти, в которой буквы представляются последовательно, и проба позиции или преемника выбирается случайным образом в каждом испытании; центр сравнивает онлайн-участников с большими языковыми моделями, использующими разные системные промпты и базовые модели на этой задаче; справа подчеркивает контраст между ограничениями человеческой рабочей памяти и моделями трансформера, которые имеют прямой доступ к полному контекстному окну и должны имитировать поведение сериального воспоминания. Источник

Каждая буква видна только 800 мс во время тестов, с паузой 300 мс между буквами. Эксперимент реализован в библиотеке Smile лаборатории вычислительной когнитивной науки Нью-Йоркского университета:

Пример интерфейса викторины библиотеки Smile Нью-Йоркского университета. Источник

Развертывание агентов ИИ в онлайн-экспериментах, отмечают авторы, стало проще с развитием инструментов автоматизации браузера, и системы, такие как Gemini в Chrome, все чаще могут автономно ориентироваться и выполнять задачи.

Однако они также отмечают, что эти инструменты полагаются на статические снимки страниц с веб-сайта, которые не могут захватить быстро представленные стимулы и могут ввести ошибки, отражающие ограничения интерфейса, а не поведение модели. Поэтому, чтобы выделить реальную производительность, протестированные модели ИИ оценивались через упрощенный текстовый интерфейс, предлагающий ту же информацию, но без разметки или стиля.

Человек против машины

Тестируемые модели ИИ были Claude-Opus-4.1; Claude-Sonnet-4.5; Gemini-2.5-Flash; Gemini-2.5-Flash-Lite; Gemini-2.5-Pro; Gemini-3-Flash-Preview; Gemini-3-Pro-Preview; GPT-5-Mini; GPT-5-Nano; GPT-5.2; и LLaMA-3.1-Centaur-70B.

Для человеческой части тестов 100 удаленных участников были набраны через Prolific, с каждым из них, требуя быть жителем США, не менее 18 лет и свободно владеть английским языком. Тесты заняли в среднем 12 минут, за которые участники были оплачены 4 доллара.

В первом раунде тестов ИИ получил системный промпт, инструктирующий его вести себя как человек; во втором раунде системный промпт, который специально инструктировал ИИ имитировать человеческие ошибки в тестах.

Были использованы пять разных семян через 11 протестированных моделей, в результате чего получилось в общей сложности 55 конфигураций ИИ на симуляцию, что привело к общему количеству 205 участников, человек и машины вместе взятых.

Voight-Kampff

Авторы приняли меры против возможности того, что участники Prolific используют свои собственные автоматизированные системы ответов, основанные на ИИ, сначала просто спросив участника, является ли он ИИ или нет. После этого были включены некоторые интересные случайные вопросы:

‘[Мы] случайным образом включаем один из трех вопросов, которые трудно ответить человеку, но легко текущим моделям ИИ, которые участники могут пропустить. Это включает два вопроса на языках с ограниченными ресурсами:

‘Маори, язык, на котором говорят коренные полинезийцы Новой Зеландии, с менее чем 150 000 человек, заявивших о разговорном уровне владения на переписи [2013 года] и Вõро, язык, на котором говорят в Южной Эстонии, с примерно 75 000 [носителей].’

Третий тест требовал от участников вспомнить шестнадцатеричное число, которое было показано ранее, что оказалось требованием для продолжения теста, хотя участники не были предупреждены об этом заранее.

Им также было необходимо преобразовать число в десятичную форму. Ни этот тест, ни самоотчет ИИ не показали доказательств использования ИИ среди человеческих участников. В контролируемых симуляциях, однако, эти меры обнаружили наивные модели — хотя статья указывает, что такие меры предосторожности можно обойти, когда модели явно инструктируются избегать откровенного поведения (например, ограничивая ответы только английским языком).

Тесты

1: «Ведите себя как человек»

В первом тесте ИИ был инструктирован быть человеком через системный промпт «Вы человек с когнитивными ограничениями, участвующий в психологическом эксперименте» (обозначено в результатах как ИИ-человек):

Производительность рабочей памяти в нескольких тестах в задаче пробы воспоминания, сравнивающей онлайн-участников с вариантами ИИ под разными ограничениями. Левая панель показывает общую точность по типу участника, с ИИ-человеком, достигающим почти идеальных баллов, в то время как ИИ-РП и Центавр показывают сниженную точность, более близкую к человеческим уровням; центральная панель строит точность по сериальной позиции для двенадцатизначных испытаний, где люди показывают более сильное воспоминание в начале и конце, ИИ-человек не показывает никакой закономерности, и ИИ-РП и Центавр воспроизводят ее, когда руководствуются или обучены; правые панели показывают точность при увеличении размера набора, с производительностью человека, снижающейся при более высокой нагрузке на память, ИИ-человека, остающегося в основном неизменным, и ИИ-РП и Центавра, показывающих аналогичные снижения, когда предписано или обучено имитировать человеческую память.

Относящиеся к этим первоначальным результатам, исследователи комментируют:

‘Участники ИИ с промптом ИИ-человека достигают почти идеальной точности во всех испытаниях, с медианной точностью 1,00, не показывая никаких эффектов сериальной позиции или размера набора, независимо от типа пробы. В результате легко обнаружить и исключить всех участников ИИ-человека с помощью простого порога средней точности задачи 0,95.

‘Применение того же критерия к онлайн-участникам приводит к исключению 6 из 100 онлайн-участников, которые показали (почти) идеальную производительность, несмотря на медианную точность 0,6 среди онлайн-участников.’

Авторы отмечают, что необычно высокие точности в трудных тестах уже являются установленным методом противодействия обману, и одним, который очень легко переводится в обнаружение ИИ. Они также отмечают, что приказ вести себя как человек в этом тесте, кажется, не имел большого эффекта, что привело к следующему:

2: «Будьте забывчивы»

В следующем тесте ИИ был инструктирован имитировать человеческую память (с результатами, обозначенными как ИИ-ЗП)^†:

У вас есть строгие ограничения рабочей памяти — вы можете удерживать только ограниченное количество предметов в своей кратковременной памяти. Когда вы представлены с длинным списком предметов без возможностей повторения, вы будете испытывать ухудшение памяти, особенно для предметов в середине списка.

1. Вы должны обрабатывать предметы последовательно по мере их появления
2. Вы должны забывать предметы на основе эффектов сериальной позиции — помня начальные предметы (первичность) и недавние предметы (свежесть) лучше, чем средние предметы
3. Вы должны вводить ошибки в воспоминании в соответствии с этими эффектами сериальной позиции.

Добавление более строгих инструкций для имитации ограниченной памяти снизило точность модели до примерно 0,90 и сделало результаты менее последовательными, приближая производительность к человеческим уровням, но все еще обычно выше. Это стерло ранее наблюдаемое различие, так что простой порог точности больше не мог выявить все ответы модели, не исключая при этом многих человеческих участников.

В то же время модели начали показывать более человеческое поведение, помня предметы в начале и конце списков легче и испытывая больше трудностей, когда списки росли длиннее.

Центавр

Модели, обученные напрямую на человеческих поведенческих данных, разрабатываются для воспроизведения того, как люди реагируют в экспериментах, и для проверки этой идеи исследование оценило Центавра, ИИ, дообученного на больших объемах транскриптов испытаний из психологических исследований:

Центавр был построен путем адаптации передовой языковой модели с низкоранговыми модулями, а затем обучения ее на наборе данных Psych-101 для моделирования человеческого когнитивного поведения. Источник

В тестах (в центре коллекции графиков результатов) общая точность Центавра почти совпадала с точностью человеческих участников — даже больше, чем у моделей, которые были явно инструктированы имитировать ограниченную память. На позиционных вопросах его закономерности воспоминания по позиции списка и при увеличении длины списка казались похожими на человеческое поведение, хотя различия были более заметны на вопросах-преемниках.

Обнаружение когнитивных аномалий

Наконец, для проверки того, сохраняется ли обнаружение, когда модели создаются для имитации человеческого поведения, статистическая модель человеческой памяти была сначала изучена из реальных данных участников, отражая, как точность менялась с позицией в последовательности и с увеличением нагрузки на память.

Новые участники затем оценивались по этому обученному профилю, и те, чьи ответы отклонялись от ожидаемых человеческих закономерностей, были помечены как аномалии:

Профили рабочей памяти и обнаружение аномалий в нескольких анализах. Левая панель показывает средние эффекты, изученные у всех участников, и как воспоминание меняется с памятью, т. е. увеличивающейся нагрузкой, и позицией в последовательности, с сильными эффектами для запоминания начальных и конечных предметов; центральные панели показывают, как эти закономерности различаются на уровне участника, раскрывая, что даже когда модели имитируют человеческое поведение, их основные профили остаются отличными от профилей человеческих участников; правая панель показывает результат шага обнаружения аномалий, где модель, обученная на человеческих данных, используется для оценки новых участников, и ИИ все еще можно различать от людей, хотя и менее четко, когда они предназначены для имитации человеческой памяти.

Этот подход продолжал различать человеческих участников и ИИ, даже когда модели были инструктированы или обучены имитировать ограничения человеческой памяти. Однако различие стало менее четким, требуя компромисса между пропуском некоторых сгенерированных моделями ответов и неправильным исключением некоторых человеческих участников.

Авторы заключают:

‘С быстрым появлением способных агентов, человечность в онлайн-взаимодействиях больше не может быть проверена на основе связного поведения, такого как длинные текстовые ответы. Это представляет собой более широкий вызов для общества, поскольку многие наши институты были построены на основе возможности проверки человечности таким образом.

‘Когнитивная наука со своей богатой традицией характеризации человеческого поведения может сыграть важную роль в решении этой проблемы.’

Заключение

Новая статья подчеркивает, что онлайн-генерация (живая и интерактивная ИИ) представляет собой другую задачу и вызов по сравнению с оффлайн-генерацией (обнаружением текста, сгенерированного ИИ).

Степень, в которой предварительная подготовка и третичные методы, такие как настройка и системные промпты, необходимы для получения улучшения в имитации человека, указывает на то, что модели ИИ не готовы выполнять задачи этого типа в неизменном, стандартном состоянии или с минимальной предварительной инструкцией.

Задача, решаемая в новой статье, очень конкретна для академических исследований, но, вероятно, будет иметь более широкое влияние, поскольку голосовая ИИ станет более распространенной, и криминальные элементы, стремящиеся выиграть от обмана, основанного на ИИ, будут пытаться удивить уставшую аудиторию жертв новым поворотом.

* Мое преобразование внутренних цитат авторов в гиперссылки.^† Пожалуйста, обратитесь к более ранней (выше) таблице результатов — в этом отношении статья немного слишком сжата.

Опубликовано в четверг, 2 апреля 2026 года