Взгляд Anderson

Научный прогресс под угрозой из-за странной одержимости ИИ

Martin Anderson
Добавьте Unite.AI в избранные источники в Google
Nikola Tesla seated beneath his experimental high-voltage electrical apparatus in Colorado Springs, 1899. The famous photograph was created using a double exposure, allowing Tesla to appear calmly seated amid the electrical discharges. Source: Smithsonian.
Ключевые моментыНовые ИИ-рецензенты зацикливаются на приложениях, тогда как люди-рецензенты…
Показать больше
  • Новые ИИ-рецензенты зацикливаются на приложениях, тогда как люди-рецензенты сосредоточены на основных выводах статьи.
  • Языковые модели считают каждый фрагмент одинаково важным, поэтому упускают, какие разделы действительно имеют значение.
  • Смещение в сторону приложений сохраняется при любых способах доступа и приводит к поверхностным отзывам, которые почти не помогают авторам улучшить работу.

Новое исследование, проведённое в США, показывает, что модели ИИ, рецензирующие научные статьи, начинают странным образом зацикливаться на приложениях, а не на основном тексте, часто уделяя больше внимания второстепенным вспомогательным деталям, чем главным выводам. По мере того как языковые модели всё чаще используются для помощи рецензентам или даже замены людей, эта недавно выявленная тенденция, похоже, распространяется и на научное рецензирование, потенциально замедляя развитие исследований в области ИИ:

В новой статье показан рост числа замечаний к приложениям в рецензиях на научные работы, написанных людьми. Несколько лет доля таких замечаний оставалась ниже 11%, но в последних рецензиях достигла 27,6% — после выхода моделей ИИ, которые, как выяснилось, берут из приложений более половины своих замечаний. Пунктирными линиями отмечены выходы крупных моделей.  Источник — https://arxiv.org/pdf/2611.17811

В новой статье показан рост числа замечаний к приложениям в рецензиях на научные работы, написанных людьми. Несколько лет доля таких замечаний оставалась ниже 11%, но в последних рецензиях достигла 27,6% — после выхода моделей ИИ, которые, как выяснилось, берут из приложений более половины своих замечаний. Пунктирными линиями отмечены выходы крупных моделей.  Источник

Проверив 2000 научных статей, представленных на четырёх популярных конференциях, исследователи обнаружили, что новые модели берут из приложений около 50–70% своих замечаний. У более старой модели GPT-5 этот показатель составляет менее 30%.

Две наиболее известные новые модели ИИ, которые, по-видимому, склоняют даже рецензентов-людей уделять больше внимания приложениям и меньше — более важным основным результатам, — это GPT-6.1-Sol от OpenAI и GPT-6-Astra. Обе модели вышли в 2026 году.

В статье говорится*:

«Разрыв между поколениями моделей велик. У GPT-5 лишь небольшая доля замечаний касается приложений. Обе новые модели — GPT-6.1-Sol и GPT-6-Astra — гораздо активнее опираются на них, и эта закономерность наблюдается на каждой конференции.

«Это позволяет предположить, что склонность уделять чрезмерное внимание приложениям свойственна главным образом новым моделям. Несмотря на то что новые модели стали лучше, их предвзятость в отношении приложений усилилась. Умение подробно читать статью не научило их понимать, какие её части важнее всего».

Исследование также показало, что степень фиксации на приложениях зависит от способа, которым ИИ получает статью: интерфейсы API, Codex и веб-интерфейсы обрабатывают PDF-файлы по-разному. При этом Codex вообще не читает середину PDF-файла средней длины, а при необходимости позднее просматривает его отдельными «фрагментами». Однако все способы обработки, как выяснилось, отдают предпочтение материалам из приложений.

До недавнего времени рецензии людей и ИИ не отличались такой одержимостью:

«[Human] Рецензенты-люди относятся к основному тексту и дополнительным материалам совсем не так, как большие языковые модели. Большие языковые модели связывают с материалами из приложений более 50% своих замечаний, тогда как люди — менее 10%.

«Различие заметно и на уровне отдельных рецензий. Из 200 статей, отбиравшихся каждый год с 2021 по 2024 год, в общей сложности лишь 159 получили рецензию человека, в которой упоминался хотя бы один недостаток, связанный с приложениями. Для сравнения: во всех 200 рецензиях, созданных большими языковыми моделями для ICLR 2027, содержалось хотя бы одно замечание к приложениям».

Сравнение замечаний к приложениям в рецензиях людей и ИИ. Рецензенты-люди отнесли к материалам из приложений лишь 8,4% выявленных недостатков, тогда как модели ИИ — 62%. Во втором столбце показаны замечания исключительно к приложениям, которым не соответствуют проблемы в основном тексте статьи.

Сравнение замечаний к приложениям в рецензиях людей и ИИ. Рецензенты-люди отнесли к материалам из приложений лишь 8,4% выявленных недостатков, тогда как модели ИИ — 62%. Во втором столбце показаны замечания исключительно к приложениям, которым не соответствуют проблемы в основном тексте статьи.

Как видно из таблицы с результатами проверки выше, ИИ-рецензенты более чем в семь раз чаще людей отмечали недостатки в приложениях и более чем в три раза чаще высказывали замечания только к дополнительным материалам. Это указывает на то, что некоторые из новейших передовых моделей ИИ теперь отдают приоритет деталям, которые рецензенты-люди традиционно считали второстепенными по сравнению с главным научным вкладом статьи.

Почему?

Насколько можно судить (это первое исследование, выявившее такую особенность), отчасти проблема в том, что ИИ не понимает или не усвоил из обширных обучающих материалов, что основное содержание научной статьи обычно размещают не в приложении. Склонность считать весь текст одинаково важным не позволяет моделям учитывать контекст приложений: их содержание часто не подвергается редакционной обработке и изложено гораздо менее тщательно, чем основной текст:

«Большие языковые модели почти никогда не критикуют первые страницы, где авторы формулируют проблему и объясняют, почему она важна. Люди часто оспаривают именно эту постановку вопроса, тогда как большие языковые модели, похоже, принимают её и переходят к цифрам.

‘[Humans and LLMs] совершенно иначе читали приложение. По мере чтения приложения замечания людей быстро сходят на нет и почти исчезают на последних страницах. Недостатки больших языковых моделей никуда не исчезают. Более того, их становится особенно много далеко не в начале приложения, а ближе к его концу; они сохраняются даже после 30-й страницы, где рецензенты-люди почти не высказывают претензий.

‘Для большой языковой модели замечание к детали на 25-й странице — столь же обоснованная цель для критики, как и замечание к таблице с основными результатами.’

Авторы отмечают, что склонность больших языковых моделей относиться ко всему тексту одинаково могла естественным образом привести к тому, что они уделяли больше внимания материалам приложения, поскольку, как говорилось выше, там обычно больше ошибок.

Таким образом, главный вывод, который я делаю из этого нового исследования, заключается в том, что со временем большие языковые модели сосредоточились на разделе новых научных статей, где часто встречается много ошибок или смешения понятий, просто потому, что эту часть авторы нередко превращают в неразбериху, сваливая туда всё подряд из второстепенных доказательств и подтверждающих материалов.

Поэтому приложения всё чаще интересуют ИИ больше, чем тщательно отредактированная основная часть статьи, поскольку там больше материала для анализа и исправления; как следствие, отмечают авторы статьи, большие языковые модели склонны воспринимать начальную часть статьи как изложение фактов и принимать её на веру:

‘Люди ожидают, что основная часть статьи будет самодостаточной, поэтому возражают, когда важные разделы переносят в приложение. Большие языковые модели почти никогда не обращают на это внимания.

‘Это подчёркивает ключевое различие: люди понимают, что основная часть важнее приложения, а большие языковые модели — нет. ‘

Последствия и способы их устранения

Такое неожиданное внимание к мелочам может иметь серьёзные последствия для научных исследований с применением ИИ, особенно если при этом упускается из виду значение основных выводов статьи. Поскольку эта тенденция, по-видимому, появилась только в последних моделях, её долгосрочные последствия пока неизвестны.

Авторы статьи признают, что рецензенты на основе ИИ способны обнаруживать важные ошибки, даже если те скрыты глубоко в приложении. Однако они предупреждают, что чрезмерное внимание к мелочам может отвлечь от основных выводов статьи, в результате чего рецензии становятся длинными, но мало полезными на практике:

‘Рецензенты на основе больших языковых моделей повышают планку, поскольку не оставляют без внимания ни одну часть статьи. Однако для качественного рецензирования также необходимо понимать, что важнее всего. Если большинство недостатков рецензии связано с содержанием приложения, не относящимся к основному вкладу работы, отзывы остаются поверхностными. Они не затрагивают суть статьи и почти не помогают авторам её улучшить. ‘

Авторов новой работы под названием «Рецензии ИИ предвзяты в пользу приложений» побудило заняться этой темой то, что они заметили необычные закономерности в оценке их собственных работ рецензиями, подготовленными с помощью больших языковых моделей или сгенерированными ими. Код исследования доступен на GitHub.

Методика и тестирование

Для тестирования выбрали четыре ведущие модели ИИ от OpenAI и Anthropic: GPT-6-Astra; GPT-6.1-Sol; Claude-Opus-5.5 и Claude-Sonnet-5.5. К моделям обращались через Codex и Claude Code, а их поведение при рецензировании сравнивали при использовании API и веб-интерфейса.

Научные статьи собрали с четырёх крупных конференций по ИИ и обработке естественного языка: ACL 2026; EMNLP 2026; COLM 2026 и ICLR 2027. Их выбрали потому, что у них схожие форматы подачи и рецензирования, строгие ограничения по объёму основной статьи, но, как правило, нет ограничений на приложения, размещаемые после списка литературы.

Всего изучили 2 000 статей: 1 200 статей с ICLR за 2021–2026 годы и 800 статей с четырёх недавних конференций — по 200 с каждой. Все 800 статей с недавних конференций имели приложения объёмом не менее 15 страниц. Статьи, поданные на ICLR 2027, уже были анонимизированы; из статей ACL, EMNLP и COLM удалили имена авторов, сведения об их организациях, адреса электронной почты и ссылки, позволяющие установить их личности, чтобы рецензенты на основе ИИ не смогли определить авторство.

У моделей отключили доступ к интернету, чтобы рецензии основывались исключительно на предоставленных PDF-файлах.

Сначала ИИ предлагали написать рецензию в стиле соответствующей конференции: указать сильные и слабые стороны статьи и поставить ей общую оценку. Инструкции намеренно оставили простыми, чтобы отразить возможный сценарий использования ИИ реальным рецензентом. Затем ту же модель ИИ снова снабжали статьёй и готовой рецензией и просили определить, к какому разделу статьи относилось каждое замечание. Для этого сопоставляли замечания с исходной статьёй:

Трёхэтапный процесс рецензирования, использованный в исследовании. Статьи с приложениями объёмом не менее 15 страниц отобрали с четырёх конференций и анонимизировали до передачи на рецензирование моделям ИИ. Затем каждую рецензию сопоставили с исходной статьёй, соотнося отдельные замечания с соответствующими разделами.

Трёхэтапный процесс рецензирования, использованный в исследовании. Для анализа отобрали статьи с приложениями объёмом не менее 15 страниц, представленные на четырёх конференциях, и обезличили их перед тем, как передать на рецензирование моделям ИИ. Затем каждую рецензию сопоставили с оригинальной статьёй, отнеся отдельные замечания к тем разделам, которых они касались.

Разделив эти задачи, исследователи смогли изучить, какие части статей вызывали критику, не допуская, чтобы на первоначальные рецензии повлияли дополнительные инструкции.

Среди результатов, которые мы пока не обсуждали, — проверка авторами того, где возникают недостатки рецензий, созданных большими языковыми моделями:

Сравнение того, в каких частях статей рецензии, созданные ИИ, выявляли недостатки на четырёх конференциях. Зелёным отмечены замечания к основной части статьи, красным — замечания, связанные с приложениями, а штриховкой — замечания, относящиеся только к приложениям. Почти в каждом тесте более половины замечаний касались материалов приложений; наиболее выраженное смещение наблюдалось у GPT-6-Astra.

Сравнение того, в каких частях статей рецензии, созданные ИИ, выявляли недостатки на четырёх конференциях. Зелёным отмечены замечания к основной части статьи, красным — замечания, связанные с приложениями, а штриховкой — замечания, относящиеся только к приложениям. Почти в каждом тесте более половины замечаний касались материалов приложений; наиболее выраженное смещение наблюдалось у GPT-6-Astra.

Как видно выше, примерно половина или более замечаний всех четырёх моделей ИИ касалась материалов приложений — такая закономерность наблюдалась на всех четырёх конференциях. Некоторые замечания относились исключительно к приложениям и никак не были связаны с основной частью статьи. На них приходилось 17,33% недостатков, выявленных моделями GPT, по сравнению с 10,16% у Claude.

Как предполагают авторы статьи, результаты указывают на то, что приложениям уделялось непропорционально много внимания: иногда сравнительно незначительные детали становились основанием для критики статьи в целом.

Чтобы выяснить, зависело ли смещение в сторону приложений от того, как получали доступ к ИИ, исследователи сравнили разные методы. С помощью GPT-6-Astra проанализировали сто заявок, поданных на ICLR 2027: через Codex, веб-интерфейс ChatGPT и API, которому передавали либо исходный PDF-файл, либо извлечённый из него текст.

При использовании Codex текст извлекали и анализировали с помощью команд; через API напрямую передавали либо полный PDF-файл, либо извлечённый из него текст; загруженные же документы обрабатывались собственной (непрозрачной) системой веб-интерфейса:

Сравнение замечаний, связанных с приложениями, у разных моделей ИИ и при разных способах доступа к ним. Слева показано, что на четырёх конференциях GPT-5 ссылалась на материалы приложений гораздо реже, чем более новые модели GPT. Справа видно, что смещение сохранялось при четырёх способах доступа к GPT-6-Astra: на замечания, связанные с приложениями, приходилось от 62,2% до 73,7% всех замечаний. Штриховкой отмечены замечания, относящиеся исключительно к приложениям.

Сравнение замечаний, связанных с приложениями, у разных моделей ИИ и при разных способах доступа к ним. Слева показано, что на четырёх конференциях GPT-5 ссылалась на материалы приложений гораздо реже, чем более новые модели GPT. Справа видно, что смещение сохранялось при четырёх способах доступа к GPT-6-Astra: на замечания, связанные с приложениями, приходилось от 62,2% до 73,7% всех замечаний. Штриховкой отмечены замечания, относящиеся исключительно к приложениям.

Как видно выше, при всех четырёх способах доступа от 62,2% до 73,7% замечаний касались материалов приложений. Наибольшая доля таких замечаний наблюдалась, когда через API напрямую передавали извлечённый текст. Таким образом, смещение сохранялось независимо от способа доступа к модели.

Большая часть остальных тестов уже описана ранее в статье; за дополнительной информацией мы отсылаем читателя к первоисточнику.

Уловки при подаче статей

Эта тема близка не только авторам новой работы, но и мне: я много читаю научные статьи и на собственном горьком опыте узнал о негласных правилах, а также о способах их обходить, которые определяют, как статьи пишут и представляют.

Нельзя сказать, что ИИ в целом ошибается, обращая внимание на приложения, даже если делает это по неверным причинам: авторы часто прячут там «подводные камни» статьи — факторы или результаты, которые могут практически свести на нет или существенно ограничить утверждения, изложенные в основной части.

Авторы также не обязательно виноваты в том, что переносят важные материалы в приложение: шаблоны популярных изданий, в том числе тех, которые представлены в новом исследовании в качестве источников данных, устанавливают ограничения на максимальное число страниц или слов в основном тексте статьи.

Описывая сложные результаты исследований, многие авторы явно считают это серьёзным ограничением; в том, что я назвал бы «худшими случаям軆, основная часть статьи превращается просто в указатель на материалы, перенесённые в конец, чтобы обойти требования (хотя сами требования постепенно догоняют этот «трюк» и запрещают его).

В этом сценарии нарастает противоречие между необходимостью для учреждений побуждать авторов к более сдержанной подаче материала — это становится всё важнее по мере роста числа подаваемых статей — и очевидным недовольством исследователей, которые хотят представить с таким трудом добытые результаты своей работы в максимально полном и всестороннем контексте, которого, по их мнению, заслуживают приложенные усилия.

 

 

* Акценты расставлены авторами, а не мной.

†При отборе статей для рассмотрения перенесение материала в приложения может быть трудно заметить даже ИИ. Однако это может серьёзно осложнить работу рецензента, если он выделил время на оценку десятистраничной статьи, а теперь вынужден за то же время изучить 30 страниц материала.

Впервые опубликовано в понедельник, 16 ноября 2026 года

Martin Anderson

Автор в области машинного обучения, специалист по синтезу человеческих изображений. Бывший руководитель отдела исследовательского контента в Metaphysic.ai, до его объединения с Brahma.ai от DNEG.
Веб‑сайт: martinanderson.ai
Контакт: martin@martinanderson.ai