В новой парадигме публикаций ИИ незаменим

Традиционные модели публикаций быстро реформируются, поскольку поддержка открытого доступа продолжает расти. В прошлом году количество поданных статей увеличилось на 30%, согласно Springer Nature. Однако этот спрос оказывается двойным мечом, так как количество отозванных статей достигло высшего уровня за всё время за последнее десятилетие, и журналы переполнены статьями, сгенерированными ИИ, и поддельными исследованиями.

Естественно, это создает узкие места, наносящие вред издателям, исследователям и рецензентам. Издания сталкиваются с трудностями соблюдения редакционных графиков, потому что рецензенты спешат оценивать статьи, а авторы вынуждены ждать месяцами, а то и годами, чтобы их работа была опубликована. Текущая модель рецензирования никогда не была рассчитана на такой объём спроса.

В этом контексте важно признать роль ИИ как важного вспомогательного инструмента, укрепляющего существующие процессы рецензирования и помогающего отрасли преодолевать её главные препятствия.

Почему традиционные процессы ломаются

Рецензирование — это неоплачиваемая работа. Рецензенты добровольно отдают своё время в качестве доброжелательного вклада в академическое и научное сообщество. Требования высоки, а вознаграждения менее привлекательны из‑за усиливающегося давления. Из‑за растущего спроса и чрезмерных нагрузок всё меньше рецензентов принимает приглашения оценивать статьи. Кроме того, поиск рецензентов становится всё более сложной задачей для редакторов, что усугубляет задержки и растягивает сроки публикаций.

Одновременно учёные сталкиваются с режимом «публикуй или погибай». Для профессионального роста от них ожидают наличие опубликованных работ в всё более перенасыщенной среде. Это универсальное требование по всему миру, и существует давление выделиться среди шума, помимо нагрузки, связанной с удовлетворением растущего спроса. Эти факторы лежат в основе кризиса рецензирования, при котором текущая система, в её нынешнем виде, неустойчива.

Для ясности, инструменты ИИ не должны внедряться в процесс рецензирования с целью замены человеческого суждения, а скорее для его усиления. Авторы и редакторы ожидают определённого уровня уважения и преданности в процессе рецензирования, как это принято в отношении исследований.

Тем не менее, небольшие ошибки могут легко ускользнуть незамеченными, особенно когда рецензенты спешат проверять большое количество статей. Для иллюстрации, одно исследование показало, что в 2020 году более 100 миллионов часов — эквивалент 15 000 лет — было потрачено на глобальное рецензирование.

Тем не менее, это не делает такие ошибки приемлемой нормой. То, что может казаться незначительным упущением, например крошечной ошибкой в данных, может подорвать восприятие читателями качества исследования.

ИИ как вспомогательный инструмент, а не замена

Инструменты ИИ отмечают тонкие ошибки, которые иначе могут быть упущены. Ошибки в цитировании, пропуски данных и возможные совпадения с существующей литературой — лишь некоторые примеры небольших, но значимых ошибок, которые могут быть пропущены рецензентами.

Эти инструменты созданы для выполнения низкорисковых задач, позволяя рецензентам сосредоточиться на более сложных аспектах редактирования, таких как экспертный анализ и контекстуальная оценка. Инструмент ограничен данными, которые в него загружаются, тогда как человек‑рецензент со специализированной экспертизой может ставить исследование в гораздо более широкий и информированный контекст. Более того, алгоритм не может заменить тонкое рассуждение экспертов‑специалистов и не должен этого делать. Тем не менее, он может облегчить часть менее значимых нагрузок, с которыми они сталкиваются.

ИИ может помочь рецензентам давать более ясные и содержательные отзывы, но только при разумном использовании. Он может помочь в проверке цитат, выделении методологических проблем, обнаружении отсутствующих данных и выявлении сходств с ранее опубликованными исследованиями. Ещё одной причиной его привлекательности для рецензентов является возможность поиска с поддержкой ИИ, позволяющего им быть в курсе новых знаний.

Ключевым является то, что лидеры отрасли, такие как старшие редакторы Elsevier, поддерживают важность равновесия. Они рассматривают его как полезный инструмент для повышения качества рецензирования, но только при этичном применении и всегда под человеческим контролем.

Рассмотрение более широких последствий внедрения ИИ

Тревоги среди академического сообщества растут. Совсем недавно исследователи обнаружили, что поток поданных статей после появления ChatGPT вырос на 42%, однако качество написания, к сожалению, пострадало. То же исследование также отметило опасения относительно того, как ИИ используется для информирования редакционных решений при применении в рецензировании.

Кроме того, руководящие принципы и нормативные акты всё ещё догоняют технологию, чтобы гарантировать этичное и умеренное использование инструментов. Как отдельные лица, так и издания должны понимать связанные с этим риски. Злоупотребление этими инструментами гарантирует появление предвзятости, галлюцинаций, неверных выводов и искажённого восприятия.

Сообщество академических издателей также обеспокоено вопросами конфиденциальности и приватности. Авторы часто чувствуют дискомфорт, когда внешние инструменты интегрируются в процесс рецензирования, особенно в случаях, когда исследование содержит конфиденциальные данные. Такое беспокойство по поводу возможных утечек понятно, учитывая количество времени и усилий, которые авторы вкладывают в свои исследования.

По этим причинам восприятие ИИ в процессе рецензирования довольно слабое. Совместное исследование KPMG и Университета Мельбурна показало, что 46% людей готовы доверять ИИ. Это исследование также выявило, что подавляющее большинство (70 %) считает необходимым регулирование.

Эти факторы необходимо учитывать, что требует обучения и прозрачности в отношении того, как применяется ИИ, независимо от степени его использования в рецензировании. Любой, кто использует ИИ в процессе рецензирования, должен понимать лучшие практики и применять критическое мышление на всех этапах. Рецензентам и издательским командам потребуется развивать навыки в области ИИ и грамотности данных, включая умение интерпретировать поведение моделей, распознавать их ограничения и снижать риски, такие как галлюцинации.

Прозрачность является основой стратегий внедрения, и публикации и рецензенты должны быть готовы разъяснять и обосновывать использование ИИ. Регулярные аудиты могут помочь подтвердить точность и надёжность. Также важно, чтобы публикации указывали, как обучаются модели и какие данные их направляют. В академической среде авторы обязаны постоянно демонстрировать свои методы исследования и обоснование. Такой же уровень раскрытия информации следует применять к использованию ИИ.

Безопасность этих инструментов также нельзя игнорировать. Шифрование данных добавляет столь необходимый уровень киберзащиты от сторонних угроз, таких как возможные попытки взлома. Снова, аудиты являются важной частью укрепления безопасности, поскольку они предназначены для выявления слепых зон до того, как они нанесут вред.

Отрасль стоит на распутье: либо отвергнуть технологии в попытке сохранить традиционные модели проверки исследований, либо принять их. Первый вариант означает, что процесс рано или поздно рухнет под давлением спроса. Второй же вариант даёт возможность издателям и рецензентам не только идти в ногу со временем, но и опережать растущий спрос.