У новій парадигмі видавництва штучний інтелект незамінний

Традиційні моделі видавництва швидко реформуються, оскільки підтримка відкритого доступу продовжує зростати. Минулого року кількість подань збільшилася на 30%, за даними Springer Nature. Однак цей попит виявився двосічним мечем, оскільки кількість статей, що були відкликані, досягла рекордного рівня за останнє десятиліття, і журнали переповнені статтями, згенерованими ШІ, та підробленими дослідженнями.

Очевидно, це створює вузькі місця, які шкодять видавцям, дослідникам та рецензентам. Виданням важко дотримуватися редакційних графіків, оскільки рецензенти поспішають оцінювати статті, а автори змушені чекати місяцями, а іноді й роками, щоб їх опублікували. Сучасна модель рецензування ніколи не була розрахована на такий масштаб попиту.

У цьому контексті важливо визнати роль ШІ як важливого інструменту підтримки, що зміцнює існуючі процеси рецензування та допомагає галузі подолати її найбільші перешкоди.

Чому традиційні процеси руйнуються

Рецензування – це неоплачувана робота. Рецензенти добровільно вкладають свій час у добру волю академічним та науковим спільнотам. Вимоги високі, а винагороди менш привабливі через накопичення тиску. Через зростаючий попит і надмірні навантаження менша кількість рецензентів приймає запрошення оцінювати статті. До того ж пошук рецензентів стає все більшою проблемою для редакторів, що посилює затримки та подовжує терміни публікації.

Водночас вчені стикаються з умовами «публікуй або вимирай». Для професійного просування від них вимагається мати опубліковані роботи у все більш перенасиченому середовищі. Це універсальна вимога по всьому світу, і існує тиск виділитися серед шуму, поряд із навантаженням задовольнити зростаючий попит. Ці фактори лежать в основі кризи рецензування, коли поточна система, у її нинішньому вигляді, не є стійкою.

Для уточнення, інструменти ШІ не повинні впроваджуватись у процес рецензування замість людського судження, а скоріше підсилювати його. Автори та редактори очікують певного рівня поваги та відданості в процесі рецензування, як і до досліджень.

Проте невеликі помилки можуть легко залишитися непоміченими, особливо коли рецензенти поспішають переглянути велику кількість статей. Для ілюстрації, одне дослідження виявило, що у 2020 році понад 100 мільйонів годин — еквівалент 15 000 років — було витрачено на глобальне рецензування.

Проте це не робить такі помилки прийнятною нормою. Те, що може здаватися незначним упущенням, наприклад мізерний недолік у даних, може пошкодити сприйняття читачами якості дослідження.

ШІ як інструмент підтримки, а не заміна

Інструменти ШІ виявляють тонкі помилки, які інакше могли б залишитися непоміченими. Помилки у цитуванні, пропуски даних та можливі перетини з існуючою літературою — лише кілька прикладів невеликих, але значущих помилок, які можуть пропустити рецензенти.

Ці інструменти створені для виконання низькоризикових завдань, щоб рецензенти могли зосередитися на більш складних аспектах редагування, таких як експертний аналіз та контекстуальна оцінка. Інструмент обмежений даними, які в нього вводять, тоді як людський рецензент зі спеціалізованою експертизою може розмістити дослідження у набагато ширшому та інформованому контексті. Крім того, алгоритм не може замінити тонке мислення експертів‑предметників і не повинен цього робити. Однак він може полегшити деякі менш важливі навантаження, з якими вони стикаються.

ШІ може допомогти рецензентам надавати чіткіший і більш глибокий зворотний зв’язок, але лише при розумному використанні. Він може допомогти у перевірці цитат, висвітленні методологічних проблем, виявленні відсутніх даних та виявленні схожості з раніше опублікованими дослідженнями. Ще однією причиною, чому ШІ приваблює рецензентів, є можливість пошуку за допомогою ШІ, що допомагає їм залишатися в курсі нових знань.

Важливо, однак, лідери галузі, зокрема старші редактори Elsevier, підтримують важливість рівноваги. Вони розглядають це як корисний інструмент для підвищення якості рецензування, але лише при етичному застосуванні та завжди під людським контролем.

Вирішення ширших наслідків впровадження ШІ

Турботи серед академічної спільноти численні. Дуже нещодавно дослідники виявили, що потік подань після ChatGPT зріс на 42%, проте якість написання, на жаль, постраждала. Те саме дослідження також вказало на занепокоєння щодо того, як ШІ використовується для інформування редакційних рішень у процесі рецензування.

Крім того, рекомендації та нормативи все ще наздоганяють технологію, щоб забезпечити етичне та помірне використання інструментів. Як окремі особи, так і видання мають розуміти пов’язані ризики. Зловживання цими інструментами гарантує упередженість, галюцинації, неправильні висновки та хибні уявлення.

Академічна спільнота видавництва також турбується про конфіденційність та приватність. Автори часто відчувають дискомфорт, коли зовнішні інструменти інтегруються в процес рецензування, особливо у випадках, коли дослідження містить чутливі дані. Це занепокоєння щодо можливих витоків зрозуміле, враховуючи кількість часу та зусиль, які автори вкладають у свої дослідження.

З цих причин сприйняття ШІ у процесі рецензування досить слабке. Спільне дослідження KPMG та Університету Мельбурна виявило, що 46% людей готові довіряти ШІ. Це дослідження також показало, що переважаюча більшість (70%) вважає, що регулювання необхідне.

Ці фактори потрібно вирішувати, і для цього потрібне навчання та прозорість щодо того, як застосовується ШІ, незалежно від того, у якій мірі його використовують у процесі рецензування. Кожен, хто використовує ШІ у процесі рецензування, має розуміти його найкращі практики та застосовувати критичне мислення протягом усього процесу. Рецензенти та команди видавництв повинні розвивати свої навички у галузі ШІ та грамотності даних, що включає вміння інтерпретувати поведінку моделей, розпізнавати їх обмеження та пом’якшувати ризики, такі як галюцинації.

Прозорість є фундаментом стратегій впровадження, і публікації та рецензенти мають бути готові пояснювати та обґрунтовувати використання ШІ. Регулярні аудити можуть допомогти підтвердити точність і надійність. Також важливо, щоб публікації вказували, як навчаються моделі та які дані їх формують. В академічному середовищі автори завжди повинні демонструвати свої методи дослідження та обґрунтування. Такий же рівень розкриття має застосовуватись і до використання ШІ.

Безпеку цих інструментів також не можна ігнорувати. Шифрування даних додає необхідний шар кіберзахисту від сторонніх загроз, таких як можливі спроби зламу. Знову ж, аудити є важливою складовою посилення безпеки, оскільки вони призначені виявляти будь‑які «слепі зони» до того, як вони завдадуть шкоди.

Індустрія стоїть на роздоріжжі: або відмовитися від технологій, намагаючись дотримуватись традиційних моделей перевірки досліджень, або прийняти їх. Перше означає, що лише питання часу, коли процес розпадеться під тиском попиту. Друге ж надає можливість видавцям і рецензентам не лише встигати, а й випереджати стрімко зростаючий попит.