V novém paradigmatu publikování je AI nepostradatelná

Tradiční modely publikování se rychle reformují, protože podpora otevřeného přístupu neustále roste. Loni se počet přihlášek zvýšil o 30%, uvádí Springer Nature. Avšak tato poptávka se ukazuje jako dvousečný meč, protože počet stažených článků dosáhl v posledním desetiletí rekordní úrovně a časopisy jsou zaplaveny články generovanými AI a falšovaným výzkumem.

Samozřejmě to způsobuje úzká místa, která poškozují vydavatele, výzkumníky i recenzenty. Publikace se potýkají s dodržováním redakčních termínů, protože recenzenti spěchají s hodnocením článků, a autoři jsou nuceni čekat měsíce, ne-li roky, na publikaci. Současný model peer review nikdy nebyl navržen tak, aby zvládl takovou míru poptávky.

Uprostřed toho je zásadní si uvědomit roli AI jako klíčového podpůrného nástroje pro posílení stávajících procesů peer review a pomoci odvětví překonat jeho největší překážky.

Proč tradiční procesy selhávají

Peer review je neplacená práce. Recenzenti dobrovolně věnují svůj čas jako projev dobré vůle akademické a vědecké komunitě. Požadavky jsou vysoké a odměny méně atraktivní, přičemž se všechny tlaky navzájem zvyšují. V důsledku rostoucí poptávky a nadměrného zatížení přijímá méně recenzentů pozvánky k hodnocení článků. Navíc získávání recenzentů představuje pro editory narůstající výzvu, což zhoršuje zácpy a prodlužuje časové harmonogramy publikování.

Současně akademici čelí prostředí „publish or perish“. Pro profesní postup se od nich očekává, že budou mít publikovanou práci v stále přeplněnějším prostředí. Jedná se o celosvětové očekávání a existuje tlak vyniknout v tom šumu, navíc k napětí spojenému s uspokojením vzniklé poptávky. Tyto faktory stojí za krizí peer review, kde současný systém, jak je nastaven, není udržitelný.

Aby bylo jasno, nástroje AI by neměly být v procesu peer review zaváděny k nahrazení lidského úsudku, ale spíše k jeho posílení. Autoři i editoři očekávají určitý stupeň úcty a nasazení v recenzním procesu, jaký je poskytován výzkumu.

Nicméně malé chyby mohou snadno projít bez povšimnutí, zejména když recenzenti spěchají s hodnocením velkého počtu článků. Pro ilustraci, jedna studie zjistila, že v roce 2020 bylo na globální peer review vynaloženo více než 100 milionů hodin – což odpovídá 15 000 letům.

Přesto to neznamená, že jsou tyto chyby přijatelné. To, co se může jevit jako nevýznamná nedbalost, například drobná chyba v datech, může poškodit vnímání kvality výzkumu čtenáři.

AI jako podpůrný nástroj, ne jako náhrada

Nástroje AI označují jemné chyby, které by jinak mohly být přehlédnuty. Chyby v citacích, opomenutí dat a možné překryvy s existující literaturou jsou jen některé z příkladů malých, ale podstatných chyb, které recenzenti mohou přehlédnout.

Tyto nástroje jsou navrženy tak, aby řešily nízkorizikové úkoly, aby se recenzenti mohli soustředit na pokročilejší aspekty úprav, jako je odborná analýza a kontextové hodnocení. Nástroj je omezen na data, která mu jsou poskytnuta, zatímco lidský recenzent se specializovanou expertízou může výzkum kontextualizovat na mnohem širší a informovanější úroveň. Navíc algoritmus nemůže nahradit jemné uvažování odborníků v dané oblasti, ani by neměl. Může však ulehčit některé z méně náročných břemen, která čelí.

AI může pomoci recenzentům poskytovat jasnější a podnětnější zpětnou vazbu, ale pouze při rozumném použití. Může pomoci při ověřování citací, zdůrazňování metodologických otázek, detekci chybějících dat a odhalování podobností s dříve publikovaným výzkumem. Dalším důvodem, proč AI přitahuje recenzenty, je potenciál AI‑poháněaného vyhledávání, které jim pomáhá držet krok s novými poznatky.

Klíčové však je, že lídři odvětví, například senior editoři v Elsevier, podporují důležitost rovnováhy. Vidí ji jako užitečný nástroj ke zlepšení kvality recenzí, ale pouze při etickém použití a vždy pod lidským dohledem.

Řešení širších dopadů adopce AI

Obavy jsou v akademické komunitě rozšířené. Nedávno výzkumníci zjistili, že příliv přihlášek po ChatGPT vzrostl o 42%, avšak kvalita psaní bohužel utrpěla. Tato samá studie také upozornila na obavy ohledně toho, jak je AI používána k informování redakčních rozhodnutí při použití v peer review.

Navíc směrnice a regulace stále dohánějí technologii, aby zajistily etické a umírněné používání nástrojů. Jednotlivci i publikace musí pochopit související rizika. Zneužívání těchto nástrojů zaručuje předsudky, halucinace, nesprávné závěry a falešné vnímání.

Akademická vydavatelská komunita se také obává o soukromí a důvěrnost. Autoři mají tendenci cítit se nepříjemně, když jsou externí nástroje integrovány do recenzního procesu, zejména v situacích, kdy výzkum obsahuje citlivá data. Tato úzkost ohledně možných úniků je pochopitelná vzhledem k množství času a úsilí, které autoři věnují svému výzkumu.

Z těchto důvodů jsou vnímání AI v recenzním procesu poměrně slabé. Společný výzkum KPMG a University of Melbourne zjistil, že 46% lidí je ochotno AI důvěřovat. Toto šetření také odhalilo, že drtivá většina (70 %) se domnívá, že regulace je nezbytná.

Tyto faktory je třeba řešit, což vyžaduje školení a transparentnost ohledně toho, jak je AI používána, bez ohledu na míru jejího využití v recenzích. Každý, kdo používá AI v recenzním procesu, musí rozumět jejím nejlepším postupům a uplatňovat kritické myšlení po celou dobu. Recenzenti a vydavatelské týmy budou muset rozvíjet své dovednosti v oblasti AI a datové gramotnosti, což zahrnuje schopnost interpretovat chování modelu, rozpoznávat jeho omezení a zmírňovat rizika, jako jsou halucinace.

Transparentnost je základem adopčních strategií a publikace i recenzenti musí být připraveni objasnit a odůvodnit nasazení AI. Rutinní audity mohou pomoci potvrdit přesnost a spolehlivost. Je také zásadní, aby publikace specifikovaly, jak jsou modely trénovány a jaká data je vedou. V akademické sféře musí autoři vždy prokazovat své výzkumné metody a zdůvodnění. Stejná úroveň zveřejnění by se měla vztahovat i na používání AI.

Bezpečnost těchto nástrojů nelze také přehlížet. Šifrování dat přidává potřebnou vrstvu kybernetické ochrany před hrozbami třetích stran, jako jsou potenciální pokusy o hackování. Opět jsou audity důležitou součástí posilování bezpečnosti, protože jsou navrženy tak, aby odhalily jakékoli slepé úhly dříve, než způsobí škodu.

Odvětví stojí na rozcestí – buď odmítne technologii ve snaze setrvat u tradičních modelů ověřování výzkumu, nebo ji přijme. První možnost znamená, že je jen otázkou času, kdy proces pod tlakem poptávky zkolabuje. Druhá možnost však umožňuje a posiluje vydavatele i recenzenty nejen držet krok, ale i předstihnout rostoucí poptávku.