I det nya paradigmet för publicering är AI oumbärligt

Traditionella publiceringsmodeller omformas snabbt i takt med att stödet för öppen tillgång ökar kraftigt. Förra året ökade antalet inskickade artiklar med 30%, enligt Springer Nature. Men denna efterfrågan visar sig vara ett tveeggat svärd eftersom återkallade artiklar har nått en rekordnivå under det senaste decenniet, och tidskrifter är översvämmade med AI‑genererade artiklar och fabricerad forskning.

Det är naturligt att detta skapar flaskhalsar som skadar förlag, forskare och granskare. Publikationer har svårt att hålla sig till redaktionella scheman eftersom granskare hastar för att utvärdera artiklar, och författare tvingas vänta i månader, om inte år, på att bli publicerade. Den nuvarande peer‑review‑modellen var aldrig avsedd att klara av denna efterfrågevolym.

I detta sammanhang är det avgörande att erkänna AI:s roll som ett viktigt stödverktyg för att stärka befintliga peer‑review‑processer och hjälpa branschen att övervinna sina största hinder.

Varför traditionella processer brister

Peer review är obetalt arbete. Granskare frivilligt avsätter sin tid som en godviljehandling för de akademiska och vetenskapliga samhällena. Kraven är höga och belöningarna mindre lockande i takt med att alla påtryckningar samlas. På grund av den ökande efterfrågan och de överdrivna påfrestningarna accepterar färre granskare inbjudningar att utvärdera artiklar. Dessutom blir rekrytering av granskare en växande utmaning för redaktörer, vilket förvärrar eftersläpningar och förlänger publiceringstidsramar.

Samtidigt står akademiker inför en ”publicera eller gå under”-miljö. För att avancera professionellt förväntas de ha publicerat verk i ett alltmer trångt landskap. Detta är en universell förväntning världen över, och det finns ett tryck att sticka ut i bruset, utöver den påfrestning som den ökade efterfrågan medför. Dessa faktorer ligger bakom peer‑review‑krisen, där det nuvarande systemet, som det är, inte är hållbart.

För att klargöra bör AI‑verktyg inte införas i peer‑review‑processen för att ersätta mänskligt omdöme, utan snarare för att stärka det. Författare och redaktörer förväntar sig en viss nivå av respekt och engagemang i granskningsprocessen, likt den som ges åt forskningen.

Små misstag kan dock lätt gå obemärkt förbi, särskilt när granskare skyndar sig att granska ett stort antal artiklar. För att illustrera detta fann en studie att år 2020 spenderades över 100 miljoner timmar – motsvarande 15 000 år – på globala peer‑reviews.

Detta gör dock inte felen till en acceptabel norm. Vad som kan verka som en obetydlig förbiseende, såsom en liten brist i data, kan skada läsarnas uppfattning om forskningskvaliteten.

AI som stödverktyg, inte en ersättning

AI‑verktyg flaggar subtila misstag som annars kan förbises. Citeringsfel, datautlämnanden och potentiella överlapp med befintlig litteratur är bara några exempel på små men betydelsefulla fel som granskare kan missa.

Dessa verktyg är utformade för att hantera lågriskuppgifter så att granskare kan fokusera på de mer avancerade aspekterna av redigering, såsom expertanalys och kontextuell bedömning. Ett verktyg är begränsat till den data det får, men en mänsklig granskare med specialiserad expertis kan sätta forskningen i ett mycket bredare och mer informerat sammanhang. Dessutom kan en algoritm inte ersätta den subtila resonemangskraften hos ämnesexperter, och bör inte göra det. Den kan dock underlätta vissa av de mindre kritiska bördorna de möter.

AI kan hjälpa granskare att ge tydligare och mer insiktsfull feedback, men endast när den används på ett klokt sätt. Den kan bistå med att bekräfta citeringar, lyfta fram metodologiska frågor, upptäcka saknad data och identifiera likheter med tidigare publicerad forskning. En annan anledning till att den tilltalar granskare är möjligheten att AI‑driven sökning kan hjälpa dem att hålla sig à jour med ny kunskap.

Avgörande är dock att branschledare, såsom seniorredaktörer på Elsevier, stödjer vikt av balans. De ser det som ett användbart verktyg för att förbättra granskningskvaliteten, men endast när det tillämpas etiskt och alltid med mänsklig övervakning.

Att ta itu med de bredare implikationerna av AI‑adoption

Oro råder bland den akademiska gemenskapen. Mycket nyligen fann forskare att inflödet av inskickade artiklar efter ChatGPT har ökat med 42%, men skrivkvaliteten har tyvärr drabbats. Samma studie påpekade också bekymmer kring hur AI används för att informera redaktionella beslut när den används i peer‑reviews.

Därtill håller riktlinjer och regler fortfarande på att komma ikapp teknologin för att säkerställa att verktyg används etiskt och med måttfullhet. Både individer och publikationer måste förstå de tillhörande riskerna. Missbruk av dessa verktyg garanterar bias, hallucinationer, felaktiga slutsatser och falska uppfattningar.

Den akademiska publiceringsgemenskapen är också oroad över integritet och konfidentialitet. Författare känner sig ofta osäkra när externa verktyg integreras i granskningsprocessen, särskilt i situationer där forskningen innehåller känslig data. Denna oro för potentiella läckor är förståelig med tanke på den tid och det arbete som författare lägger ner på sin forskning.

Av dessa skäl är uppfattningarna om AI i granskningsprocessen ganska svaga. Gemensam forskning från KPMG och University of Melbourne fann att 46% av människorna är villiga att lita på AI. Undersökningen visade också att en överväldigande majoritet (70 %) anser att reglering är nödvändig.

Dessa faktorer måste adresseras, och det kräver utbildning och transparens kring hur AI tillämpas, oavsett i vilken omfattning det används i peer‑reviews. Alla som använder AI i granskningsprocessen måste förstå dess bästa praxis och tillämpa kritiskt tänkande genom hela processen. Granskare och publiceringsteam kommer att behöva bygga sina färdigheter i AI‑ och datakompetens, vilket inkluderar att kunna tolka modellbeteende, känna igen begränsningar och minska risker såsom hallucinationer.

Transparens är grundläggande för antagningsstrategier, och publikationer samt granskare måste vara beredda att klargöra och motivera AI‑användning. Rutinkontroller kan hjälpa till att bekräfta precision och pålitlighet. Det är också avgörande för publikationer att specificera hur modeller tränas och vilka data som styr dem. Inom akademin måste författare alltid visa sina forskningsmetoder och sin motivering. Samma nivå av öppenhet bör gälla för AI‑användning.

Säkerheten för dessa verktyg får inte heller ignoreras. Datakryptering tillför ett nödvändigt lager av cyberskydd mot tredjepartsrisker såsom potentiella hackningsförsök. Återigen är kontroller en viktig del av att stärka säkerheten eftersom de är avsedda att upptäcka blinda fläckar innan de orsakar skada.

Branschen står vid ett vägskäl, antingen genom att avvisa tekniken för att hålla fast vid traditionella modeller för granskning av forskning eller genom att omfamna den. Det förra innebär bara att processen så småningom kollapsar under efterfrågan. Det senare ger däremot förläggare och granskare möjlighet att inte bara hålla jämna steg, utan att ligga steget före den växande efterfrågan.