I den nye paradigmen for publisering er AI uunnværlig

Tradisjonelle publiseringsmodeller reformeres raskt ettersom støtten til åpen tilgang fortsetter å vokse. I fjor økte innsendelser med 30%, ifølge Springer Nature. Men denne etterspørselen viser seg å være et tveegget sverd, ettersom tilbakekrevde artikler har nådd et historisk høyeste nivå det siste tiåret, og tidsskriftene er oversvømmet med AI-genererte artikler og fabrikkert forskning.

Dette fører naturligvis til flaskehalser som skader forlag, forskere og fagfeller. Publikasjoner sliter med å holde seg til redaksjonelle tidsplaner fordi fagfeller hastig prøver å vurdere artikler, og forfattere sitter igjen og venter i måneder, om ikke år, på å bli publisert. Den nåværende fagfellevurderingsmodellen ble aldri designet for å håndtere dette etterspørselsnivået.

Midt i dette er det avgjørende å anerkjenne AI sin rolle som et viktig støtteredskap for å styrke eksisterende fagfellevurderingsprosesser og hjelpe bransjen med å overvinne sine største hindringer.

Hvorfor tradisjonelle prosesser sprekker

Fagfellevurdering er ulønnet arbeid. Fagfeller gir av sin tid som en godviljehandling overfor de akademiske og vitenskapelige fellesskapene. Kravene er store, og belønningene er mindre attraktive med alle pressene som bygger seg opp. På grunn av den økende etterspørselen og de overdrevne belastningene, aksepterer færre fagfeller invitasjoner til å vurdere artikler. Dessuten blir rekruttering av fagfeller en stadig større utfordring for redaktører, noe som forverrer etterslep og forlenger publiserings tidslinjer.

Samtidig står akademikere overfor et ‘publiser eller dø’ miljø. For å komme seg videre i karrieren forventes de å ha publisert arbeid i et stadig mer overfylt landskap. Dette er en universell forventning verden over, og det er press for å skille seg ut i støyen, i tillegg til belastningen med å møte den påfølgende etterspørselen. Disse faktorene ligger bak fagfellevurderingskrisen, hvor det nåværende systemet, slik det er, ikke er bærekraftig.

For å klargjøre bør AI-verktøy ikke tas i bruk i fagfellevurderingsprosessen for å erstatte menneskelig dømmekraft, men snarere for å styrke den. Forfattere og redaktører forventer et visst nivå av respekt og engasjement i vurderingsprosessen, slik det gis til forskning.

Imidlertid kan små feil lett gå ubemerket hen, spesielt når fagfeller haster med å vurdere et stort antall artikler. For å illustrere, en studie fant at i 2020 ble over 100 millioner timer – tilsvarende 15 000 år – brukt på globale fagfellevurderinger.

Det gjør likevel ikke disse feilene til en akseptabel norm. Det som kan virke som en ubetydelig overseelse, som en liten feil i data, kan skade lesernes oppfatning av forskningskvaliteten.

AI som støtteredskap, ikke en erstatning

AI-verktøy markerer subtile feil som ellers kan bli oversett. Sitatfeil, datautelatelser og potensielle overlappinger med eksisterende litteratur er bare noen av eksemplene på små, men betydningsfulle feil som fagfeller kan gå glipp av.

Disse verktøyene er designet for å håndtere lavrisikopgaver slik at fagfeller kan fokusere på de mer avanserte aspektene av redigering, som ekspertanalyse og kontekstuell vurdering. Et verktøy er begrenset til dataene det får, men en menneskelig fagfelle med spesialisert ekspertise kan sette forskningen i en mye bredere og mer informert kontekst. Dessuten kan en algoritme ikke erstatte den subtile resonneringen hos fagspesialister, og den bør det heller ikke. Den kan imidlertid lette noen av de mindre kritiske byrdene de møter.

AI kan hjelpe fagfeller med å gi klarere og mer innsiktsfull tilbakemelding, men kun når det brukes klokt. Det kan bistå med å bekrefte sitater, fremheve metodologiske bekymringer, oppdage manglende data og påpeke likheter med tidligere publisert forskning. En annen grunn til at det appellerer til fagfeller er potensialet for AI-drevet søk som kan hjelpe dem med å holde seg oppdatert på ny kunnskap.

Avgjørende er imidlertid at bransjeledere, som seniorredaktører i Elsevier, støtter viktigheten av balanse. De ser det som et nyttig verktøy for å forbedre vurderingskvaliteten, men kun når det brukes etisk og alltid med menneskelig tilsyn.

Å takle de bredere implikasjonene av AI-adopsjon

Bekymringer florerer i det akademiske fellesskapet. Nylig fant forskere at innstrømningen av innsendelser etter ChatGPT har økt med 42%, men skrivekvaliteten har dessverre tatt et slag. Den samme studien påpekte også bekymringer rundt hvordan AI brukes til å informere redaksjonelle beslutninger når den brukes i fagfellevurderinger.

I tillegg henger retningslinjer og reguleringer fortsatt etter teknologien for å sikre at verktøyene brukes etisk og i moderasjon. Både enkeltpersoner og publikasjoner må forstå de tilknyttede risikoene. Misbruk av disse verktøyene garanterer bias, hallusinasjoner, feilaktige konklusjoner og falske oppfatninger.

Det akademiske publiseringsmiljøet er også bekymret for personvern og konfidensialitet. Forfattere føler seg ofte urolige når eksterne verktøy integreres i vurderingsprosessen, spesielt i situasjoner der forskningen inneholder sensitiv data. Denne angsten for potensielle lekkasjer er forståelig gitt den tiden og innsatsen forfattere legger ned i sin forskning.

Av disse årsakene er oppfatningene av AI i vurderingsprosessen ganske svake. Felles forskning fra KPMG og University of Melbourne fant at 46% av folk er villige til å stole på AI. Undersøkelsen viste også at et overveldende flertall (70%) mener at regulering er nødvendig.

Disse faktorene må adresseres, og det krever opplæring og åpenhet rundt hvordan AI brukes, uavhengig av i hvilken grad den benyttes i fagfellevurderinger. Alle som bruker AI i vurderingsprosessen må forstå beste praksis og anvende kritisk tenkning gjennom hele prosessen. Vurderere og publiseringsteam må bygge opp sine ferdigheter innen AI og datakompetanse, som inkluderer evnen til å tolke modellens oppførsel, gjenkjenne begrensninger og dempe risikoer som hallusinasjoner.

Åpenhet er grunnleggende for adopsjonsstrategier, og publikasjoner og vurderere må være forberedt på å klargjøre og begrunne AI‑bruk. Rutinemessige revisjoner kan bidra til å bekrefte presisjon og pålitelighet. Det er også viktig for publikasjoner å spesifisere hvordan modeller er trent og hvilke data som styrer dem. I akademia må forfattere alltid demonstrere sine forskningsmetoder og begrunnelser. Samme nivå av åpenhet bør gjelde for AI‑bruk.

Sikkerheten til disse verktøyene kan ikke ignoreres. Datakryptering tilfører et etterlengtet lag med cybersikkerhet mot tredjeparts trusler som potensielle hackingsforsøk. Igjen er revisjoner en viktig del av å styrke sikkerheten fordi de er designet for å avdekke eventuelle blindsoner før de forårsaker skade.

Bransjen står ved et veiskille, enten ved å avvise teknologi for å holde seg til tradisjonelle modeller for vurdering av forskning, eller ved å omfavne den. Det første betyr at det bare er et spørsmål om tid før prosessen kollapser under etterspørselen. Det siste, derimot, gir forleggere og vurderere muligheten til ikke bare å holde tritt, men å ligge i forkant av den økende etterspørselen.