In het nieuwe paradigma van publiceren is AI onmisbaar

Traditionele publicatiemodellen hervormen zich snel nu de steun voor open access blijft stijgen. Vorig jaar stegen de inzendingen met 30%, volgens Springer Nature. Maar deze vraag blijkt een tweesnijdend zwaard te zijn, aangezien het aantal ingetrokken artikelen een recordhoogte heeft bereikt in het afgelopen decennium, en tijdschriften worden overspoeld met door AI gegenereerde artikelen en gefabriceerd onderzoek.

Natuurlijk veroorzaakt dit knelpunten die uitgevers, onderzoekers en beoordelaars benadelen. Publicaties hebben moeite om zich aan redactionele schema’s te houden omdat beoordelaars zich haasten om papers te evalueren, en auteurs maanden, zo niet jaren, moeten wachten om gepubliceerd te worden. Het huidige peer‑reviewmodel is nooit ontworpen om deze schaal van vraag te ondersteunen.

Te midden hiervan is het cruciaal de rol van AI te erkennen als een essentieel ondersteuningsinstrument om bestaande peer‑reviewprocessen te versterken en de sector te helpen haar grootste belemmeringen te overwinnen.

Waarom traditionele processen breken

Peer review is onbetaald werk. Beoordelaars bieden hun tijd vrijwillig aan als een daad van goodwill voor de academische en wetenschappelijke gemeenschappen. De eisen zijn hoog en de beloningen minder aantrekkelijk door de toenemende druk. Door de groeiende vraag en overmatige belasting accepteren steeds minder beoordelaars uitnodigingen om papers te evalueren. Bovendien vormt het vinden van beoordelaars een steeds grotere uitdaging voor redacteuren, wat de achterstanden verergert en de publicatietijdlijnen verlengt.

Tegelijkertijd staan academici onder een ‘publish or perish’-omgeving. Om professioneel vooruit te komen, wordt van hen verwacht dat ze werk hebben gepubliceerd in een steeds dichter wordend landschap. Dit is een wereldwijde verwachting, en er is druk om zich te onderscheiden temidden van de ruis, naast de spanning om aan de daardoor ontstaan vraag te voldoen. Deze factoren liggen ten grondslag aan de peer‑reviewcrisis, waarbij het huidige systeem, zoals het nu bestaat, niet duurzaam is.

Ter verduidelijking mogen AI‑tools niet in het peer‑reviewproces worden ingevoerd om menselijk oordeel te vervangen, maar om het te versterken. Auteurs en redacteuren verwachten een bepaald niveau van respect en toewijding in het beoordelingsproces, zoals dat aan onderzoek wordt gegeven.

Kleine fouten kunnen echter gemakkelijk onopgemerkt blijven, vooral wanneer beoordelaars zich haasten om een groot aantal papers te beoordelen. Om dit te illustreren, heeft een onderzoek aangetoond dat er in 2020 meer dan 100 miljoen uur – het equivalent van 15.000 jaar – werd besteed aan wereldwijde peer reviews.

Dat maakt deze fouten echter niet tot een aanvaardbare norm. Wat misschien lijkt op een onbeduidende vergissing, zoals een kleine fout in gegevens, kan de perceptie van lezers over de kwaliteit van het onderzoek schaden.

AI als ondersteunend hulpmiddel, niet als vervanging

AI‑tools signaleren subtiele fouten die anders over het hoofd kunnen worden gezien. Citatie‑fouten, ontbrekende data en mogelijke overlappingen met bestaande literatuur zijn slechts enkele voorbeelden van kleine maar belangrijke fouten die beoordelaars kunnen missen.

Deze tools zijn ontworpen om laag‑risicotaken af te handelen zodat beoordelaars zich kunnen richten op de meer geavanceerde aspecten van redactie, zoals deskundige analyse en contextuele beoordeling. Een tool is beperkt tot de gegevens die erin worden gestopt, maar een menselijke beoordelaar met gespecialiseerde expertise kan onderzoek in een veel bredere en beter onderbouwde context plaatsen. Bovendien kan een algoritme het subtiele redeneren van vakexperts niet vervangen, en zou het dat ook niet moeten. Het kan echter wel enkele van de minder kritieke lasten die zij ondervinden verlichten.

AI kan beoordelaars helpen duidelijkere en meer inzichtelijke feedback te geven, maar alleen wanneer het verstandig wordt gebruikt. Het kan ondersteunen bij het verifiëren van citaties, het benadrukken van methodologische kwesties, het opsporen van ontbrekende data en het signaleren van overeenkomsten met eerder gepubliceerd onderzoek. Een andere reden waarom het aantrekkelijk is voor beoordelaars, is het potentieel van AI‑gestuurde zoekfuncties om hen op de hoogte te houden van nieuwe kennis.

Cruciaal is echter dat industrie‑leiders, zoals senior redacteuren bij Elsevier, het belang van evenwicht onderschrijven. Zij zien het als een nuttig instrument om de kwaliteit van beoordelingen te verbeteren, maar alleen wanneer het ethisch wordt toegepast en altijd onder menselijk toezicht.

De bredere implicaties van AI‑adoptie aanpakken

Zorgen zijn volop aanwezig binnen de academische gemeenschap. Recentelijk hebben onderzoekers ontdekt dat de toestroom van inzendingen na ChatGPT is gestegen met 42%, maar dat de kwaliteit van het schrijven helaas is afgenomen. Diezelfde studie signaleerde ook zorgen over hoe AI wordt gebruikt om redactionele beslissingen te informeren wanneer het in peer reviews wordt toegepast.

Bovendien lopen richtlijnen en regelgeving nog achter bij de technologie om ervoor te zorgen dat tools ethisch en gematigd worden gebruikt. Zowel individuen als publicaties moeten de bijbehorende risico’s begrijpen. Misbruik van deze tools garandeert vooringenomenheid, hallucinaties, onjuiste conclusies en valse percepties.

De academische uitgeversgemeenschap maakt zich ook zorgen over privacy en vertrouwelijkheid. Auteurs voelen zich vaak ongemakkelijk wanneer externe tools in het beoordelingsproces worden geïntegreerd, vooral in situaties waarin onderzoek gevoelige gegevens bevat. Deze angst voor mogelijke lekken is begrijpelijk gezien de hoeveelheid tijd en moeite die auteurs aan hun onderzoek besteden.

Om deze redenen zijn de percepties van AI in het beoordelingsproces tamelijk zwak. Gezamenlijk onderzoek van KPMG en de Universiteit van Melbourne wees uit dat 46% van de mensen bereid is AI te vertrouwen. Dit onderzoek toonde ook aan dat een overweldigende meerderheid (70%) vindt dat regelgeving noodzakelijk is.

Deze factoren moeten worden aangepakt, en dat vereist training en transparantie over hoe AI wordt toegepast, ongeacht de mate waarin het wordt gebruikt in peer‑reviews. Iedereen die AI in het beoordelingsproces gebruikt, moet de beste praktijken begrijpen en kritisch denken toepassen gedurende het hele proces. Beoordelaars en uitgevers‑teams zullen hun vaardigheden op het gebied van AI en datageletterdheid moeten ontwikkelen, waaronder het kunnen interpreteren van modelgedrag, het herkennen van beperkingen en het mitigeren van risico’s zoals hallucinaties.

Transparantie vormt de basis van adoptiestrategieën, en publicaties en beoordelaars moeten bereid zijn om de inzet van AI toe te lichten en te verantwoorden. Routine‑audits kunnen helpen de nauwkeurigheid en betrouwbaarheid te bevestigen. Het is bovendien cruciaal dat publicaties aangeven hoe modellen worden getraind en welke data ze aansturen. In de academische wereld moeten auteurs altijd hun onderzoeksmethoden en -redenering aantonen. Hetzelfde niveau van openheid dient van toepassing te zijn op het gebruik van AI.

De beveiliging van deze tools mag ook niet worden genegeerd. Gegevensversleuteling voegt een broodnodige laag cyberbescherming toe tegen externe bedreigingen, zoals mogelijke hackpogingen. Ook hier zijn audits een essentieel onderdeel van het versterken van de beveiliging, omdat ze zijn ontworpen om eventuele blinde vlekken op te sporen voordat ze schade veroorzaken.

De sector bevindt zich op een kruispunt, waarbij men ofwel kiest om technologie af te wijzen om vast te houden aan traditionele modellen voor het beoordelen van onderzoek, ofwel om deze te omarmen. Het eerste betekent dat het slechts een kwestie van tijd is voordat het proces bezwijkt onder de toenemende vraag. Het tweede daarentegen geeft uitgevers en beoordelaars de mogelijkheid niet alleen het tempo bij te houden, maar de snelgroeiende vraag voor te blijven.