Monetisering av forskning for AI-trening: Risiko og beste praksis

Ettersom etterspørselen etter generativ AI øker, øker også behovet for høykvalitetsdata for å trene disse systemene. Vitenskapelige forlag har begynt å monetisere sin forskningsinnhold for å levere treningsdata for store språkmodeller (LLM). Mens denne utviklingen skaper en ny inntektsstrøm for forlag og muliggjør generativ AI for vitenskapelige oppdagelser, reiser det kritiske spørsmål om integriteten og påliteligheten til forskningen som brukes. Dette reiser et kritisk spørsmål: Er datasettene som selges pålitelige, og hva er implikasjonene for det vitenskapelige samfunnet og generative AI-modeller?

Oppsvinget i monetiserte forskningsavtaler

Majoriteten av akademiske forlag, inkludert Wiley, Taylor & Francis og andre, har rapportert betydelige inntekter fra lisensiering av innhold til teknologiselskaper som utvikler generative AI-modeller. For eksempel avslørte Wiley at de hadde tjent over 40 millioner dollar fra slike avtaler i år alene. Disse avtaleene gjør det mulig for AI-selskaper å få tilgang til diverse og omfattende vitenskapelige datasett, som antakeligvis forbedrer kvaliteten på deres AI-verktøy.

Argumentet fra forlagene er rett frem: lisensiering sikrer bedre AI-modeller, som gir fordeler for samfunnet og belønner forfattere med royalties. Denne forretningsmodellen er gunstig for både teknologiselskaper og forlag. Imidlertid har den økende trenden til å monetisere vitenskapelig kunnskap risikoer, spesielt når tvilsomme forskningsresultater infiltrerer disse AI-treningsdatasettene.

Skyggen av tvilsomme forskningsresultater

Det vitenskapelige samfunnet er ingen fremmed for problemer med svindelforsking. Studier tyder på at mange publiserte funn er feilaktige, forvrengte eller bare upålitelige. En undersøkelse fra 2020 viste at nesten halvparten av forskerne rapporterte problemer som selektiv data-rapportering eller dårlig designet feltstudier. I 2023 ble over 10 000 artikler trukket tilbake på grunn av forfalskede eller upålitelige resultater, et tall som fortsatt øker årlig. Eksperter mener at dette tallet bare er toppen av isfjellet, med talløse tvilsomme studier som sirkulerer i vitenskapelige databaser.

Krisen har hovedsakelig vært drevet av “paper mills“, skyggeorganisasjoner som produserer fabrikkerte studier, ofte som respons på akademisk press i regioner som Kina, India og Øst-Europa. Det estimeres at omtrent 2% av tidsskriftsinnlegg globalt kommer fra paper mills. Disse falske artiklene kan ligne legitime forskning, men er fullstendig fylt med fiktiv data og grundløse konklusjoner. Forferdelig, slike artikler slipper gjennom fagfellevurdering og havner i respekterte tidsskrifter, og kompromitterer dermed påliteligheten av vitenskapelige innsikter. For eksempel, under COVID-19-pandemien, feilaktige studier om ivermektin feilaktig foreslo dets effektivitet som behandling, og sådde forvirring og forsinket effektive offentlige helse-tiltak. Dette eksemplet understreker den potensielle skaden av å spre upålitelig forskning, hvor feilaktige resultater kan ha en betydelig innvirkning.

Konsekvenser for AI-trening og tillit

Implikasjonene er dyptgående når LLM-er trenes på databaser som inneholder svindelforsking eller lavkvalitetsforskning. AI-modeller bruker mønster og relasjoner i deres treningsdata for å generere utdata. Hvis inndata er korrupt, kan utdataene videreformidle uakkurater eller til og med forsterke dem. Denne risikoen er spesielt høy i felt som medisin, hvor feilaktige AI-genererte innsikter kan ha livstruende konsekvenser.

I tillegg truer problemet offentlighetens tillit til akademia og AI. Mens forlag fortsetter å inngå avtaler, må de adresse bekymringer om kvaliteten på dataene som selges. Svikt i å gjøre dette kan skade ryktet til det vitenskapelige samfunnet og undergrave AI-s muligheter til å gi samfunnet fordeler.

Sikring av pålitelige data for AI

Redusere risikoen for feilaktig forskning som forstyrer AI-trening, krever et felles arbeid fra forlag, AI-selskaper, utviklere, forskere og det brede samfunnet. Forlag må forbedre sin fagfellevurderingsprosess for å fange usikre studier før de havner i treningsdatasett. Å tilby bedre belønninger for fagfellevurdere og å sette høyere standarder kan hjelpe. En åpen fagfellevurderingsprosess er kritisk her. Den bringer mer transparens og ansvar, og hjelper til å bygge tillit til forskningen.

AI-selskaper må være mer forsiktige når de velger å samarbeide med forlag og tidsskrifter som har en sterk rykte for høykvalitets-, godt gjennomgått forskning. I denne konteksten er det verdt å se nærmere på et forlags track record – som hvor ofte de trekker tilbake artikler eller hvor åpne de er om sin fagfellevurderingsprosess. Å være selektiv forbedrer dataens pålitelighet og bygger tillit over AI- og forskningssamfunnet.

AI-utviklere må ta ansvar for dataene de bruker. Dette innebærer å samarbeide med eksperter, å nøye gjennomgå forskning, og å sammenligne resultater fra flere studier. AI-verktøyene selv kan også være designet for å identifisere mistenkelig data og redusere risikoen for at tvilsomme forskningsresultater spreder seg videre.

Transparens er også en essensiell faktor. Forlag og AI-selskaper bør åpenlyst dele detaljer om hvordan forskning brukes og hvor royalties går. Verktøy som Generative AI Licensing Agreement Tracker viser løft, men trenger bredere adopsjon. Forskere bør også ha et ord med å si i hvordan deres arbeid brukes. Opt-in-politikk, som den fra Cambridge University Press, gir forfattere kontroll over sine bidrag. Dette bygger tillit, sikrer rettferdighet og gjør at forfattere aktivt deltar i denne prosessen.

I tillegg bør åpen tilgang til høykvalitetsforskning oppmuntres for å sikre inklusivitet og rettferdighet i AI-utvikling. Regjeringer, ikke-statlige organisasjoner og industrielle aktører kan finansiere åpen-tilgangs-initiativer, og redusere avhengigheten av kommersielle forlag for kritiske treningsdatasett. I tillegg trenger AI-industrien klare regler for å hente data etisk. Ved å fokusere på pålitelig, godt gjennomgått forskning, kan vi bygge bedre AI-verktøy, beskytte vitenskapelig integritet og opprettholde offentlighetens tillit til vitenskap og teknologi.

Det ultimate punktet

Monetisering av forskning for AI-trening presenterer både muligheter og utfordringer. Mens lisensiering av akademisk innhold muliggjør utvikling av mer kraftfulle AI-modeller, reiser det også bekymringer om integriteten og påliteligheten til dataene som brukes. Feilaktig forskning, inkludert den fra “paper mills”, kan korrupte AI-treningsdatasett, og føre til uakkurater som kan undergrave offentlighetens tillit og AI-s muligheter til å gi samfunnet fordeler. For å sikre at AI-modellene bygges på pålitelige data, må forlag, AI-selskaper og utviklere arbeide sammen for å forbedre fagfellevurderingsprosessen, øke transparensen og prioritere høykvalitets-, godt gjennomgått forskning. Ved å gjøre dette, kan vi sikre fremtiden til AI og opprettholde integriteten til det vitenskapelige samfunnet.