Tjäna pengar på forskning för AI-utbildning: Riskerna och bästa praxis

I takt med att efterfrågan på generativ AI ökar, ökar också hungern efter högkvalitativ data för att träna dessa system. Vetenskapliga förlag har börjat tjäna pengar på sitt forskningsinnehåll för att tillhandahålla utbildningsdata för stora språkmodeller (LLM). Även om denna utveckling skapar en ny intäktsström för publicister och ger generativ AI för vetenskapliga upptäckter, väcker den kritiska frågor om integriteten och tillförlitligheten hos den forskning som används. Detta väcker en avgörande fråga: Är datauppsättningarna som säljs tillförlitliga, och vilka konsekvenser har denna praxis för det vetenskapliga samfundet och generativa AI-modeller?

Ökningen av intäktsgenererade forskningserbjudanden

Stora akademiska förlag, inklusive Wiley, Taylor & Francis, och andra, har rapporterade betydande intäkter från att licensiera deras innehåll till teknikföretag som utvecklar generativa AI-modeller. Till exempel avslöjade Wiley över 40 miljoner dollar i intäkter från sådana affärer bara i år. Dessa avtal ger AI-företag tillgång till olika och expansiva vetenskapliga datauppsättningar, vilket förmodligen förbättrar kvaliteten på deras AI-verktyg.

Pitch från förlag är okomplicerad: licensiering säkerställer bättre AI-modeller, gynnar samhället samtidigt som författare belönas med royalties. Denna affärsmodell gynnar både teknikföretag och förlag. Den ökande trenden att tjäna pengar på vetenskaplig kunskap har dock risker, främst när tvivelaktig forskning infiltrerar dessa AI-träningsdatauppsättningar.

Skuggan av falsk forskning

Den vetenskapliga gemenskapen är inte främmande för frågor om bedräglig forskning. Studier tyder på att många publicerade resultat är felaktiga, partiska eller bara opålitliga. En undersökning från 2020 visade att nästan hälften av forskarna rapporterade frågor som selektiv datarapportering eller dåligt utformade fältstudier. År 2023 var mer än 10,000-papper drogs tillbaka på grund av förfalskade eller opålitliga resultat, ett antal som fortsätter att stiga årligen. Experter tror att denna siffra representerar toppen av ett isberg, med otaliga tvivelaktiga studier som cirkulerar i vetenskapliga databaser.

Krisen har främst drivits av "pappersbruk”, skuggorganisationer som producerar påhittade studier, ofta som svar på akademiskt tryck i regioner som Kina, Indien och Östeuropa. Det uppskattas det runt 2% av tidskrifter globalt kommer från pappersbruk. Dessa skenpapper kan likna legitim forskning men är fulla av fiktiva data och grundlösa slutsatser. Oroväckande nog glider sådana artiklar genom peer review och hamnar i respekterade tidskrifter, vilket äventyrar tillförlitligheten hos vetenskapliga insikter. Till exempel, under covid-19-pandemin, bristfälliga studier på ivermektin föreslog felaktigt dess effektivitet som behandling, sådde förvirring och försenade effektiva folkhälsosvar. Detta exempel belyser den potentiella skadan av att sprida opålitlig forskning, där felaktiga resultat kan ha en betydande inverkan.

Konsekvenser för AI-träning och tillit

Konsekvenserna är djupgående när LLM:er tränar på databaser som innehåller bedräglig forskning eller forskning av låg kvalitet. AI-modeller använder mönster och relationer i sina träningsdata för att generera utdata. Om indata är korrupta kan utgångarna vidmakthålla felaktigheter eller till och med förstärka dem. Denna risk är särskilt hög inom områden som medicin, där felaktiga AI-genererade insikter kan få livshotande konsekvenser.
Dessutom hotar frågan allmänhetens förtroende för akademin och AI. Eftersom utgivare fortsätter att göra avtal måste de ta itu med farhågor om kvaliteten på den data som säljs. Om det inte görs kan det skada forskarsamhällets rykte och undergräva AI:s potentiella samhällsfördelar.

Säkerställa tillförlitlig data för AI

Att minska riskerna för att bristfällig forskning stör AI-utbildningen kräver en gemensam insats från förlag, AI-företag, utvecklare, forskare och samhället i stort. Utgivare måste förbättra sin peer-review-process för att fånga opålitliga studier innan de gör det till utbildningsdatauppsättningar. Att erbjuda bättre belöningar för recensenter och sätta högre standarder kan hjälpa. En öppen granskningsprocess är avgörande här. Det ger mer transparens och ansvarsskyldighet, vilket hjälper till att bygga upp förtroende för forskningen.
AI-företag måste vara mer försiktiga med vem de arbetar med när de skaffar forskning för AI-utbildning. Att välja förlag och tidskrifter med ett starkt rykte för högkvalitativ, välrecensat forskning är nyckeln. I det här sammanhanget är det värt att titta närmare på en förläggares meritlista – som hur ofta de drar tillbaka papper eller hur öppna de är om sin granskningsprocess. Att vara selektiv förbättrar datas tillförlitlighet och bygger förtroende inom AI och forskningsgrupper.

AI-utvecklare måste ta ansvar för den data de använder. Detta innebär att arbeta med experter, noggrant kontrollera forskning och jämföra resultat från flera studier. AI-verktyg i sig kan också utformas för att identifiera misstänkta data och minska riskerna för att tvivelaktig forskning sprids ytterligare.

Transparens är också en viktig faktor. Publishers och AI-företag bör öppet dela detaljer om hur forskning används och var royalties går. Verktyg som Generativ spårning av AI-licensavtal visa löfte men behöver bredare antagande. Forskare bör också ha inflytande över hur deras arbete används. Opt-in policyer, som de från Cambridge University Press, erbjuder författare kontroll över sina bidrag. Detta bygger förtroende, säkerställer rättvisa och gör att författare deltar aktivt i denna process.

Dessutom bör öppen tillgång till forskning av hög kvalitet uppmuntras för att säkerställa inklusivitet och rättvisa inom AI-utveckling. Regeringar, ideella organisationer och branschaktörer kan finansiera initiativ med öppen tillgång, vilket minskar beroendet av kommersiella utgivare för viktiga utbildningsdatauppsättningar. Utöver det behöver AI-branschen tydliga regler för att anskaffa data etiskt. Genom att fokusera på pålitlig, väl granskad forskning kan vi bygga bättre AI-verktyg, skydda vetenskaplig integritet och upprätthålla allmänhetens förtroende för vetenskap och teknik.

The Bottom Line

Att tjäna pengar på forskning för AI-utbildning innebär både möjligheter och utmaningar. Även om licensiering av akademiskt innehåll möjliggör utveckling av mer kraftfulla AI-modeller, väcker det också farhågor om integriteten och tillförlitligheten hos de data som används. Felaktig forskning, inklusive den från "pappersbruk", kan korrumpera AI-utbildningsdatauppsättningar, vilket kan leda till felaktigheter som kan undergräva allmänhetens förtroende och de potentiella fördelarna med AI. För att säkerställa att AI-modeller bygger på tillförlitlig data måste utgivare, AI-företag och utvecklare samarbeta för att förbättra processer för peer review, öka transparensen och prioritera högkvalitativ, väl beprövad forskning. Genom att göra det kan vi värna om AIs framtid och upprätthålla integriteten hos det vetenskapliga samfundet.