Tutkimuksen rahoittaminen tekoälykoulutuksessa: Riskit ja parhaat käytännöt

Tekoälyvaatimusten kasvaessa kasvaa myös korkealaatuisen aineiston tarve näiden järjestelmien kouluttamiseen. Tieteelliset kustantajat ovat alkaneet rahoittaa tutkimus sisältöään tarjoamaan koulutus dataa suurille kielimalleille (LLM). Vaikka tämä kehitys luo uuden tulonlähteen kustantajille ja tekoälylle tieteellisissä löydöissä, se herättää kriittisiä kysymyksiä tutkimuksen eheytymisen ja luotettavuuden käytössä. Tämä herättää olennaisen kysymyksen: Onko myytävät tietokannat luotettavia, ja mitkä vaikutukset tämä käytäntö on tieteelliselle yhteisölle ja tekoälymallille?

Tutkimuksen rahoittamisen nousu

Suuret akateemiset kustantajat, kuten Wiley, Taylor & Francis ja muut, ovat raportoineet merkittäviä tuloja lisensoimalla sisältöään teknologiayrityksille, jotka kehittävät tekoälymalleja. Esimerkiksi Wiley paljasti yli 40 miljoonan dollarin tulot näistä kaupoista tänä vuonna. Nämä sopimukset mahdollistavat tekoälyyritysten pääsyn monipuolisiin ja laajoihin tieteellisiin tietokantoihin, joiden oletetaan parantavan tekoälytyökalujen laatua.

Kustantajien tarjous on suoraviivainen: lisensointi takaa paremmat tekoälymallit, hyödyttäen yhteiskuntaa ja palkitsee tekijöitä rojalteilla. Tämä liiketoimintamalli hyödyttää sekä teknologiayrityksiä että kustantajia. Kuitenkin tieteellisen tiedon rahoittamisen kasvava trendi sisältää riskejä, erityisesti kun kyseenalainen tutkimus tunkeutuu näihin tekoälykoulutus tietokantoihin.

Epäilyttävän tutkimuksen varjo

Tieteellinen yhteisö ei ole vieras ongelmien kanssa, jotka liittyvät petolliseen tutkimukseen. Tutkimukset osoittavat, että moni julkaistu löytö on viallinen, vinoutunut tai epäluotettava. Vuoden 2020 kyselyssä lähes puolet tutkijoista raportoi ongelmista, kuten valikoivasta data-raportoinnista tai huonosti suunnitelluista kenttätutkimuksista. Vuonna 2023 yli 10 000 artikkelia vedettiin takaisin virheellisten tai epäluotettavien tuloksien vuoksi, ja tämä määrä jatkaa kasvamistaan vuosittain. Asiantuntijat uskovat, että tämä luku edustaa vain jäävuoren huippua, ja lukuisia epäilyttäviä tutkimuksia liikkuu tieteellisissä tietokannoissa.

Kriisi on pääasiassa johtunut “tutkimuspaperien myllyistä“, varjo-organisaatioista, jotka tuottavat väärennettyjä tutkimuksia usein akateemisen paineen vuoksi alueilla kuten Kiina, Intia ja Itä-Eurooppa. Arvioidaan, että noin 2% lehtien julkaisuista maailmanlaajuisesti tulee näiltä paperien myllyiltä. Nämä virheelliset paperit voivat muistuttaa aitoa tutkimusta, mutta ne ovat täynnä keksittyjä tietoja ja perättömiä johtopäätöksiä. Hämmästyttävästi nämä paperit pääsevät läpi vertaisarvioinnin ja päätyvät arvostettuihin lehtiin, vaarantaen tieteellisten havaintojen luotettavuuden. Esimerkiksi COVID-19-pandemian aikana virheelliset tutkimukset ivermektinin tehokkuudesta hoidossa aiheuttivat sekaannusta ja viivästyttivät tehokkaita julkisen terveydenhuollon toimia. Tämä esimerkki korostaa epäluotettavan tutkimuksen levittämisen mahdollista vahinkoa, jossa virheelliset tulokset voivat vaikuttaa merkittävästi.

Seuraukset tekoälykoulutukselle ja luottamukselle

Seuraukset ovat syvät, kun LLM:t koulutetaan tietokannoissa, jotka sisältävät väärennettyjä tai heikkolaatuisia tutkimuksia. Tekoälymallit käyttävät malleja ja suhteita koulutusdataansa generoidakseen tuloksia. Jos syötedata on viallinen, tulokset voivat jatkua virheellisyyksiä tai jopa vahvistaa niitä. Tämä riski on erityisen korkea aloilla, kuten lääketieteessä, jossa virheelliset tekoälygeneroidut havainnot voivat johtaa henkeä uhkaaviin seurauksiin.

Lisäksi ongelma uhkaa yleisön luottamusta akatemiaan ja tekoälyyn. Kun kustantajat jatkavat sopimusten tekemistä, heidän on vastattava huoleista datan laadusta, jota myydään. Epäonnistuminen tässä voi vahingoittaa tieteellisen yhteisön mainetta ja horjuttaa tekoälyn potentiaalisia yhteiskunnallisia hyötyjä.

Luotettavan datan turvaaminen tekoälylle

Riskejä vähentämiseksi, että vialliset tutkimukset häiriköivät tekoälykoulutusta, vaaditaan yhteistyötä kustantajilta, tekoälyyrityksiltä, kehittäjiltä, tutkijoilta ja laajemmalta yhteisöltä. Kustantajien on parannettava vertaisarviointiprosessiaan, jotta epäluotettavat tutkimukset voidaan havaita ennen kuin ne pääsevät koulutus tietokantoihin. Arvostelijoiden paremmat palkkiot ja korkeammat standardit voivat auttaa. Avoin arviointiprosessi on kriittinen tässä. Se tuo lisää avoimuutta ja vastuullisuutta, auttaen luotettavuuden rakentamisessa.

Tekoälyyritysten on oltava varovaisia siitä, keiden kanssa he työskentelevät tutkimuksen hankkimisessa tekoälykoulutukseen. Valitsemalla kustantajia ja lehtiä, joilla on vankka maine korkealaatuisesta, hyvin arvioidusta tutkimuksesta, on avainasemassa. Tässä yhteydessä on arvioitava kustantajan mainetta – kuten kuinka usein he peruuttavat artikkeleita tai kuinka avoimia he ovat arviointiprosessissaan. Valikoivuus parantaa datan luotettavuutta ja rakentaa luottamusta tekoäly- ja tutkimusyhteisöjen välille.

Tehtävä kehittäjien on ottaa vastuu käyttämistään datasta. Tämä tarkoittaa asiantuntijoiden työskentelemistä, tutkimuksen tarkkaa tarkastamista ja useiden tutkimusten tulosten vertaamista. Tekoälytyökalut voivat myös olla suunniteltu tunnistamaan epäilyttäviä tietoja ja vähentämään kyseenalaisen tutkimuksen leviämisen riskejä.

Avoimuus on myös olennainen tekijä. Kustantajien ja tekoälyyritysten on jaettava avoimesti tietoja siitä, miten tutkimusta käytetään ja mihin rojalteja käytetään. Työkalut kuten Generative AI Licensing Agreement Tracker näyttävät lupaavia, mutta niiden on saavuttava laajempi hyväksyntä. Tutkijoiden on myös oltava sanansa sanottavana siitä, miten heidän työtään käytetään. Opt-in-käytännöt, kuten Cambridge University Pressin käytäntö, antavat tekijöille valvontaa heidän panoksiinsa. Tämä rakentaa luottamusta, takaa reiluutta ja saa tekijät osallistumaan tähän prosessiin.

Lisäksi korkealaatuisen tutkimuksen avoimuuden edistäminen on tärkeää tekoälyn kehityksen kannalta. Hallitukset, voittoa tavoittelemattomat organisaatiot ja teollisuusvoimat voivat rahoittaa avoimuusaloitteita, vähentäen riippuvuutta kaupallisista kustantajista kriittisten koulutus tietokantojen osalla. Lisäksi tekoälyteollisuuden on kehitettävä selkeät säännöt eettisestä datan hankinnasta. Keskitettyämällä luotettavaan, hyvin arvioiduun tutkimukseen voimme luoda parempia tekoälytyökaluja, suojella tieteellistä eheytymistä ja ylläpitää yleisön luottamusta tieteeseen ja teknologiaan.

Pohjimmiltaan

Tutkimuksen rahoittaminen tekoälykoulutukseen tarjoaa sekä mahdollisuuksia että haasteita. Vaikka akateemisen sisällön lisensointi mahdollistaa tehokkaampien tekoälymallien kehittämisen, se herättää myös huolia datan eheytymisestä ja luotettavuudesta. Vialliset tutkimukset, mukaan lukien ne, jotka tulevat “tutkimuspaperien myllyistä”, voivat pilaantaa tekoälykoulutus tietokantoja, johtaen virheellisyyksiin, jotka voivat horjuttaa yleisön luottamusta ja tekoälyn potentiaalisia hyötyjä. Jotta tekoälymallit voidaan rakentaa luotettavalle datalle, kustantajien, tekoälyyritysten ja kehittäjien on työstettävä yhdessä parantaakseen vertaisarviointiprosesseja, lisätäkseen avoimuutta ja priorisoimalla korkealaatuisen, hyvin arvioidun tutkimuksen. Tekemällä näin, voimme turvata tekoälyn tulevaisuuden ja ylläpitää tieteellisen yhteisön eheytymistä.