Kansainväliset tutkijat vaativat enemmän avoimuutta tekoälytutkimuksessa

Ryhmä kansainvälisiä tutkijoita, jotka ovat eri instituutioista, kuten Princess Margaret Cancer Centre, University of Toronto, Stanford University, Johns Hopkins, Harvard School of Public Health ja Massachusetts Institute of Technology, vaativat enemmän avoimuutta tekoälytutkimuksessa. Tämän vaatimuksen takana on vapauttaa tärkeitä havaintoja, jotka voivat auttaa kiihdyttämään syöpähoidon kehittymistä tutkimuksen perusteella. 

Artikkeli, jossa tutkijat vaativat tieteellisiä lehtiä korottamaan standardejaan avoimuuden suhteen laskennallisten tutkijoiden keskuudessa, julkaistiin Nature -lehdessä 14. lokakuuta 2020. Ryhmä myös kannusti kollegoitaan julkaisemaan koodin, mallin ja laskennalliset ympäristöt julkaisuissa. 

Artikkelin otsikko oli “Avoimuus ja toistettavuus tekoälyssä.” 

Julkaisemalla tekoälytutkimuksen yksityiskohdat

Tohtori Benjamin Haibe-Kains on vanhempi tutkija Princess Margaret Cancer Centressä ja julkaisun ensisijainen tekijä. 

“Tieteellinen edistys riippuu tutkijoiden kyvystä tarkastella tutkimuksen tuloksia ja toistaa pääasiat oppimisen vuoksi,” tohtori Haibe-Kains sanoo. “Mutta laskennallisessa tutkimuksessa ei ole vielä laajasti kriteeri, jonka mukaan tekoälytutkimuksen yksityiskohdat ovat täysin saatavilla. Tämä on haitallista edistymisellemme.” 

Huolenaihe nousi esiin Google Health -tutkimuksen jälkeen, jonka McKinney et al. julkaisi merkittävän tieteellisen lehden sivuilla vuonna 2020, ja jossa väitettiin, että tekoälyjärjestelmä voisi ylittää ihmisten röntgenhoitajien suorituskyvyn rintasyövän seulonnassa. Tutkimus sai paljon huomiota eri julkaisuissa. 

Mahonaisuus toistaa malleja

Yksi merkittävimmistä huolenaiheista, joka nousi esiin tutkimuksen jälkeen, oli, että siinä ei kuvattu tarkasti käytettyjä menetelmiä, koodia ja malleja. Tämä avoimuuden puute merkitsi, että tutkijat eivät voineet oppia, miten malli toimii, mikä johti siihen, että mallia ei voitu käyttää muissa laitoksissa. 

“Paperilla ja teoriassa McKinney et al. -tutkimus on kaunis,” tohtori Haibe-Kains sanoo. “Mutta jos emme voi oppia siitä, niin sillä on vähän tai ei ollenkaan tieteellistä arvoa.”

Tohtori Haibe-Kains on nimitetty yhteisesti apulaisprofessoriksi lääketieteellisessä biofysiikassa University of Torontossa. Hän on myös liitännäisjäsen Vector Institute for Artificial Intelligencessa. 

“Tutkijat ovat enemmän motivoiduksi julkaisemaan löytönsä kuin käyttämään aikaa ja resursseja varmistamaan, että heidän tutkimuksensa voidaan toistaa,” tohtori Haibe-Kains jatkaa. “Lehdet ovat alttiita tekoälyn ‘hypeille’ ja voivat alentaa standardejaan hyväksymällä artikkeleita, jotka eivät sisällä kaikkia materiaaleja, joita tarvitaan tutkimuksen toistettavuuteen — usein omien ohjeidensa vastaisesti.”

Tämä ympäristö merkitsee, että tekoälymallit voivat kestää kauemmin ennen kuin ne pääsevät kliinisiin olosuhteisiin, ja malleja ei voida toistaa tai oppia tutkijoiden toimesta. 

Tutkijaryhmä ehdotti useita kehyksiä ja alustoja tämän ongelman korjaamiseksi ja sallimaan menetelmien jakamisen. 

“Meillä on suuret toiveet tekoälyn hyödyistä syöpapotilaidemme hoidossa,” tohtori Haibe-Kains sanoo. “Jakaessamme ja kehittäessämme löytöjämme — se on todellinen tieteellinen vaikutus.”