Kansainväliset tutkijat vaativat enemmän avoimuutta tekoälytutkimuksessa

Useista instituuteista, kuten Princess Margaret Cancer Centre, Toronton yliopisto, Stanford-yliopisto, Johns Hopkins, Harvard School of Public Health ja Massachusetts Institute of Technology, tuleva kansainvälinen tutkijaryhmä vaatii enemmän avoimuutta tekoälytutkimuksessa. Tämän vaatimuksen taustalla on halu vapauttaa tärkeitä löytöjä, jotka voivat auttaa kiihdyttämään syöpähoidon kehittymistä tutkimuksen perusteella.

Tutkijat julkaisivat artikkelin, jossa he vaativat tieteellisiä lehtiä korottamaan standardejaan laskennallisen tutkimuksen avoimuuden suhteen, ja se julkaistiin Nature-lehdessä 14. lokakuuta 2020. Ryhmä esitti myös, että heidän kollegansa tulisi julkaisujen yhteydessä vapauttaa koodi, malli ja laskennalliset ympäristöt.

Artikkelin otsikko oli “Tekoälyn avoimuus ja toistettavuus”.

Julkaistavat tekoälytutkimuksen yksityiskohdat

Tohtori Benjamin Haibe-Kains on vanhempi tutkija Princess Margaret Cancer Centressä ja julkaisun ensisijainen tekijä.

“Tieteellinen edistys riippuu tutkijoiden kyvystä tarkastella tutkimuksen tuloksia ja toistaa merkittävimmät löydöt oppiakseen”, tohtori Haibe-Kains sanoo. “Mutta laskennallisessa tutkimuksessa ei ole yleisesti hyväksyttyä kriteeriä, jonka mukaan tekoälytutkimuksen yksityiskohdat ovat täysin saatavilla. Tämä haittaa edistymistämme.”

Huolenaiheita herätti Google (GOOGL ) Healthin tutkimus, jonka McKinney ym. julkaisi merkittävällä tieteellisellä lehdellä vuonna 2020, ja jossa väitettiin, että tekoälyjärjestelmä voisi suorittaa rintasyövän seulontaa ihmisten röntgenhoitajien paremmin sekä nopeudessa että luotettavuudessa. Tutkimus sai paljon huomiota useissa suurissa julkaisuissa.

Tehtävien mallien toistamattomuus

Yksi merkittävimmistä huolenaiheista, joka nousi esiin tutkimuksen jälkeen, oli, ettei siinä kuvattu tarkasti käytettyjä menetelmiä, koodia ja malleja. Tämä avoimuuden puute merkitsi, etteivät tutkijat voineet oppia, miten malli toimii, minkä seurauksena mallia ei voitu käyttää muiden laitosten toimesta.

“Teorian ja paperin valossa McKinney ym.:n tutkimus on kaunis”, tohtori Haibe-Kains sanoo. “Mutta jos emme voi oppia siitä, se on vain vähän tai ei lainkaan tieteellistä arvoa.”

Tohtori Haibe-Kains on myös yhteisnimityksessä apulaisprofessorina lääketieteellisessä biofysiikassa Toronton yliopistossa. Hän on myös liitännäisjäsen Vector Institute for Artificial Intelligence -instituutissa.

“Tutkijat ovat enemmän motivoiduksi julkaisemaan löytönsä kuin käyttämään aikaa ja resursseja varmistamaan, että heidän tutkimuksensa voidaan toistaa”, tohtori Haibe-Kains jatkaa. “Lehdet ovat alttiita tekoälyn ’hype’-ilmiölle ja voivat alentaa standardejaan hyväksymällä paperit, jotka eivät sisällä kaikkia materiaaleja, joita tarvitaan tutkimuksen toistettavuuden varmistamiseen – usein omien ohjeistustensa vastaisesti.”

Tämä ympäristö merkitsee, että tekoälymallit voivat kestää kauemmin ennen kuin ne pääsevät kliinisiin olosuhteisiin, ja malleja ei voida toistaa tai oppia tutkijoiden toimesta.

Tutkijaryhmä esitti useita kehyksiä ja alustoja, joilla voitaisiin korjata tämä ongelma ja sallia menetelmien jakaminen.

“Meillä on suuria toiveita tekoälyn hyödyistä syöpapotilaidemme hoidossa”, tohtori Haibe-Kains sanoo. “Löytöjemme jakaminen ja niiden kehittäminen – se on todellista tieteellistä vaikutusta.”