Tutkimus selvittää, miten voidaan vähentää tekoälyn käytön riskejä lääketieteessä

Tekoälyohjelmat pystyvät parantamaan terveydenhuoltoa monin eri tavoin. Esimerkiksi tekoälysovellukset voivat käyttää tietokoneen näköaistia auttamaan lääkäreitä diagnosoida sairauksia röntgenkuville ja FMR-tutkimuksille. Konenoppimisalgoritmit voidaan myös käyttää vähentämään väärän positiivisia tuloksia etsimällä hienoja kuvioita tietoja, joita ihmiset eivät välttämättä löydä lääketieteellisistä tiedoista. Kuitenkin mahdollisuuksien myötä tulee uusia haasteita, ja äskettäin julkaistiin uusi artikkeli Science-lehdessä, joka tutki mahdollisia riskejä ja sääntelystrategioita lääketieteellisten konenoppimismenetelmien osalta pyrkien minimoi mahdolliset negatiiviset sivuvaikutukset tekoälyn käytöstä lääketieteellisessä yhteydessä.

Laajentuvat sovellukset tekoälyssä terveydenhuollossa

Tekoäly näkee sovelluksiaan laajentuvan nopeasti terveydenhuollossa. Viimeaikaiset kehityssuunnat terveydenhuollossa, joita tekoäly on ajamassa, sisältävät uuden lääkeyrityksen luomisen, joka pyrkii käyttämään tekoälyä uusien lääkeaineiden kehittämiseen, tekoälyohjattujen etäterveydenanturien luomisen ja tietokoneen näkösohjelmien kehittämisen, jotka analysoivat CT-tutkimuksia ja röntgenkuvia.

Tarkemmin sanottuna Genesis Therapeutics on startup-yritys, joka pyrkii käyttämään tekoälyä nopeuttaakseen lääkeaineiden kehittämisen prosessia, toivoen luoda lääkkeitä, jotka voivat vähentää vakavien sairauksien vakavuutta. Genesis Therapeutics on vain yksi lähes 170:sta eri yrityksestä, jotka käyttävät tekoälyä uusien lääkeformuloiden tutkimiseen. Samaan aikaan terveyden seurantalaitteissa iRhythm ja ranskalainen tekoälystartup Cardiologs käyttävät tekoälyalgoritmeja analysoimaan EEG-tietoja ja seuraamaan terveyttä niiden, joilla on sydänongelmia ja ovat vaarassa sairastua. Yritysten kehittämä ohjelmisto voi havaita sydämen murinat, tilan, joka johtuu turbulentista verenvirtauksesta.

Lopulta äskettäinen tutkimus, joka tutki, miten tietokoneen näkö voidaan soveltaa lääketieteellisiin kuviin, totesi, että tietokoneen näköjärjestelmät suorittavat vähintään yhtä hyvin tai paremmin kuin asiantuntijaradiologit, kun he tarkastelevat CT-tutkimuksia pienten verenvuotojen havaitsemiseksi. Tutkimuksessa käytetyt algoritmit pystyivät tekemään ennusteita CT-tutkimusten tarkastelun jälkeen vain yhden sekunnin kuluttua. Tietokoneen näköjärjestelmät pystyivät myös paikallistamaan verenvuodon aivoissa.

Joten vaikka tekoälyn käytön mahdolliset hyödyt terveydenhuollossa ovat selvät, se, mitkä uudet haasteet ja riskit syntyvät tekoälyn käytön seurauksena terveydenhuollossa, ei ole yhtä selvää.

Sääntely laajenevassa alalla

Kuten TechXplore raportoi, arvioidakseen tekoälyn käytön mahdollisia haittoja terveydenhuollossa, ryhmä tutkijoita julkaisi äskettäin artikkelin Science-lehdessä, jossa pyrittiin löytämään vastauksia odottamattomiin ongelmiin ja etsimään mahdollisia ratkaisuja näihin ongelmiiin. Ongelmat, jotka voivat syntyä tekoälyn käytöstä terveydenhuollossa, sisältävät sopimattomia hoitotoimenpiteiden suosituksia, jotka johtavat vammoihin, tietosuojauksen huolenaiheita ja algoritmista harhaa/epätasa-arvoa.

FDA on hyväksynyt ainoastaan lääketieteellisen tekoälyn, joka käyttää “lukittuja algoritmeja”, algoritmeja, jotka aina tuottavat saman tuloksen, kun ne ajetaan. Kuitenkin suurin osa tekoälyn mahdollisuuksista perustuu sen kykyyn oppia ja reagoida uusiin syöteisiin. Jotta “sopeutuvat algoritmit” voisivat nähdä laajempaa käyttöä ja saada FDA:n hyväksynnän, artikkelin kirjoittajat tarkastelivat syvällisesti, miten algoritmien päivittämiseen liittyvät riskit voidaan lieventää.

Kirjoittajat suosittelevat, että konenoppimisen insinöörit ja tutkijat keskittyisivät jatkuvasti mallejen seurantaan niiden käyttöön liittyvän elinajan aikana. Ehdotetuista työkaluista tekoälyjärjestelmien seurantaan kuului myös tekoäly itsessään, joka voisi antaa automaattisia raportteja siitä, miten tekoäly toimii. On myös mahdollista, että useat tekoälylaitteet voisivat seurata toisiaan.

“Riskejä hallitakseen sääntelijöiden tulisi keskittyä erityisesti jatkuvaan seurantaan ja riskiarviointiin ja vähemmän tuleviin algoritmien muutoksiin”, sanoivat artikkelin kirjoittajat.

Artikkelin kirjoittajat suosittelevat myös, että sääntelijöiden tulisi keskittyä uusien menetelmien kehittämiseen riskejä tunnistamaan, seurata, arvioida ja hallitsemaan. Artikkeli soveltaa useita menetelmiä, joita FDA on käyttänyt muiden lääketieteellisten teknologioiden sääntelyyn.

Kuten artikkelin kirjoittajat selittivät:

“Tavoitteemme on korostaa riskejä, jotka voivat syntyä odottamattomista muutoksista siinä, miten lääketieteelliset tekoäly-/koneoppimisjärjestelmät reagoivat tai sopeutuvat ympäristöönsä. Hienot, usein tunnistamattomat parametrinen päivitykset tai uudenlaiset tiedot voivat aiheuttaa suuria ja kalliita virheitä.”