Dirbtinis intelektas sveikatos priežiūros srityje gali sukelti pavojų kartu su galimybėmis

DI turi didžiulį potencialą sveikatos priežiūros srityje, galintį pagerinti diagnozes ir rasti naujų, veiksmingesnių vaistų. Tačiau kaip „Scientific American“ kūrinys Neseniai aptarta, greitis, kuriuo AI skverbiasi į sveikatos priežiūros sritį, taip pat atveria daug naujų iššūkių ir pavojų.

Per pastaruosius penkerius metus JAV maisto ir vaistų administracija patvirtino per 40 skirtingų AI produktų. Tačiau, kaip pranešė „Scientific American“, nė vieno iš JAV parduodamų produktų veikimas nebuvo įvertintas atsitiktinių imčių kontroliuojamų klinikinių tyrimų metu. Daugeliui AI medicinos įrankių net nereikia FDA patvirtinimo.

Evanas Topolas, knygos „Gilioji medicina: kaip dirbtinis intelektas gali paversti sveikatos priežiūrą žmogumi,“ autorius Scientific American pareiškė, kad daugelis dirbtinio intelekto produktų, kurie teigia esantys veiksmingi atliekant tokias užduotis kaip ligų diagnozavimas, iš tikrųjų buvo griežtai išbandyti tokiu būdu. pirmasis didelis atsitiktinių imčių AI aptikimo ir diagnozavimo rinkliavos tyrimas, atliktas praėjusį spalį. Be to, labai nedaug technologijų startuolių publikuoja savo mokslinius darbus recenzuojamuose žurnaluose, kur jų darbą analizuos mokslininkai.

Tinkamai išbandytos ir kontroliuojamos AI sistemos gali būti galingi įrankiai, galintys padėti medicinos specialistams aptikti kitaip nepastebėtus simptomus ir pagerinti sveikatos rezultatus.

Pavyzdžiui, an AI įrankis diabetinės akių ligos nustatymas buvo išbandytas šimtams pacientų ir atrodė patikimas. Už bandymą atsakinga įmonė daugiau nei aštuonerius metus dirbo kartu su FDA, siekdama patobulinti produktą. Testas, IDx-DR, patenka į pirminės sveikatos priežiūros klinikas, kur jis gali padėti aptikti ankstyvus diabetinės retinopatijos požymius ir nukreipti pacientus pas akių specialistus, jei nustatomi įtartini simptomai.

Jei AI sistemos, kurias medicinos specialistai gali naudoti diagnozuodami ir gydydami, jos nebus kruopščiai išbandytos, gali padaryti žalos, o ne jos išvengti.

Straipsnyje „Scientific American“ išsamiai aprašoma viena galima problema, susijusi su AI diagnozuojant negalavimus, nurodant AI pavyzdį, skirtą analizuoti krūtinės ląstos rentgeno spindulius ir nustatyti, kuriems pacientams gali išsivystyti pneumonija. Nors sistema pasirodė tiksli, kai buvo išbandyta Sinajaus kalno ligoninėje Niujorke, ji nepavyko, kai buvo išbandyta su vaizdais, darytais kitose ligoninėse. Tyrėjai išsiaiškino, kad dirbtinis intelektas atskiria vaizdus, ​​sukurtus nešiojamomis rentgeno sistemomis, nuo tų, kurie buvo sukurti radiologijos skyriuje. Gydytojai naudoja nešiojamas krūtinės ląstos rentgeno sistemas pacientams, kurie dažnai per daug serga, kad galėtų išeiti iš lovos, ir šiems pacientams yra didesnė pneumonijos rizika.

Susirūpinimą kelia ir klaidingi pavojaus signalai. DeepMind sukūrė AI mobiliąją programėlę, kuri gali numatyti ūminį inkstų nepakankamumą hospitalizuotiems pacientams iki 48 valandų iš anksto. Tačiau sistema pranešta taip pat padarė du netikrus pavojaus signalus už kiekvieną sėkmingai prognozuotą inkstų nepakankamumą. Klaidingi teigiami rezultatai gali būti žalingi, nes gali paskatinti gydytojus be reikalo praleisti laiką ir išteklius užsisakant tolesnius tyrimus arba keičiant paskirtą gydymą.

Kito incidento metu viena AI sistema padarė neteisingą išvadą, kad plaučių uždegimu sergantys pacientai labiau išgyvena, jei jie sirgo astma, todėl gydytojai gali pakeisti astma sergančių pacientų gydymą.

AI sistemos, sukurtos vienai ligoninei, dažnai neveikia, kai jos naudojamos kitoje ligoninėje. Tam yra daug priežasčių. Pirma, dirbtinio intelekto sistemos dažnai mokomos elektroninių sveikatos įrašų, tačiau daugelis elektroninių sveikatos įrašų dažnai yra neišsamūs arba neteisingi, nes jų pagrindinis tikslas dažnai yra sąskaitų išrašymas, o ne pacientų priežiūra. Pavyzdžiui, vienas tyrimas atliko KHN nustatė, kad kartais pacientų medicininiuose įrašuose buvo gyvybei pavojingų klaidų, pavyzdžiui, vaistų sąrašuose, kuriuose yra netinkamų vaistų. Be to, ligos dažnai yra tik sudėtingesnės, o sveikatos priežiūros sistema – sudėtingesnė, nei dažnai gali numatyti AI inžinieriai ir mokslininkai.

Dirbtiniam intelektui tampant vis produktyvesniam, dirbtinio intelekto kūrėjams bus svarbu dirbti kartu su sveikatos priežiūros institucijomis, siekiant užtikrinti, kad jų AI sistemos būtų nuodugniai išbandytos, o reguliavimo institucijoms bus svarbu užtikrinti, kad būtų nustatyti DI diagnostikos priemonių patikimumo standartai ir jų laikomasi.