‘Forklarbar’ AI utviklet for å diagnostisere og behandle barn med negative barndomsopplevelser

Forskere fra Oak Ridge Laboratory har nylig utviklet et AI-system som skal hjelpe med å diagnostisere og behandle personer som har opplevd betydelig barndomsadversitet. Ifølge The Next Web er AI-systemet designet for å være “forklarbar”, til forskjell fra mange AI-modeller som er svarte bokser, ved å returnere utdrag av dataen som ble brukt til å fatter sine avgjørelser.

Begrepet “negative barndomsopplevelser” (ACEs) refererer til traumatiske hendelser som skjer med personer før de fyller 18 år, og omfatter alle former for misbruk og forsømmelse, samt fengsling, stoffmisbruk, vold i hjemmet mot en forelder, og psykisk sykdom hos en forelder. ACEs kan ha livslange effekter på menneskers utvikling og velvære, og som med mange medisinske problemer kan tidlig oppdagelse og behandling forbedre resultater for de involverte. Typen effektive intervensjoner for de som har opplevd ACEs er godt kjent og godt studert, men psykiske helseinstitusjoner mangler ofte ressurser til å diagnostisere en person og følge dem gjennom hele behandlingsforløpet.

AI-systemet ble utviklet av to medisinske forskere fra University of Tennessees Oak Ridge National Laboratory, Nariman Ammar og Arash Shaban-Nejad. I en preprint-artikkel som nylig ble publisert gjennom JMIR Medical Informatics, beskrev forskningsteamet utviklingen og testingen av deres AI-modell, som er designet for å hjelpe medisinske praktikere med å diagnostisere og behandle personer som er berørt av ACEs.

AI-modellen er ment å foreslå bestemte intervensjoner til medisinske praktikere, og gjøre det lettere for praktikerne å hjelpe personer som lider av ACEs. Den nåværende prosessen for å få en person som lider av ACE behandlet er en lang og kompleks prosess. For å diagnostisere personer som er berørt av ACEs, må medisinske profesjonelle motta avansert trening i å stille riktige spørsmål, og deretter bruke riktige spørsmål for å få innsikt i hvilke hendelser som har formet en persons barndom og hvordan hendelsene kan ha påvirket dem. Når man tar i betraktning de mange mulige kombinasjonene av spørsmål og svar, kan det være ganske vanskelig for en leverandør å anbefale en bestemt type intervensjon. Ut over dette, når møter med medisinske eller offentlige etater er blitt avtalt, vil det være en lang rekke av helse- og regjeringsarbeidere som håndterer en pasient, og de er ikke garantert å ha riktig mengde trening eller forståelse av ACEs.

For å takle disse problemene, designet forskningsteamet en AI-applikasjon som fungerer likt en chatbot for teknisk support. De som bruker AI-systemet matar inn pasientinformasjon i modellen, som returnerer en anbefaling for bestemte intervensjoner på en bestemt tid, basert på databasen modellen ble trent på. Modellen tar naturlige språkinnputt i betraktning, og tolker fraser som “huset mitt har ingen varme” som indikatorer på mulig barndomsadversitet, og sjekker disse kontekstuelle uttalelsene mot en medisinsk guide for behandling av ACEs, og anbefaler de beste handlingene.

Responsene til brukerens innputt er ikke hardkodet, men er dynamiske, og bruker et system av webhooks som utløser og kaller eksterne tjenestepunkter som genererer de dynamiske responsene. AI-systemet bestemmer hvilke spørsmål som skal stilles, basert på svarene gitt til tidligere spørsmål, med målet å muliggjøre innhenting av den mest nyttige og relevante informasjonen i færrest mulig spørsmål. Som tidligere nevnt, er systemet også forklarbart, og eksponerer dataen det brukte for å fatter avgjørelser om intervensjoner. Dette gjør at systemet er sporable, og medisinske profesjonelle skal kunne følge logikken brukt av systemet bakover.

AI-systemet utviklet av Oak Ridge Laboratory-forskerne er ett av de første data-drevne tilnærmingene til å muliggjøre at medisinske praktikere bedre kan diagnostisere personer med ACEs. Mens dette er en imponerende prestasjon i seg selv, er det mulig at den generelle tilnærmingen brukt for å utvikle AI-systemet og chatboten kunne utvides til andre domener og brukes til å diagnostisere og behandle andre former for psykisk sykdom. Metodene brukt for å eksponere dataen brukt for å fatter bestemte avgjørelser, kunne også brukes for å øke transparens og forklarbarhet for maskinlæringsystemer som helhet.