‘Forklarlig’ AI skabt til at diagnostisere og behandle børn med adverse barndomsoplevelser

Forskere fra Oak Ridge Laboratory har nylig skabt et AI-system, der er designet til at lette diagnosen og behandlingen af personer, der har oplevet betydelige barndomssvigt. Ifølge The Next Web er AI-systemet designet til at være “forklarlig”, til forskel fra mange AI-modeller, der er sorte kasser, ved at returnere små bidrag af de data, der blev brugt til at træffe beslutninger.

Begrebet “Adverse Childhood Experience” (ACEs) refererer til traumatisk begivenheder, der sker med mennesker før de er 18 år gamle, og de omfatter alle former for misbrug og forsømmelse samt fængsling, stofmisbrug, vold mod en forælder og mentale lidelser hos en forælder. ACEs kan have livslange virkninger på menneskers udvikling og trivsel, og ligesom med mange medicinske problemer kan tidlig opdagelse og behandling forbedre resultaterne for de mennesker, der er involveret. De effektive interventioner for personer, der har oplevet ACEs, er velkendte og godt studerede, men mentale sundhedsbehandlingsinstitutioner mangler ofte ressourcerne til at diagnostisere en person og følge dem igennem hele behandlingsforløbet.

AI-systemet blev udviklet af to medicinske forskere fra University of Tennessees Oak Ridge National Laboratory, Nariman Ammar og Arash Shaban-Nejad. I en preprint-artikel, der nylig blev offentliggjort via JMIR Medical Informatics, beskrev forskningsteamet udviklingen og testningen af deres AI-model, der er designet til at hjælpe medicinske praktikere med at diagnostisere og behandle personer, der er berørt af ACEs.

AI-modellen er designet til at foreslå bestemte interventioner til medicinske praktikere, hvilket gør det lettere for praktikere at hjælpe mennesker, der lider af ACEs. Den nuværende proces for at få en person, der lider af ACE, i behandling er en lang og kompleks proces. For at diagnostisere personer, der er berørt af ACE, må medicinske fagfolk modtage avanceret træning i den korrekte type spørgsmål at stille, derefter bruge de rigtige spørgsmål til at få indsigt i, hvilke begivenheder formede en persons barndom og hvordan begivenhederne kan have påvirket dem. Når man tager i betragtning de mange mulige kombinationer af spørgsmål og svar, kan det være ret svært for en udbyder at anbefale en bestemt type intervention. Ud over dette vil der, når aftaler med medicinske eller regeringsinstitutioner er lavet, være en lang række af sundheds- og regeringsarbejdere, der beskæftiger sig med en patient, og de er ikke garanteret at have den korrekte mængde træning eller forståelse af ACEs.

For at tackle disse problemer designede forskningsteamet en AI-applikation, der fungerer som en chatbot til teknisk support. De, der bruger AI-systemet, indtaster patientinformation i modellen, der returnerer en anbefaling for bestemte interventioner på en bestemt skema, baseret på den database, modellen blev trænet på. Modellen tager naturlige sprogindtastninger i betragtning, fortolker fraser som “mit hus har ingen varme” som indikatorer for mulig barndomssvigt, tjekker disse kontekstuelle udsagn mod en medicinsk vejledning for behandling af ACEs, anbefaler de bedste handlinger.

Responsen til brugerindtastninger er ikke hardcoded, men dynamisk, ved hjælp af et system af webhooks, der udløser og kalder eksterne service-endpoints, der genererer de dynamiske responser. AI-systemet beslutter, hvilke spørgsmål der skal stilles, baseret på svar givet til tidligere spørgsmål, med det endelige mål at muliggøre indsamlingen af den mest nyttige, mest relevante information i de færreste spørgsmål. Som tidligere nævnt er systemet også forklarligt, ved at afsløre de data, der blev brugt til at træffe beslutninger om interventioner. Som resultat heraf er systemet sporbart, og medicinske fagfolk bør være i stand til at følge den logik, der blev brugt af systemet bagud.

AI-systemet, der er udviklet af Oak Ridge Laboratory-forskerne, er en af de første data-drevne tilgange til at muliggøre, at medicinske praktikere bedre kan diagnostisere personer med ACEs. Selvom dette er en imponerende præstation i sig selv, er det muligt, at den generelle tilgang, der blev brugt til at skabe AI-systemet og chatbot’en, kunne udtrækkes til andre domæner og bruges til at diagnostisere og behandle andre former for mentale lidelser. De metoder, der blev brugt til at afsløre de data, der blev brugt til at træffe bestemte beslutninger, kunne også udnyttes til at øge gennemsigtighed og forklarbarhed for maskinlærings-systemer som helhed.