‘Forklarlig’ AI skabt til at diagnostisere og behandle børn med negative barndomsoplevelser

Forskere fra Oak Ridge Laboratory har nylig skabt et AI-system, der er designet til at lette diagnosen og behandlingen af personer, der har oplevet betydelig barndomstræthed. Ifølge The Next Web er AI-systemet designet til at være “forklarlig”, til forskel fra mange AI-modeller, der er sorte kasser, ved at returnere små stykker af data, der er brugt til at træffe beslutninger.

Begrebet “Negative barndomsoplevelser” (ACEs) refererer til traumatiske begivenheder, der sker med mennesker før de bliver 18 år, og de omfatter alle former for misbrug og forsømmelse samt fængsling, stofmisbrug, vold i hjemmet mod en forælder og psykiske lidelser hos en forælder. ACEs kan have livslange effekter på menneskers udvikling og trivsel, og som med mange medicinske problemer kan tidlig opdagelse og behandling forbedre resultaterne for de mennesker, der er involveret. De effektive interventioner for personer, der har oplevet ACEs, er velkendte og godt studerede, men psykiatriske behandlingsinstitutioner mangler ofte ressourcerne til at diagnosticere en person og følge dem igennem hele behandlingsforløbet.

AI-systemet blev udviklet af to medicinske forskere fra University of Tennessees Oak Ridge National Laboratory, Nariman Ammar og Arash Shaban-Nejad. I en preprint-artikel, der nylig er udgivet gennem JMIR Medical Informatics, beskrev forskningsholdet udviklingen og testningen af deres AI-model, der er designet til at hjælpe medicinske praktikere med at diagnosticere og behandle personer, der er berørt af ACEs.

AI-modellen er designet til at foreslå bestemte interventioner til medicinske praktikere, hvilket gør det lettere for praktikere at hjælpe mennesker, der lider af ACEs. Den nuværende proces for at få en person, der lider af ACEs, i behandling er en lang og kompleks proces. For at diagnosticere personer, der er berørt af ACEs, skal medicinske fagfolk have avanceret træning i den rigtige type spørgsmål at stille, derefter bruge de rigtige spørgsmål til at få indsigt i, hvilke begivenheder formede en persons barndom og hvordan begivenhederne kan have påvirket dem. Når man tager i betragtning de mange mulige kombinationer af spørgsmål og svar, kan det være ret svært for en praktiker at anbefale en bestemt type intervention. Ud over dette, når aftaler med medicinske eller offentlige myndigheder er lavet, vil der være en lang række af sundheds- og regeringsarbejdere, der beskæftiger sig med en patient, og de er ikke garanteret at have den rigtige mængde træning eller forståelse af ACEs.

For at tackle disse problemer designede forskningsholdet en AI-applikation, der fungerer lignende en chatbot til teknisk support. De, der bruger AI-systemet, indtaster patientinformation i modellen, der returnerer en anbefaling for bestemte interventioner på en bestemt skema, baseret på den database, modellen er trænet på. Modellen tager naturligt sprogindtastning i betragtning, fortolker fraser som “mit hus har ingen varme” som indikatorer for mulig barndomstræthed, tjekker disse kontekstuelle udsagn mod en medicinsk vejledning for behandlingen af ACEs, anbefaler de bedste handlinger.

Responsen til brugerindtastning er ikke hardcoded, men dynamisk, ved hjælp af et system af webhooks, der udløser og kalder eksterne service-endpoints, der genererer de dynamiske responser. AI-systemet beslutter, hvilke spørgsmål der skal stilles, baseret på svar givet til tidligere spørgsmål, med det endelige mål at aktivere indsamlingen af den mest nyttige, mest relevante information i de færreste spørgsmål. Som tidligere nævnt er systemet også forklarligt, ved at afsløre den data, der er brugt til at træffe beslutninger om interventioner. Som resultat heraf er systemet sporbart, og medicinske fagfolk skal være i stand til at følge den logik, der er brugt af systemet baglæns.

AI-systemet, der er udviklet af Oak Ridge Laboratory-forskerne, er en af de første data-drevne tilgange til at aktivere medicinske praktikere til bedre at diagnosticere personer med ACEs. Mens dette i sig selv er en imponerende præstation, er det muligt, at den generelle tilgang, der er brugt til at skabe AI-systemet og chatbot’en, kan extrapoleres ud til andre domæner og bruges til at diagnosticere og behandle andre former for psykiske lidelser. De metoder, der er brugt til at afsløre den data, der er brugt til at træffe bestemte beslutninger, kan også udnyttes til at øge gennemsigtighed og forklarligkeit for maskinlærings-systemer som helhed.