"Förklarlig" AI skapad för att diagnostisera och behandla barn med negativa barndomsupplevelser

Forskare från Oak Ridge Laboratory har nyligen skapat ett AI-system avsett att underlätta diagnos och behandling av individer som har upplevt betydande motgångar i barndomen. Enligt The Next Web, AI-systemet är designat för att vara "förklarligt", till skillnad från många AI-modeller som är svarta lådor, genom att returnera utdrag av data som används för att göra sina beslut.

Termen "Adverse Childhood Experience" (ACEs) syftar på traumatiska händelser som inträffar hos personer före 18 års ålder och de inkluderar alla olika former av övergrepp och försummelse samt fängelse, missbruk, våld i hemmet mot en förälder och psykisk sjukdom av en förälder. ACES kan ha livslånga effekter på människors utveckling och välbefinnande, och som med många medicinska problem kan tidigare upptäckt och behandling förbättra resultaten för de inblandade. Typen av effektiva insatser för dem som har upplevt ACE är välkända och välstuderade, men behandlingsorgan för mental hälsa saknar ofta resurser för att diagnostisera en person och se dem genom hela behandlingsförloppet.

AI-systemet utvecklades av två medicinska forskare från University of Tennessees Oak Ridge National Laboratory, Nariman Ammar och Arash Shaban-Nejad. I en förtryckstidning nyligen släppt genom JMIR Medical Informatics, beskrev forskargruppen utvecklingen och testningen av deras AI-modell, som är utformad för att hjälpa läkare att diagnostisera och behandla de som påverkas av ACE.

AI-modellen är avsedd att föreslå vissa interventioner för läkare, vilket gör det lättare för läkare att hjälpa människor som lider av ACE. Den nuvarande processen för att få en individ som lider av ACE-behandling är lång och komplex. För att diagnostisera personer som drabbats av ACE måste läkare få avancerad utbildning i rätt typ av frågor att ställa och sedan använda rätt frågor för att få insikt i vilka händelser som format en persons barndom och hur händelserna kan ha påverkat dem. När man överväger de många olika potentiella kombinationerna av frågor och svar, kan det vara ganska svårt för en leverantör att rekommendera en specifik typ av intervention. Utöver detta, så snart möten med medicinska eller statliga myndigheter har gjorts, kommer det att finnas en lång rad sjukvårds- och myndighetsarbetare som arbetar med en patient, och de är inte garanterade att ha rätt mängd utbildning eller förståelse för ACE.

För att ta itu med dessa problem designade forskargruppen en AI-applikation som fungerar på samma sätt som en chatbot för teknisk support. De som använder AI-systemet matar in patientinformation i modellen, som returnerar en rekommendation för vissa interventioner på ett visst schema, baserat på databasen som modellen tränades på. Modellen tar hänsyn till naturliga språkinmatningar, tolkar fraser som "mitt hus har ingen uppvärmning" som indikatorer på potentiella motgångar i barndomen, kontrollerar dessa kontextuella uttalanden mot en medicinsk guide för behandling av ACE, och rekommenderar de bästa åtgärderna.

Svaren på användarinlägg är inte hårdkodade, snarare är de dynamiska, med hjälp av ett system av webhooks som utlöser och anropar externa tjänstslutpunkter som genererar de dynamiska svaren. AI-systemet bestämmer vilka frågor som ska ställas baserat på svar på tidigare frågor, med slutmålet att möjliggöra insamling av den mest användbara, mest relevanta informationen i så få frågor som möjligt. Som tidigare nämnts är systemet också förklarligt och exponerar de data som det använde för att fatta beslut om insatser. Som ett resultat är systemet spårbart och medicinsk personal bör kunna följa logiken som används av systemet bakåt.

AI-systemet som utvecklats av forskarna i Oak Ridge Laboratory är en av de första datadrivna metoderna för att göra det möjligt för läkare att bättre diagnostisera personer med ACE. Även om detta är en imponerande prestation i sig, är det möjligt att det allmänna tillvägagångssättet som används för att skapa AI-systemet och chatboten skulle kunna extrapoleras till andra domäner och användas för att diagnostisera och behandla andra former av psykisk sjukdom. Metoderna som används för att exponera data som används för att komma till vissa beslut kan också utnyttjas för att öka transparensen och förklarabarheten för maskininlärningssystem som helhet.