‘Förklarlig’ AI skapad för att diagnostisera och behandla barn med ogynnsamma barndomsupplevelser

Forskare från Oak Ridge Laboratory har nyligen skapat ett AI-system som syftar till att underlätta diagnos och behandling av personer som har upplevt betydande barndomstragedier. Enligt The Next Web är AI-systemet utformat för att vara “förklarlig”, till skillnad från många AI-modeller som är svarta lådor, genom att returnera delar av de data som användes för att fatta beslut.

Begreppet “ogynnsamma barndomsupplevelser” (ACEs) hänvisar till traumatiska händelser som inträffar hos personer före 18 års ålder och omfattar alla former av missbruk och försummelse samt fängelse, drogmissbruk, våld mot en förälder och psykisk sjukdom hos en förälder. ACEs kan ha livslånga effekter på människors utveckling och välbefinnande, och liksom många medicinska problem kan tidig upptäckt och behandling förbättra resultaten för de människor som är inblandade. Typerna av effektiva ingrepp för de som har upplevt ACEs är välkända och väl studerade, men psykisk hälsovårdstjänster saknar ofta resurserna för att diagnostisera en person och följa dem genom hela behandlingsprocessen.

AI-systemet utvecklades av två medicinska forskare från University of Tennessees Oak Ridge National Laboratory, Nariman Ammar och Arash Shaban-Nejad. I en preprint-artikel som nyligen publicerades via JMIR Medical Informatics beskrev forskarteamet utvecklingen och testningen av sin AI-modell, som är utformad för att hjälpa medicinska praktiker att diagnostisera och behandla de som påverkas av ACEs.

AI-modellen är avsedd att föreslå vissa ingrepp för medicinska praktiker, vilket gör det lättare för praktiker att hjälpa människor som lider av ACEs. Den nuvarande processen för att få en person som lider av ACE till behandling är en lång och komplex process. För att diagnostisera personer som påverkas av ACEs måste medicinska proffs få avancerad utbildning i rätt typ av frågor att ställa, sedan använda rätt frågor för att få insikt i vilka händelser som formade en persons barndom och hur händelserna kan ha påverkat dem. När man överväger de många olika potentiella kombinationerna av frågor och svar kan det vara ganska svårt för en leverantör att rekommendera en specifik typ av ingrepp. Utöver detta, när möten med medicinska eller statliga myndigheter har bokats, kommer det att finnas en lång rad av hälsovårdspersonal och statliga arbetare som hanterar en patient, och de garanteras inte ha rätt mängd utbildning eller förståelse för ACEs.

För att tackla dessa problem utformade forskarteamet en AI-tillämpning som fungerar liknande en chattbot för tekniskt stöd. De som använder AI-systemet matar in patientinformation i modellen, som returnerar en rekommendation för vissa ingrepp enligt en viss tidtabell, baserat på den databas som modellen tränades på. Modellen tar hänsyn till naturligt språk, tolkande fraser som “mitt hus har ingen uppvärmning” som indikatorer på potentiell barndomstragedi, kontrollerar dessa kontextuella uttalanden mot en medicinsk guide för behandling av ACEs, rekommenderar de bästa åtgärderna.

Reaktionerna på användarposter är inte förprogrammerade, utan de är dynamiska, med ett system av webhooks som utlöser och anropar externa tjänstslutpunkter som genererar de dynamiska svaren. AI-systemet bestämmer vilka frågor som ska ställas baserat på svar som ges till tidigare frågor, med det slutliga målet att möjliggöra insamling av den mest användbara, mest relevanta informationen i minst antal frågor. Som tidigare nämnts är systemet också förklarligt, exponerar de data som användes för att fatta beslut om ingrepp. Som ett resultat är systemet spårbar, och medicinska proffs bör kunna följa logiken som användes av systemet bakåt.

AI-systemet som utvecklats av Oak Ridge Laboratory-forskarna är en av de första data-drivna tillvägagångssätten för att möjliggöra för medicinska praktiker att bättre diagnostisera människor med ACEs. Medan detta i sig är en imponerande prestation, är det möjligt att den allmänna tillvägagångssätt som användes för att skapa AI-systemet och chattboten kunde extrapoleras ut till andra domäner och användas för att diagnostisera och behandla andra former av psykisk sjukdom. Metoderna som användes för att exponera de data som användes för att fatta vissa beslut kunde också användas för att öka transparens och förklarbarhet för maskinlärningssystem som helhet.