‘Verklaarbare’ AI gecreëerd om kinderen met een moeilijke jeugd te diagnosticeren en te behandelen

Onderzoekers van het Oak Ridge Laboratory hebben onlangs een AI-systeem ontwikkeld om de diagnose en behandeling van personen die een moeilijke jeugd hebben meegemaakt te faciliteren. Volgens The Next Web is het AI-systeem ontworpen om “verklaarbaar” te zijn, in tegenstelling tot veel AI-modellen die zwarte dozen zijn, door stukjes van de gegevens die zijn gebruikt om beslissingen te nemen terug te geven.

De term “Adverse Childhood Experience” (ACEs) verwijst naar traumatische gebeurtenissen die plaatsvinden bij mensen voordat ze de leeftijd van 18 jaar bereiken en omvatten alle vormen van misbruik en verwaarlozing, evenals gevangenschap, middelenmisbruik, huiselijk geweld tegen een ouder en geestesziekte van een ouder. ACEs kunnen levenslange gevolgen hebben voor de ontwikkeling en het welzijn van mensen, en net als bij veel medische problemen kan vroegtijdige detectie en behandeling de resultaten voor de betrokken personen verbeteren. De effectieve interventies voor mensen die ACEs hebben meegemaakt zijn goed bekend en goed bestudeerd, maar instellingen voor geestelijke gezondheidszorg hebben vaak niet de middelen om een persoon te diagnosticeren en hem door de volledige behandeling te begeleiden.

Het AI-systeem is ontwikkeld door twee medische onderzoekers van de University of Tennessee’s Oak Ridge National Laboratory, Nariman Ammar en Arash Shaban-Nejad. In een preprint-paper dat onlangs is uitgegeven via JMIR Medical Informatics, beschreef het onderzoeksteam de ontwikkeling en testing van hun AI-model, dat is ontworpen om medische professionals te helpen bij de diagnose en behandeling van personen die door ACEs zijn getroffen.

Het AI-model is bedoeld om bepaalde interventies voor te stellen aan medische professionals, waardoor het voor professionals gemakkelijker wordt om mensen te helpen die lijden aan ACEs. Het huidige proces voor het diagnosticeren en behandelen van personen die door ACEs zijn getroffen is lang en complex. Om personen die door ACEs zijn getroffen te diagnosticeren, moeten medische professionals geavanceerde training ontvangen in de juiste soort vragen die ze moeten stellen, en vervolgens de juiste vragen gebruiken om inzicht te krijgen in de gebeurtenissen die iemands jeugd hebben gevormd en hoe deze gebeurtenissen hen hebben beïnvloed. Wanneer men de vele mogelijke combinaties van vragen en antwoorden overweegt, kan het voor een zorgverlener moeilijk zijn om een specifiek type interventie voor te stellen. Bovendien, wanneer afspraken met medische of overheidsinstellingen zijn gemaakt, zal er een lange rij van zorgverleners en overheidsmedewerkers zijn die met een patiënt omgaan, en deze hebben niet noodzakelijkerwijs de juiste hoeveelheid training of kennis van ACEs.

Om deze problemen aan te pakken, ontwierp het onderzoeksteam een AI-toepassing die werkt als een chatbot voor technische ondersteuning. Personen die het AI-systeem gebruiken, voeren patiëntgegevens in het model in, dat een aanbeveling retourneert voor bepaalde interventies op een bepaald tijdschema, op basis van de database waarop het model is getraind. Het model houdt rekening met natuurlijke taalinput, waarbij uitdrukkingen zoals “mijn huis heeft geen verwarming” worden geïnterpreteerd als indicatoren van potentieel kindermisbruik, en deze contextuele verklaringen worden gecontroleerd tegen een medische gids voor de behandeling van ACEs, waarbij de beste acties worden aanbevolen.

De reacties op gebruikersinvoer zijn niet vooraf gedefinieerd, maar dynamisch, met behulp van een systeem van webhooks die externe service-eindpunten activeren en dynamische reacties genereren. Het AI-systeem beslist welke vragen moeten worden gesteld op basis van de antwoorden op eerdere vragen, met als uiteindelijk doel om de meest bruikbare, meest relevante informatie te verzamelen in het minst mogelijke aantal vragen. Zoals eerder vermeld, is het systeem ook verklaarbaar, waarbij de gegevens die zijn gebruikt om beslissingen te nemen over interventies worden blootgelegd. Als gevolg hiervan is het systeem traceerbaar, en medische professionals zouden in staat moeten zijn om de logica die door het systeem wordt gebruikt terug te volgen.

Het AI-systeem dat is ontwikkeld door de onderzoekers van het Oak Ridge Laboratory is een van de eerste gegevensgedreven benaderingen om medische professionals in staat te stellen mensen met ACEs beter te diagnosticeren. Hoewel dit al een indrukwekkende prestatie is, is het mogelijk dat de algemene aanpak die is gebruikt om het AI-systeem en de chatbot te creëren, kan worden uitgebreid naar andere domeinen en kan worden gebruikt om andere vormen van geestesziekte te diagnosticeren en te behandelen. De methoden die zijn gebruikt om de gegevens die zijn gebruikt om bepaalde beslissingen te nemen bloot te leggen, kunnen ook worden gebruikt om de transparantie en verklaarbaarheid van machine learning-systemen als geheel te vergroten.