‘Vysvětlitelné’ AI vytvořené pro diagnostiku a léčbu dětí s nepříznivými dětstvím

Výzkumníci z Oak Ridge Laboratory nedávno vytvořili systém AI, který má usnadnit diagnostiku a léčbu osob, které пережily významnou dětství nepříznivost. Podle The Next Web, systém AI je navržen tak, aby byl “vysvětlitelný”, na rozdíl od mnoha modelů AI, které jsou černé skříňky, a to tak, že vrací části dat, která byla použita k renderingu jeho rozhodnutí.

Pojem “nepříznivé dětství” (ACEs) se týká traumatických událostí, které se stanou lidem před 18. rokem věku a zahrnují všechny formy zneužívání a zanedbávání, stejně jako vazbu, zneužívání návykových látek, domácí násilí proti rodiči a duševní nemoc rodiče. ACEs mohou mít dlouhodobé účinky na vývoj a blaho lidí, a jako u mnoha zdravotních problémů, může earlier detekce a léčba zlepšit výsledky pro lidi zapojené. Typ efektivní intervence pro ty, kteří zažili ACEs, je dobře známý a dobře prostudovaný, ale agentury duševního zdraví často postrádají zdroje k diagnostice osoby a vidět je skrz celý průběh léčby.

Systém AI byl vyvinut dvěma lékařskými výzkumníky z University of Tennessee’s Oak Ridge National Laboratory, Nariman Ammar a Arash Shaban-Nejad. V předtiskové práci nedávno vydané prostřednictvím JMIR Medical Informatics, výzkumný tým popsal vývoj a testování svého modelu AI, který je navržen tak, aby pomáhal lékařským praktikům diagnostikovat a léčit osoby postižené ACEs.

Model AI je navržen tak, aby navrhl bestimmé intervence lékařským praktikům, což usnadňuje praktikům pomoci lidem trpícím ACEs. Současný proces pro získání osoby trpící ACE léčby je dlouhý a složitý. Aby mohli lékaři diagnostikovat osoby postižené ACEs, musí absolvovat pokročilé školení v typu otázek, které je třeba položit, a poté použít správné otázky k získání přehledu o událostech, které formovaly dětství osoby a jak tyto události mohly ovlivnit osobu. Při zvažování mnoha různých kombinací otázek a odpovědí může být pro poskytovatele obtížné doporučit určitý typ intervence. Kromě toho, jednou, co jsou učiněny schůzky s lékařskými nebo vládními agenturami, bude tam dlouhá řada zdravotnických a vládních pracovníků, kteří se zabývají pacientem, a nejsou garantováni, aby měli správné množství školení nebo porozumění ACEs.

Aby se tyto problémy řešily, výzkumný tým navrhl aplikaci AI, která funguje podobně jako chatbot pro technickou podporu. Ti, kteří používají systém AI, zadávají informace o pacientovi do modelu, který vrací doporučení pro bestimmé intervence na bestimmém rozvrhu, na základě databáze, na které byl model vyškolěn. Model bere v úvahu přirozený jazyk, interpretuje fráze jako “můj dům nemá topení” jako indikátory potenciální dětství nepříznivosti, kontroluje tyto kontextové prohlášení proti lékařskému průvodci pro léčbu ACEs, doporučuje nejlepší akce.

Odpovědi na uživatelské vstupy nejsou hardcodovány, ale dynamické, pomocí systému webhooků, které spouštějí a vyvolávají externí služby, které generují dynamické odpovědi. Systém AI rozhoduje, které otázky by měly být položeny na základě odpovědí na předchozí otázky, s konečným cílem umožnit sběr nejúčinnějších, nejrelevantnějších informací v nejmenším počtu otázek. Jak již bylo zmíněno, systém je také vysvětlitelný, odhaluje data, která použil k rozhodnutí o intervencích. Jako výsledek, systém je stopovatelný, a lékařští praktici by měli být schopni sledovat logiku použitého systému zpět.

Systém AI vyvinutý výzkumníky z Oak Ridge Laboratory je jeden z prvních datově řízených přístupů k umožnění lékařským praktikům lépe diagnostikovat osoby s ACEs. Zatímco toto je samo o sobě působivé úspěchy, je možné, že obecný přístup použitý k vytvoření systému AI a chatbotu by mohl být extrapolován do jiných domén a použit k diagnostice a léčbě jiných forem duševní nemoci. Metody použité k odhalení dat použitého k rozhodnutí o intervencích by také mohly být využity ke zvýšení transparentnosti a vysvětlitelnosti pro systémy strojového učení jako celek.