설명 가능한 AI, 어린이를 위한 불리한 아동 경험 진단 및 치료 개발

오크 리지 연구소의 연구진은 최근 어린이를 위한 불리한 아동 경험 진단 및 치료를 위한 AI 시스템을 개발했다. The Next Web에 따르면, 이 AI 시스템은 많은 AI 모델이 블랙박스와 같은 것과는 달리, 결정에 사용된 데이터의 일부를 반환함으로써 “설명 가능한” 방식으로 설계되었다.

“불리한 아동 경험”(Adverse Childhood Experience, ACEs)은 18세 이전에 발생하는 외상적인 사건을 의미하며, 모든 종류의虐待와 방임,以及 부모의 투옥, 마약 중독, 부모에 대한 가정 폭력, 및 부모의 정신 질환 등을 포함한다. ACEs는 사람들의 발달과 복지에 평생적인 영향을 미칠 수 있으며, 많은 의료 문제와 마찬가지로, 조기 발견과 치료는 관련된 사람들의 결과를 개선할 수 있다. ACEs를 경험한 사람들을 위한 효과적인 중재는 잘 알려져 있으며 잘 연구되어 왔지만, 정신 건강 치료 기관은 종종 사람을 진단하고 치료 과정을 완료하기 위한 자원을 缺하고 있다.

이 AI 시스템은 테네시 대학교의 오크 리지 국립 연구소의 두 명의 의료 연구진인 나리만 암마르와 아라시 샤반-네자드에 의해 개발되었다. 최근 JMIR Medical Informatics를 통해 공개된 전자 논문에서, 연구 팀은 ACEs에 영향을 받은 사람들을 진단 및 치료하는 데 의료 전문가를 지원하기 위한 AI 모델의 개발과 테스트에 대해 설명했다.

이 AI 모델은 의료 전문가에게 특정 중재를 제안하도록 설계되어, ACEs에 영향을 받은 사람들을 돕기 위해 의료 전문가의 일을 더 쉽게 만들어 준다. ACEs에 영향을 받은 개인을 치료하기 위한 현재의 과정은 길고 복잡하다. ACEs에 영향을 받은 사람들을 진단하기 위해, 의료 전문가는 올바른 질문을 묻는 데 필요한 고급 훈련을 받아야 하며, 올바른 질문을 사용하여 사람의 어린 시절을 형성한 사건과 그 사건이 사람에게 미친 영향에 대한 통찰력을 얻어야 한다. 질문과 답변의 많은 잠재적인 조합을 고려할 때, 의료 제공자는 특정 유형의 중재를 추천하기가 매우 어렵다. 또한, 의료 또는 정부 기관과의 약속이 정해지면, 많은 의료 및 정부 직원이 환자와 대면하게 되며, ACEs에 대한 올바른 훈련이나 이해를 보장받지 못할 수 있다.

이러한 문제를 해결하기 위해, 연구 팀은 기술 지원 목적으로 채팅봇과 유사하게 작동하는 AI 응용 프로그램을 설계했다. AI 시스템을 사용하는 사람들은 환자 정보를 모델에 입력하고, 모델은 데이터베이스에서 훈련된 정보를 기반으로 특정 중재를 일정에 따라 추천한다. 모델은 자연어 입력을 고려하여, “내 집에 난방이 없다”와 같은 구문을 잠재적인 어린 시절 불리한 경험의 지표로 해석하며, 이러한 문맥적 문장을 ACEs 치료를 위한 의료 가이드와 비교하여, 최상의 조치를 추천한다.

사용자 입력에 대한 응답은 하드코딩되지 않으며, 외부 서비스 엔드포인트를 트리거하고 호출하여 동적 응답을 생성하는 웹훅 시스템을 사용하여 동적으로 생성된다. AI 시스템은 이전 질문에 대한 응답에 따라 질문을 결정하며, 최종 목표는 가장 유용하고 관련성이 높은 정보를 최소한의 질문으로 수집하는 것이다. 이전에 언급했듯이, 시스템은 또한 설명 가능한데, 중재에 대한 결정에 사용된 데이터를 노출한다. 결과적으로, 시스템은 추적 가능하며, 의료 전문가는 시스템이 사용한 논리를 역으로 따라갈 수 있어야 한다.

오크 리지 연구소 연구진이 개발한 AI 시스템은 의료 전문가가 ACEs를 경험한 사람들을 더 잘 진단하고 치료하는 데 도움이 되는 최초의 데이터 기반 접근 방식 중 하나이다. 이것은 자체적으로 훌륭한 성과이지만, AI 시스템과 채팅봇을 생성하는 데 사용된 일반적인 접근 방식은 다른 영역으로 확장되어 다른 유형의 정신 질환을 진단하고 치료하는 데 사용될 수 있다. 결정에 사용된 데이터를 노출하는 방법은 또한 기계 학습 시스템 전체에 대한 투명성과 설명 가능성을 높이기 위해 활용될 수 있다.