用于诊断和治疗经历过不良童年经历的儿童的可解释性 AI

橡树岭实验室的研究人员最近创建了一个 AI 系统，旨在促进对经历过重大童年不幸的人的诊断和治疗。根据 The Next Web 的报道，该 AI 系统被设计为“可解释的”，与许多 AI 模型不同，后者是黑盒子，通过返回用于渲染其决策的数据片段来实现这一点。

“不良童年经历”（ACEs）一词指的是发生在 18 岁之前的创伤事件，包括各种形式的虐待和忽视，以及监禁、物质滥用、对父母的家庭暴力以及父母的精神疾病。ACEs 可能对人们的发展和福祉产生终身影响，与许多医疗问题一样，早期发现和治疗可以改善结果。对于经历过 ACEs的人，有效的干预措施是众所周知和经过研究的，但心理健康治疗机构通常缺乏诊断和治疗的资源。

该 AI 系统由田纳西大学橡树岭国家实验室的两位医疗研究人员 Nariman Ammar 和 Arash Shaban-Nejad 开发。在最近通过 JMIR 医学信息学发布的预印本论文中，研究团队描述了他们的 AI 模型的开发和测试，该模型旨在帮助医疗从业人员诊断和治疗 ACEs 的受害者。

该 AI 模型旨在建议医疗从业人员采取某些干预措施，使得从业人员更容易帮助那些患有 ACEs 的人。目前，诊断和治疗 ACEs 的流程是漫长和复杂的。为了诊断 ACEs，医疗专业人员必须接受高级培训，以学习正确的问题，然后使用正确的问题来了解一个人童年的经历以及这些经历可能如何影响他们。当考虑到许多潜在的问题和答案的组合时，提供者可能很难推荐特定的干预措施。此外，一旦安排了医疗或政府机构的预约，就会有一长串的医疗和政府工作者与患者打交道，他们可能没有足够的 ACEs 培训或理解。

为了解决这些问题，研究团队设计了一个类似技术支持聊天机器人的 AI 应用程序。使用该 AI 系统的人员将患者信息输入模型，模型根据其训练数据库返回特定干预措施的建议，考虑到自然语言输入，例如“我的房子没有供暖”作为潜在的童年不幸的指标，检查这些语境陈述与 ACEs 治疗的医疗指南，推荐最佳行动。

对用户输入的响应不是硬编码的，而是使用触发和调用外部服务端点的 Webhook 动态生成的。AI 系统根据对之前问题的响应决定要问哪些问题，目标是收集最有用、最相关的信息，使用最少的问题。如前所述，该系统也是可解释的，暴露了其用于做出决策的数据，因此该系统是可追溯的，医疗专业人员应该能够遵循系统使用的逻辑向后推导。

橡树岭实验室研究人员开发的 AI 系统是首批数据驱动的方法之一，用于使医疗从业人员更好地诊断患有 ACEs的人。虽然这本身就是一个了不起的成就，但可能使用的方法来创建 AI 系统和聊天机器人可以推广到其他领域，用于诊断和治疗其他形式的心理疾病。用于暴露决策所用数据的方法也可以用来增加机器学习系统的透明度和可解释性。 to create the AI system and chatbot could be extrapolated out to other domains and used to diagnose and treat other forms of mental illness. The methods used to expose the data used to come to certain decisions could also be leveraged to increase transparency and explainability for machine learning systems as a whole。