创建“可解释”AI用于诊断和治疗经历过不良童年经历的儿童

来自奥克里奇实验室的研究人员最近创建了一个AI系统，旨在促进对经历过重大童年逆境个体的诊断和治疗。根据The Next Web的报道，该AI系统被设计为“可解释”的，与许多AI模型不同，后者是黑盒子，它通过返回用于渲染其决策的数据片段。术语“不良童年经历”（ACEs）指的是发生在18岁之前的创伤事件，包括各种形式的虐待和忽视，以及监禁、物质滥用、对父母的家庭暴力和父母的精神疾病。ACEs可以对人们的发展和福祉产生终身影响，像许多医疗问题一样，早期检测和治疗可以改善相关人员的结果。对于经历过ACEs的人，有效干预措施的类型是众所周知和经过充分研究的，但心理健康治疗机构通常缺乏诊断一个人并将其带过整个治疗过程的资源。该AI系统由田纳西大学奥克里奇国家实验室的两位医疗研究人员Nariman Ammar和Arash Shaban-Nejad开发。在最近通过JMIR Medical Informatics发布的预印本论文中，研究团队描述了他们的AI模型的开发和测试，该模型旨在帮助医疗从业人员诊断和治疗那些受到ACEs影响的人。该AI模型旨在建议医疗从业人员采取某些干预措施，使从业人员更容易帮助那些遭受ACEs的人。当前的获取ACEs治疗的过程是一个漫长而复杂的过程。为了诊断那些受到ACEs影响的人，医疗专业人员必须接受正确类型的问题的培训，然后使用正确的问题来了解一个人童年时期的事件以及这些事件可能如何影响他们。当考虑到许多潜在的问题和答案的组合时，建议特定类型的干预措施对提供者来说可能相当困难。除此之外，一旦与医疗或政府机构安排了预约，就会有一长串的医疗和政府工作者处理患者，他们不保证拥有正确的培训或对ACEs的理解。为了解决这些问题，研究团队设计了一个类似于技术支持聊天机器人的AI应用程序。使用该AI系统的人员将患者信息输入模型，该模型根据模型训练的数据库返回有关某些干预措施的推荐，按照特定的时间表。该模型考虑了自然语言输入，例如“我的房子没有供暖”作为潜在的童年逆境指标，检查这些上下文语句与ACEs治疗的医疗指南，推荐最佳行动。对用户输入的响应不是硬编码的，而是动态的，使用触发和调用外部服务端点的Webhook生成动态响应。AI系统根据之前问题的响应决定要提出的问题，目标是实现最有用、最相关信息的收集，使用最少的问题。如前所述，该系统也是可解释的，暴露了它用来做出有关干预措施的决策的数据。因此，该系统是可追踪的，医疗专业人员应该能够跟踪系统使用的逻辑。奥克里奇实验室研究人员开发的AI系统是首批数据驱动的方法之一，旨在使医疗从业人员更好地诊断那些经历过ACEs的人。虽然这本身就是一个了不起的成就，但可能使用的方法可以推广到其他领域，用于诊断和治疗其他形式的心理疾病。用于暴露决策所用数据的方法也可以用来增加机器学习系统的透明度和可解释性。