説明可能なAIが、悪影響のある子供時代の経験を持つ子供を診断・治療するために作成された

オークリッジ研究所の研究者は最近、子供時代に重大な困難を経験した個人の診断と治療を容易にすることを目的としたAIシステムを作成しました。The Next Webによると、このAIシステムは、多くのAIモデルがブラックボックスであるのとは異なり、決定を下すために使用したデータのスニペットを返すことで「説明可能」であることを目的として設計されています。

「悪影響のある子供時代の経験」（Adverse Childhood Experience、ACEs）は、18歳未満に発生するトラウマ的な出来事を指し、虐待や放棄のすべての形態、および逮捕、薬物乱用、親への家庭内暴力、親の精神疾患などを含みます。ACEsは、発達と幸福に対して生涯にわたる影響を及ぼす可能性があり、多くの医療上の問題と同様に、早期発見と治療により、関係者の結果を改善できます。ACEsを経験した人のための有効な介入はよく知られており、よく研究されていますが、精神衛生治療機関は、診断と治療の全過程を完了するためのリソースが不足していることがよくあります。

このAIシステムは、テネシー大学のオークリッジ国立研究所の2人の医療研究者、Nariman AmmarとArash Shaban-Nejadによって開発されました。最近、JMIR Medical Informaticsを通じて公開されたプレプリントでは、研究チームは、ACEsによって影響を受けた人々の診断と治療を支援するために設計されたAIモデルの開発とテストについて説明しています。

このAIモデルは、医療従事者に特定の介入を提案することを目的としており、ACEsによって苦しむ人々を支援することが医療従事者にとって容易になります。ACEsによって影響を受けた個人の治療を受けるための現在のプロセスは、長く複雑なものです。ACEsによって影響を受けた人々を診断するには、医療専門家は、正しいタイプの質問を尋ねるための高度なトレーニングを受け、その質問を使用して、人の子供時代を形作った出来事と、それらの出来事がどのように彼らに影響したかについての洞察を得る必要があります。質問と回答の潜在的な組み合わせを考慮すると、医療提供者が特定のタイプの介入を勧めることは非常に難しい場合があります。また、医療または政府機関との面会が予定されると、多くの医療従事者や政府職員が患者と関わることになりますが、彼らがACEsに対する正しいトレーニングや理解を持っていることを保証することはできません。

これらの問題に対処するために、研究チームは、テクニカルサポートのチャットボットと同様に機能するAIアプリケーションを設計しました。AIシステムを使用する者は、患者情報をモデルにフィードし、モデルは、トレーニングに使用されたデータベースに基づいて、特定の介入のスケジュールを推奨します。モデルは、自然言語入力を考慮し、「私の家には暖房がない」というようなフレーズを、潜在的な子供時代の困難の指標として解釈し、それらのコンテキストステートメントをACEsの治療のための医療ガイドに照らして、最も適切な行動を推奨します。

ユーザー入力への対応は、ハードコードされていません。代わりに、外部サービスエンドポイントを生成して動的なレスポンスをトリガーするウェブフックシステムを使用して、動的に生成されます。AIシステムは、前の質問への回答に基づいて、どの質問を尋ねるべきかを決定し、最も有用で関連性の高い情報を最少の質問で収集できるようにします。前述のように、システムは説明可能であり、介入に関する決定に至ったデータを公開します。結果として、システムは追跡可能であり、医療専門家はシステムが使用したロジックを逆方向にたどることができるようになります。

オークリッジ研究所の研究者によって開発されたAIシステムは、ACEsを持つ人々をよりよく診断できるように医療従事者を支援するための最初のデータ駆動型アプローチの1つです。これ自体が印象的な成果ですが、AIシステムとチャットボットを作成するために使用された一般的なアプローチは、他のドメインに外挿され、他のタイプの精神疾患の診断と治療に使用される可能性があります。決定に至ったデータを公開するために使用された方法は、機械学習システム全体の透明性と説明可能性を高めるために活用される可能性もあります。