アドバーサル・チャイルドフード・エクスペリエンスを持つ子供を診断・治療するための「説明可能」AIの開発

オークリッジ国立研究所の研究者は、最近、子供時代に重大な困難を経験した個人の診断と治療を支援するためのAIシステムを開発しました。The Next Webによると、このAIシステムは、多くのAIモデルがブラックボックスであるのとは異なり、決定を下すために使用したデータの断片を返すことで「説明可能」であることを目指しています。

「アドバーサル・チャイルドフード・エクスペリエンス」（ACEs）は、18歳未満の時に発生するトラウマ的な出来事を指し、さまざまな形態の虐待や放棄、また親の投獄、薬物乱用、親への家庭内暴力、親の精神疾患などを含みます。ACEsは、人間の発達や幸福に生涯にわたる影響を及ぼす可能性があり、多くの医療上の問題と同様に、早期の発見と治療は関与する人の結果を改善することができます。ACEsを経験した人のための効果的な介入はよく知られており、研究も進んでいますが、精神保健治療機関は、個人の診断と治療の全過程を支援するためのリソースが不足していることが多いです。

このAIシステムは、テネシー大学のオークリッジ国立研究所の2人の医療研究者、ナリマン・アマールとアラシュ・シャバン＝ネジャードによって開発されました。最近公開されたプレプリントでは、研究チームは、ACEsの診断と治療を支援するためのAIモデルの開発とテストについて説明しています。

AIモデルは、医療従事者に特定の介入を提案することを目的としています。これにより、ACEsを経験した人々を支援することが医療従事者にとってより容易になります。現在、ACEsの診断と治療のプロセスは、複雑で長期にわたるものです。医療従事者は、ACEsの影響を受けた人々を診断するために、特定の質問を正しく行うための高度なトレーニングを受ける必要があります。その後、正しい質問を使用して、子供時代の出来事がどのように人に影響したかを理解する必要があります。質問と回答のさまざまな組み合わせを考慮すると、医療従事者が特定の介入を推奨することは困難になることがあります。また、医療または政府機関との面談を設定した後、多くの医療従事者や政府関係者が患者と関わることになりますが、彼らがACEsに対する正しいトレーニングや理解を持っていることを保証することはできません。

これらの問題に対処するために、研究チームは、テクニカルサポートのチャットボットのように機能するAIアプリケーションを設計しました。医療従事者は、AIシステムに患者情報を入力し、AIモデルは、特定のスケジュールに基づいて介入を推奨します。AIモデルは、自然言語入力を考慮し、例えば「私の家には暖房がない」というフレーズを、潜在的な子供時代の困難の指標として解釈します。AIモデルは、ACEsの治療に関する医療ガイドに基づいて、最も適切な行動を推奨します。

ユーザー入力に対する応答は、ハードコーディングされていません。代わりに、外部サービスエンドポイントを呼び出すウェブフックを使用して、ダイナミックな応答を生成します。AIシステムは、前の質問に対する回答に基づいて、どの質問を尋ねるかを決定します。最終的な目標は、最も有用で関連性の高い情報を、最も少ない質問で収集することを可能にすることです。前述のように、AIシステムは「説明可能」であり、決定を下すために使用したデータを公開します。結果として、AIシステムは追跡可能であり、医療従事者はAIシステムが使用したロジックを後追いすることができます。

オークリッジ研究所の研究者によって開発されたAIシステムは、医療従事者がACEsを持つ人々をよりよく診断することを可能にする、データ駆動型アプローチの最初のものです。この成果自体が印象的なものですが、AIシステムとチャットボットを作成するために使用された一般的なアプローチは、他のドメインに外挿して、他の精神疾患の診断と治療に使用することができます。決定を下すために使用したデータを公開するために使用される方法は、機械学習システム全体の透明性と説明可能性を高めるために利用することができます。AIシステムとチャットボットを作成するために使用された方法は、他のドメインに外挿して、他の精神疾患の診断と治療に使用することができます。決定を下すために使用したデータを公開するために使用される方法は、機械学習システム全体の透明性と説明可能性を高めるために利用することができます。