ラマ・ナクマン、インテル・フェロー＆予測コンピューティング・ラボのディレクター – インタビュー・シリーズ

ラマ・ナクマンは、インテル・フェロー＆予測コンピューティング・ラボのディレクターです。ラマは、スティーブン・ホーキング教授と共同で、スティーブン・ホーキング教授のコミュニケーションを支援するためのアシスタント・コンピュータ・システムを構築したことで最もよく知られています。今日では、イギリスのロボティクス研究者ピーター・スコット＝モーガン博士のコミュニケーションを支援しています。2017年、ピーター・スコット＝モーガン博士は、運動ニューロン疾患（MND）、別名ALSまたはルー・ゲーリッグ病の診断を受けました。MNDは脳と神経を攻撃し、最終的に呼吸や嚥下を可能にする筋肉を含むすべての筋肉を麻痺させます。

ピーター・スコット＝モーガン博士はかつて次のように述べました：「私は進化し続け、人間として死に、サイボーグとして生きる。」

あなたをAIに引き付けたのは何ですか？

私は常に、テクノロジーが大きな平等化要因になるという考えに惹かれてきました。責任を持って開発されれば、社会的不平等を解決し、人間の潜在能力を高めることができます。AIの場合、これは特に真実です。業界では、AIと人間の関係を対立的に見ることが多いですが、私は、人間とAIの協力という観点から未来を見たいと思います。インテル・ラボの予測コンピューティング・ラボを率いています。私たちの研究では、社会全体に影響を与えるコンピューティング・イノベーションを提供することに焦点を当てています。AIは既に私たちの生活のあらゆる側面に存在し、その存在感は増しています。私のチームが行っている研究には、AIをよりアクセスしやすく、よりコンテキストに応じたものにするという大きな約束があります。

あなたは、スティーブン・ホーキング教授と密接に協力して、コミュニケーションと私たちが日常的に行うタスクを支援するAIシステムを作成しました。そうした日常的なタスクとは何ですか？

スティーブン・ホーキング教授と協力することは、私の人生で最も意味のある挑戦でした。それは、テクノロジーが人々の生活をどのように改善できるかを実感させてくれました。ALSは、時間の経過とともに、患者が最も単純な活動を行う能力を奪う退行性神経疾患です。2011年、私たちは彼と協力して、アシスタント・コンピュータ・システムを改善する方法を探り始めました。コンピュータを使用して人と話すこと以外に、スティーブンはコンピュータを使用してドキュメントを編集し、ウェブを閲覧し、講義を行い、電子メールを読み/書きました。テクノロジーにより、スティーブンは身体的能力が急速に低下した後も、長年にわたって世界に積極的に参加し、インスピレーションを与えることができました。そのことは、私にとって、テクノロジーの影響が人々の生活に及ぼす意味を示すものでした。

スティーブン・ホーキング教授と協力したことから得た主な洞察は何ですか？

私たちのコンピュータ・スクリーンは、実際に私たちが世界と関わるための入り口です。人々が自分のPCを制御できるなら、生活のすべての側面を制御できます（コンテンツの消費、デジタル・ワールドへのアクセス、物理環境の制御、車椅子の操作など）。話すことができる人にとって、スピーチ認識の進歩により、デバイスを完全に制御できます（そしてある程度、物理環境も制御できます）。しかし、話すことも動くこともできない人々は、独立性を発揮することができません。スティーブン・ホーキング教授との経験から、私が学んだことは、アシスタント・テクノロジー・プラットフォームは、ユーザーの特定のニーズに合わせて設計される必要があるということです。たとえば、ALS患者に対して単一の解決策が機能するとは限りません。なぜなら、この病気は患者ごとに異なる能力に影響を与えるからです。したがって、私たちはACAT（アシスタント・コンテキスト・アウェア・ツールキット）を構築しました。これは、モジュラーでオープンソースのソフトウェア・プラットフォームであり、開発者がさまざまな機能を構築することができます。

私はまた、ユーザーが効率性のために制御を放棄することに慣れるしきい値を理解することが重要であることを学びました（これは、障害者のみに限定されません）。たとえば、AIはタスクをより迅速に、またはより効率的に行うために、ユーザーからより多くの制御を奪うことができますが、各ユーザーには異なるレベルのリスク回避があります。一些のユーザーはより多くの制御を放棄することに同意しますが、他のユーザーはより多くの制御を維持したいと考えています。システムを設計する上で、これらのしきい値を理解することは、大きな影響を与えます。効率性と精度の客観的な尺度のみではなく、ユーザーの快適性のレベルに基づいてシステムの設計を再考する必要があります。

最近では、ALSを患っているイギリスの科学者ピーター・スコット＝モーガンと協力しています。彼は世界初の完全なサイボーグになることを目指しています。ピーターにはどのような野心的な目標がありますか？

AAC（アシスタントおよび補助コミュニケーション）には「沈黙のギャップ」という問題があります。ALS患者（ピーターを含む）の中には、スクリーン上の文字や単語を目で選択して他の人と話すためにガイド・コントロールを使用します。これにより、誰かが文を終えた後に長い沈黙が生じ、人がコンピュータを見て反応するために文字や単語を選択し始めます。ピーターはこの沈黙のギャップをできるだけ減らして、コミュニケーションに口頭での即時性を取り戻したいと考えています。また、彼の声と個性を保存し、テキストからスピーチへのシステムを使用して、彼独自のコミュニケーションスタイル（たとえば、彼のウィット、機転、感情）を表現したいと考えています。

イギリスのロボティクス研究者ピーター・スコット＝モーガン博士は、2019年から技術を使用して生命を延ばす一連の手術を受けてきました。（クレジット：Cardiff Productions）

ピーター・スコット＝モーガン博士を支援するために現在使用されているテクノロジーについて説明できますか？

ピーターは、スティーブン・ホーキング教授と協力して構築し、後にオープンソース化したACAT（アシスタント・コンテキスト・アウェア・ツールキット）プラットフォームを使用しています。スティーブン・ホーキング教授は頬の筋肉を「入力・トリガー」として使用してスクリーン上の文字を制御しましたが、ピーターは話すためにガイド・コントロールを使用しています（これは既存のACATに追加された機能です）。これは、CereProcという企業からのテキストからスピーチへのソリューションと接続されており、彼の感情や強調を表現できるようにカスタマイズされています。このシステムはまた、彼用にカスタマイズされたアバターを制御します。

現在、ACAT用のレスポンス生成システムを開発中です。これにより、ピーターがAIの機能を使用してシステムとより高度なレベルでやり取りできるようになります。このシステムは、ピーターとの会話を時間の経過とともに学習し、スクリーン上で選択できるレスポンスを提案します。目標は、AIシステムがピーターのデータから学習し、キーワードを使用してシステムに「ノック」を与えることで、最適なレスポンスを提供できるようにすることです（これは、今日のWeb検索と同様です）。レスポンス生成システムの目標は、コミュニケーションの沈黙のギャップを減らし、ピーターとACATの将来のユーザーがより「自然な」ペースでコミュニケーションできるようにすることです。

AIの透明性の重要性について話されています。どれくらいの大きな問題ですか？

特に、AIが意思決定システムや人間とAIの共同システムに導入されている場合は、大きな問題です。たとえば、ピーターのアシスタント・システムの場合、システムがこれらの推奨事項を出す理由と、システムの学習をどのように影響させるかを理解する必要があります。

より広い文脈では、AIシステムは、人間に解釈可能な情報を提供する必要があります。AIシステムは、どのようにして決定に達したか、どの属性または機能が決定に最も影響を与えたか、システムが推論に対してどれだけの自信を持っているかなどを、人間に解釈可能な情報を提供する必要があります。これにより、AIシステムに対する信頼が高まり、人間とAIの共同の意思決定シナリオでより良いコラボレーションが可能になります。

特に人種差別や性差別の観点から見たAIのバイアスは大きな問題ですが、探しているバイアスが何であるかを知らない場合に、他のタイプのバイアスをどうやって特定しますか？

これは非常に難しい問題であり、技術だけでは解決することはできません。AIシステムの開発に、より多様な人々を参加させる必要があります（人種、性別、文化、身体的能力など）。これは、今日のAIシステムを構築する人口における明らかなギャップです。さらに、社会科学、哲学、心理学、倫理、政策などの多分野にわたるチームをプロジェクトの定義と開発に参加させることが重要です（コンピュータ科学だけではありません）。また、特定のプロジェクトと問題の文脈で、探究プロセスに参加することも重要です。

人間の潜在能力を高める分野で、最も約束のある分野は何ですか？

明らかな分野の1つは、障害を持つ人々を支援して、より独立して生活し、愛する人々とコミュニケーションを取り、社会に貢献し続ける能力を与えることです。教育では、学生の関与を理解し、個々のニーズと能力に合わせて学習体験をパーソナライズすることで、関与を高め、教師をこれらの知識でエンパワーメントし、学習成果を向上させることができます。今日の教育における不平等は非常に深刻で、AIがこれらの不平等の一部を減らすのに役立つ可能性があります。人間とAIの共同システムを構築することで、ヘルスケア、製造業など、多くの分野でAIが多大な価値をもたらす可能性があります。人間とAIがもたらすものは補完的なものです。このためには、社会科学、人間とコンピュータのインタラクション、AIの交差点でのイノベーションが必要です。堅牢な多モーダル認識、コンテキスト認識、限られたデータからの学習、物理的に配置されたHCI、解釈可能性は、私たちがこのビジョンを実現するために焦点を当てるべき重要な課題です。

感情認識の将来のAIへの重要性について話されています。なぜAI業界はこの研究分野に重点を置くべきですか？

感情認識は、人間とAIのシステムのために重要な機能です。1つの側面は、人間の感情がプロアクティブなシステムが行動を起こす前に理解する必要があるコンテキストを提供することです。

さらに重要なのは、これらのシステムが野生で学習し、ユーザーとのやり取りに基づいて適応できるようにする必要があることです。直接のフィードバックは学習のための重要な信号ですが、間接的な信号も重要であり、ユーザーにとってはより少ない作業です。たとえば、デジタル・アシスタントはユーザーの声の苛立ちから多くを学び、将来の学習のためのフィードバック信号として使用できます。ユーザーに毎回フィードバックを求めるのではなく、これらの情報は、AIシステムが将来の改善のために使用できます。

予測コンピューティング・ラボまたはこれまでに議論した問題について、他に共有したいことはありますか？

アシスタント・システムを構築する際には、責任を持ってこれらのシステムを構築する方法と、ユーザーが収集された情報をどのように制御できるかを考える必要があります。AI研究者として、私たちはしばしばデータに魅了され、システムを改善するために可能な限り多くのデータを欲しますが、ユーザーのプライバシーとデータの種類や量のトレードオフがあります。私たちは、システムが推論タスクを実行するために必要なデータのみを収集し、ユーザーが収集されるデータを正確に理解し、ユーザーがこれらのトレードオフを有意義で使いやすい方法で調整できるようにする必要があります。

この素晴らしいインタビューに感謝します。読者がこのプロジェクトについてさらに学びたい場合は、インテルのラマ・ナクマンとピーター・スコット＝モーガン：2人の科学者、1人の「人間サイボーグ」という記事を読むことをお勧めします。

インテルの予測コンピューティング・ラボのチームは、ACAT（アシスタント・コンテキスト・アウェア・ツールキット）を開発しました。（左から）アレックス・グエン、サンギタ・シャルマ、_max・ピナロック、サイ・プラサード、ラマ・ナクマン、ピート・デンマン。（写真に写っていないのは）ブルナ・ジルベント、ソーラブ・サハイ、シャチ・クマール。（クレジット：ラマ・ナクマン）