プライバシーを重視したAI：次世代のパーソナルサービスを支えるアーキテクチャ

ほとんどの企業は、パーソナルAIアシスタントが新しいレベルに達したことをまだ理解していません。現在、AIアシスタントは質問に答えるだけでなく、行動を実行します。予約の作成や監視、通信、財務、スケジュール、旅行、会議に関する決定を行います。

AIが操作するデータも変化しました。「あなたがどんな音楽が好きか」から「あなたはどこにいるか、あなたは誰と一緒にいるか、あなたは何に同意したか、そしてそのために何を支払っているか」まで。これは、より高いレベルの脆弱性であり、新しいアーキテクチャが必要です。我々はこれを「プライバシーリシート」と呼びます。デジタルリシートにより、ユーザーはいつでもAIアシスタントが自分について何を知っているか、どこから得たか、そしてなぜ使用しているかを確認できます。これは、現在銀行明細書に対して期待しているものと同じです。透明性、検証可能、要求に応じて提供されるものです。

安全なAIが今すぐに重要な理由

最近まで、AIアシスタントは主に情報提供を目的としていました。検索、文書の要約、コードのヒントなど、プロセスを制御する人の関与なしに動作することは稀でした。

しかし、現在は異なる状況に直面しています。AIアシスタントは電子メール、カレンダー、メッセンジャー、銀行、旅行サービスに統合されています。さらに、独自にメールを送信したり、予約を支払ったり、フライトを変更したりすることができます。これらのアクションは、担当者が認識していないコンテキストに基づいて行われます。

同時に、AIアシスタントを最も活発に使用するのは、ミスのコストが非常に高い人々です。トップマネージャーやCEO、HNWクライアント、金融部門や資本管理の専門家など、プライバシーの喪失は重大な評判上のリスク、法的リスク、そして直接的な金銭的リスクです。

AIの場合、プライバシーの問題は単なる形式主義として扱うことができません。

最小限のデータ、より多くの価値

ほとんどのAI製品は、必要以上のデータを収集しています。私たちの実践では、典型的なAIアシスタントが収集するデータのほとんどは、サービスを提供するために実際に使用されることはありません。コンシェルジュビジネスの場合、優れたパーソナルサービスを提供するために、AIアシスタントに必要なのは3つの要素だけです。最初に、タスクに関連する好み：あなたがどのように旅行するか、どのようにコミュニケーションをとるか、ビザ、予算、家族の義務に関する制限など。

2番目に、現在のリクエストのコンテキスト：どこ、いつ、誰と、どのような目的、締め切り、リスクなど。

最後に、タスク内での過去のやり取りを覚えておく：同じ質問を繰り返さない、選択した解決策を覚えておく、同じミスを繰り返さない。

これらがあれば、製品は優れたパーソナルアシスタントのレベルで動作します。完全なメールアーカイブ、継続的なロケーショントラッキング、金融取引は必要ありません。

AIアシスタントと許容される限界

パーソナルアシスタントには、収集すべきではないデータの種類があります。例えば、受動的な行動データ：常時リスニング、リクエストなしの継続的な地理的位置情報、スクリーンまたは入力の監視など。これらのデータを収集するシステムは、ユーザーが何を求めているかではなく、ユーザーが一般的に何をしているかについて情報を収集するため、アシスタントではなく監視装置となります。

また、システムがやり取りしたことがない第三者のデータも必要ありません。例えば、「会議の手配を支援してください」というリクエストは、ゲストのプロフィール、ルート、習慣を構築する権利にはなりません。

さらに、ユーザーのコミュニケーションの完全な内容は、デフォルトで長期記憶に保存されません。AIアシスタントは、ユーザーが明示的に依頼した場合にのみ、特定のメールを処理できますが、それはAIアシスタントがメールを読む権利があることを意味しません。

有用性と侵入性：AI製品の罠

追加のコンテキストは、製品をより便利にします。システムが知っていることが多くなるほど、推奨事項はより正確になり、応答はより迅速になり、使用感はより印象的になります。

ここで、ユーザーのニーズを予測するために、カレンダー、メール、チャット、CRM、地理データを接続する必要性が生じます。各ユーザー接続は妥当で正当化されます。

コンシェルジュ業界では、顧客のカレンダーと旅行履歴を接続すると、システムは顧客のニーズを予測できます。ただし、一部のサービスは、アクティブなタスク外でコミュニケーションの内容を保存せず、受動的なデータに基づいて行動プロファイルを構築しません。

問題は、UX最適化の論理が、データ収集、保存、へのアクセスを拡大する方向にアーキテクチャをシフトしていることです。ある時点で、線は単純に消えます。

2番目の問題は、カスタマーサポートへのアクセスに関するものです。強力な暗号化を構築し、顧客サポートオペレーターに顧客の履歴への完全なアクセスを与えることができます。実際、内部への不制限されたアクセスや人間のミスにより、外部からの攻撃よりもインシデントが発生することがあります。

3番目のリスクは、多エージェントアーキテクチャです。エージェントがコンテキストを相互に渡すと、データは設計されていない方法でコンポーネント間を流れます。エージェントが幅広い許可を持っている場合、そのコンテキストは下流のチェーンで拾われます。

プライバシーリシート：AIの次の標準

プライバシーをコンプライアンス機能として見ることは間違いです。実際のプライバシーは、どのデータを保存し、どのように共有するか、どのくらいの期間保存するか、誰がアクセスし、どのような状況下でアクセスするか、そしてユーザーがどのようにコントロールするかによって決まります。

不幸にも、ほとんどのサービスはユーザーの質問に簡単な答えを出せません。システムが何を知っているか、正しく修正できるか、完全に削除できるか、特定のデータの使用を禁止できるか。

したがって、ユーザーがAIアシスタントに何を知っているか、どこから得たか、そしてなぜ使用しているかを確認できる「プライバシーリシート」の導入が重要です。銀行明細書と同様に、透明性、検証可能性、要求に応じた提供が期待されます。

セキュアメモリの技術基盤

プライバシーリシートは、堅固なエンジニアリング基盤なしには不可能です。少なくとも3つの層が重要です。第一に、インフラストラクチャレベルのデータ保護。暗号化は形式的なものではなく、基本原則です。データはクライアント固有のキーで保存され、すべてのマスター キーではありません。転送は最新のプロトコルで行われ、機密属性はサービスメタデータから論理的に分離されます。

さらに、各サービス、エージェント、オペレーターは、特定のタスクを実行するために必要なデータにのみアクセスできる必要があります。

最後に、改竄防止アクセスログ、各アクセスの監査、ストレージと処理の地理的管理が重要です。多エージェントシナリオの定期的なテストは、別のリスククラスとして考慮されるべきです。

このアーキテクチャがあれば、プライバシーリシートが可能になります。システムは本当に何を知っているかを知り、証明できます。

誰が失うか、誰が標準になるか

メモリを一方向的な蓄積と見なすサービスや製品は、損をします。ユーザーにとっては透明性が低く、より多くのソース、より多くのコンテキスト、より長い保存期間となります。

このモデルは短期的には有利に見えますが、制限や明確なルールがない場合、データの接続はより迅速に進み、説明とコントロールのメカニズムが整備されるよりも早く、無制限な拡張に転じます。

データ漏洩、AIアシスタントの不正使用、または機密情報の不適切な開示に関連するスキャンダルは、このカテゴリのすべての製品に影響します。ユーザーは透明性についてより多くの情報を要求し、説明可能性、追跡可能性、ユーザーコントロールを事前にアーキテクチャに組み込んだ企業だけが信頼を維持できます。

AIが何を知っているか、そしてなぜそれを使用しているかを瞬時に検証可能な画像でシステムを設計する製品が、標準になります。特に人々の生活に影響を与える場合、プライバシーはシステムの最初から部分でなければなりません。