オピニオン
AIはPCへと広がりつつある――しかし、AIが何を見られるかを誰が管理するのか?

要点ローカルAI処理は、オンデバイスエージェントのプライバシーやセキュリティを自動的に保証するものではありません。
もっと見る
- ローカルAI処理は、オンデバイスエージェントのプライバシーやセキュリティを自動的に保証するものではありません。
- エージェントは、各特定のワークフローが必要とする範囲に限定された最小権限アクセスの下で動作しなければなりません。
- ユーザーは、エージェントが何を見て何を行えるかについて、透明で取り消し可能な制御を必要としています。
AIエージェントは、チャット画面を超えて、人々が日々使うオペレーティングシステムやアプリケーション、ファイルへと進出し始めている。
ここ数カ月に登場した新しいWindows PCやソフトウェアによって、一般ユーザーや企業環境で、複数の段階にわたる自律型AIワークフローの新時代が始まりつつある。この変化は、もはや単なる技術予測ではない。
NVIDIAのRTXを搭載したWindows PCは、AIエージェントをローカルで実行できる。Perplexityも、対応するWindowsコンピューターで利用できるエージェント機能を拡充し、ローカルファイルや連携アプリケーションを扱うワークフローを可能にしている。一方、Microsoftは、エージェントによるリソースへのアクセスや操作を制御するための安全対策を開発している。
しかし、自律性が高まれば、セキュリティリスクも増大する。10月19日、Microsoftのセキュリティ担当エグゼクティブバイスプレジデントであるHayete Gallotは、組織は「エージェント型の内部関係者」を保護するために、さらに対策を講じなければならないと警告した。AIエージェントには過剰な権限が与えられていることが多く、重要なプロセスで判断を下す際に、機密データやツール、システムにアクセスできると指摘した。
MicrosoftのWindowsセキュリティ戦略は、封じ込め、権限の制限、監視の制限を軸としている。また、エージェントの誤りが単なる誤答にとどまらず、より広範な影響を及ぼす可能性への懸念も高まっている。エージェントは機密情報を漏らしたり、重要なファイルを変更したり、業務用アプリケーションで望ましくない操作を実行したりするおそれがある。
ローカルAIだからといって、自動的にプライベートなAIになるわけではない
PC上でAIエージェントを使えば、クラウドベースのサービスに転送される機密データの量を減らせる可能性がある。しかし、ローカル処理は万能のセキュリティ対策ではない。
デバイス上で動作するモデルであっても、アクセスできるファイルが多すぎたり、セキュリティが不十分だったり、ほかのアプリとの連携が安全でなかったりする可能性はある。
問題は必ずしもAIモデルにあるのではなく、組織のガバナンスにある場合が多いと、アメリカ大陸全域でAIソリューションを手がける企業iData GlobalのCEO兼共同創業者、Bayron Quinteroは述べた。
企業は、データやアプリケーション、業務プロセスへのアクセスを過剰に、あるいは不十分に付与することがあると、QuinteroはUnite AIに語った。エージェントに、期待される役割に見合わない権限が与えられることもある。
「課題は、エージェントが最小権限の原則に従って動作し、特定のワークフローに必要なデータ、システム、操作だけにアクセスできるようにすることです」とQuinteroは述べた。つまり、特定のワークフローに必要なデータ、システム、操作に限ってアクセスを許可するということだ。
Quinteroは、データの所有者を明確にすること、役割に基づくアクセス制御、社内システムやサードパーティーのシステムとのやり取りを継続的に監視することが、不可欠な安全対策だと指摘した。
安全なローカルAIなど存在しないと、Quinteroは強調した。
過剰な権限、脆弱な暗号化、不十分な監視、安全でない連携によって、デバイス上のエージェントはクラウドベースのエージェントと同じくらい危険になり、場合によってはそれ以上に危険になる。
セキュリティは、システムのモデルがどこで動作するかだけの問題ではない。どのように設定し、管理するかも重要だ。
新たな境界線は権限にある
一般ユーザーにとっての課題は、AIエージェントに与えるアクセス権限が、そのタスクに見合っているかどうかだ。
1つの文書を要約するよう頼まれただけなら、エージェントがドライブ全体をスキャンする必要はない。写真を整理するツールが、金融データを自動的に読み取ったり、メッセージを送信できたりすべきではない。権限は厳格かつ透明で、取り消し可能でなければならない。
Microsoftのエージェント用アカウントとワークスペースのモデルは、エージェントの活動を個人のセッションから切り離すための一歩だ。しかし、その保護機能はデモにとどまらず、実際に有効でなければならない。
MicrosoftのWindows向けエージェントセキュリティガイダンスは、ユーザーによる承認、活動の記録、エージェントのアクセスを必要な範囲に制限する仕組みを求めている。雇用主や開発者は、文書、ウェブサイト、メッセージに含まれる誤った指示にエージェントがどう反応するかを監視する必要がある。
許可されたタスクの実行中に、エージェントが信頼できないコンテンツに遭遇することがある。エージェントが悪意のあるテキストを命令として認識した場合、情報には容易にアクセスできるため、重大なセキュリティ問題になりかねない。
機密性の高い操作では、人間による承認と最小権限でのアクセスを、封じ込めと併せて実施しなければならない。
利便性には明確な制限が必要
AI PCの評価基準となるのは、エージェントがどれだけの作業を自動化できるかだけではない。ユーザーが個人データや業務データを共有する際の信頼性も問われる。
ローカル処理によってエージェント型AIの速度が向上し、特定のデータが露出するリスクを抑えられる可能性はあるが、権限設定や監視が不要になるわけではない。
原則は明快であるべきだ。エージェントがアクセスできるのは業務に必要な情報だけとし、ユーザーはエージェントの動作を理解し、追跡し、遮断できなければならない。
コンピューターが私たちに代わって行動する能力を高めるなか、制御を後回しにしてはならない。設計段階から組み込む必要がある。












