ウォータールー大学のBailey Kacsmarさん（博士課程）- インタビューシリーズ

Bailey Kacsmarさんは、ウォータールー大学コンピューター科学学部の博士課程在籍者で、アルバータ大学の教員に着任予定です。研究対象は、ユーザーの視点を考慮したプライバシー強化技術の開発です。プライバシーを保護した計算の技術的手法と、それらの技術に対するユーザーの認識、懸念、理解を並行して調べています。機械学習の応用におけるプライバシー保護の可能性と限界を明らかにすることを目指しています。

ユーザーの視点を考慮したプライバシー強化技術を研究されていますが、AIにおいてプライバシーがそれほど重要なのはなぜでしょうか。

大きな理由は、私たちの世界のAIはデータなしでは存在しないからです。データは便利な抽象概念ですが、結局のところ、人やその行動を記述するものです。樹木の個体数や水位のデータを扱うことはまれです。実際の人々に影響するものを扱うときには、そのことを意識し、システムがどのように役立ち、あるいは害を与え得るかを理解する必要があります。大量のデータから恩恵を受けたり、医療データのような極めて機微なデータを使って世界への新たな理解を得ようとしたりするシステムが多いAIでは、特に重要です。

機械学習がユーザーのプライバシーへの信頼を裏切る例として、どのようなものを見てきましたか。

「裏切る」は強い言葉です。ただ、人に関する情報を、本人の同意を得ず、知らせることもなく、潜在的な害も考慮せずに使うシステムには、個人や社会のプライバシー規範を裏切る危険があります。小さな侵害が無数に積み重なって、信頼を損なうのです。たとえば、データの対象者に知らせずに、ユーザーのメール受信箱、テキストメッセージ、医療データを用いてモデルを学習させるような行為が挙げられます。

差分プライバシーとは何か、また、それをどう評価しているかを教えてください。

差分プライバシーは、技術的にプライバシーを実現する方法として注目されるようになった定義、または技法です。一般に、プライバシーの技術的定義には、「何を保護するか」と「誰から保護するか」という二つの主要な側面があります。技術的なプライバシー保証は、一連の前提条件が満たされる場合に成立する保護です。その前提は、想定される攻撃者、システムの複雑さ、統計的性質などに関するものです。非常に有用で、幅広い用途があります。ただし、差分プライバシーとプライバシーそのものは同じではないことを忘れてはいけません。

プライバシーは一つの定義や概念に限定されず、それ以外の考え方も意識することが重要です。たとえば「文脈的完全性」は、用途や組織の違いによって、ある状況について個人が抱くプライバシーの認識がどう変わるかも考慮する概念です。カナダのPIPEDA、欧州のGDPR、カリフォルニア州の消費者保護法（CCPA）のような、法的なプライバシー概念もあります。つまり、差分プライバシーを採用していても、技術システムが他のプライバシー要因と無関係な真空の中に存在するかのように扱うことはできません。

プライバシーを強化する機械学習の一種として連合学習もあります。どのように定義し、どう評価していますか。

連合学習は、複数の所有者や場所に分散したデータセットの集まりを使ってモデルを学習させる方法です。それ自体が本質的にプライバシーを強化する機械学習というわけではありません。プライバシーを強化する機械学習では、何を、誰から保護し、その保護が成立するためにどの条件が必要かを形式的に定義する必要があります。たとえば単純な差分プライバシー計算を考えると、出力を見た人が、特定のデータ点が提供されたかどうかを判断できないことを保証します。

さらに、たとえばデータ点の間に相関がある場合には、差分プライバシーはこの保証をしません。連合学習には、そのような保護の機能はありません。データ所有者がデータセットを互いに、あるいは第三者に直接渡すことなく、データの集まりでモデルを学習させるだけです。一見するとプライバシー保護の機能に思えますが、必要なのは、信頼できない当事者が観測する中間情報や出力から、保護対象の情報を知ることができないという形式的な保証です。連合学習では、共同モデルの学習にデータを提供するすべての当事者が、信頼できない当事者に含まれるため、この形式的な保証が特に重要になります。

これらの手法には現在、どのような限界がありますか。

プライバシーと有用性のトレードオフの性質として説明するのが最も適切でしょう。影響を受ける人にプライバシー上の意味を伝え、目的に照らしてシステムを評価するなど、他のことをすべて行っても、完全なプライバシーを達成するならシステムを作らないことになり、完全な有用性を追求すれば一般にプライバシー保護はなくなります。問題は、「理想的な」妥協点をどう決めるかです。必要なプライバシー保護を提供しつつ、望ましい機能も実現できる適切な均衡点を見つけ、そこに向けて設計するにはどうすればよいのでしょうか。

プライバシーを保護した計算の技術的解決策を並行して研究し、ユーザーの視点を考慮した技術の開発を目指しているとのことですが、具体的に教えてください。

ここで言う解決策とは、大まかに言えば、さまざまな技術的プライバシーシステムを開発できるということです。ただし、開発時には、保護の保証が実際に影響を受ける人々に届いているかを確かめることが重要です。対象となる人々がどのような保護を重視するかを調べてからシステムを開発する場合もあります。実生活での脅威やリスクを考慮して、人々がシステムを実際にどう使っているかを調べ、それに応じて更新する場合もあります。技術的な解決策は、先ほど述べた定義を満たす正しいシステムであり得ます。一方、ユーザーの視点を考慮した解決策では、想定する応用分野のユーザーや、その他の影響を受ける人々の意見に基づいてシステムを設計します。

2024年9月に研究を始める大学院生を募集されています。学生がAIのプライバシーに関心を持つべき理由は何でしょうか。

社会の中でますます広く浸透していく問題だからです。これらのシステムがどれほど急速に広まるかは、ニュース記事やソーシャルメディア、その影響をめぐる議論でChat-GPTが急速に注目されたことを見れば分かります。私たちの社会では、データの収集と利用が日常生活に深く組み込まれ、ほぼ絶えず、さまざまな企業や組織に自分の情報を提供しています。企業は、サービスの改善のため、あるいは利益のために、そのデータを使いたがっています。現時点では、こうした企業のデータ利用慣行が変わると考えるのは現実的ではなさそうです。ただ、企業が求める一定の分析を可能にしながらユーザーを守るプライバシー保護システムがあれば、社会に暗黙のうちに組み込まれたリスクと便益のトレードオフの均衡を図ることができます。

貴重なインタビューをありがとうございました。詳しく知りたい方は、Bailey KacsmarさんのGithubページをご覧ください。