ウォータールー大学のBailey Kacsmarさん（博士課程）- インタビューシリーズ

Bailey Kacsmarさんは、ウォータールー大学のコンピューター科学学部で博士課程を修了し、アルバータ大学の新任教員です。彼女の研究分野は、プライバシーを意識した技術の開発であり、プライベートな計算の技術的アプローチと、それに対するユーザーの認識、懸念、理解を並行して研究しています。彼女の研究目標は、機械学習アプリケーションにおけるプライバシーの可能性と限界を特定することです。

あなたの研究分野は、プライバシーを意識した技術の開発です。なぜAIにおけるプライバシーは重要なのでしょうか。

AIにおけるプライバシーは重要です。なぜなら、AIはデータなしでは存在できないからです。データは、人々やその行動を表す抽象的なものですが、多くの場合、実際の人々についてのデータを扱っているのです。私たちは、木の個体数や水位についてのデータを扱っているのではなく、人々についてのデータを扱っているのです。人々についてのデータを扱う場合、システムが善行または悪行を引き起こす可能性があることを認識し、理解する必要があります。これは、多くのシステムが大量のデータや機密性の高いデータ（例えば、医療データ）を使用して新しい理解を開発しようとするAIにおいて特に重要です。

あなたは、機械学習がユーザーのプライバシーをどのように侵害しているのを見たことがありますか。

「侵害」という言葉は強い言葉です。しかし、システムがユーザーの同意なしに、ユーザーに通知せずに、潜在的な危害を考慮せずに個人情報を使用する場合、個人のプライバシーまたは社会的プライバシー規範を侵害する可能性があります。これは、ユーザーのメールボックス、テキストメッセージ、または医療データをモデルにトレーニングする場合など、多くの場合に起こり得ます。

差分プライバシーとは何ですか。差分プライバシーについてのあなたの見解は何ですか。

差分プライバシーは、技術的プライバシーを達成するための定義または技術です。技術的なプライバシー定義には、2つの重要な側面があります。保護されるものと、誰から保護されるかです。技術的なプライバシー保証は、特定の仮定が満たされた場合に達成される保護です。これらの仮定は、潜在的な攻撃者、システムの複雑さ、または統計についてである可能性があります。差分プライバシーは、非常に有用な技術であり、幅広い応用があります。しかし、重要なのは、差分プライバシーはプライバシーと同等ではないことを認識することです。

プライバシーは、1つの定義や概念に限定されません。状況に応じたプライバシー、法的なプライバシー規範（例えば、カナダのPIPEDA、欧州のGDPR、カリフォルニア州の消費者保護法（CCPA））など、他のプライバシー概念もあります。これらすべては、技術システムが他のプライバシー要因から独立して存在するわけではないことを認識する必要があります。

フェデレーテッドラーニングは、プライバシーを強化するタイプの機械学習です。フェデレーテッドラーニングについてのあなたの見解は何ですか。

フェデレーテッドラーニングは、モデルをトレーニングするために、複数の所有者または場所に分散されたデータセットのコレクションを使用する方法です。フェデレーテッドラーニングは、プライバシーを強化するタイプの機械学習ではありません。プライバシーを強化するタイプの機械学習では、保護されるもの、誰から保護されるか、保護条件を正式に定義する必要があります。例えば、差分プライバシーでは、特定のデータポイントが寄与されたかどうかを、出力から判断できないことを保証します。

フェデレーテッドラーニングでは、この保証はありません。フェデレーテッドラーニングでは、データの所有者が直接データを提供する必要はありませんが、データを提供するすべての当事者が、他の当事者や第三者がデータを直接取得できないことを保証する必要があります。この保証は、フェデレーテッド設定で特に重要です。ここでは、信頼できない当事者には、データを提供するすべての当事者が含まれます。

これらのアプローチの現在の限界は何ですか。

現在の限界は、プライバシーとユーティリティのトレードオフの性質に最もよく説明できます。プライバシーとユーティリティのバランスを取ることは難しいです。完全なプライバシーを達成することは、システムを開発しないことを意味します。一方、完全なユーティリティを達成することは、プライバシー保護を施さないことを意味します。したがって、どのレベルのプライバシーとユーティリティが「理想的」であるかを判断する必要があります。

あなたは、ユーザーが意識したプライバシー技術を開発するために、技術的な解決策を並行して研究しています。詳細についてお話しください。

技術的な解決策とは、ユーザーがどのような保護を価値があると考えているかを調べ、システムを設計することを意味します。ユーザーが実際にシステムを使用する方法を調べ、システムを更新することも含まれます。技術的な解決策は、定義された保護を提供する正しいシステムである可能性があります。ユーザーが意識した解決策は、ユーザーや影響を受ける他の当事者からの入力を基にシステムを設計することを意味します。

あなたは、2024年9月から、AIのプライバシーに関する研究に興味がある大学院生を募集しています。なぜ学生がAIのプライバシーに興味を持つべきか。

学生がAIのプライバシーに興味を持つべき理由は、AIが社会に広く浸透していることです。最近のChat-GPTの普及は、ニュース記事、ソーシャルメディア、影響に関する議論で見られます。私たちは、毎日の生活でさまざまな企業や組織に情報を提供しています。これらの企業は、サービスを改善するためにデータを使用したり、利益を得るために使用したりしています。企業のデータ使用慣行が変わることは現実的ではありません。しかし、プライバシーを保護するシステムが存在することで、企業が分析を実行することを許可しながら、ユーザーを保護するバランスを取ることができます。

素晴らしいインタビュー、詳しく知りたい読者は、Bailey KacsmarのGithubページを訪れてください。