記事執筆

パトリシア・セイン氏、Private AI CEO - インタビューシリーズ

公開済み

3年前

2021 年 10 月 19 日

パトリシア・セインは、の共同創設者兼CEOです。プライベートAIは、トロント大学のコンピューターサイエンスの博士号候補者であり、Vector Institute の大学院生として、応用暗号化を中心としたプライバシー保護の自然言語処理の研究を行っています。彼女は失われた言語を解読するための計算手法に関する研究も行っています。

パトリシアは、NSERC 大学院奨学金、RBC 大学院フェローシップ、コンピューターサイエンスのベアトリス “トリクシー” ワーズリー大学院奨学金、およびオンタリオ大学院奨学金の受給者です。彼女は、マギル言語開発研究所、トロント大学計算言語学研究所、トロント大学言語学部、カナダ公衆衛生庁などで XNUMX 年間の研究およびソフトウェア開発の経験があります。

最初にコンピューターサイエンスに惹かれたのは何ですか?

問題を解決すると同時に創造的になる能力。まるで工芸品のようだ。大工が家具を作るのと同じように、製品のアイデアが実現するのを目の当たりにすることができます。かつて誰かが言ったのを聞いたことがあります。「プログラミングは究極の創造的なツールです。」あなたが構築した製品を拡張でき、世界中の人々が使用できるという事実は、非常に優れています。

プライベート AI の背後にある誕生の経緯と、プライバシーを保護するために簡単に統合できるツールが不足しているというあなたの観察からプライベート AI がどのように生まれたのかについて説明していただけますか?

音声や文書を通じて、私たちの最も機密性の高い情報の一部が作成され、私たちがサービスを利用する企業に転送されます。どの NLP 製品を構築するかを検討していたとき、統合する必要があるプライバシーの層がありましたが、これは単に市場に存在していませんでした。プライバシーソリューションを使用するには、企業はユーザーのデータをサードパーティに転送するか、ユーザーのプライバシーを適切に保護するには不十分な標準以下のオープンソースソリューションを使用するか、またはほとんど最小限の費用でソリューションを社内で構築する必要がありました。プライバシーに関する専門知識。そこで私たちは、プライバシー強化テクノロジーの出力をニーズに合わせて簡単に機能させる必要がある開発者や AI チームのために、可能な限り最高の製品を作成することに重点を置くことにしました。

プライバシー保護 AI はなぜ重要ですか?

生成される情報の約 80% は構造化されておらず、そのデータすべてを理解するには AI が唯一の方法です。これは、高齢者の転倒の検出を支援するなどの良い目的にも、過小評価されている人口の個人のプロファイリングや追跡などの悪い目的にも使用できます。私たちが作成するソフトウェアにプライバシーを確実に組み込むことで、AI が有害な方法で使用されることがはるかに困難になります。

プライバシーはどのようにして競争上の優位性となるのでしょうか?

理由はたくさんありますが、ここではほんの一部を紹介します。

プライバシーを気にするユーザーがますます増えており、消費者の知識が深まるにつれて、この懸念はますます高まっています。消費者の 70% が自分のデータのプライバシーを懸念しています.
適切なデータ保護とデータプライバシーのプロトコルとテクノロジーが導入されていれば、他の企業との取引がはるかに簡単になります。
プライバシーを保護する方法で製品を構築すると、サービスのどこに脆弱性があるかをより適切に追跡できるようになり、特にデータの最小化を通じて、不要なデータや削除される可能性のあるデータを削除できます。サイバー攻撃が発生したときにトラブルに巻き込まれます。

トレーニングデータのプライバシーの重要性と、それがリバースエンジニアリングの影響を受けやすい理由についてお話しいただけますか?

これは素晴らしい質問であり、これについてはさらに多くの教育が必要です。単純に言えば、機械学習モデルは情報を記憶します。モデルが大きくなるほど、コーナーケースをより多く記憶します。これが意味するのは、モデルがトレーニングされた情報を本番環境で吐き出すことができるということです。これは、以下を含むいくつかの研究論文で示されています。 The Secret Sharer: ニューラルネットワークにおける意図しない記憶の評価とテスト & 大規模な言語モデルからのトレーニングデータの抽出.

ということも示されている単語の埋め込みから個人情報が抽出される可能性があるそして、これが現実の問題であるかどうか疑問を持っている人のために、次のような質問もありました。今年のスキャンダル韓国のラブボットが他のユーザーとのチャットでユーザーの詳細を書き込んでいたとき。

フェデレーテッドラーニングとユーザーのプライバシーについてはどう思いますか?

ユースケースが許せば、フェデレーテッドラーニングは素晴らしいステップです。ただし、特定のユーザーのデバイスからクラウドに送信される重み更新情報からユーザーの入力に関する情報を抽出することは依然として可能であるため、フェデレーションラーニングを他のプライバシー強化テクノロジー (差分プライバシーと準同型暗号化/安全なマルチパーティコンピューティング) と組み合わせることが重要です。）。それぞれのプライバシー強化テクノロジーはユースケースに応じて選択する必要があります。すべての問題を解決するためのハンマーとして使用できるものはありません。ここでディシジョンツリーを見てみましょう。大きな利点の 1 つは、生データをデバイスの外部に送信しないことです。大きな欠点の 1 つは、システムをデバッグするため、またはシステムが適切にトレーニングされているかどうかを確認するためにデータが必要な場合、その取得が非常に困難になることです。 Federated Learning は、研究と業界の両方が取り組んでいる多くの未解決の問題を抱えた素晴らしいスタートです。

プライベート AI を使用すると、開発者はプライバシー分析を数行のコードと統合してプライバシーを確保できます。これはどのように機能しますか?

当社の技術は REST API として実行され、ユーザーは編集、匿名化、または実際のデータで仮名化/拡張したいテキストを含む POST リクエストを送信します。当社の顧客の中には、PCI 準拠にするために編集する必要がある通話記録を送信する人もいれば、チャットボット、センチメントアナライザー、またはその他の NLP モデルのトレーニングに情報を使用できるようにチャット全体を送信する人もいます。ユーザーは、保持する必要があるエンティティを選択したり、個人データの保存場所を追跡するためのメタデータとして使用したりすることもできます。私たちは、非常に乱雑なデータ内の個人情報を検出して置き換えるために正確なシステムをトレーニングする必要があるという苦痛を取り除きます。

IoT デバイスのプライバシーが現在問題になっているのはなぜですか?その解決についてはどう考えていますか?

結局のところ、プライバシー問題を解決する最善の方法はユースケースに大きく依存しており、IoT デバイスも例外ではありません。いくつかのユースケースでは、エッジ展開、エッジ推論、プライバシー保護のフェデレーテッドラーニング (スマートシティでの群衆センシングなど) に依存する可能性がありますが、他のユースケースではデータの集約と匿名化 (エネルギー使用情報など) に依存する必要がある場合があります。そうは言っても、IoT デバイスは、プライバシーとセキュリティがどのように連携しなければならないかを示す代表的な例です。これらのデバイスはサイバー攻撃に対して安全でないことで知られているため、コアデバイスの脆弱性を修正せずにプライバシー強化テクノロジーでできることは限られています。その一方で、ユーザーのプライバシーを高める方法を考えなければ、家庭内で収集した情報がチェックされずに見知らぬ相手に共有される可能性があり、情報のセキュリティを保証することが非常に困難になります。ここには改善すべき点が XNUMX つあり、欧州委員会が作成中の IoT デバイスのセキュリティに関する法案は、最終的にデバイスメーカーに消費者のセキュリティとプライバシーに対する責任を真剣に受け止めるよう揺るがすものになる可能性があります。

プライベート AI について他に共有したいことはありますか?

私たちは、Microsoft のベンチャーファンドである M12 の支援を受けている、プライバシー、自然言語、話し言葉、画像処理、低リソース環境での機械学習モデルの展開の専門家のグループです。

私たちが作成する製品は、精度が高いだけでなく、計算効率も高いため、月末に多額のクラウド請求書を手にすることがなくなります。また、お客様のデータが当社に転送されることは決してなく、すべてがお客様独自の環境で処理されます。

素晴らしいインタビューをありがとうございました。詳細については、こちらをご覧くださいプライベートAI.