パトリシア・テイン、Private AIのCEO – インタビュー・シリーズ

パトリシア・テインは、Private AIの共同創設者兼CEOであり、トロント大学のコンピュータサイエンスのPh.D.候補生であり、Vector Instituteのポスドク研究員でもあり、プライバシー保護のための自然言語処理に関する研究を行っています。また、失われた言語の解読に関する計算方法に関する研究も行っています。

パトリシアは、NSERCポスドク研究員奨励金、RBC大学院フェローシップ、Beatrice「Trixie」Worsleyコンピュータサイエンス大学院奨励金、オンタリオ大学院奨励金の受賞者です。彼女は、McGill Language Development Lab、トロント大学の計算言語学Lab、トロント大学の言語学部、カナダ保健省などで8年の研究およびソフトウェア開発の経験を持っています。

コンピュータサイエンスに最初に惹かれたのは何ですか?

問題を解決し、同時に創造性を発揮できることです。それは一種の工芸です。自分の製品アイデアが実現するのを見て、まるで大工が家具を作るように、喜びを感じます。誰かが言った言葉を聞いたことがありますが、プログラミングは究極の創造ツールです。自分が作った製品が世界中で利用されることができることは、最高のボーナスです。

Private AIの創設ストーリーについてお話しください。プライバシーを保護するためのツールが簡単に統合できるものが不足していることを観察したことから始めてください。

私たちがNLP製品をどれを作るかを検討していたとき、市場にはプライバシーを保護するための層が存在しませんでした。プライバシーを保護するソリューションを使用するには、企業はユーザーのデータを第三者に転送する必要がありました。又は、ユーザーのプライバシーを適切に保護できない、低品質のオープンソースソリューションを使用する必要がありました。又は、プライバシーに関する専門知識がほとんどない状態で、社内でソリューションを構築する必要がありました。そこで、私たちは、開発者やAIチームがプライバシー強化技術の出力を簡単に利用できるように、最良の製品を作成することに焦点を当てました。

プライバシー保護AIの重要性についてお話しください。

約80パーセントの情報は構造化されていないものです。AIは、そのようなデータを理解するための唯一の方法です。AIは、良い目的（例：高齢者の転倒検知）や悪い目的（例：プロファイリングやマイノリティへの追跡）で使用できます。ソフトウェアにプライバシーを組み込むことで、AIが有害な方法で使用されることをより困難にします。

プライバシーは競争上の優位性となる理由を教えてください。

理由はたくさんありますが、以下にいくつか例を挙げます：

1. ユーザーがプライバシーについて気にかけることが増えています。消費者が教育を受けると、この関心はさらに高まります。例えば、70パーセントの消費者はデータのプライバシーについて心配しています。
2. 適切なデータ保護およびプライバシーのプロトコルと技術を持っている場合、他の企業との取引が容易になります。
3. 製品をプライバシー保護の観点から設計することで、サービスにおける脆弱性のポイントをよりよく把握できます。特に、データ最小化により、必要ないデータを削除し、サイバー攻撃が発生したときに問題となるデータを排除できます。

トレーニングデータのプライバシーについて、およびそれが逆工学に対して脆弱である理由についてお話しください。

これは素晴らしい質問です。このトピックについては、より多くの教育が必要です。単純に言えば、機械学習モデルは情報を記憶します。モデルが大きいほど、コーナーケースをより多く記憶します。つまり、モデルがトレーニングされた情報を生産時に吐き出すことができます。これは、The Secret Sharer：Neural Networksの意図しない記憶の評価とテストや大規模言語モデルからのトレーニングデータの抽出などの研究論文で示されています。

また、単語埋め込みから個人情報を抽出することも可能であると示されています。さらに、今年には、韓国の愛のボットが他のユーザーとのチャットでユーザーの詳細を書き込むスキャンダルがありました。

分散学習とユーザーのプライバシーについてのご意見を教えてください。

分散学習は、ユースケースによっては素晴らしいステップです。しかし、デバイスからの重み更新からユーザーの入力に関する情報を抽出することはまだ可能です。したがって、分散学習をプライバシー強化技術（差分プライバシー、ホモモルフィック暗号化/安全なマルチパーティ計算）と組み合わせることが重要です。各プライバシー強化技術は、ユースケースに応じて選択する必要があります。どの技術も、すべての問題を解決するためのハンマーにはなりません。私たちはここで決定ツリーについて説明しています。1つの大きな利点は、生のデータをデバイスの外に出さないことです。1つの大きな欠点は、システムをデバッグしたり、適切にトレーニングされているかどうかを確認するためにデータが必要な場合、データを取得することが非常に難しくなります。分散学習は素晴らしいスタートですが、研究と業界がまだ解決しなければならない多くの未解決の問題があります。

Private AIは、開発者が数行のコードでプライバシー分析を統合できるようにします。どうやって機能するのですか?

私たちのテクノロジーはREST APIとして実行され、ユーザーは、削除、匿名化、または擬似化/増強したいテキストを含むPOSTリクエストを送信します。いくつかの顧客は、PCIコンプライアンスのために削除する必要があるコールトランスクリプトを送信しますが、他の顧客は、チャットボット、センチメントアナライザー、またはその他のNLPモデルをトレーニングするために使用するために、チャット全体を送信します。ユーザーは、保持またはメタデータとして使用する必要があるエンティティを選択することもできます。私たちは、実際のデータから個人情報を検出して置換するための正確なシステムをトレーニングする必要性を取り除きます。

IoTデバイスのプライバシーは現在の問題です。解決策についてのご意見を教えてください。

最終的に、プライバシー問題を解決するための最良の方法は、ユースケースに依存します。IoTデバイスも例外ではありません。例えば、スマートシティでのクラウドセンシングなどのユースケースでは、エッジデプロイ、エッジ推論、プライバシー保護のための分散学習が必要になるかもしれません。一方、エネルギー使用状況情報などのユースケースでは、データ集約と匿名化が必要になるかもしれません。ただし、IoTデバイスは、プライバシーとセキュリティが密接に結びついていることを示す典型的な例です。これらのデバイスは、サイバー攻撃に対して非常に脆弱です。したがって、デバイスの根本的な脆弱性を修正せずに、プライバシー強化技術だけでは十分ではありません。他方では、ユーザーのプライバシーを考慮せずに、家の中から収集された情報を、不明な第三者に共有することは、情報のセキュリティを保証することを非常に難しくします。ここでは、2つのフロントで改善する必要があります。欧州委員会がIoTデバイスのセキュリティについて起草している草案立法は、デバイスメーカーが消費者のセキュリティとプライバシーに対する責任を真剣に受け止めるきっかけとなるかもしれません。

Private AIについてさらに何か共有したいことがありますか?

私たちは、プライバシー、自然言語、音声言語、低リソース環境での機械学習モデルの展開、M12（マイクロソフトのベンチャーファンド）によるバックアップを受けた、プライバシー、画像処理、機械学習モデルの展開の専門家グループです。

私たちが作成する製品は、高度に正確であるだけでなく、計算効率も高いため、月末に巨額のクラウド請求が発生することはありません。さらに、顧客のデータは、絶対に私たちに転送されることはありません。すべての処理は、顧客の環境内で行われます。

素晴らしいインタビュー、詳細はPrivate AIを訪れてください。