アンドリュー・ペリー、エシックス・エヴァンジェリスト、ABBYY – インタビュー・シリーズ

アンドリュー・ペリーは、デジタルインテリジェンス企業のABBYYのエシックス・エヴァンジェリストです。ABBYYは、企業が運用の貴重な洞察を得ることができ、真のビジネス変革を実現できるように支援しています。

ABBYYは最近、信頼できる人工知能の開発を促進するグローバル・イニシアチブを立ち上げました。私たちは、アンドリューに、AIの倫理、AIの悪用、そしてAI業界がこれらの懸念に対してどのように対応すべきかについて質問しました。

AIの倫理に興味を持つきっかけは何でしたか?

AIの倫理に興味を持つきっかけは、法律とAI技術の交差点への深い関心からでした。私は、経済的に困難な立場にある被告を弁護するために、刑事司法制度でキャリアを始めました。次に、法律の実践における高度な検索とAIの応用に焦点を当てた技術に移りました。私は、データプライバシー専門家として、プライバシー法とAI技術の適切な使用に特に情熱を傾けています。

顔認識技術は、米国政府を含む権威ある機関によってしばしば悪用されています。この問題はどのくらいの社会的懸念事項ですか?

顔認識技術の影響は、経済的、社会的、安全保障的権利を含む多くの基本的な権利に影響を及ぼす可能性があるため、重大な社会的懸念事項です。

顔認識アルゴリズムは信頼できないという明確な証拠があります。NISTの顔認識アルゴリズムの研究では、アフリカ系アメリカ人は白人よりも100倍も誤認される可能性があることがわかりました。ジョージタウン・ロースクールの研究では、顔認識アルゴリズムはアフリカ系アメリカ人の個人に対して高い誤認率を示したことがわかりました。さらに、2018年のMITの研究では、Amazonの顔認識ソフトウェアは、白人の男性を99%の精度で認識したのに対し、黒人の個人を35%の誤認率で認識したことがわかりました。

これらの理由により、規制当局は、特に監視とプロファイリングの文脈において、顔認識技術の使用を禁止する措置を講じ始めています。たとえば、カリフォルニア州上院は、法執行機関による顔認識技術とその他のバイオメトリック・サーベイランス方法の使用を禁止する州全体の禁止令を可決しました。

テクノロジー企業も、顔認識ソフトウェアの販売を中止することを発表しています。IBMは、顔認識ソフトウェアの販売を中止し、基本的人権と自由を侵害するとしています。マイクロソフトも、同様の決定を下し、基本的人権を侵害するとしています。

COMPASソフトウェアは、米国の裁判所で犯罪リスク評価に使用されてきましたが、有色人種の犯罪者を白人犯罪者よりも再犯する可能性が高いと判断する誤りを犯しています。AIを裁判所で使用することは、許容されるべきでしょうか?

COMPASの研究では、予測犯罪については、ランダムな人々と同等の精度しか示さないことがわかりました。予測分析は商業的文脈では大きな価値を提供しますが、刑事司法への適用では不平等をもたらすことが証明されています。これは、Pro Publicaの報告書で明らかになりました。COMPASは、米国の裁判所で犯罪リスク評価に使用される最も人気のあるソフトウェアですが、有色人種の犯罪者を白人犯罪者よりも再犯する可能性が高いと判断する誤りを犯しています。

これらの不平等は、当時の上院議員エリック・ホルダーが、AI技術を使用して再犯率を予測することの公平性と適切性について懸念を表明するきっかけとなりました。

AIシステムに意図しない偏見を組み込まないために、社会はどのように対応すべきですか?

まず、AIには無意識の偏見を生み出す可能性があることを認識する必要があります。悪影響を軽減するには、倫理的なAIガイドラインの開発が必要です。たとえば、OECDの倫理基盤は、7つの基本原則に基づいています。人間の主体性と管理、技術的堅牢性と安全性、プライバシーとガバナンス、透明性、多様性と差別のない、社会的幸福と説明責任です。

二つ目に、自動プロファイリングから個人を保護する法律フレームワークに従うことが重要です。たとえば、EUは、GDPRを通じてプライバシー権を尊重し保護する長い歴史があります。GDPRは、自動決定の保護を具体的に規定しています。

三つ目に、業界はAI技術の開発と使用について説明責任を持ち、透明性を保つ必要があります。 Partnership on AIは、13カ国にわたる80以上のメンバーを持つ組織で、AIの重要な問題について研究と議論を行っています。

最後に、テクノロジー企業は、AIアルゴリズムの商業的なリリース前に、偏見の影響を評価することを約束する必要があります。テクノロジー企業のリーダーは、次のような質問を考慮する必要があります。トレーニングデータは多様性に富んでいますか? 偏見をどのように検出しますか? どのようにテストしますか? 誰が商業的に利益を得ますか?

AIソリューションは、トレーニングされたデータを反映します。したがって、データが偏っていないことを確認し、サービス対象者の多様性を反映することが重要です。AI研究者ジョアンナ・ブライソンの言葉を借りて言うと、「もし基礎となるデータが固定観念を反映している場合、または人間の文化からトレーニングされた場合、偏見を見つけることになるでしょう。而且、慎重でない場合、コンピュータープログラムにその偏見を組み込む危険性があります。」

ABBYYは最近、信頼できる人工知能の開発を促進するグローバル・イニシアチブを立ち上げました。このイニシアチブは、ABBYYの将来にとってどれほど重要ですか?

信頼できるAIのためのグローバル・イニシアチブを開発するという決定は、ABBYYとして、世界中の企業に影響を与え、数万人の個人ユーザーにサービスを提供する責任ある企業であるという信念に基づいています。このイニシアチブは、ABBYYのブランドイメージを高め、グローバルな顧客やパートナーとの信頼を築くのに役立ちます。また、ABBYYの技術が社会に良い影響を与えることを保証するのに役立ちます。

ABBYYは、AIの倫理的な使用を促進する文化を育むことに尽力しています。他の企業が同様の文化を育むために何が必要ですか?

テクノロジー企業は、AIの倫理的な使用のための枠組みを構築する必要があります。AIアルゴリズムの適用の程度に応じて、その枠組みの内容は異なります。最善の方法は、害を与えないという原則に従い、AIの信頼できる使用に対するトップダウンのコミットメントを示すことです。

また、透明性へのコミットメントも重要です。知的財産権は、AIの信頼できる使用の原則とバランスを保つ必要があります。テクノロジー企業は、AIの責任ある使用について明確に述べ、組織全体に伝える必要があります。

ABBYYは、社会的、経済的に有益なAI技術を提供することを約束しています。これは難しいバランスです。他の企業はこのバランスをどのように実現できますか?

リーダーは、ステークホルダーに対する懸念事項を考慮することで、このバランスを実現できます。たとえば、デロイトの提案では、AIの倫理基盤を設計することが重要です。企業は、AIのガバナンスとアドバイザリ委員会を設立し、AIの設計、開発、展開、使用についてのガバナンスを確立する必要があります。

ABBYYは、新型コロナウイルス感染症の際に、多くのテクノロジーを無料または割引価格で提供し、個人や組織が危機に対応できるように支援しました。また、NeoMLというオープンソースのマシンラーニング・ライブラリを提供し、ソフトウェア開発者が信頼できるモデルを使用してAIの革新を促進できるようにしました。

新型コロナウイルス感染症のための連絡先追跡アプリでAIを使用することについて、プライバシー権のバランスについてどう考えていますか?

これは特に難しい問題です。連絡先追跡アプリの実装はプライバシー権の侵害であると主張する人もいますが、公共の安全のために必要な措置であると主張する人もいます。権利と責任のバランスは、法的枠組みの中で認識されています。たとえば、GDPRは、公共の利益のために個人情報の処理が必要な場合、データ主体の同意を得ることなく処理が許可されることを規定しています。

さらに、GDPRの第46条は、公共の利益のために個人情報の処理が必要な場合、特に人道的緊急事態や疫病の場合、データ主体の同意を得ることなく処理が許可されることを規定しています。しかし、第46条は、この規定の適用を非常に狭く解釈しています。つまり、他の法的根拠に基づいて処理できない場合にのみ適用されることを規定しています。

プライバシー権と公共の利益のバランスをとることに加えて、テクノロジー企業と政策立案者は、AI駆動のプロファイリングと高度に機密性の高い健康情報の共有について、倫理的に健全で透明で公平なガイドラインを実施する必要があります。GoogleやFacebookなどの主要テクノロジー企業は、ユーザーの動きを追跡し、ウイルスの拡散を評価し、社会的距離の措置の有効性を評価するためのイニシアチブを始めています。

私は、情報が匿名化されている限り、その使用は社会的利益があると考えています。

ABBYYの新しいグローバル・イニシアチブについてさらに何か共有したいことがありますか?

規制は技術の革新に遅れることがあります。したがって、企業は、AI技術の使用がプライバシーとセキュリティ権に与える影響について、透明性と説明責任を取る役割を果たす必要があります。ABBYYのイニシアチブは、この取り組みを反映しています。ABBYYは、創設以来、貴重な情報を保存し、行動可能な知識に変える革新的なテクノロジーを開発してきました。

さらに、AI技術の倫理的な使用は、法的根拠だけでなく、道徳的義務とビジネス上の必須条件と見なされるべきです。ソリューションが広範囲にわたる影響を与え、ビジネス上の重要な機能に影響を与える場合、AI技術の適用について透明性を保つことは業界の標準とされるべきです。

重要な質問に答えてくださり、ありがとうございます。ABBYYの信頼できるAIの原則とアプローチについては、こちらをクリックしてください。ABBYYについてさらに知りたい場合は、ABBYYのウェブサイトを訪れてください。