インタビュー
アーティ・サマニ、シュリーム・グロース・パートナーズの創設者兼CEO – インタビュー・シリーズ
アーティ・サマニ、シュリーム・グロース・パートナーズの創設者兼CEOは、2つの10年以上にわたる技術のリーダーであり、AI戦略家です。彼女は、AI、デジタル・アイデンティティ、バイオメトリック・セキュリティの分野で成長を牽引してきました。彼女は、iProovおよびMedtronicのデジタル・サージェリー（Medtronicに買収）でのシニア・ロールを務め、グローバル・プロダクトおよびマーケティング・戦略を牽引し、主要な資金調達ラウンドを確保しました。BBCのコメンテーターおよびMoney 20/20やCogX Festivalを含むグローバル・イベントのキーノート・スピーカーとして、彼女は、AIの倫理、ガバナンス、リスクに関するボードおよび幹部へのアドバイスを提供し、組織がAIの時代に信頼と回復力を構築することを支援しています。
シュリーム・グロース・パートナーズは、組織がディープフェイク・フラウドおよびAI駆動のなりすましに対して保護するのを支援します。組織は、カスタマイズされたトレーニング、エグゼクティブ・ブリーフィング、脆弱性の評価、および戦略的コンサルティングに焦点を当て、チームおよびリーダーが操作の試みを認識、対応、および防止するのを支援します。組織は、認識、準備、および文化的回復力を育むことで、組織はアイデンティティ、評判、およびワークフォースをAIの脅威から守ることができます。
あなたは、iProov、Medtronicデジタル・サージェリー、およびその他のAI駆動型企業でのシニア・ロールの後、シュリーム・グロース・パートナーズを設立しました。ディープフェイク・フラウド・レジリエンスに特化した企業を設立するきっかけとなったものは何ですか?
2022年末にChatGPTがリリースされた後、私たちは、声や顔を数分で複製できるAI駆動型メディア・ツールの爆発的な増加を目撃しました。ほとんどの組織は、それらをデザインおよびマーケティングのための創造的なアクセラレータとして見ました。しかし、犯罪者たちは、新しい社会工学の機会を見つけました。
ディープフェイクは、詐欺師が人々を操作するために使用するツールになりました。セキュリティ・チームは、検出技術に投資することで対応しましたが、検出だけでは、人間の信頼に根ざした問題を解決することはできません。心理学は、業界の盲点でした。
その洞察が私にシュリーム・グロース・パートナーズを設立するきっかけとなりました。シュリーム・グロース・パートナーズは、認識、シミュレーション、および認知的回復力を通じてディープフェイク・フラウド・レジリエンスを構築する会社です。批判的に考え、操作に抵抗する能力を強化することが、この種の詐欺を軽減するための鍵です。
iProovでは、顔認証とアイデンティティ・バリデーションの最前線で働きました。ディープフェイクが認証システムに与える脅威をどのように見ましたか?
iProovのチーフ・プロダクトおよびマーケティング・オフィサーとして、私は、バイオメトリック・フェイス・バリデーションをセキュリティ・センシティブな組織に導入するのに役立ちました。これらの機関は、組織化されたサイバー犯罪の常連標的です。彼らの敵は、インテリジェントで、豊富で、最先端のテクノロジーで武装しています。
私たちは、盗まれたアイデンティティから作成されたディープフェイクを使用してバイオメトリック・システムを迂回する試みを見ました。iProovはクラウドベースのマネージド・サービスとして運営していたため、攻撃をリアルタイムで観察し、各イテレーションの進化を分析することができました。犯罪者が市場よりも迅速に学習していることが明らかになりました。
その経験が私にディープフェイク・有効な詐欺の進化と、創造性と心理学がサイバー犯罪をどのように駆り立てているかについての深い理解を与えました。那同じ理解が現在、私のディープフェイク・フラウド・レジリエンスにおける私の仕事に情報を提供しています。
ディープフェイクは、エグゼクティブのなりすまし、声の複製、社会工学的攻撃に使用されています。現在、どのようなシナリオが最も多く見られますか?
社会工学的攻撃は、セキュリティ・システムを破壊するよりも簡単です。人々が従来の詐欺に気をつき始めると、犯罪者たちは新しい方法で信頼を操作するようになります。
ディープフェイク・テクノロジーは、最も強力な社会工学的ツールになりました。現実的な顔、声、物語を生成し、人間の判断を迂回します。
犯罪者の優位性は、エグゼクティブのなりすましや支払いに限定されません。知的財産、機密データ、およびアクセス・クレデンシャルが標的となります。AIエージェントをトレーニングし、複製された声で提供することで、詐欺はスケール、スピード、および精度で実行できます。那が私たちが踏み入れる脅威の地平線です。
ディープフェイク・フラウド・レジリエンス・プログラムは、従来のサイバーセキュリティまたはアンチ・フィッシング・トレーニングとどのように異なりますか?
サイバーセキュリティ・トレーニングは、2000年代初頭にインターネットと商用コンピューティングが形作られていたときに作成されました。以来、コンプライアンスのニーズに応じてコンテンツが進化しました。LMSプラットフォームとエンゲージメントのためのガミフィケーションに焦点を当てました。しかし、脅威の地平線は先に進みました。
今日の詐欺は、インテリジェントで、創造的で、心理学的に設計されています。犯罪者は、学術界または企業と同じレベルのAIを使用しています。トレーニングは、コンプライアンスを超えて、認知に焦点を当てる必要があります。
ディープフェイク・フラウド・レジリエンス・トレーニングは、リンクをクリックするかどうかだけに簡約されるべきではありません。人々が批判的に考え、顔や声とのやり取りの際に真実性に疑問を持ち、認識を操作することが容易であることを教える必要があります。
認知的回復力に同等の重点が置かれなければなりません。感情の高まり、気を散らす心、そして常にマルチタスクしていることは、批判的に考え、操作に抵抗する能力を弱めます。認知的回復力を構築することで、従業員は感情のバランスを維持し、分析的で、警戒する心構えを維持することができます。那は操作に抵抗するために必要な心構えです。
あなたの会社はディープフェイク・脆弱性の評価とテーブル・トップ・エクササイズを提供しています。シミュレーションの1つを説明してください。また、クライアントは通常どのような洞察を得ていますか?
私たちの脆弱性の評価とテーブル・トップ・エクササイズでは、現実のインシデントから抽出された最新のディープフェイク有効な攻撃ベクトルを再現します。共通のシナリオには、複製されたアイデンティティを使用する偽の求人者、ITヘルプデスクを妥協してマルチファクタ認証の資格情報をリセットする、または従業員に悪意のあるソフトウェアをダウンロードするように説得するAI生成のパーソナのビデオ会議が含まれます。
これらのシミュレーションは、人々がプレッシャー下でどのように反応するかを暴露し、コミュニケーション、プロセス、およびインシデント・レスポンスにおける盲点を明らかにします。エグゼクティブは、専門知識の不足と意思決定の所有権の不明確さを発見することがよくあります。結果は通常、持続可能な回復力プログラムにつながります。那は、詐欺の識字性、プロセスと文化の変化、および組織全体の危機への備えを強化するものです。
あなたは人間中心のリスク管理についてよく話しています。企業は従業員をディープフェイクの操作から保護するためにどのようにして従業員を活用できるでしょうか?
ディープフェイクは、信頼と感情を評価するのを助けるのと同じ神経回路を利用します。私たちの脳は、視覚的および聴覚的ヒントを優先するように設計されています。私たちはまだ、これらのヒントに直感的に疑問を持ち始めるには十分に進化していません。したがって、私たちがそのスキルを学び、継続的に強化する必要があります。
企業は、従業員をデジタル・インタラクションに注意と好奇心を持って取り組むよう訓練することで従業員を活用できます。ボイスまたはビデオ会議に参加しているとき、スクリーンに投影されたアーティファクトとやり取りしています。那アーティファクトは、実在の人物か、人工的なものか、視覚的に判断することはできません。
唯一の防御は、主動的な検証です。正しい質問を尋ね、詳細を確認し、物語の不一致に気づくことです。新しいマントラはシンプルでなければなりません。ゼロ・トラスト、常に検証することです。
ディープフェイクは、誤情報と詐欺の境界を曖昧にします。エグゼクティブは、合成メディアのインシデントによって引き起こされる評判と運用上の危機にどのように準備することができますか?
幹部は、ディープフェイクのインシデントを、仮想的なものではなく、コア・ビジネス・リスクとして扱う必要があります。危機が発生したときに、テーブルの周りのすべての幹部が自分の役割を知っている必要があります。
リスク・レジスタを確認するのと同じように、幹部はインシデント・レスポンス・プランを確認し、静的なものではありません。脅威の地平線はあまりにも迅速に進化しています。計画は、少なくとも半年ごとに、理想的には現実のイベントをシミュレートするテーブル・トップ・エクササイズの後に、ストレス・テストおよび更新される必要があります。
ディープフェイクの危機は、1つの機能にしっかりと収まることはありません。コミュニケーション、法務、セキュリティ、および人事の間の調整を必要とします。最も効果的に対応する組織は、現実のインシデントが発生する前に協力のリハーサルを行ったものです。
従業員またはエグゼクティブがディープフェイクの標的になったときの心理的コストもあります。組織はその人的影響に対処するためにどのようなサポートまたはプロトコルを設けるべきですか?
「詐欺の恥」は、すべてのコストで避けるべきです。組織は、インシデントが発生する前に心理的な安全性の文化を構築する必要があります。従業員またはエグゼクティブがディープフェイクの標的になったとき、経験はアサルトのように感じることがあります。デジタル・アイデンティティのコントロールの喪失です。
対応は、手続き的であり、人間的である必要があります。明確な報告プロトコルは、精神衛生のサポート、機密のデブリーフィング、およびデジタル・フォレンジックへのアクセスと並んでなければなりません。そうすることで、個人は何が起こったかを理解することができます。
リーダーがトーンを設定します。エグゼクティブが操作の試みと回復についてオープンに話すと、汚名を取り除き、透明性を促進します。那オープンさが、個人の脆弱性を集団的回復力に変えるものです。
この分野のコンサルタントとして、あなたは、ジェネラティブ・AIがどのように急速に進化しているかについて、どのような懸念を抱いていますか? ディープフェイクの能力の次の波はどこで生まれると思いますか?
ジェネラティブ・AIは、非凡なスピードで進化しています。那が懸念事項ではありません。実際のリスクは、その急速な採用と、日常的なビジネス・オペレーションへの浸透率にあるのです。脅威管理と認識のペースは、追いついていません。那ギャップが、詐欺師が繁栄する場所です。ディープフェイクが最も効果的なツールです。
毎回の新しいイノベーションは、別の表面を攻撃することになります。現在、AIエージェントは、ディープフェイク・テクノロジーと組み合わせたときに、スケール、スピード、および精度で詐欺を実行できるため、成長するリスクを表しています。人間の攻撃者が匹敵することができないものです。那が私たちが踏み入れる脅威の地平線です。
逆に、ディープフェイク駆動型の詐欺とデマから先んじることができるテクノロジーまたは共同作業は何ですか?
この会話が、信頼できる出版物で行われているという事実は、進歩の兆しです。イノベーター、規制当局、メディア、企業がすべて、デマの影響を受けていることを示しています。
私を楽観的にするのは、協力の意欲の成長です。ディープフェイクの回復力は、1つのツールや1つの組織から来るものではありません。共有された知識から来るものです。情報を交換し、コミュニティを教育することを学ぶことです。犯罪者が行うのと同じ効率で。
私たちは、まだ、その協力の方法を洗練する必要があります。しかし、その意図はあります。集団的な意図が、最終的に信頼を回復することになります。
素晴らしいインタビュー、ありがとうございます。詳しく知りたい読者は、アーティ・サマニを訪問してください。
