インタビュー

Jack Cherkas、SyntaxのグローバルCISO — インタビューシリーズ

Antoine Tardif
Unite.AI を Google の優先ソースに追加
要点ガバナンスはAIプロジェクトを門前で阻止するのではなく、プロジェクトと共に進むべきである。
もっと見る
  • ガバナンスはAIプロジェクトを門前で阻止するのではなく、プロジェクトと共に進むべきである。
  • AIエージェントには、人間のユーザーと同様に、アイデンティティ、権限、ログ、および封じ込めのための制御手段が必要である。
  • 早期に実践的なパターンを示すCISOは、AIチームが求めるパートナーとなる。

Jack Cherkas、SyntaxのグローバルCISOは、クラウドセキュリティ、サイバーレジリエンス、エンタープライズアーキテクチャ、AIセキュリティの分野で豊富な経験を持つサイバーセキュリティのエグゼクティブです。彼は、Syntax、PwC UK、Kyndryl、IBMでシニア役職を歴任し、セキュリティ運用の構築と拡大を支援し、重大インシデント対応を指揮し、大企業環境のサイバーレジリエンス戦略を策定しました。Syntaxでは、会社の従業員、システム、データセンター、管理クラウドサービス、および顧客向けセキュリティサービス全般のグローバルなサイバーセキュリティを牽引し、8カ国にわたる65人を超えるセキュリティ専門家チームを指揮しています。

Syntaxは、ミッションクリティカルなエンタープライズアプリケーション、特にSAPとOracle (ORCL ) 環境を専門とするグローバルITサービスおよび管理クラウドプロバイダーです。同社は、クラウド移行、管理ホスティング、セキュリティ、エンタープライズアプリケーション管理、AIによる運用をハイブリッドおよびマルチクラウドインフラストラクチャ全体で提供し、企業が複雑なビジネスシステムを大規模に現代化、セキュア化、運用できるよう支援しています。

IBM、Kyndryl、PwC、そして現在Syntaxでサイバーセキュリティのイニシアチブを牽引してきました。新興テクノロジーであるAIのセキュリティに対するあなたの視点は、組織が実験から本番運用に移行する中でどのように変化してきましたか?

私のキャリアは一連の変革とともに歩んできました。そのたび、セキュリティには新たな管理対象への対応が求められました。IBMでのクラウドの初期段階では、ミッションクリティカルなワークロードを動かすために、他社のインフラストラクチャを信頼できるかどうかが問われていました。答えは、責任共有モデルと新世代のクラウドネイティブな統制でした。

その後、ランサムウェアの時代が訪れました。2017年のNotPetyaは、会社を数時間で機能不全に陥れ、業界は、ワームとして自己拡散するマルウェアが世界的なサプライチェーンを一晩で崩壊させることができることを学びました。対応策は、サイバー攻撃が起こるかどうかではなく、いつ起こるかに備えること、ネットワークセグメンテーション、不変のバックアップ、アイデンティティへの重点的な取り組みでした。

KyndrylとPwCでの私の在職中、SaaSはあらゆるIT環境の周辺から中心に移り、ワークロードはデータセンターから他社のスタックに移され、アイデンティティが防御境界となり、ゼロトラストは図面から運用モデルになりました。

Syntaxでの現在、生成AIの波の中にあります。ここで、システム自体が推論、生成、行動します。各波は、新しいコントロール面をもたらし、十分な警告もなく、実験と本番運用の間の時間が短くなりました。クラウドは数年かかりました。SaaSは四半期単位でした。生成AIは数週間です。追いつくCISOたちは、各波を例外ではなく、迅速な採用を通常の状態として扱い始めた人たちです。

組織がAIの導入を加速する中で、コンプライアンスだけでなく信頼も損なわれるリスクをどう評価しますか。その兆候として最初に現れるものは何ですか。

信頼は、AIの採用の基盤です。最も初期の兆候は監査報告書の中ではなく、運用信号の中にあります。誰も責任を負っていないシャドーAIの導入。セキュリティレビューなしで生成AIベンダーを承認する調達。トレーニングデータの出所を問うと、データの系譜が途切れること。プロジェクトを遅らせないために管理者権限を与えられたAIエージェント。組織でこれら4つの信号が見られたら、信頼はすでに得られるよりも速く失われていることになります。リーダーシップは、通常、最後に気付くことになります。

多くの企業は、セキュリティを確保するよりもAIを早く採用しています。現在、ガバナンスがイノベーションの後ろを追っている場合に、現場で最もよく見られるリスクは何ですか?

ガバナンスが遅れると、3つのことが起こりますが、そのどれもがすぐにはセキュリティインシデントとして現れません。まず、規制違反のリスクが静かに積み重なります。EU AI法の透明性要件に違反するAIデプロイメントは、アラームを鳴らすことはありませんが、2年後の監査で罰金として現れます。次に、目に見えない取引の中で顧客の信頼が損なわれます。見込み客はガバナンスを実証できる競合を選び、営業チームはその理由を知ることすらありません。最後に、意思決定の質が低下します。組織はAIに影響された意思決定を増やしますが、それらを説明したり監査したりすることはできません。悪い意思決定は、誰も見ていない場所で蓄積します。AIガバナンスが弱いことによるコストは、監査、販売、意思決定の質の低下であり、最終的には評判を傷つけるセキュリティ侵害に繋がります。

マネージドセキュリティサービスとSOC運用の構築および拡大の経験から、組織はAIドリブンのシステムや自律的な意思決定に対応するためにセキュリティモデルをどのように見直すべきですか?

AIは新しい攻撃ベクトルであり、脅威の増幅器であり、重要な防御のピースであり、セキュリティモデルはこれら3つすべてを同時にカバーする必要があります。

攻撃ベクトルとして、生成AIプラットフォーム自体が防御するターゲットになります。脅威の増幅器として、攻撃者は生成AIを使用してフィッシングを大規模に行い、悪用コードを生成し、自動化された偵察を行い、機械のスピードで脆弱性を発見します。防御のピースとして、同じテクノロジーを反対方向に使用することが唯一の現実的な答えです。AIドリブンのトリアージ、自動化された脅威ハンティング、アナリストの能力を補う支援は、オプションではありません。SOCがAI増強された攻撃者とペースを合わせる方法です。攻撃者だけがAIで能力を高め、こちらがそうしなければ、ギャップは毎サイクルで拡大します。

このため、モデルが統治すべき新しい種類の主体も生まれます。Syntaxではすでに、AIエージェントが人間と並んで組織図に加わると考えており、それが保護の基準になります。AIエージェントにも、人間のユーザーに与えるすべてのもの、すなわちアイデンティティ、役割に応じた権限、活動ログ、行動の基準値が必要です。さらに、侵害されたアカウントに使うのと同じ封じ込め手段、つまり無効化、隔離、権限の取り消しも必要です。違いは速度です。エージェントはミリ秒単位で動くため、こうした手段はインシデント対応の終盤に回すのではなく、即時かつ自動で機能しなければなりません。

Syntaxでは、グローバルセキュリティオペレーションセンターは、AIが人間の分析家を増強するように進化しており、従業員は、Syntax GenAIプラットフォーム内にエージェントワークフローとエージェントを構築しています。Syntax GenAIプラットフォームは、デフォルトで偏り、有害性、データプライバシー、セキュリティを制御するガードレールを提供します。

これが、見直しの方法です。AIをターゲットとして防御します。AIを防御者として展開します。AIの使用を管理します。

速度と統制の間にはしばしば緊張があります。AIシステムに実効的な監督とガードレールを設けながら、組織はどうすればイノベーションの速度を保てますか。

スピードとコントロールは、プロジェクトに同行するガバナンスを構築するまで、反対のようです。ミスの1つは、ガバナンスをゲートに置くことです。委員会、承認、四半期レビュー。ゲートが開くまでに、チームはすでにそれを迂回しているか、または勢いを失っています。機能するモデルは、ガバナンスをプロセスに組み込んだものです。明確で一貫したコミュニケーションが始まりです。その後、事前に承認されたパターン、事前にクリアされたデータフロー、事前に定義されたパーミッションテンプレートが続きます。チームはスピードを得、セキュリティチームは可視性を得、誰もが仮定しているトレードオフは、設計が悪いプロセスの結果であることがわかります。これは、セキュリティとイノベーションを各組織のリスク許容度とバランスさせることについてです。

あなたは大規模なサイバーレジリエンス戦略とインシデント対応に取り組んできました。AIの導入は、サイバーセキュリティの脅威と組織がそれに対応する方法をどのように変えますか?

AIは、さまざまなベクトルに対する脅威を加速させています。規模:同時に数千のターゲットに対するフィッシングと偵察を機械のスピードで行う。高度化:音声や映像による本人確認を突破する、ディープフェイクを使ったソーシャルエンジニアリング。アイデンティティ:人間用に設計されたアイデンティティチェックを通過する合成アイデンティティ。

インシデント対応の場合、影響は運用上のものです。人間のスピードでパターンを認識することに頼らない検出が必要です。声とビデオが偽造可能であることを前提とした検証プロトコルが必要です。AI関連のインシデントを明示的にカバーするインシデント対応のプレイブックが必要です。回復ステップはランサムウェアイベントからの回復と同じではありません。

Syntaxでは、複雑な実世界のエンタープライズ環境で「セキュアバイデザイン」のAIとは実際的に何を意味しますか?

Syntaxでは、ガードレールを組み込んだGenAI Platformの導入、GenAIサービス・アプリ・モデル・プラットフォームを承認・制限・禁止に分類する運用、そしてAI Governance Officeを通じたセキュリティ優先の文化の推進によって、イノベーションとセキュリティを両立させることを意味します。グローバルセキュリティ組織としては、事業を妨げる存在ではなく実現を支える存在と位置づけることです。事業の戦略的優先事項を支援しつつ、リスク許容度に沿ってSyntaxを守ります。

セキュリティとコンプライアンスは成長の阻害要因ではなく、促進要因であるという物語が広がっています。組織が本当にこの心構えを取り入れるために、文化的および運用上の変化は何が必要ですか?

最も大きな変化は、成功の定義です。セキュリティチームは数十年間、起こらなかったこと(侵害がない、インシデントがない、監査での指摘がない)で評価されてきました。その指標は「ノー」と言う行動を評価します。チームが促進者として動作する場合、異なるものを測定します。コントロールが実証可能だったために取引が成立したこと、セキュリティが道を確保したためにローンチが予定通りに行われたこと、そして革新がガバナンスを迂回するのではなく、通過したことです。

運用面では、ガバナンスを組み込む形でプロセスを再定義し、積極的な実行支援と組み合わせる必要があります。例えば当社のGenAI Platformは、安全な方法をより簡単な選択肢にします。利用しやすい生成AI教育や、AI Championsのような取り組みも必要です。

文化は、インセンティブと提供するものに従います。報酬するものを変更し、人々に適切なツールと適切な時期に適切なトレーニングを提供し、人々の行動を変えます。これがSyntaxが取り組んでいる旅です。

企業のワークフローにAIが組み込まれる中で、CISOはAIリーダー、データサイエンティスト、製品チームとどのように協力して、進歩を妨げることなく、AIシステムに対する責任を確保するべきですか?

CISOが招待されるのを待つと、遅れます。CISOが早くに現れ、政策上の異議ではなく、実用的パターンを持ってくると、AIプロジェクトが実際にテーブルに欲しいパートナーになります。実践では、AIチームとの共同設計セッション、機能面の承認の後ではなく、それと並行して行うセキュリティ承認、そしてオープンドアポリシーが必要です。こうして、単にノーと言う部門から、「はい、ただし」あるいは「いいえ、ただし」と応じる、事業に前向きに協力するパートナーへと会話が変わります。

今後、世界的なAIガバナンスの標準フレームワークが登場するでしょうか? それとも、規制に関係なく、組織は内部の信頼アーキテクチャを構築する必要がありますか?

両方です。その順序で。EU AI法を先頭に、少数の地域フレームワークへの段階的な収束を見ます。他の地域は、ローカルバリアントを伴って続きます。今の10年期には、単一の世界標準は実現しません。地政学的分裂のためです。したがって、組織は2つのことを並行して行うことになります。最大の市場に適用されるフレームワークに準拠することと、最も要件が緩い枠組みの水準を上回る内部信頼アーキテクチャを実行することです。内部アーキテクチャは、外部スタンダードよりも重要です。規制機関は遅く動きますが、脅威はそうではありません。内部信頼アーキテクチャを今構築する組織は、次の10年間で新しい規制機関が到着するたびに「私たちはすでにそれを実行しています」と言うことになります。

素晴らしいインタビューをありがとうございました。詳しく知りたい読者はSyntaxをご覧ください。

アントワーヌは、先見の明を持つリーダーであり、Unite.AIの創業パートナーです。AIとロボティクスの未来を形作り、その発展を促すことに揺るぎない情熱を注いでいます。複数の企業を立ち上げてきた起業家として、AIは電気と同じほど社会を大きく変えると考えており、革新的な技術や汎用人工知能(AGI)の可能性について熱く語ることがよくあります。

未来を展望するフューチャリストとして、こうした革新が世界をどのように形作るかを探究しています。また、未来を再定義し、業界全体を変革する最先端技術への投資に焦点を当てたプラットフォーム、Securities.ioの創設者でもあります。