インタビュー
ギーゼッケ・アンド・デブレントのThorsten Delbrouck氏、グループCSO – インタビュー・シリーズ
Thorsten Delbrouck氏は、ギーゼッケ・アンド・デブレントのグループCSOであり、20年以上のセキュリティ経験を持つベテランのサイバーセキュリティ専門家です。2011年にギーゼッケ・アンド・デブレント（G+D）に入社し、コーポレートチーフインフォメーションセキュリティオフィサーとして、金融、テレコム、政府インフラストラクチャなどの高度に規制された分野における会社のグローバルセキュリティ戦略を牽引してきました。2020年には、グループバイスプレジデント、セキュリティおよびCISOの役割を拡大しました。Delbrouck氏は、サイバーセキュリティとリスクマネジメントの世界的権威であるInformation Security Forum（ISF）の会長も務めています。また、Infineon Technologies、COMLINE、TÜV Secure iTでのシニアセキュリティリーダーシップの役割も経験しています。
ギーゼッケ・アンド・デブレント（G+D）は、ミュンヘンに本拠を置くセキュリティテクノロジー企業で、1852年に創設された歴史ある銀行券印刷会社から、デジタルセキュリティ、金融テクノロジー、通貨インフラストラクチャのソリューションを提供する主要企業に成長しました。同社は、デジタルセキュリティ、金融プラットフォーム、通貨テクノロジーの3つのコアセグメントで事業を展開し、モバイル接続、デジタルID、銀行システム、支払いプラットフォーム、物理およびデジタル通貨のセキュリティを提供するテクノロジーを提供しています。G+Dは、世界中の政府、中央銀行、金融機関、企業と協力し、eSIM、認証システム、デジタル支払い、サイバーセキュリティ、中央銀行デジタル通貨（CBDC）などのソリューションを提供しています。同社は、デジタル経済の信頼できるインフラストラクチャプロバイダーとして位置付けられており、世界中で14,000人以上の従業員を擁し、重要なシステムや金融エコシステムのセキュリティを確保するための数十年の専門知識を持っています。
サイバーセキュリティのリーダーシップ役職で約3年代を過ごし、TÜV Secure iT、Infineon、現在ギーゼッケ・アンド・デブレントで15年以上勤務しています。伝統的な企業セキュリティリスクから現在のAI駆動型サイバーチャレンジまで、脅威の風景はどのように変化しましたか？また、業界の現在の方向性について何が心配ですか？
私のキャリアの中で最も大きな変化は、スピードと影響力です。セキュリティ管理を始めた1990年代後半、重大なセキュリティ問題は、ミスコンフィギュレーションされたファイアウォールやパッチされていないサーバーを意味し、爆発半径は通常、かなり制限されていました。過去3年代で、私は1つの侵害の結果が、運用上の不便からシステムリスクへの変化を見てきました。
そして、すべてが速くなっています。私たちは、より多くのシステムやより高い帯域幅を扱っています。今日、インターネットトラフィックのほぼ半分は人間によって生成されています。推定によると、約40％のトラフィックは、悪意のあるスキャン、マルウェア、DDoS攻撃などの悪意のある活動で構成されています。
同時に、風景は高度に統合され、集中しています。インターネットの元々の設計哲学である冗長性と分散性は失われました。結果として、セントラルポイントの故障を標的にした攻撃は、以前よりも遥かに壊滅的な結果をもたらします。これにより、現代のITシステムの設定と運用に、ほとんどのエラーが許容されません。現在、AIは攻撃者のタイムラインをさらに圧縮しています。
最近、Dario Amodei氏のコメントにより、先進的なAIシステムが大規模なソフトウェアの脆弱性を特定するという懸念が再燃しています。企業は、AI支援開発が既存のセキュリティプロセスをどれほど速やかに圧倒するかを過小評価していると考えていますか？
はい、私は多くの企業がこの変化のスピードを過小評価していると考えています。最初は、AIが攻撃者と防御者にほぼ同等に利益をもたらすように思えたですが、心配される現実が現れています。AIは、まったく新しいサイバー犯罪のカテゴリを発明しませんでした。代わりに、洗練された攻撃能力を民主化し、脅威アクターが偵察を自動化し、フィッシングの言語バリアを排除し、人間の防御者が吸収することが困難なスピードとスケールで脆弱性を発見することを可能にしました。
問題は、AIが脆弱性の発見に大きなブーストを与えている一方で、修復プロセスではそれほど広く採用されていないことです。那は危険な不均衡を生み出します。AI支援の脆弱性発見は、防御者が処理できるよりも多くの作業を生み出しています。これは数年以内に改善する可能性があります。AIによる修復が追いつくにつれですが、現在は増大する問題です。
さらに、同じ企業が最新のモデルをサイバーセキュリティからの救済として提示しているのと同時に、サイバー脅威の一部を助長していることは、皮肉です。AI支援のコーディングツールはソフトウェアの生産を加速しますが、しばしば汚い、脆弱なコードを生成し、攻撃面を拡大します。経済的な観点から見ると、これは素晴らしいことですが、セキュリティの観点からはそうではありません。
G+Dでは、AIのユースケースを構造化された方法で評価し、制御されていない方法で拡大しません。問題はAIそのものではなく、展開におけるガバナンスの欠如です。これは、G+Dが内部にも適用する原則と一致しています。AIには、革新だけでなく、制度化された評価と承認プロセスが必要です。
多くの組織は、AIを主に防御的なサイバーセキュリティツールとして見ています。AIが現在企業環境内で保護よりもリスクを生み出している場所はどこですか？
ほとんどのサイバーセキュリティチームは、セキュリティイベントの検出、分類、評価、トライエージュにさまざまなレベルでAIをすでに展開しています。驚くことにうまく機能しています。
しかし、新しいリスクがそれらの利点とともに現れています。AIアーキテクチャ自体に生じる脆弱性は、すでに広く議論され、ほとんど理解されています。私たちは、静的なコードではなく、非決定的なシステムをセキュリティ保護しています。これにより、プロンプトインジェクション（悪意のあるデータがLLMを欺いてガードレールを無視する）、データ汚染（モデルロジックをトレーニング中に破損させる）、データ漏洩（モデル出力によって企業の機密データが意図せず公開される）などの新しい脅威ベクターが導入されます。これは、エクスプロイトの定義を根本的に変更します。
しかし、私たちの伝統的な、しっかりと練られた防御も適応する必要があります。多くの組織にとって、ユーザーとエンティティの動作分析（UEBA）は、まだ比較的新しい概念です。実際、多くの企業は、厳格なデータプライバシーの規制、厳格な労働法、労働組合の共同決定権のため、UEBAのアプローチをまだ完全に採用していません。現在、基準はシフトしました。AIが人間の動作を完璧に学習し、模倣できる将来、UEBAは人間の動作と自動化された攻撃を区別することができるでしょうか？それとも、有害なAIエージェントと無害なエージェントを区別することができるでしょうか？そのような製品はすでにありますが、通常、実際のパフォーマンスがマーケティングの約束から実現するまでに時間がかかります。新しい概念と現代のセキュリティアーキテクチャが必要になります。
情報セキュリティフォーラムの会長として、世界中の主要なグローバル企業のセキュリティリーダーと関わっています。CISOは、AI生成のコード品質について心配しているでしょうか。あるいは、より大きな問題は、AIによってセキュリティを保護するための運用上の負担でしょうか？
両方の問題は実際のものですが、異なる方法で着地します。AI生成のコード品質は、真正な懸念事項です。AIが生成するコードは、クリーンに見えるかもしれませんが、微妙なロジックの欠陥、セキュアでないデフォルト、または難しいものです。CISOは、当然、それについて心配しています。
しかし、私がISFメンバー組織のセキュリティ専門家と話したとき、より大きな警鐘は運用上のものです。依存関係の問題が、決定的な負担になります。外部コンポーネントやサードパーティライブラリへの依存度が高いことは、すべての依存関係を徹底的に追跡、管理、継続的にパッチする必要があることを意味します。コードの中でもツールチェーンの中で、潜在的に異なるクラウド環境でです。すでに大きな課題でした。AI支援開発は、現在それを増幅しています。問題の性質が変わったのではなく、スケールが爆発的に増えたのです。より多くのコード、より速く生成され、より多くの依存関係、より多くのリポジトリでです。
したがって、私が優先するならば、コード品質は解決可能なエンジニアリング問題です。より良いツール、厳格なレビュー、開発パイプラインのガードレールを強化することです。指数関数的に成長するコードベースとその広がった依存関係チェーンの運用上の負担が、より構造的で、より持続的な課題です。那が、実際のプレッシャーがあり、シニアCISOの議論で繰り返し上がる場所です。
ギーゼッケ・アンド・デブレントは、デジタルID、決済、銀行インフラストラクチャ、eSIMテクノロジー、中央銀行デジタル通貨などの高度に機密性の高い分野で事業を展開しています。AI時代に、重要なインフラストラクチャのセキュリティを確保することは、従来の企業システムの保護とはどのように異なりますか？
G+Dでは、私たちが直面する責任は、セキュリティを真剣に考えている他の組織と同じです。ただし、私たちの基準は例外的に高く、エラーの余地は非常に小さくなっています。私たちは、インフラストラクチャ内のセキュリティインシデントは、典型的な企業での侵害よりもはるかに広範な影響を及ぼすことを認識しています。那が、私たちのサイバーセキュリティリスクへの容認度が非常に低い理由です。
AIが私たちに独自の複雑さをもたらすのは、運用アーキテクチャ自体です。特に、支払いシステム、デジタルID、中央銀行向け製品などの、高セキュリティコンポーネントは、厳格な認定とセキュリティ要件の対象となります。これらのコンポーネントは、論理的な分離から完全にエアギャップされたネットワークまで、さまざまな環境で開発、テスト、運用される必要があります。外部接続はまったくありません。
それがすでに難しい課題でしたが、現在、世界中の組織が開発と運用のワークフローにAI支援ツールを統合しています。クラウド接続、広範なデータアクセス、継続的なモデル更新に依存するツールです。ネットワークケーブルの誤ったポートへの接続が重大な方針違反となる環境で、これらを調和させることは、実際的なエンジニアリングとガバナンスの課題です。
私たちを、AIの統合について非常に意図的であるように促します。私たちは、単に適切なAIモデルを選択しているのではなく、インフラストラクチャレベルで、これらのツールをローカルで展開する必要があるか、クラウド経由で使用できるかについて、戦略的な決定を下しています。
AIコーディングコパイロットや自律開発エージェントの採用が急速に進んでいます。最終的に、企業はAI生成コードを展開する前に、別の検証と認証プロセスを必要とするでしょうか？
私は、決定的な基準が人間によって書かれたかAIによって書かれたかではなく、リスクであるべきだと考えています。ただし、AI生成コードには、出所、追跡可能性、および規制された環境または高セキュリティ環境での厳格なレビューが必要になります。
脅威モデリング、セキュアコーディングポリシー、開発ツールチェーンへのSASTツールの統合は、今日の標準的な実践です。ツールは自然にAI強化されています。さらに、開発チームは、セキュリティクリティカルまたは規制された、高度に機密性の高いコンポーネントに属する機能を、徹底的に追跡し、理解し、継続的にテストする必要があります。基盤となる依存関係も、徹底的に理解し、継続的にテストする必要があります。
経済も、最終的に重要な役割を果たすことになります。現在、主要なAIプロバイダーのトークン価格は、コストをカバーしていません。主要なAIプロバイダーは、市場シェアを確保するために、インフラストラクチャと推論の赤字を吸収しています。長期的には持続できないサブシディモデルです。企業のワークフローにAIを展開する商業コストが、実際のインフラストラクチャ費用を反映して上方修正されたとき、問題が生じます。その時点で、業界は、小規模でローカライズされた、目的のユースケースに特化したモデルへの移行にシフトする必要があります。これらの小規模なモデルをトレーニングすることは、重大なコスト増加を緩和するための重要な戦略になります。
そして、最高のセキュリティ要件を持つカテゴリでは、人間の監視は必須であり、そこが課題です。有限の人間の能力を、可能な限り効率的に活用することです。
AIシステムは、人間のアナリストよりもはるかに速く脆弱性を特定できますが、修復には依然として人間のワークフローに大きく依存しています。企業は、パッチ管理自体が自律化する必要がある点に近づいていると思いますか？
はい、自律的なパッチ管理は、長所ではありません。運用上の必要性です。今日の脆弱性の純量は、人間のトライエージュ能力を超えています。
しかし、実際の展開は、段階的で実用的アプローチに従う必要があります。標準的な、非クリティカルな環境では、完全な自動化は、適切なガードレールが整っている限り、完全に達成可能です。クリティカルで、高影響力のシステムでの完全な自動化は、将来的にも難しいままです。
これは、基本的な側面が本当に重要であることを示しています。標準環境とクリティカルな環境の区別は、直感的には簡単に聞こえるかもしれませんが、実践では、きれいに、自動化された方法で複雑な環境を運用するために、膨大な量の正確で詳細で継続的な家政婦作業を必要とします。その作業は、簡単に過小評価されます。
実際の課題は、プロセス自体の機械的な実行ではありません。むしろ、より広範なシステムです。知的意思決定は、全体のシステムがそれをサポートする場合にのみ可能です。パッチ管理は、単に自動化されるのではなく、はるかに賢く、速くなる必要があります。
そして、常にそうです。高度に機密性の高い状況では、制御された安定性と高速度が、手と手で行く必要があります。那が、難しい部分です。多くの組織がまだ準備していない部分です。
世界中の政府は、デジタルIDシステム、CBDC、接続されたインフラストラクチャを実装するために競争しています。AI駆動型サイバーセキュリティ脅威が、規制および国家のセキュリティ準備を上回ることを心配していますか？
規制フレームワークであるNIS2やサイバーレジリエンス法は、状況を前進させるために押していますが、規制は、最終的には、全体のシステムの1つの部分にすぎません。規制は重要ですが、規制が発行されると、問題が直ちに解決するとは限りません。企業は、ガイドラインを実装し、システムを永久にセキュアに保ち、脅威の風景と保護対象を継続的に理解し、改良し、同期させる必要があります。
私は、組織が規制遵守を実際のセキュリティの代わりとして扱わない限り、慎重に楽観的です。現代のセキュリティ管理は、規制を待ちません。もし、何かであれば、その逆です。現実世界でのベストプラクティスが規制に流れ込むべきです。規制が先行するのではなく、その逆です。
高度にセキュアなドメインでは、デジタルIDや支払いインフラストラクチャの運用上の準備が整っているわけではありません。G+Dは、中央銀行や政府との対話パートナーでもあります。G+Dは、セキュネットを通じて、ドイツ連邦共和国のITセキュリティパートナーとしても、重要なデジタルインフラストラクチャの保護に積極的に取り組んでいます。
一部の専門家は、先進的なAIモデルを「サイバーウェポン」と表現していますが、他の専門家は、その表現が誇張されたと主張しています。フロンティアAIシステムがもたらす実際のリスクについて、人々が何を間違えていると思いますか？
人々が間違っているのは、サイバー攻撃が物理的な戦争の論理に従うと仮定することです。十分に強力な武器が必ず防御を突破するというものです。サイバーウェポンの表現は、キネティックなマインドセットから借用しています。より大きな銃がより厚い壁を破壊し、より賢いミサイルがより速い航空機を破壊するというものです。サイバー攻撃はそうではありません。
サイバー攻撃は、ほとんどの場合、過度な力によって成功するのではなく、ギャップを利用することによって成功します。ミスコンフィギュレーション、パッチされていない脆弱性、人間のミス、サプライチェーンの弱いリンクです。AIは、そのダイナミクスを変えません。ギャップを探すことを速く、安くします。那は、深刻な問題ですが、異なる問題です。
実際のリスクは、AIが防御を突破できるすべての力を持ったオフенсив能力を生み出すことではありません。実際のリスクは、AIが、人間が修復するペースを超えるスピードで、古いギャップを利用し、拡大することです。那が必要なものです。運用上の衛生状態の改善、修復の高速化、より回復力のあるアーキテクチャが必要です。脅威は、新しいスーパーウェポンではありません。古いギャップを、新しいスピードで利用することです。したがって、AIをサイバーウェポンと表現することは、誇張です。
先を見据えて、AIからの最大のサイバーセキュリティ脅威は、洗練された国家攻撃、自律的な大規模な攻撃、内部の悪用、サプライチェーンの脆弱性、または業界がまだ十分に注目していない何かから来るでしょうか？
セキュリティの未来を予測することは、常に特に困難です。国家攻撃、自律的な攻撃、内部の悪用、サプライチェーンの妥協は、すべて現実的で拡大する脅威です。私はそれらを軽視しません。ただし、それらは結果であり、根本的な原因ではありません。セキュリティチームが追いつくことができなくなったときに、それらは成功します。脆弱性がまだ公開されていないか、パッチがまだ利用できないか、あるいは作業量が高すぎるかです。
そして、私が2〜3年先を見てみると、そこがトップリスクです。セキュリティチームが作業量に圧倒されることです。
すべての現在のトピック、規制、主権、複雑なクラウドインフラストラクチャ、すべてが伴うものが、すでに薄いチームに課せられるものです。アラートのトライエージュ、インシデントレスポンス、フィッシング分析、脆弱性管理、パッチ管理、文書化、監査、報告です。AIによって追加される作業量が、カメルの背中を折る最後のわらになるでしょう。ただし、それは、はるかに多くのものです。
そして、現在の世界的な経済状況では、すべてが、組織に、ボード全体で、実際のコストプレッシャーを与えています。もし、それが非常に良く管理されなければ、最終的には、多すぎるでしょう。
素晴らしいインタビュー、詳細を知りたい読者は、ギーゼッケ・アンド・デブレントを訪問してください。
