Торстен Дельбрук, Групповой CSO в Giesecke+Devrient – Интервью

Торстен Дельбрук, Групповой CSO в Giesecke+Devrient, – ветеран кибербезопасности с более чем двумя десятилетиями опыта в области защиты инфраструктуры предприятий, цифровых идентификаторов и критически важных систем. С момента присоединения к Giesecke+Devrient (G+D) в 2011 году в качестве Корпоративного главного информационного офицера безопасности, он возглавлял глобальную стратегию безопасности компании в высокорегулируемых секторах, включая финансы, телекоммуникации и инфраструктуру правительства. В 2020 году он расширил свою роль до Вице-президента группы, руководителя службы безопасности и CISO. Дельбрук также является председателем Форума информационной безопасности (ISF), ведущей глобальной власти в области кибербезопасности и управления рисками, и занимал руководящие должности по безопасности в Infineon Technologies, COMLINE и TÜV Secure iT.

Giesecke+Devrient (G+D) – это мюнхенская глобальная компания SecurityTech, которая эволюционировала из исторической типографии банкнот, основанной в 1852 году, в крупного поставщика решений в области цифровой безопасности, финансовых технологий и инфраструктуры валюты. Компания работает в трех основных сегментах: цифровая безопасность, финансовые платформы и технология валюты, поставляя технологии, которые защищают мобильную связь, цифровые идентификаторы, банковские системы, платформы платежей, а также физические и цифровые валюты. G+D работает с правительствами, центральными банками, финансовыми учреждениями и предприятиями по всему миру, включая предоставление решений для eSIM, систем аутентификации, цифровых платежей, кибербезопасности и цифровых валют центральных банков (CBDC). Компания позиционирует себя как доверенный поставщик инфраструктуры для цифровой экономики, с более чем 14 000 сотрудников по всему миру и десятилетиями опыта в области защиты критически важных систем и финансовых экосистем.

Вы провели почти три десятилетия на руководящих должностях в области кибербезопасности, охватывающих TÜV Secure iT, Infineon и теперь более 15 лет в Giesecke+Devrient. Как изменился ландшафт угроз с традиционных рисков безопасности предприятий до современных киберугроз, обусловленных ИИ, и что вас больше всего беспокоит в текущем направлении отрасли?

Я думаю, что основная změна за время моей карьеры – это скорость и воздействие. Когда я начал работать с безопасностью в конце 1990-х годов, серьезная проблема безопасности означала неправильно настроенную防火ную стену или неисправленный сервер, а радиус действия был обычно довольно ограничен. За последние три десятилетия я видел, как последствия одного нарушения выросли от операционного неудобства до системного риска.

И все происходит быстрее. Мы имеем дело с большим количеством систем и более высокими пропускными способностями. Сегодня едва половина всего интернет-трафика генерируется людьми – и по некоторым оценкам примерно 40% всего трафика состоит из вредоносной деятельности, такой как вредоносные сканирования, вредоносное ПО и DDoS.

В то же время ландшафт стал сильно консолидированным и集中енным. Оригинальная философия дизайна интернета, основанная на избыточности и децентрализации, была утеряна. В результате атаки, нацеленные на несколько центральных точек отказа, имеют гораздо более разрушительные последствия, чем раньше. Это оставляет практически нет места для ошибок в настройке и эксплуатации современных ИТ-систем. И теперь ИИ сжимает временные рамки атак еще дальше.

Недавние комментарии Дарио Амодеи снова разожгли страхи вокруг продвинутых систем ИИ, выявляющих уязвимости программного обеспечения в масштабе. Считаете ли вы, что предприятия недооценивают, насколько быстро разработка с помощью ИИ может перегрузить существующие процессы безопасности?

Да, я считаю, что многие предприятия недооценивают скорость этого сдвига. Сначала казалось, что ИИ принесет пользу обеим сторонам, атакующим и защитникам, примерно в равной степени. Но тревожная реальность заключается в том, что ИИ не изобрел совершенно новых категорий киберпреступности; вместо этого он демократизировал сложные возможности атак, позволяя злоумышленникам автоматизировать разведку, устранять языковые барьеры в фишинге и обнаруживать уязвимости программного обеспечения с такой скоростью и масштабом, который человеческие защитники борются с абсорбцией.

Проблема заключается в том, что, хотя ИИ вызвал огромный скачок в выявлении уязвимостей, он еще не развертывается в той же степени в процессе исправления. Это создает опасный дисбаланс. Обнаружение уязвимостей с помощью ИИ просто производит больше работы, чем защитники могут справиться. Это может улучшиться через несколько лет, когда ИИ для исправления догонит, но сейчас это растущая проблема.

Кроме того, это не без иронии, что те же компании, которые представляют свои последние модели как спасение от киберугроз, одновременно являются частью проблемы. Инструменты кодирования с помощью ИИ ускоряют производство программного обеспечения, но они часто производят небрежный, уязвимый код – расширяя саму атакующую поверхность, которую их продукты безопасности обещают уменьшить. С экономической точки зрения это блестяще. С точки зрения безопасности не так много.

В G+D мы оцениваем случаи использования ИИ структурированным образом через совет ИИ и не масштабируем их в неконтролируемом порядке. Проблема не в самом ИИ – это отсутствие управления при его развертывании. Это соответствует принципу, который G+D также применяет внутри компании: ИИ требует не только инноваций, но и институционализированных процессов оценки и утверждения.

Многие организации рассматривают ИИ в основном как оборонительный инструмент кибербезопасности. С вашей точки зрения, где ИИ в настоящее время создает больше рисков, чем защиты внутри среды предприятия?

Большинство команд кибербезопасности уже развертывают ИИ в различных степенях для обнаружения, классификации, оценки и триажа событий безопасности – и это работает замечательно.

Однако совершенно новые риски возникают наряду с этими преимуществами. Уязвимости,固有 для архитектуры ИИ, уже широко обсуждаются и в основном поняты. Мы больше не защищаем только статический код; мы защищаем недетерминированные системы. Это вводит совершенно новые векторы угроз, такие как инъекция подсказок (где вредоносные данные обманывают большую языковую модель, заставляя ее игнорировать свои ограничения), отравление данных для коррупции логики модели во время обучения и утечка данных, при которой конфиденциальные данные предприятия случайно раскрываются через выходы модели. Это фундаментально меняет определение эксплойта.

Но наши традиционные, хорошо отработанные защиты также должны адаптироваться. Для многих организаций анализ поведения пользователей и сущностей (UEBA) все еще является относительно новой концепцией. Фактически, многие компании еще не полностью приняли этот подход из-за строгих правил защиты данных, строгих трудовых законов и прав совета работников на участие. Теперь базовая линия сместилась, и неясно, насколько эффективным будет UEBA в будущем, где ИИ может безупречно учиться и имитировать поведение человека.

Двигаясь вперед, сможет ли UEBA различать поведение человека и автоматизированные атаки или различать безобидного ИИ-агента и злонамеренного? Существуют продукты, которые обещают именно это, но обычно требуется некоторое время, чтобы перейти от маркетинговых обещаний к фактической, работающей, реальной производительности. Нам понадобятся новые концепции с современными архитектурами безопасности, чтобы решить эту проблему.

Как председатель Форума информационной безопасности, вы взаимодействуете с лидерами безопасности по крупным глобальным предприятиям. Беспокоятся ли CISO больше о качестве кода, сгенерированного ИИ, или большей проблемой является операционная нагрузка защиты кодовой базы, экспоненциально увеличивающейся?

Обе проблемы реальны, но они имеют разный вес. Качество кода, сгенерированного ИИ, является настоящей проблемой. Код, который производит ИИ, часто выглядит чистым, но может содержать тонкие логические ошибки, небезопасные значения по умолчанию или неправильно используемые библиотеки, которые труднее обнаружить именно потому, что они кажутся правдоподобными. CISO правильно обеспокоены этим.

Но в моих разговорах с экспертами по безопасности из организаций-членов ISF более громкий сигнал тревоги – операционный: это просто объем кода, который может содержать уязвимости и, следовательно, требует проверки.

Что я постоянно слышу от коллег по отрасли, так это то, что проблема зависимости стала определяющей нагрузкой. Тяжелая зависимость от внешних компонентов и библиотек третьих сторон означает, что каждая зависимость должна быть тщательно отслежена, управляема и постоянно исправлена. В коде, а также в инструментальной цепочке, потенциально через различные облачные среды. Это уже была значительная проблема. Разработка с помощью ИИ сейчас усиливает ее. Не потому, что природа проблемы изменилась, а потому, что масштаб взорвался. Больше кода, произведенного быстрее, с большим количеством зависимостей, в более репозиториях.

Итак, если бы мне пришлось расставить приоритеты: качество кода – это решаемая инженерная проблема – лучшее инструментирование, более строгие проверки, более жесткие ограничения в процессе разработки. Операционная нагрузка защиты экспоненциально растущей кодовой базы и ее разветвленных цепочек зависимостей – это более структурная, более постоянная проблема. Вот где лежит реальное давление, и это то, что возникает повторно в обсуждениях старших CISO.

Giesecke+Devrient работает в высокочувствительных секторах, включая цифровую идентификацию, платежи, банковскую инфраструктуру, технологию eSIM и цифровые валюты центральных банков. Как отличается защита критически важной инфраструктуры в эпоху ИИ по сравнению с защитой традиционных систем предприятия?

В G+D мы сталкиваемся с теми же основными обязанностями, что и любая организация, которая серьезно относится к безопасности. Однако наши стандарты исключительно высоки, а маржа ошибок очень мала. Мы осознаем, что инцидент безопасности в нашей инфраструктуре несет гораздо более широкие последствия, чем нарушение в типичном предприятии – именно поэтому наш аппетит к риску кибербезопасности исключительно низок.

Где ИИ добавляет особый слой сложности для нас, так это в операционной архитектуре самой по себе. Многие из наших высокобезопасных компонентов, особенно те, которые связаны с системами платежей, цифровыми идентификаторами или продуктами для центральных банков, являются высокоценными активами и подлежат строгим требованиям сертификации и безопасности. Эти компоненты должны разрабатываться, тестироваться и эксплуатироваться в отдельных средах, от чисто логической изоляции до полностью воздушных сетей без внешней подключения.

Это было уже сложно до ИИ, но теперь организации повсюду интегрируют инструменты, работающие с помощью ИИ, в свои процессы разработки и эксплуатации. Инструменты, которые обычно полагаются на облачную связь, крупномасштабный доступ к данным и постоянные обновления моделей. Согласование этого с средами, где даже кабель сети, подключенный к неправильному порту, будет серьезным нарушением политики, является очень реальной инженерной и управленческой проблемой.

Это заставляет нас быть очень намеренными в отношении нашего интегрирования ИИ. Мы не просто выбираем правильную модель ИИ, мы принимаем стратегические решения на уровне инфраструктуры о том, следует ли развертывать эти инструменты локально или можно использовать через облако.

Мы наблюдаем быстрое внедрение пилотов кодирования ИИ и автономных агентов разработки. Ожидаете ли вы, что предприятия в конечном итоге потребуют, чтобы код, сгенерированный ИИ, проходил отдельную проверку и сертификацию перед развертыванием?

Я не думаю, что решающим критерием должно быть, был ли код написан человеком или ИИ. Решающим критерием является риск. Но код, сгенерированный ИИ, безусловно, потребует происхождения, отслеживаемости и более строгого обзора в регулируемых или высокобезопасных средах.

Моделирование угроз, политики безопасного кодирования и включение инструментов SAST в инструментарий разработки уже являются стандартной практикой сегодня, и инструменты естественно становятся улучшенными с помощью ИИ. Кроме того, команды разработки должны тщательно отслеживать, какие функции являются критически важными для безопасности или принадлежат к регулируемым, высокочувствительным компонентам. Помимо этого, основные зависимости должны быть тщательно поняты и постоянно тестируемы.

Экономика в конечном итоге сыграет все более критическую роль. Пока токен-цена от крупных поставщиков ИИ не покрывает затраты. Крупные поставщики ИИ поглощают огромные дефициты инфраструктуры и вывода, чтобы обеспечить долю рынка. Субсидированная модель, которая экономически неустойчива в долгосрочной перспективе. Когда коммерческие затраты на развертывание ИИ в корпоративных рабочих процессах будут скорректированы вверх, чтобы отразить эти истинные расходы на инфраструктуру, у нас возникнет проблема. В тот момент отрасль должна будет перейти к небольшим, локальным и специально разработанным моделям. Обучение этих меньших моделей для целевых случаев использования станет важной стратегией для смягчения резкого увеличения затрат.

И для категорий с самыми высокими требованиями безопасности человеческий надзор останется обязательным, и именно там лежит проблема: эффективное использование конечной человеческой емкости.

Системы ИИ могут сейчас выявлять уязвимости гораздо быстрее, чем человеческие аналитики, но исправление все еще сильно зависит от человеческих рабочих процессов. Подходят ли предприятия к моменту, когда управление исправлениями само по себе должно стать автономным?

Да, автономное управление исправлениями больше не является роскошью – это операционная необходимость. Просто объем уязвимостей сегодня превышает человеческую способность к триажу.

Тем не менее, я считаю, что фактическое развертывание должно следовать поэтапному, прагматичному подходу. Для стандартных, некритических сред полная автоматизация должна быть полностью достижимой, при условии, что правильные ограничения установлены. Полностью автономное исправление в критических, высокоэффективных системах, хотя и, безусловно, необходимо, скорее всего, останется довольно трудным для реализации в ближайшем будущем.

Это то место, где фундаментальные вещи действительно имеют значение. Различие между этими двумя категориями звучит просто, но на практике требует огромного количества точных, подробных и устойчивых домашних дел, чтобы эксплуатировать сложную среду с такими разными подходами в чистом и автоматизированном порядке. Эта работа легко недооценить.

Настоящий вызов, как и так часто, не в механическом выполнении процесса самого по себе – это в более широкой системе. Интеллектуальное принятие решений возможно только тогда, когда вся система поддерживает его. Управление исправлениями должно стать значительно умнее и быстрее, а не просто более автоматизированным.

И, как всегда: в высокочувствительных контекстах контролируемая стабильность и высокая скорость должны идти рука об руку. Это напряжение – трудная часть – и часть, на которую большинство организаций еще не готовы.

Правительства по всему миру спешат реализовать системы цифровой идентификации, цифровые валюты центральных банков и связанную инфраструктуру. Насколько вы обеспокоены тем, что киберугрозы, обусловленные ИИ, могут обогнать подготовку регулирующих органов и национальной безопасности?

Регуляторные рамки, такие как NIS2 и Закон о киберрезилиентности, толкают вещи в правильном направлении, но регулирование в конечном итоге является только частью головоломки. Регулирование имеет значение для общей системы, но мы не можем предположить, что выпуск правила сразу решает проблему. Компании все равно должны реализовать рекомендации, постоянно поддерживать свои системы в безопасности и иметь прочное понимание своей threat-ландшафта и целей защиты, постоянно уточнять и поддерживать их в согласованности.

Я осторожно оптимистичен, при условии, что организации не будут рассматривать соблюдение нормативных требований как замену фактической безопасности. И современное управление безопасностью не ждет регулирования. Если что-то и есть, то лучшая реальная практика должна течь в регулирование, а не наоборот.

В высокобезопасных областях, таких как цифровая идентификация и инфраструктура платежей, операционная готовность не является данностью. G+D не только поставщик, но и партнер для диалога для центральных банков и правительств по всему миру. G+D также активно участвует в защите критически важных цифровых инфраструктур – например, через Secunet в качестве ИТ-безопасного партнера Федеративной Республики Германии.

Некоторые эксперты описывают продвинутые модели ИИ как “кибероружие”, в то время как другие утверждают, что такая формулировка преувеличена. С вашей точки зрения, что люди неправильно понимают о реальных рисках, представленных передовыми системами ИИ?

Что люди неправильно понимают, так это то, что киберконфликты следуют логике физической войны. То, что достаточно мощное оружие неизбежно прорвет любую защиту. Многое из “кибероружейного” формулировки заимствовано из этой кинетической ментальности: более мощная пушка побеждает более толстую стену, более умная ракета побеждает более быстрый самолет. Но кибервойна не работает так.

Успешная кибератака почти никогда не преуспевает благодаря грубой силе. Она преуспевает, эксплуатируя пробел: неправильную конфигурацию, неисправленную уязвимость, человеческую ошибку, слабое звено в цепочке поставок. ИИ не меняет эту фундаментальную динамику. Он делает поиск этих пробелов быстрее и дешевле, и снижает порог навыков для их эксплуатации. Это серьезная проблема, но это совсем другая проблема, чем нарратив “неостановимого оружия”.

Настоящий риск не в том, что ИИ создает какую-то все мощную возможность атаки, которую никакая защита не может выдержать. Настоящий риск в том, что ИИ ускоряет и масштабирует эксплуатацию обычных слабостей – тех же, с которыми мы боремся десятилетиями – с такой скоростью, что опережает нашу способность их закрыть.

Формулировка ИИ как кибероружия отвлекает от этого. Она поощряет ментальность гонки вооружений, когда на самом деле нужна лучшая операционная гигиена, более быстрое исправление и более устойчивые архитектуры. Угроза не в новом супероружии. Это старые пробелы, эксплуатируемые с новой скоростью. Итак, да, формулировка ИИ как кибероружия является значительным преувеличением.

Оглядываясь вперед, считаете ли вы, что самый большой кибербезопасный риск от ИИ придет от сложных атак, совершаемых государствами, автономной эксплуатации в масштабе, внутреннего злоупотребления, уязвимостей цепочки поставок или чего-то, на что отрасль еще не обращает достаточно внимания?

Предсказание будущего безопасности всегда особенно сложно. Атаки, совершаемые государствами, автономная эксплуатация, внутреннее злоупотребление, компрометация цепочки поставок – все это реальные и растущие угрозы, и я не стал бы преуменьшать ни одну из них. Но я бы утверждал, что все это последствия, а не коренные причины. Они преуспевают, когда защитники больше не могут справиться, независимо от причины: уязвимость может еще не быть публично известна, патч может еще не быть доступен, или рабочая нагрузка может быть слишком высокой.

И именно там я вижу главный риск, глядя вперед на два-три года: команды безопасности, перегруженные своей рабочей нагрузкой.

Все текущие и возникающие темы – регулирование, суверенитет, сложные облачные инфраструктуры и все, что с этим связано – ложатся на команды, которые уже растянуты тонко из-за триажа оповещений, реагирования на инциденты, анализа фишинга, управления уязвимостями и исправления, документации, аудитов и отчетности. Рабочая нагрузка, добавленная всем этим, что может ИИ, может стать соломинкой, которая сломает спину верблюда. Кроме того, это не просто соломинка – это гораздо, гораздо больше.

И учитывая текущую глобальную экономическую ситуацию, все это бьет по организациям под реальным давлением затрат, по всему спектру. Если это не будет управляться чрезвычайно хорошо, оно в конечном итоге станет слишком большим.

Благодарим за отличное интервью, читатели, которые хотят узнать больше, должны посетить Giesecke+Devrient.