Пол Рид, вице-президент по исследованию противников в AttackIQ – Интервью

Пол Рид, вице-президент по исследованию противников в AttackIQ, является опытным ветераном в области кибербезопасности. С более чем двумя десятилетиями опыта в качестве технологического стратега для ведущих технологических компаний, Пол руководил клиентами, партнерами, аналитиками и журналистами в области эволюционирующего ландшафта кибербезопасности. Его экспертиза охватывает кибербезопасность, биометрию, сетевую безопасность и криптографию.

В последнее время он возглавлял команду охотников за киберугрозами, которые использовали поведенческий анализ для обнаружения возникающих угроз в средах клиентов. Пол является опубликованным автором в Серии Прентис Холл по компьютерным сетям и распределенным системам и имеет несколько патентов в области кибербезопасности.

AttackIQ является ведущей компанией в области кибербезопасности, специализирующейся на имитации взлома и атак (BAS) и непрерывной проверке безопасности. Ее платформа Adversarial Exposure Validation использует имитацию на основе MITRE ATT&CK для проверки контроля безопасности, выявления уязвимостей и определения приоритетов для исправления. Основанная в 2013 году, AttackIQ помогает организациям улучшить свою оборонительную позицию, повысить эффективность SOC и снизить риск.

Вы занимали руководящие должности в различных областях кибербезопасности более двух десятилетий. Что первоначально вызвало ваш интерес к исследованию противников, и как это путешествие в конечном итоге привело вас к AttackIQ?

Мое путешествие в кибербезопасность началось более 25 лет назад, когда я устанавливал сети Novell и работал в области служб каталогов — Novell, Microsoft Active Directory, LDAP. Этот ранний опыт научил меня важности идентификации, аутентификации и доступа, основы любой стратегии безопасности.

Оттуда я перешел к аутентификации с помощью умных карт, где у меня была возможность написать библиотеки PKCS #11 и погрузиться в инфраструктуру открытого ключа (PKI) во время ее быстрого роста. Работа с симметричной и асимметричной криптографией в то время дала мне реальное понимание того, как шифрование формирует доверие в цифровых средах.

Позже в своей карьере я сменил направление на классификацию данных, помогая организациям понять ценность своих данных, чтобы они могли защитить то, что имеет наибольшее значение. Этот опыт естественным образом привел к работе в области аналитики поведения пользователей и сущностей (UEBA), где я получил практический опыт работы с наукой о данных и машинным обучением, включая программирование на R.

В конечном итоге я был удачлив, возглавив глобальную команду охотников за угрозами, где мы проводили реальное отслеживание государственных противников. Это был интенсивный и открывающий период. Нет лучшего способа понять тактику, техники и процедуры (TTP) противников, чем участвовать в ежедневных операциях против них.

В то время у меня появилась повторяющаяся проблема: мы часто говорили: “Если бы они только сделали X или имели Y контроль на месте…” Был разрыв между осведомленностью об угрозах и оперативной готовностью обороны.

Это в конечном итоге привело меня к AttackIQ. Возможность применить то, что я узнал — имитировать реальных противников через имитацию взлома и атак, и проверить, действительно ли оборона эффективна — была слишком привлекательной, чтобы отказаться. Здесь мы не просто теоретизируем об угрозах; мы тестируем, измеряем и улучшаем их каждый день.

Наша команда работает под руководством принципа: “Думайте плохо, делайте хорошо.” Мы думаем как противники не для того, чтобы нанести вред, а чтобы помочь нашим клиентам подготовиться и победить их.

Возглавляя команды в TITUS, Interset и Micro Focus, как ваш опыт в области разведки угроз и партнерской поддержки повлиял на ваш подход к операционализации имитации противников?

Работая на технических и маркетинговых должностях в компаниях như TITUS, Interset и Micro Focus, я развил целостное понимание того, как разведка угроз должна переводиться в оперативные результаты, а не просто в идеи. Партнерская поддержка, в частности, научила меня, как передавать сложные проблемы кибербезопасности таким образом, чтобы они были действенными и значимыми для различных аудиторий, от CISO до аналитиков SOC.

В AttackIQ имитация противников не только о том, чтобы повторять поведение угроз. Это о том, чтобы соответствовать каркасу MITRE ATT&CK, имитировать противников с точностью и помогать организациям проверять, могут ли их обороны выдержать реальные сценарии. Это требует не только технической строгости, но и образования, сотрудничества и поддержки заинтересованных сторон по всей экосистеме безопасности.

Мои предыдущие роли помогли мне понять, как мостить разрыв между разведкой и выполнением — как операционализировать ландшафт угроз таким образом, чтобы он был проактивным, измеримым и обоснованным. Это суть нашей миссии в AttackIQ.

Теперь вы возглавляете исследования противников в то время, когда атакующие принимают ИИ в масштабе. Как вы видели эволюцию тактик ИИ в области нападения в последние годы — и как защитники борются за то, чтобы идти в ногу?

Противники используют ИИ для увеличения скорости, точности и масштаба своих операций. Мы видим более персонализированные и правдоподобные фишинговые приманки, генерируемые ИИ социальной инженерии и большую масштабность и эффективность атак. Эти возможности сокращают время между разведкой и компрометацией, сжимая окно защитника для ответа. Многие организации все еще полагаются на реактивные процессы и статические правила обнаружения, которые не были разработаны для того, чтобы справиться с противниками, которые учатся и эволюционируют. Защитники должны принять непрерывную проверку и управление уязвимостями, чтобы закрыть этот разрыв, проверяя свои обороны в реалистичных условиях и быстро реагируя на новые поведения противников.

Что отличает ИИ-противников от традиционных киберугроз, и почему вы считаете, что сдвиг в мышлении — а не просто инструментов — необходим для эффективного ответа?

Традиционные угрозы часто следуют известным закономерностям, которые защитники могут отслеживать и смягчать с помощью правил обнаружения. Тактики ИИ-противников вводят новый уровень изменчивости и адаптивности, который бросает вызов этим предположениям. Они могут генерировать новые пути атак и обходить оборону динамически. Решение этой проблемы требует не только развертывания новых инструментов. Это требует стратегического изменения в том, как организации думают о защите. Вместо реакции на инциденты после факта, команды безопасности должны имитировать эволюционирующие угрозы, используя известные тактики, техники и процедуры (TTP), и проактивно проверять контроли, чтобы протестировать реакцию их систем. Мышление, информированное угрозами, поддерживаемое реальной имитацией, является ключом к предвидению и противодействию этим новым рискам.

Можете ли вы объяснить, как AttackIQ переводит разведку угроз в практическую защиту через имитацию противников, и как этот процесс изменился с появлением генеративного ИИ?

Традиционная проблема с разведкой угроз заключается в операционализации, мостя разрыв между идеями и действиями. Имитация противников решает эту проблему, взяв информацию о известных поведениях угроз и превратив ее в исполняемые тесты, которые оценивают, могут ли текущие обороны выдержать эти поведения. С генеративным ИИ ландшафт угроз становится более жидким, с более переменчивыми поведениями. Имитации теперь должны отражать не только статические техники, но и адаптивное и контекстно-зависимое поведение. В AttackIQ живая разведка угроз, выровненная с MITRE ATT&CK и модели поведения противников, поглощается в планы имитации, чтобы отразить реальные атаки. Эти имитации развертываются в производственных средах, чтобы проверить, обнаруживают ли, предотвращают или реагируют на них ожидаемым образом.

Непрерывное управление уязвимостями угроз (CTEM) становится ключевым компонентом стратегий киберустойчивости. Как организации должны подойти к CTEM, сталкиваясь с быстро адаптирующимися ИИ-поддерживаемыми угрозами?

CTEM представляет собой сдвиг от статических оценок риска к динамичной, информированной разведкой проверки безопасности. Сталкиваясь с ИИ-поддерживаемыми угрозами, организации должны относиться к уязвимостям как к движущейся цели. Это означает выявление и определение приоритетов уязвимостей на основе активного тестирования, а не только теоретического риска.

Красные и синие команды должны сотрудничать в имитации адаптивных противников и непрерывно проверять возможности обнаружения и реагирования. Организации, которые принимают этот подход, лучше подготовлены к быстрому адаптированию, проверке своих инвестиций и средств безопасности, а также поддержанию устойчивости в условиях быстро меняющегося ландшафта.

Курс “Основы безопасности ИИ” от AttackIQ охватывает рамки риска, такие как MITRE ATLAS и AI RMF. Какие аспекты этих рамок, по вашему мнению, наиболее недооценены или неправильно поняты в корпоративных условиях?

Одним из наиболее распространенных недоразумений, которые мы видим, является тенденция относиться к рамкам, таким как MITRE ATLAS и AI Risk Management Framework (AI RMF), как к изолированным справочным материалам, а не как к оперативным инструментам для построения устойчивости в ИИ-обеспеченных системах.

MITRE ATLAS, как и ATT&CK в его ранние дни, часто рассматривается как статический каталог тактик атак, нацеленных на системы ИИ/МЛ. На самом деле ATLAS является тактической рамкой имитации противников, предназначенной для того, чтобы помочь командам безопасности имитировать ИИ-специфические угрозы — от отравления данных и избегания модели до манипуляции выводом — и проверить их возможности обнаружения, ведения журнала и реагирования. Проблема заключается в том, что большинство предприятий еще не построили видимость или контроли, необходимые для обнаружения атак против конвейера МЛ, что делает проактивное использование ATLAS через стратегии имитации взлома и атак еще более критичным. Это недооцененный инструмент для проверки того, как системы ИИ ведут себя под давлением противников.

С другой стороны, NIST’s AI RMF часто неправильно понимается как список соответствия. На самом деле это стратегическая рамка управления — одна, которая поддерживает организации в картировании случаев использования ИИ, измерении рисков (включая те, которые представлены противниками), управлении ими посредством определения приоритетов и смягчения, и внедрении надзора на протяжении всего жизненного цикла системы. Где ATLAS является тактическим, AI RMF является стратегическим. Две рамки являются высоко дополняющими: ATLAS позволяет проверить риск посредством реальной имитации, в то время как AI RMF предоставляет структуру для управления этими рисками, определения владения и выравнивания гарантий ИИ с бизнес-приоритетами.

В нашем курсе “Основы безопасности ИИ” мы учим, что одним из наиболее недооцененных аспектов AI RMF являются функции “Карта” и “Измерение” — особенно на ранних этапах развертывания. Эти функции побуждают организации моделировать не только сценарии использования и неправильного использования систем, но и выявлять угрозы противников в контексте. Сопоставление этого с ATLAS позволяет организациям перейти от теоретических проблем к операционализации безопасности ИИ значимым, тестируемым образом.

В конечном итоге, упущенная возможность заключается в том, чтобы относиться к этим рамкам как к академическим. Когда они используются вместе, AI RMF и ATLAS позволяют принять информированный угрозами, риск-ориентированный подход к обеспечению безопасности ИИ, превращая высокоуровневое управление в реальную гарантию.

От инъекции подсказок до кражи модели, OWASP Top 10 для LLM подчеркивает новый класс уязвимостей. Какую из этих угроз, по вашему мнению, CISO наиболее не готовы встретить — и почему?

LLM03: 2025 Уязвимости цепочки поставок используют критические слепые пятна в существующих предположениях о управлении и доверии предприятия, проникая через контроли, которые изначально не были разработаны для систем ИИ/МЛ. Традиционные программы безопасности фокусируются на пакетах программного обеспечения и зависимостях кода, но модели ИИ, часто рассматриваемые как активы данных, лишены такого же внимания. Это позволяет скомпрометированным предварительно обученным моделям, отравленным адаптерам LoRA или измененным слияниям Hugging Face быть принятыми в производственные среды без проверки, подписи кода или поведенческой оценки. Поскольку эти модели не вызывают статический анализ или сигнатуры вредоносного ПО, они ведут себя как спящие угрозы, активирующиеся только при определенных подсказках или условиях, которые избегают обнаружения.

Предположение предприятия, что авторитетные экосистемы ИИ или реестры обеспечивают надежные стандарты, усугубляет проблему. Команды безопасности могут считать, что их конвейеры DevSecOps и программы управления поставщиками рисков (TPRM) покрывают риски ИИ, но на самом деле большинство из них не аудитируют происхождение наборов данных, не обеспечивают происхождение моделей или не применяют контроли, эквивалентные списку материалов (SBOM), к компонентам ИИ. Атакующие используют это неправильно размещенное доверие, манипулируя открытыми инструментами моделей, создавая бэкдоры в адаптерах или отравляя данные, используемые для тонкой настройки, чтобы незаметно встроить вредоносное поведение. Без имитации противников и управления, которое явно учитывает эти пробелы, даже хорошо защищенные предприятия рискуют оперативным компрометацией через доверенные, но неверифицированные артефакты ИИ.

Когда красные и синие команды начинают имитировать ИИ-обеспеченных противников, как имитация противников эволюционирует? Мы вступаем в новую эру симуляционной проверки безопасности?

Когда противники интегрируют ИИ в свои операции, имитация противников должна эволюционировать, переходя за пределы фиксированных книг. Красные команды должны имитировать динамичное, ИИ-подобное поведение: поворот, эскалация привилегий и адаптивные тактики, техники и процедуры (TTP), все смоделированы для отражения того, как реальный ИИ-обеспеченный атакующий может действовать.

Мы вступаем в новую эру, где имитация становится непрерывной и информированной разведкой. Больше не эпизодические упражнения, симуляции интегрируют разведку угроз в реальном времени и итеративно тестируют производственные среды, проверяя контроли в условиях, возникающих и непредсказуемых. С CTEM этот подход гарантирует, что проверка безопасности становится стратегической, оперативной функцией, а не просто галочкой.

Взглянув вперед, какие возникающие риски ИИ наиболее беспокоят вас? И где вы видите наибольшую возможность для защитников опережать кривую?

Наиболее беспокоящим риском является то, как ИИ снижает барьер для входа для сложных атак в масштабе. То, что когда-то требовало глубоких технических навыков, теперь все больше доступно через коммодитизированные инструменты ИИ. ИИ может автоматизировать разведку, генерировать код эксплуатации и создавать адаптированные фишинговые кампании, действуя быстрее, чем традиционные обороны могут адаптироваться.

С другой стороны, защитники имеют параллельную возможность: использовать ИИ и автоматизацию для проактивной защиты. Автоматизируя имитацию, ускоряя обнаружение и определяя приоритеты уязвимостей на основе реального риска, команды безопасности могут предвидеть шаги противников, а не просто реагировать на них.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить AttackIQ.