Защита предприятия от злонамеренных агентов ИИ

Кибербезопасность вступила в новую фазу: то, что когда-то было соревнованием между человеческими атакующими и человеческими защитниками, стало битвой за ресурсы между машинами. Прогресс в области генеративного и агентного ИИ индустриализировал киберпреступность, превратив ее из нишевого, высококвалифицированного ремесла в масштабную, низкозатратную операцию. Согласно недавним отчетам отрасли, примерно 41% атак теперь обусловлены ИИ, что подчеркивает, насколько быстро ускоряется этот сдвиг.

Высокая цена устаревших оборонительных систем

Финансовое воздействие атак, обусловленных ИИ, уже значительное. Данные отчета Fingerprint 2025 года Состояние мошенничества с ИИ и его предотвращение показывают, что компании теряют в среднем 414 000 долларов в год из-за мошенничества, обусловленного ИИ, и одна треть респондентов сообщают о потерях до 1 миллиона долларов. Для многих организаций эти цифры больше не являются исключением; они становятся частью стоимости ведения бизнеса в Интернете.

Эти потери также сигнализируют о более глубокой структурной проблеме: оборонительные инструменты, на которые полагаются предприятия, были разработаны для другой модели угроз. Меры, такие как CAPTCHAs, правила, основанные на IP-адресах, простые ограничения скорости и блокировочные списки, были разработаны для фильтрации скриптовых ботов. Сегодня эти же меры контроля все чаще становятся неэффективными против оборонительных средств, обусловленных ИИ, которые могут работать в реальных браузерах, адаптироваться к трению в реальном времени и распределять активность способами, которые смешиваются с законным трафиком.

CAPTCHAs иллюстрируют проблему четко. Как изначально предназначенные для различия между людьми и ботами, многие из них теперь могут быть решены быстрее и более точно, чем люди. В то же время эти задачи вводят трение для законных пользователей, увеличивая показатели отказов и ухудшая опыт взаимодействия с клиентами. Многофакторная аутентификация (MFA) добавляет слой защиты, но она также уязвима для обмена SMS и фишинга. В совокупности эти меры контроля часто создают иллюзию безопасности, перекладывая бремя на настоящих пользователей.

Операционный кризис и противоречие конфиденциальности

Баланс отчета рассказывает только половину истории — другая половина повествования представляет собой операционный паралич. Та же самая отчетность подчеркивает, что 62% респондентов B2B SaaS указывают, что их команды по борьбе с мошенничеством тратят значительно больше времени на ручные процессы из-за атак, обусловленных ИИ. Аналитики перегружены оповещениями, ложными положительными результатами и граничными случаями, оставляя меньше ресурсов для активной защиты, разведки угроз и долгосрочной стратегии.

Эта операционная нагрузка усугубляется необходимой эволюцией потребительской конфиденциальности. Хотя регулирование и предпочтения потребителей движутся в сторону большей защиты, этот сдвиг непреднамеренно создал слепое пятно для команд безопасности.

Основной вывод заключается в том, что 40% организаций заявляют, что соблюдение требований конфиденциальности значительно снижает точность идентификации пользователей. Поскольку поставщики браузеров, такие как Mozilla и Apple (AAPL ), принимают про-конфиденциальные позиции, которые ограничивают традиционные методы идентификации браузера и устройства, они также непреднамеренно способствуют мошенничеству. Другими словами, в попытке защитить пользователей мы также сделали его проще для мошенников, человеческих или автоматизированных, остаться анонимными — что, иронично, сделало его труднее защитить законных пользователей. Воздействие значительное: 57% компаний B2B SaaS, 32% компаний fintech и 27% банковских учреждений сообщают о значительном снижении точности идентификации устройства и браузера.

Почему устаревшие инструменты не проходят тест ИИ

Несоответствие между устаревшими оборонительными системами и современными атакующими средствами теперь очевидно. IP-адреса легко ротируются, MFA можно обойти, а задачи CAPTCHA можно быстро решить моделями ИИ. Однако эти решения предлагают мало или совсем ничего, чтобы противостоять злонамеренным акторам.

Кроме того, в отличие от традиционных ботов, которые следуют линейным сценариям, агентный ИИ может “рассуждать” через препятствия, корректируя свою стратегию динамически, когда он учится на своих ошибках. Поскольку все больше людей обращаются к цифровым приложениям, неспособность устаревших оборонительных средств сдерживать адаптивные атаки, обусловленные ИИ, привела к большим возможностям для утечки данных и систематического риска.

Для предприятий это создает постоянную дилемму. Если ужесточить контроль агрессивно, законные пользователи будут наказаны трением, задержками и ложными отказами. Если ослабить контроль, чтобы сохранить опыт, объем мошенничества увеличивается. Результатом является “lose-lose” компромисс, который подрывает как безопасность, так и доверие клиентов.

Ценность предприятия: Расшифровка намерений для восстановления доверия

Для высокорисковых секторов, таких как финтех и электронная коммерция, ценность современного опыта устройства заключается не только в “предотвращении мошенничества”, но и в восстановлении доверия к идентификации намерений пользователей и более точной оценке рисков.

Опыт устройства позволяет организациям оценивать риск, признавая доверенные устройства и анализируя окружающие сигналы каждого взаимодействия, такие как целостность браузера, индикаторы автоматизации, последовательность окружения и аномалии поведения, до того, как пользователь предоставит учетные данные или совершит транзакцию. Этот сдвиг от реактивного к проактивному предотвращению и контекстно-ориентированной оценке риска имеет решающее значение для операционной эффективности и доверия пользователей.

Например, для Cornershop от Uber опыт устройства надежно определял возвращающихся пользователей и выявлял высокорисковую активность на ранней стадии, позволяя им поймать мошеннические транзакции, минимизировать ложные положительные результаты и сократить возвраты.

Стратегический поворот: Агентная защита и сигналы реального времени на уровне устройства

Поскольку угрозы, обусловленные ИИ, становятся более адаптивными, предприятиям необходимо иметь возможность оценивать, кажется ли сеанс законным при первых признаках активности, а не только после того, как транзакция не удалась или учетная запись была скомпрометирована.

Поскольку из-за этого адаптация к угрозам, обусловленным ИИ, требует стратегического поворота в том, как проектируются оборонительные системы. Вместо того, чтобы полагаться на хрупкие идентификаторы, такие как IP-адреса или легко фальсифицируемые поведения, такие как движения мыши, предприятия начинают отдавать приоритет сигналам на уровне устройства, которые более трудно манипулировать автономными агентами. Индикаторы риска в реальном времени, основанные на окружении, целостности и конфигурации устройства, предоставляют командам по борьбе с мошенничеством надежные сигналы, необходимые для немедленного реагирования при обнаружении подозрительной активности.

Двойная стоимость слабой безопасности против угроз, обусловленных ИИ

Стоимость скомпрометированной безопасности предприятия двойная: экономические потери и потеря эффективности. С экономической точки зрения, когда оборонительные системы не последовательны, ручные или легко обходятся, атакующие могут действовать в масштабе с ограниченным риском. Когда оборонительные системы повышают стоимость и сложность атак за пределы ожидаемой отдачи, противники переходят на другие цели.

Вторая стоимость, потеря эффективности, выходит за рамки финансовых потерь: она включает операционную нагрузку, увеличение трения и отказов клиентов, а также конкурентное недостачу. 1 миллион долларов годовых потерь, заявленных компаниями, а также операционные неудачи, с которыми сталкиваются эти предприятия при атаках, должны быть четким сигналом к действию.

Растущее присутствие ИИ неизбежно. Компаниям необходимо скорректировать свои архитектуры безопасности для мира, где мошенники постоянны, адаптивны и беспощадны, с множеством инструментов ИИ в их распоряжении.

Предприятия, которые инвестируют в оборонительные системы, основанные на данных в реальном времени, разработанные для автоматизированных противников и современных реалий конфиденциальности, лучше подготовлены к восстановлению доверия в своих цифровых экосистемах.