Защита предприятия от злонамеренных агентов искусственного интеллекта

В сфере кибербезопасности наступила новая фаза: то, что когда-то было противостоянием между людьми-атакующими и людьми-защитниками, превратилось в битву за ресурсы между машинами. Достижения в области генеративного и агентного искусственного интеллекта индустриализировали киберпреступность, превратив её из нишевой, требующей высокой квалификации дисциплины в масштабируемую, низкозатратную операцию. Согласно последним данным отрасли, примерно 41% атак теперь осуществляются с помощью ИИ, что подчеркивает, насколько быстро ускоряется этот сдвиг.

Высокая цена устаревших средств защиты

Финансовые последствия атак с использованием искусственного интеллекта уже значительны. Данные взяты из отчета Fingerprint за 2025 год. Отчет о состоянии мошенничества в сфере искусственного интеллекта и мерах по его предотвращению Исследование показывает, что компании теряют в среднем 414 000 долларов в год из-за мошенничества, совершаемого с помощью ИИ, при этом треть респондентов сообщают об убытках до 1 миллиона долларов. Для многих организаций эти цифры перестали быть аномальными; они становятся частью издержек ведения бизнеса в интернете.

Эти потери также указывают на более глубокую структурную проблему: средства защиты, на которые полагаются предприятия, были разработаны для другой модели угроз. Такие меры, как CAPTCHA, правила на основе IP-адресов, простые ограничения скорости и черные списки, были предназначены для фильтрации скриптовых ботов. Сегодня эти же средства контроля становятся все менее эффективными против противников, использующих искусственный интеллект, которые могут работать в реальных браузерах, адаптироваться к препятствиям в режиме реального времени и распространять активность таким образом, что она сливается с легитимным трафиком.

CAPTCHA наглядно демонстрирует проблему. Изначально предназначенные для различения людей и ботов, многие из них проверяются быстрее и точнее, чем люди. В то же время, эти проверки создают неудобства для добросовестных пользователей, увеличивая процент отказов и ухудшая качество обслуживания. Многофакторная аутентификация (MFA) добавляет дополнительный уровень защиты, но она также уязвима для подмены SMS-сообщений и фишинга. В совокупности эти средства контроля часто создают иллюзию безопасности, перекладывая бремя на добросовестных пользователей.

Операционный кризис и противоречие в сфере конфиденциальности

Балансовый отчет рассказывает лишь половину истории — другая половина повествования — это операционный паралич. В том же отчете подчеркивается, что 62% респондентов из B2B SaaS-компаний указывают, что их команды по борьбе с мошенничеством тратят значительно больше времени на ручные процессы из-за атак с использованием ИИ. Аналитики перегружены оповещениями, ложными срабатываниями и нестандартными ситуациями, что оставляет меньше ресурсов для проактивной защиты, анализа угроз и долгосрочной стратегии.

Эта операционная нагрузка усугубляется необходимой эволюцией защиты конфиденциальности потребителей. Хотя нормативные акты и предпочтения потребителей движутся в сторону большей защиты, этот сдвиг непреднамеренно создал «слепое пятно» для групп безопасности.

Главный вывод таков: 40% организаций заявляют, что соблюдение требований конфиденциальности значительно снижает точность идентификации пользователей. Это происходит на фоне действий производителей браузеров, таких как Mozilla и Apple. позиции в защиту частной жизни Ограничения, накладываемые традиционными методами идентификации браузеров и устройств, также непреднамеренно способствуют мошенничеству. Другими словами, стремясь защитить пользователей, мы также упростили анонимность мошенников, как людей, так и автоматизированных систем, что, как ни парадоксально, затруднило защиту добросовестных пользователей. Последствия значительны: 57% компаний, работающих в сфере B2B SaaS, 32% финтех-компаний и 27% банковских учреждений сообщают о значительном снижении точности идентификации устройств и браузеров.

Почему устаревшие инструменты не проходят проверку на эффективность в области искусственного интеллекта

Несоответствие между устаревшими средствами защиты и современными методами противодействия злоумышленникам стало очевидным. IP-адреса легко меняются, многофакторная аутентификация может быть обойдена, а CAPTCHA-запросы быстро решаются моделями искусственного интеллекта. Однако эти решения практически не обеспечивают защиты от злоумышленников.

Кроме того, в отличие от традиционных ботов, которые следуют линейным сценариям, агентный ИИ может «рассуждать», преодолевая препятствия, динамически корректируя свою стратегию по мере обучения на своих ошибках. По мере того как все больше людей обращаются к цифровым приложениям, неспособность традиционных средств защиты сдерживать атаки, осуществляемые адаптивным ИИ, приводит к увеличению возможностей для утечек данных и системных рисков.

Для предприятий это создает постоянную дилемму. Жесткое ужесточение контроля приводит к тому, что добросовестные пользователи сталкиваются с неудобствами, задержками и ложными отказами. Ослабление контроля для сохранения качества обслуживания приводит к росту числа мошеннических действий. В результате возникает безвыходная ситуация, которая подрывает как уровень безопасности, так и доверие клиентов.

Ценность предприятия: расшифровка намерений для восстановления доверия

Для таких высокорискованных секторов, как финтех и электронная коммерция, ценность современных интеллектуальных устройств заключается не только в «предотвращении мошенничества», но и в восстановлении уверенности в определении намерений пользователя и более точной оценке рисков.

Анализ данных об устройствах позволяет организациям оценивать риски, распознавая доверенные устройства и анализируя окружающие сигналы каждого взаимодействия, такие как целостность браузера, индикаторы автоматизации, согласованность среды и поведенческие аномалии, еще до того, как пользователь предоставит учетные данные или совершит транзакцию. Этот переход от реактивного к проактивному предотвращению и контекстно-ориентированной оценке рисков имеет важное значение для операционной эффективности и доверия пользователей.

Например, для Магазин на углу Благодаря технологии Uber, интеллектуальные функции устройств надежно идентифицировали повторных пользователей и выявляли рискованную активность на ранних стадиях, что позволяло им обнаруживать мошеннические транзакции, минимизировать ложные срабатывания и сокращать количество возвратов платежей.

Стратегический поворот: агентная защита и сигналы на уровне устройств в режиме реального времени.

Поскольку угрозы, создаваемые искусственным интеллектом, становятся все более адаптивными, предприятиям необходима возможность оценивать легитимность сессии при первых признаках активности, а не только после сбоя транзакции или компрометации учетной записи.

Поэтому адаптация к угрозам, исходящим от ИИ, требует стратегического переосмысления подхода к разработке средств защиты. Вместо того чтобы полагаться на ненадежные идентификаторы, такие как IP-адреса, или легко поддающиеся фальсификации действия, например, движения мыши, предприятия начинают отдавать приоритет сигналам на уровне устройств, которыми автономным агентам сложнее манипулировать. Индикаторы риска в реальном времени, основанные на среде, целостности и конфигурации устройства, предоставляют группам по борьбе с мошенничеством надежные сигналы, необходимые для немедленного реагирования при обнаружении подозрительной активности.

Двойная цена слабой защиты от угроз, основанных на искусственном интеллекте.

Уязвимость корпоративной безопасности имеет две составляющие: экономические потери и снижение эффективности. В экономическом плане, когда средства защиты непоследовательны, требуют ручного управления или легко обходят, злоумышленники могут действовать в больших масштабах с минимальным риском. Когда же средства защиты увеличивают стоимость и сложность атак сверх ожидаемой отдачи, противники переходят к следующему этапу.

Вторая статья расходов, снижение эффективности, выходит за рамки финансовых потерь: она включает в себя операционную нагрузку, усиление недовольства и оттока клиентов, а также конкурентные недостатки. Ежегодные убытки в размере 1 миллиона долларов, о которых сообщают компании, наряду с операционными трудностями, с которыми эти предприятия сталкиваются при атаках, должны стать четким призывом к действию.

Растущее присутствие ИИ неизбежно. Компаниям необходимо адаптировать свои архитектуры безопасности к миру, где мошенники настойчивы, адаптивны и неумолимы, располагая множеством инструментов ИИ.

Предприятия, инвестирующие в системы защиты в режиме реального времени на основе данных, разработанные для противодействия автоматизированным атакам и современным реалиям защиты конфиденциальности, имеют больше возможностей для восстановления доверия к своим цифровым экосистемам.