Переосмысление устойчивости ИИ: Почему пришло время отказаться от модели ‘Set It and Forget It’

Недавний опрос Gallup указывает на тенденцию роста внедрения ИИ, поскольку более половины работающих взрослых заявляют, что используют эту технологию хотя бы несколько раз в год. Эти данные лишь намёк на стремительное распространение ИИ в корпоративных средах. Хотя несколько руководителей предприятий начали ставить под вопрос окупаемость инвестиций в ИИ, это не помешало организациям опираться на технологию для оптимизации ручных задач и повышения продуктивности.

Пока продолжается это внедрение, компании могут быть склонны игнорировать опасные ошибки в автоматизированных рабочих процессах. Они рассматривают ИИ как готовое решение «под ключ», требующее от ИТ‑команд лишь установить технологию, запустить её и «забыть» о её существовании. Некоторые команды безопасности пытаются противостоять такому мышлению, создавая руководства по автоматизации, направленные на безопасное и надёжное использование ИИ. Тем не менее даже лучшие ИТ‑ и security‑команды оставляют в этих руководствах мало места для корректировок. В результате предприятия не способны безопасно развиваться вместе с ИИ, поскольку сама технология тоже меняется.

По мере того как предприятия предоставляют ИИ всё большую власть в бизнес‑критических процессах, оперативная гибкость должна стать новой нормой для современных организаций. Чтобы это стало универсальной практикой, лидеры корпоративной безопасности должны отказаться от менталитета «установи‑и‑забудь» и построить системы, ориентированные на устойчивость.

Понимание парадокса автоматизации

Автоматизация на базе ИИ обеспечивает огромный прирост продуктивности во многих функциях предприятия. Возьмём, к примеру, кибербезопасность. Инструменты ИИ позволяют аналитикам выполнять дополнительные шаги, на которые у них не хватало времени в перегруженных центрах операций безопасности. Это включает такие задачи, как приоритизация оповещений, обзор событий, обнаружение угроз, перекрёстная проверка и получение второго мнения. В отличие от некоторых руководителей высшего звена, директора по информационной безопасности (CISO) в целом остаются оптимистичными относительно будущей ценности ИИ. По данным «Отчет CISO: От риска к устойчивости в эпоху ИИ», 83 % директоров по безопасности считают автоматизацию инвестицией, наиболее вероятно превзойдёт ожидания.

Несмотря на эти выгоды, остаётся парадокс. Тот же отчёт подчёркивает скептицизм CISO по поводу ИИ, опасающихся последствий автономных ошибок. 83 % CISO считают, что наибольшую угрозу представляют «галлюцинации» ИИ — пропущенные оповещения или ложные срабатывания. Существует достаточное количество доказательств, подтверждающих эти опасения. Одна крупная коммерческая авиакомпания была признана юридически ответственной и обязана выплатить компенсацию после того, как её чат‑бот службы поддержки «галлюцинировал» политику возврата билетов в случае скорби. Одна компания по разведке угроз сталкивается с юридическими проблемами, поскольку, как утверждается, она выпустила отчёт, связывающий стартап с хакерами иностранного государства. Когда ИИ ошибается, последствия могут выйти за пределы внутренних систем, затронув как капитал, так и репутацию.

Проблема устаревших руководств

Руководства по безопасности, ориентированные на ИИ, являются базой для успешного и безопасного внедрения ИИ. Проблемы возникают, однако, когда эти руководства никогда не меняются. Угрозы, ИТ‑инфраструктура и бизнес‑окружение постоянно эволюционируют. ИИ позволяет злоумышленникам масштабировать атаки, а всё более сложные ИТ‑среды усложняют их обнаружение. Одновременно с ростом ответственности ИИ для бизнеса последствия ошибок становятся более значимыми.

Если все эти факторы продолжают развиваться, логика автоматизации должна развиваться вместе с ними. Замороженные руководства по автоматизации препятствуют этому. Они заставляют команды безопасности решать текущие проблемы с устаревшей логикой. Иногда такая ситуация может оказаться хуже, чем полное отсутствие руководства.

Чтобы руководства стали живыми организмами, подходящими для текущей реализации ИИ и способствовали внутренней устойчивости, они должны быть:

• Постоянно тестируемыми на основе свежей разведывательной информации об угрозах
• Обновляемыми после реальных инцидентов
• Выводимыми из эксплуатации, когда они перестают быть эффективными или полезными

Такой подход согласуется с рекомендациями Агентства по кибербезопасности и инфраструктурной безопасности (CISA) и других глобальных агентств, продвигающих непрерывный мониторинг систем ИИ и постоянное человеческое вмешательство.

Внедрение формулы устойчивости

Эра ИИ требует от предприятий перейти от мышления, рассматривающего ИИ как точечное решение, или просто «наклеить» автоматизацию на существующие сценарии. Вместо этого организации должны построить культуру устойчивости, позволяющую как ИТ‑персоналу, так и системам усиливать те моменты, где ИИ работает правильно, и эффективно реагировать, когда технология ошибается.

Трёхэтапная практическая формула может помочь внедрить эту устойчивость в автоматизированные действия.

• Уверенность: Для каждого автоматизированного рабочего процесса команды должны спросить себя: Насколько мы уверены в триггере, который инициировал автоматический отклик?
• Обратимость: Является ли действие обратимым? Если да, насколько быстро и безопасно мы можем его отменить?
• Радиус воздействия: Каковы масштабы последствий, если ошибка распространится, и насколько критичен затронутый ресурс для бизнеса?

Для ответов на эти вопросы необходимы надёжные инструменты наблюдаемости и мониторинга. Командам следует использовать единую платформу наблюдаемости и управления данными, чтобы полностью понимать, где в ИТ‑среде может произойти автоматический отклик, какие другие активы он затронет и какие бизнес‑последствия могут возникнуть. Регулярное проведение такого анализа позволит поддерживать актуальные руководства по ИИ. Кроме того, это обеспечит правильные практики «человек‑в‑цикле», поскольку ИТ‑команды будут знать, где и как вмешаться, чтобы предотвратить нежелательные автоматические действия с широкими и дорогостоящими последствиями.

Больше не «установи‑и‑забудь»

Важно, чтобы современные директора по безопасности и ИТ‑руководители осознали, что ответственность за поведение ИИ лежит на них. Чем больше ИИ участвует в важной работе предприятия, тем больше бремя для главных специалистов по кибербезопасности. Хорошее правило, которое стоит помнить: «Автоматизация меняет того, кто нажимает кнопку. Она не меняет того, кто отвечает за её нажатие».

Риски и ответственность современных CISO слишком велики, чтобы оставлять прежние руководства «установи‑и‑забудь». Вместо этого устойчивость должна стать одновременно практикой и культурой, пронизывающей предприятие и позволяющей ему восстановиться после ошибки ИИ. Когда команды включают непрерывный мониторинг, обратимость, сдерживание и человеческую ответственность в руководство по автоматизации, предприятия могут предотвратить превращение автоматического решения в проблему, затрагивающую весь бизнес.