Как решить проблемы сетевой безопасности, связанные с агентным ИИ

Агентный искусственный интеллект (ИИ) представляет собой следующий этап развития ИИ, обещающий превзойти даже возможности генеративного ИИ (GenAI). В отличие от большинства систем GenAI, которые полагаются на ввод пользователя или надзор, агентный ИИ является проактивным, поскольку он не требует ввода пользователя для решения сложных, многоступенчатых задач. Используя цифровую экосистему крупномасштабных языковых моделей (LLM), машинного обучения (ML) и обработки естественного языка (NLP), агентный ИИ выполняет задачи автономно от имени человека или системы, значительно улучшая производительность и операции.

Хотя агентный ИИ еще находится на ранней стадии развития, эксперты выявили некоторые революционные варианты использования. Рассмотрим среду обслуживания клиентов в банке, где агент ИИ делает больше, чем просто отвечает на вопросы пользователя. Вместо этого агент на самом деле выполняет транзакции или задачи, такие как перевод средств, когда это необходимо пользователем. Другой пример может быть в финансовой среде, где системы агентного ИИ помогают человеческим аналитикам, автономно и быстро анализируя большие объемы данных для генерации отчетов, готовых к аудиту, для принятия решений на основе данных.

Невероятные возможности агентного ИИ неоспоримы. Однако, как и любая новая технология, существуют проблемы безопасности, управления и соблюдения требований. Уникальная природа этих агентов ИИ представляет несколько проблем безопасности и управления для организаций. Предприятиям необходимо решить эти проблемы, чтобы не только получить выгоду от агентного ИИ, но и обеспечить сетевую безопасность и эффективность.

Какие проблемы сетевой безопасности создает агентный ИИ для организаций?

Агенты ИИ имеют четыре основных операции. Первая – восприятие и сбор данных. Эти сотни, тысячи и, возможно, миллионы агентов собирают и собирают данные из множества источников, будь то облако, локальная среда, край или другие, и эти данные могут физически находиться где угодно, а не в одном конкретном географическом местоположении. Второй шаг – принятие решений. Как только эти агенты собрали данные, они используют модели ИИ и ML для принятия решений. Третий шаг – действие и выполнение. После принятия решения эти агенты действуют соответственно, чтобы выполнить это решение. Последний шаг – обучение, когда эти агенты используют собранные данные до и после своего решения, чтобы отрегулировать и адаптироваться соответственно.

В этом процессе агентный ИИ требует доступа к огромным наборам данных, чтобы функционировать эффективно. Агенты обычно интегрируются с системами данных, которые обрабатывают или хранят конфиденциальную информацию, такую как финансовые записи, базы данных здравоохранения и другую личную информацию (PII). К сожалению, агентный ИИ усложняет усилия по защите сетевой инфраструктуры от уязвимостей, особенно при подключении к нескольким облакам. Он также представляет проблемы безопасности при выходе из сети, что затрудняет для бизнеса защиту от утечки данных, а также от атак на команду и контроль. Если агент ИИ будет скомпрометирован, конфиденциальные данные могут быть легко утечены или украдены. Аналогично, агенты могут быть захвачены злоумышленниками и использованы для создания и распространения дезинформации в крупном масштабе. Когда происходят нарушения, есть не только финансовые штрафы, но и репутационные последствия.

Ключевые возможности, такие как наблюдаемость и прослеживаемость, могут быть осложнены агентным ИИ, поскольку трудно отслеживать, какие наборы данных доступны агентам ИИ, увеличивая риск того, что данные будут раскрыты или доступны неавторизованным пользователям. Аналогично, динамическое обучение и адаптация агентного ИИ могут препятствовать традиционным проверкам безопасности, которые полагаются на структурированные журналы для отслеживания потока данных. Агентный ИИ также является эфемерным, динамичным и постоянно работающим, создавая круглосуточную необходимость поддерживать оптимальную видимость и безопасность. Масштаб также является проблемой. Поверхность атаки увеличилась экспоненциально, выйдя за пределы локального центра данных и облака, чтобы включить край. Фактически, в зависимости от организации, агентный ИИ может добавить тысячи до миллионов новых конечных точек на краю. Эти агенты работают в многочисленных местах, будь то разные облака, локальная среда, край или другие, что делает сеть более уязвимой для атак.

Комплексный подход к решению проблем безопасности агентного ИИ

Организации могут решить проблемы безопасности агентного ИИ, применяя решения и лучшие практики безопасности на каждом из четырех основных этапов операции:

1. Восприятие и сбор данных: Бизнесу необходимо иметь высокоскоростное сетевое подключение, которое является зашифрованным от конца до конца, чтобы позволить их агентам собирать огромное количество данных, необходимых для функционирования. Помните, что эти данные могут быть конфиденциальными или очень ценными, в зависимости от случая использования. Компании должны развернуть решение высокоскоростного зашифрованного подключения для работы между всеми этими источниками данных и защитить конфиденциальные и PII-данные.
2. Принятие решений: Компании должны обеспечить, чтобы их агенты ИИ имели доступ к правильным моделям и инфраструктуре ИИ и ML для принятия правильных решений. Реализуя брандмауэр облака, предприятия могут получить необходимое подключение и безопасность для своих агентов ИИ, чтобы получить доступ к правильным моделям в аудиторном формате.
3. Выполнение действия: Агенты ИИ выполняют действия на основе принятого решения. Однако бизнесу необходимо определить, какой агент из сотен или тысяч сделал это решение. Они также должны знать, как их агенты взаимодействуют друг с другом, чтобы избежать конфликтов или “роботов, сражающихся с роботами”. Поэтому организации нуждаются в наблюдаемости и прослеживаемости действий, выполняемых их агентами ИИ. Наблюдаемость – это способность отслеживать, контролировать и понимать внутренние состояния и поведение агентов ИИ в режиме реального времени. Прослеживаемость – это способность отслеживать и документировать данные, решения и действия, выполненные агентом ИИ.
4. Обучение и адаптация: Компании тратят миллионы, если не сотни миллионов или более, на настройку своих алгоритмов, что увеличивает стоимость и точность этих агентов. Если злоумышленник получит доступ к этой модели и выведет ее, все эти ресурсы могут оказаться в их руках в течение минут. Бизнес может защитить свои инвестиции с помощью функций безопасности при выходе из сети, которые защищают от утечки данных и атак на команду и контроль.

Использование агентного ИИ в безопасной и ответственной манере

Агентный ИИ имеет замечательный потенциал, позволяя компаниям достичь новых высот производительности и эффективности. Но, как и любая новая технология в области ИИ, организации должны принять меры для защиты своих сетей и конфиденциальных данных. Безопасность особенно важна сегодня, учитывая высокоорганизованных и хорошо финансируемых злоумышленников, поддерживаемых государствами, таких как Salt Typhoon и Silk Typhoon, которые продолжают проводить крупномасштабные атаки.

Организации должны сотрудничать с экспертами по безопасности облака, чтобы разработать прочную, масштабируемую и будущую стратегию безопасности, способную решить уникальные проблемы агентного ИИ. Эти партнеры могут позволить предприятиям отслеживать, управлять и защищать своих агентов ИИ; кроме того, они помогают предоставить компаниям осведомленность, необходимую для удовлетворения стандартов, связанных с соблюдением требований и управления.