Как решить проблемы сетевой безопасности, связанные с агентским ИИ

Агентный искусственный интеллект (ИИ) представляет собой следующую границу ИИ, обещая выйти за рамки возможностей генеративного ИИ (GenAI). В отличие от большинства систем GenAI, которые полагаются на человеческие подсказки или контроль, Агентный ИИ действует проактивно потому что не требует пользовательского ввода для решения сложных многошаговых задач. Используя цифровую экосистему больших языковых моделей (LLM), машинного обучения (ML) и обработки естественного языка (NLP), агентный ИИ выполняет задачи автономно от имени человека или системы, значительно повышая производительность и операции.

Хотя агентный ИИ все еще находится на ранних стадиях, эксперты выделили несколько новаторских вариантов использования. Рассмотрим среду обслуживания клиентов банка, где агент ИИ делает больше, чем просто отвечает на вопросы пользователя, когда его спрашивают. Вместо этого агент будет фактически завершать транзакции или задачи, такие как перемещение средств, когда это будет предложено пользователем. Другим примером может служить финансовая среда, где агентские системы ИИ помогают аналитикам-людям, автономно и быстро анализируя большие объемы данных для создавать готовые к аудиту отчеты для принятия решений на основе данных.

Невероятные возможности агентного ИИ неоспоримы. Однако, как и в случае с любой новой технологией, часто возникают проблемы безопасности, управления и соответствия. Уникальная природа этих агентов ИИ представляет собой ряд проблем безопасности и управления для организаций. Предприятия должны решать эти проблемы, чтобы не только извлекать выгоду из агентного ИИ, но и обеспечивать безопасность и эффективность сети.

Какие проблемы сетевой безопасности создает для организаций агентный ИИ?

Агенты ИИ выполняют четыре основные операции. Первая — восприятие и сбор данных. Эти сотни, тысячи, а может быть, и миллионы агентов собирают и собирают данные из разных мест, будь то облако, локально, периферия и т. д., и эти данные могут физически быть откуда угодно, а не из одного конкретного географического местоположения. Второй шаг — принятие решений. После того как эти агенты собрали данные, они используют модели ИИ и МО для принятия решений. Третий шаг — действие и исполнение. Приняв решение, эти агенты действуют соответствующим образом, чтобы выполнить это решение. Последний шаг — обучение, где эти агенты используют данные, собранные до и после своего решения, чтобы соответствующим образом настроить и адаптироваться.

В этом процессе агентному ИИ для эффективного функционирования требуется доступ к огромным наборам данных. Агенты обычно интегрируется с системами данных, которые обрабатывают или хранят конфиденциальную информацию, такие как финансовые записи, базы данных здравоохранения и другая персонально идентифицируемая информация (PII). К сожалению, агентский ИИ усложняет усилия по защите сетевой инфраструктуры от уязвимостей, особенно при кросс-облачном подключении. Он также создает проблемы безопасности на выходе, затрудняя для предприятий защиту от эксфильтрации, а также нарушений командования и контроля. Если агент ИИ будет скомпрометирован, конфиденциальные данные могут легко быть украдены или украдены. Аналогичным образом, агенты могут быть захвачены злоумышленниками и использованы для создания и распространения дезинформации в больших масштабах. Когда происходят нарушения, возникают не только финансовые штрафы, но и репутационные последствия.

Такие ключевые возможности, как наблюдаемость и прослеживаемость, могут быть затруднены агентским ИИ, поскольку сложно отследить, к каким наборам данных обращаются агенты ИИ. увеличение риска раскрытия данных или доступа к ним неавторизованных пользователей. Аналогичным образом, динамическое обучение и адаптация агентского ИИ могут препятствовать традиционным проверкам безопасности, которые полагаются на структурированные журналы для отслеживания потока данных. Агентский ИИ также является эфемерным, динамичным и постоянно работающим, что создает круглосуточную необходимость поддерживать оптимальную видимость и безопасность. Масштаб — еще одна проблема. Поверхность атаки выросла экспоненциально, выйдя за пределы локального центра обработки данных и облака, включив периферию. Фактически, в зависимости от организации, агентский ИИ может добавлять тысячи и миллионы новых конечных точек на периферии. Эти агенты работают в многочисленных местах, будь то различные облака, локальные сети, периферия и т. д., что делает сеть более уязвимой для атак.

Комплексный подход к решению проблем безопасности агентного ИИ

Организации могут решать проблемы безопасности агентского ИИ, применяя решения и передовые практики безопасности на каждом из четырех основных этапов работы:

1. Восприятие и сбор данных: Предприятиям необходимо высокоскоростное сетевое соединение, которое зашифровано на всем протяжении, чтобы их агенты могли собирать огромные объемы данных, необходимых для работы. Помните, что эти данные могут быть конфиденциальными или очень ценными, в зависимости от варианта использования. Компаниям следует развернуть высокоскоростное зашифрованное решение для соединения между всеми этими источниками данных и защитить конфиденциальные и PII-данные.
2. Принимать решение: Компании должны гарантировать, что их агенты ИИ имеют доступ к правильным моделям и инфраструктуре ИИ и МО для принятия правильных решений. Внедряя облачный брандмауэр, предприятия могут получить подключение и безопасность, необходимые их агентам ИИ для доступа к правильным моделям в проверяемом режиме.
3. Выполнение действия: Агенты ИИ выполняют действия на основе решения. Однако предприятия должны определить, какой агент из сотен или тысяч принял это решение. Им также необходимо знать, как их агенты общаются друг с другом, чтобы избежать конфликта или «роботов, сражающихся с роботами». Таким образом, организациям необходима наблюдаемость и прослеживаемость этих действий, выполняемых их агентами ИИ. Наблюдаемость — это способность отслеживать, контролировать и понимать внутренние состояния и поведение агентов ИИ в режиме реального времени. Прослеживаемость — это способность отслеживать и документировать данные, решения и действия, выполняемые агентом ИИ.
4. Обучение и адаптация: Компании тратят миллионы, если не сотни миллионов или больше, на настройку своих алгоритмов, что повышает ценность и точность этих агентов. Если злоумышленник завладеет этой моделью и выведет ее, все эти ресурсы могут оказаться в его руках за считанные минуты. Предприятия могут защитить свои инвестиции с помощью функций безопасности выхода, которые защищают от выведения и нарушений командования и контроля.

Безопасное и ответственное использование агентного ИИ

Агентный ИИ обладает замечательным потенциалом, позволяя компаниям достигать новых высот производительности и эффективности. Но, как и любая новая технология в области ИИ, организации должны принимать меры предосторожности для защиты своих сетей и конфиденциальных данных. Безопасность особенно важна сегодня, учитывая высокоразвитых и хорошо организованных злоумышленников, финансируемых национальными государствами, таких как Salt Typhoon и Silk Typhoon, которые продолжают проводить крупномасштабные атаки.

Организации должны сотрудничать с экспертами по безопасности облачных вычислений, чтобы разработать надежную, масштабируемую и готовую к будущему стратегию безопасности, способную решать уникальные проблемы агентского ИИ. Эти партнеры могут позволить предприятиям отслеживать, управлять и защищать своего агента ИИ; более того, они помогают предоставить компаниям необходимую им осведомленность для соответствия стандартам, связанным с соответствием и управлением.