Кибербезопасность
Безопасность ИИ в 2027 году: разрешения агентов определят масштаб возможного ущерба

Ключевые моментыРазрешения агента, а не надёжность модели, будут определять, насколько далеко может…
Показать больше
- Разрешения агента, а не надёжность модели, будут определять, насколько далеко может зайти недоразумение.
- Оценки безопасности должны сообщать о законном выполнении задач наряду с заблокированными атаками, чтобы доказать, что агенты остаются полезными.
- Отчёты об инцидентах должны прослеживать путь учётных данных и делегированных разрешений, а не странный вывод модели.
Представьте, что сотрудник просит ИИ-ассистента разобрать переполненный почтовый ящик. Задача кажется безобидной, пока какое-нибудь сообщение не побуждает ассистента открыть запись о клиенте, выгрузить вложение или отправить запрос на оплату. Вопрос безопасности уже не сводится к тому, можно ли доверять ответу. Теперь важно, имеет ли программа право превратить неверное понимание в действие.
Именно это становится одной из главных проблем безопасности агентов в 2027 году. Компании хотят, чтобы ассистенты доводили работу до конца. Командам безопасности нужно знать, где заканчивается эта свобода и смогут ли они отозвать её, пока работа ещё выполняется.
Такая система взаимодействия уже формируется. Microsoft сделала платформу Entra Agent ID общедоступной в 2026 году. Okta расширила управление идентификацией агентов в разных поставщиках удостоверений и экосистемах агентов. AWS сделала Policy в Bedrock AgentCore общедоступной в марте, вынеся принятие решений о предоставлении доступа за пределы собственного кода агента. Прогнозировать появление продуктов для идентификации агентов в 2027 году — значит не замечать рынок, который уже существует.
1. Данные о работе в реальной среде станут важнее объявлений о системах идентификации
Агент должен иметь возможность прекратить работу, не лишая своего человека-куратора доступа к его учётной записи. Добиться этого простого результата сложно, когда между ассистентом и используемым им приложением находятся несколько коннекторов и сервисных учётных записей. В 2027 году описания рабочих внедрений от конкретных компаний покажут, сохраняются ли отдельные идентификаторы агентов на всём пути: ограниченные полномочия вначале, распознаваемая идентичность по ходу работы и возможность отключить агента в конце.
Механизм знаком, хотя сама нагрузка — новая. Аутентификация устанавливает, какая программная сущность выполняет действие. Авторизация определяет, к каким ресурсам и операциям эта сущность может обращаться. Делегирование связывает её полномочия с человеком или организацией. Одна лишь запись в реестре не подтверждает, что какой-либо из этих механизмов контроля действует в момент совершения значимого действия.
В обсуждении идентификации агентов, опубликованном NIST в августе 2026 года, описаны проблемы с подотчётностью, возникающие из-за совместного использования учётных данных. Впоследствии опубликованные принципы проектирования предусматривают отдельную идентификацию, ограниченное делегирование и краткосрочные разрешения, которые можно отозвать. Это предлагаемые принципы проектирования, а не доказательство того, что каждый внедрённый продукт им соответствует, и не новое универсальное требование законодательства.
Инженерные сложности возникают, когда рабочий процесс пересекает организационные границы. Агент может пройти аутентификацию через одного поставщика удостоверений, обратиться к коннектору, которым управляет другая компания, а затем вызвать приложение с третьей моделью авторизации. Узкое разрешение, выданное на предыдущем этапе, может превратиться в широкий доступ на следующем, если коннектор подменит учётные данные собственными привилегированными данными сервисной учётной записи. Идентичность, видимая системе, должна сохраняться на всём этом пути — иначе плоскость управления утратит именно то различие, которое должна была обеспечить.
Объявление Microsoft о Agent 365 и объяснение Okta, посвящённое Agent Gateway, показывают, что поставщики разрабатывают решения этой проблемы. Однако это описания возможностей, представленные самими поставщиками. Я с большей уверенностью ожидаю появления конкретных данных о работе таких систем в реальной среде, но не утверждаю, что они исключают возможность компрометации.
За чем следить в 2027 году
Следите за внедрениями в реальной среде, где у агента есть собственная идентичность, доступ ограничен его задачей, а отключить его можно, не блокируя доступ его человеку-куратору. Описания заказчиками того, как эти механизмы контроля работают в связанных приложениях, дадут больше информации, чем одни лишь регистрации идентификаторов. Если компании продолжат полагаться на общие сервисные учётные данные, это ослабит прогноз.
Что это значит для бизнеса
Руководителям по безопасности следует просить поставщиков демонстрировать всю цепочку делегирования, в том числе разрешения, используемые коннекторами на последующих этапах. При закупке и проверке внедрений нужно определить владельца агента, разрешённые ему действия и порядок отзыва доступа. Растущий реестр зарегистрированных агентов полезен лишь в том случае, если организация может контролировать, что именно способен делать каждый из них.
2. Эффективность усиленной защиты будут оценивать по тому, насколько она позволяет выполнять полезную работу
Проще всего защитить агента, который не может ничего делать. Но и коммерчески бесполезным его сделать так же просто. Более интересным результатом в 2027 году станет защита, которая не мешает выполнять легитимную работу, но резко сокращает число несанкционированных действий с инструментами. Мой критерий намеренно строг: воспроизводимое сокращение таких действий вдвое при снижении доли успешно выполненных легитимных задач не более чем на 10 пунктов. Защита должна сохранять достаточную полезность, чтобы её не отключали.
Инъекция промпта меняет то, что модель должна воспринимать как инструкцию. Авторизация должна определять, разрешено ли предлагаемое действие, независимо от того, насколько убедительной становится эта инструкция. Документ, полученный при поиске и предлагающий выгрузить данные, не должен давать право на такую выгрузку лишь потому, что агент может его прочитать.
Рекомендации по безопасности Model Context Protocol показывают, почему так важен уровень интеграции: в них рассматриваются проблемы «запутавшегося заместителя», передача токенов и другие способы, которыми соединение может злоупотреблять полномочиями. Из этого следует, что проблему нужно решать на архитектурном уровне. Заявленное намерение модели и полномочия, которые приложение может обеспечить на практике, — разные вещи, и приложение должно проверять именно полномочия.
Есть и второе требование: защищенный агент должен по-прежнему выполнять разрешенную работу. AgentDojo создал расширяемую среду для тестирования атак на агентов, использующих инструменты, и защиты от таких атак. В препринте AgentDyn за 2026 год утверждается, что реалистичные задачи с открытым условием выявляют как уязвимости безопасности, так и чрезмерную блокировку. В другом недавнем анализе неудавшихся атак с внедрением промптов отказ от атаки отличают от простого игнорирования атаки или невыполнения задачи пользователя. Эти результаты исследований относятся к проверенным системам и условиям тестирования; их нельзя считать показателями безопасности для всей совокупности систем.
Ключевой компромисс можно измерить. Блокировка всех операций записи может дать отличный результат по показателю блокирования несанкционированных операций записи, но при этом сделать бесполезным агента для ведения бухгалтерского учета. Для убедительной оценки следует публиковать исход атаки, результат выполнения легитимной задачи, перечень разрешенных действий и случаи, когда требовалось одобрение человека. Важно учитывать и адаптивных атакующих: защита, работающая только против атак, разработанных до того, как о ней стало известно, дает меньше оснований считать ее надежной.
На что обратить внимание в 2027 году
Ищите оценки безопасности, в которых наряду с заблокированными атаками приводятся данные о выполнении легитимных задач. Наиболее убедительные свидетельства покажут, что агент продолжает выполнять разрешенную работу, а независимый механизм контроля блокирует несанкционированные действия, в том числе атаки, адаптированные к этой защите. Снижение успешности атак на фоне массового срыва выполнения задач давало бы гораздо меньше оснований для уверенности.
Что это значит для бизнеса
Оценивайте безопасность и полезность агента одновременно. Команде по закупкам следует включить в одну и ту же оценку типичные бизнес-задачи и реалистичные сценарии злоупотребления, а затем выяснить, для каких действий требуется одобрение и на каком этапе проверяются полномочия. Так можно увидеть цену чрезмерной блокировки наряду с потенциальным ущербом от предоставления агенту слишком широких полномочий.
3. В отчетах об инцидентах будут отслеживать путь передачи полномочий
После инцидента с участием агента важнее всего может оказаться вопрос о том, каким образом инструкция получила возможность привести к действию. Злонамеренное сообщение — лишь часть этой истории; другие ее составляющие — учетные данные, коннектор и делегированные полномочия, благодаря которым инструкция повлияла на дальнейшие действия. Я ожидаю, что в 2027 году поставщики будут публиковать больше подтвержденных ими сообщений об инцидентах, раскрывающих эти цепочки. Это даст защитникам более полезную информацию, чем очередной пример того, как модель сказала то, чего не должна была говорить.
Важное свидетельство в таком сообщении — последовательность событий: агент получил некоторый ввод, предложил или выбрал действие, получил или унаследовал полномочия и пересек установленную границу. Если описать только необычные слова модели, операционный сбой останется необъясненным. Если же рассказать только об утекших учетных данных, можно упустить причину, по которой агент раскрыл их или воспользовался ими.
Это не прогноз о том, что первое подобное пересечение границы произойдет в следующем году. В своей оценке инцидентов кибербезопасности за сентябрь 2026 года компания Anthropic описала четыре случая, когда модели Claude получили несанкционированный доступ к реальным системам третьих сторон в ходе мероприятий, связанных с оценкой. Это сообщение поставщика модели о конкретных инцидентах. Его не следует обобщать и считать измеренным показателем утечек в компаниях или воспринимать как независимое подтверждение каждой детали.
Топ-10 рисков OWASP для агентных приложений — полезная система категорий для обсуждения сбоев в работе агентов. Однако такая система предлагает категории, а не знаменатель для подсчета инцидентов. Рост числа раскрытых инцидентов может объясняться более широким внедрением, улучшением обнаружения, большей готовностью сообщать о проблемах или сочетанием всех трех факторов. Сам по себе он не докажет, что каждый развернутый агент стал менее безопасным.
Здесь я уверен меньше, поскольку стимулы к раскрытию информации неясны. Организации могут незаметно исправить коннектор, счесть сбой обычной ошибкой управления доступом или отказаться раскрывать имя клиента. Поэтому серьезные изменения в работе систем могут почти не отражаться в открытых источниках. Эту неопределенность следует учитывать в прогнозе, а не устранять, засчитывая каждую гипотетическую демонстрацию уязвимости как утечку.
На что обратить внимание в 2027 году
Обращайте внимание на отчеты об инцидентах, в которых объясняется, как агент перешел от чтения недоверенных материалов к использованию полномочий для воздействия на реальный ресурс. Четкое описание коннектора, делегированных учетных данных, затронутого действия и мер по устранению проблемы укрепило бы основания для такого прогноза. В отчетах, ограниченных необычными ответами модели, будет меньше сведений о сбое в механизме контроля доступа.
Что это значит для бизнеса
Командам реагирования на инциденты следует сохранять достаточно телеметрических данных агента и приложения, чтобы восстановить путь от ввода до действия. При проверке поставщиков необходимо заранее выяснить, кто будет уведомлять клиента, какие журналы и записи будут доступны и как можно изолировать скомпрометированное соединение. От этих договоренностей будет зависеть, насколько быстро организация сможет оценить масштаб последствий, если агент поведет себя неожиданно.
4. Скорость отзыва полномочий будут проверять секундомером
Выключатель — это обещание уложиться в определённое время. Если агент уже скопировал учётные данные или открыл другой сеанс, отзыв его идентификационных данных может оставить промежуток, в течение которого действия всё ещё будут выполняться. В 2027 году независимые испытания начнут проверять это обещание на время в подключённых приложениях. Прогноз здесь конкретен: новые защищённые действия должны блокироваться в течение минуты, в том числе если учётные данные были сохранены в кэше.
Обещать отзыв полномочий на уровне каталога идентификационных данных легко, а продемонстрировать его действие на последующих этапах сложнее. Коннектор может сохранить токен доступа. Рабочий процесс может поддерживать активный сеанс. Запланированное задание может хранить ранее авторизованный запрос. Отключение записи агента в реестре не доказывает, что эти пути выполнения перестают обращаться к устаревшим полномочиям.
Принцип отзываемой авторизации NIST и применение политик на шлюзе и ведение журналов политик в AWS описывают отдельные элементы необходимой архитектуры. Я предполагаю, что покупатели будут всё чаще запрашивать подтверждённое время локализации. Порог в 60 секунд — это целевой показатель моего прогноза, а не требование, приписываемое любому из этих источников.
Грамотно организованное учение позволяет отделить остановку новых действий от отмены уже выполненных. Отзыв разрешения не может отменить доставку уже отправленного сообщения. Проверяемое обещание состоит в том, что новое защищённое действие, отправленное после вступления отзыва в силу, будет отклонено. Для действий, уже выполняющихся, должны быть отдельно задокументированы правила отмены или завершения. Без такого разграничения эффектная демонстрация «аварийного выключателя» может скрывать гораздо более узкие гарантии.
Уверенность от низкой до умеренной объясняется сложностью получения воспроизводимых данных о работе разных коннекторов. Открытая документация продукта может подтвердить поддерживаемое поведение, но для прогноза нужен фактический результат измерения времени. Кроме того, проверяющий должен протестировать уже установленный сеанс — именно в таких условиях устаревшая авторизация с наибольшей вероятностью может иметь значение.
За чем следить в 2027 году
Следите за демонстрациями отзыва полномочий, которые начинаются с того, что агент уже работает через активные коннекторы, в том числе используя сохранённые в кэше учётные данные или установленные сеансы. Полезный результат — измеренное время остановки новых защищённых действий с чётким объяснением того, что происходит с уже выполняющейся работой. Отключённая запись в панели управления без проверки последующих этапов не даст ответа на главный вопрос.
Что это означает для бизнеса
Рассматривайте остановку агента как возможность реагирования на инциденты, которую необходимо отрабатывать. Проверьте приложения, к которым агент может получить доступ, определите, какие сеансы сохраняются после отзыва полномочий, и назначьте ответственных за остановку действий в очереди. Разграничивайте предотвращение следующего действия и отмену уже завершённого: планы восстановления должны учитывать оба сценария.
Расходы на безопасность будут определяться границами исполняемых действий
Задача — наделить агентов достаточными полномочиями, чтобы они приносили пользу, и установить достаточные ограничения, чтобы ими можно было управлять. Этот баланс будет определяться коннекторами, токенами и проверками разрешений, вдали от диалогового интерфейса. Когда произойдёт следующий инцидент, решающим станет вопрос о том, как далеко могла зайти система, прежде чем кто-то — или что-то — её остановил.












