“Цифровые двойники” Agentic AI требуют эволюции верификации личности

Объявление Amazon о функции “Buy for Me” было смелым шагом, сигнализирующим о реальном потенциале агентного ИИ в электронной коммерции. Позволяя ИИ-агентам без проблем покупать продукты напрямую у других сайтов, когда эти товары недоступны на Amazon, компания позиционирует себя как основного поставщика высокоудобных и удовлетворяющих покупательских trải nghiệm.

Агентный ИИ – где автономные агенты действуют от имени реальных пользователей – находится на пути к быстрому внедрению в корпоративной среде, особенно в контексте B2B. Представьте себе мир, где “B2B ИИ-агенты”, работающие в различных областях (таких как обслуживание клиентов, продажи, цепочка поставок, ИТ-операции, финансы и HR), могут принимать действия на более будничных корпоративных задачах без вмешательства человека.

Агентный ИИ также является доброй новостью в потребительской сфере, с “B2C ИИ-агентами”, предлагающими значительные возможности для потребителей сэкономить время и усилия в своей повседневной жизни. Рассмотрите “агента-покупателя”, который может помочь онлайн-шопперам найти лучшие предложения, отслеживать снижение цен, автоматизировать покупки, обрабатывать возвраты и бронировать путешествия. Возможности по различным отраслям кажутся бесконечными:

• Личные финансы и управление богатством – Думайте об ИИ-агентах, которые могут автономно выполнять финансовые стратегии, ребалансировать портфели, находить оптимальные процентные ставки для сбережений и даже управлять налоговыми декларациями.
• Обслуживание клиентов и поддержка (для физических лиц) – Вместо звонка на горячую линию или общения с ботом, личный агентный ИИ может общаться напрямую с агентным ИИ компании, чтобы решить проблемы, уточнить заказы или внести изменения. Это исключает необходимость для людей повторять информацию или ориентироваться в сложных системах IVR.
• Здравоохранение – ИИ-агенты смогут управлять записями на прием, заказывать рецепты, подавать страховые заявления и даже проактивно искать вторые мнения или анализировать медицинские исследования от имени пациентов.

Принятие агентного ИИ предлагает сайтам возможность выделиться за счет исключительной удобства и trải nghiệm пользователей. Однако с другой стороны, агентный ИИ высоко уязвим для мошенничества. Исследования показывают, что боты составляют между 40 и 50 процентами всего веб-трафика, причем около 65 процентов этих ботов, как полагают, являются злонамеренными. Агентный ИИ по сути является способом для обычных потребителей использовать ботов, и мошенники – которые часто используют ботов в больших объемах, чтобы обеспечить операции в масштабе – теперь будут иметь гораздо легче скрываться на виду среди законного агентного трафика.

На фундаментальном уровне, способность различать эти злонамеренные и законные боты в масштабе будет ключевым фактором в различении лидеров в агентном ИИ-гонке. В агентном мире машины будут наделены полномочиями и будут ходить по тем же “кибер-коридорам”, что и люди.

Но готова ли ландшафт электронной коммерции?

Агентный ИИ потребует переосмысления или расширения онлайн-рамок верификации личности, как они известны сегодня, что, в свою очередь, потребует от поставщиков решений продолжать улучшать то, что они уже делают. На сегодняшний день эта рамка была сосредоточена на трех вопросах:

• Это реальный человек? Быстрое распространение дипфейков требует проверок на жизнь для всех высокорисковых транзакций, гарантируя, что они инициированы реальным, живым человеком. В контексте агентного ИИ ответ может быть: “нет, я не человек”, но это не означает, что проверка на жизнь не имеет значения. Обнаружение жизни должно всегда быть частью биометрических проверок, происходящих на высокорисковых точках в пути пользователя, чтобы гарантировать, что человек находится в цикле – например, когда создается учетная запись, переводятся деньги или запрошено восстановление учетной записи (“Я забыл свой пароль”).
• Это доверенный человек? Это способность определить, является ли пользователь мошенником, будущим VIP-клиентом или чем-то средним, что часто включает проверку против публичных баз данных. Например, человек, пытающийся забронировать жилье на онлайн-рынке аренды, будет помечен как высокорисковый, если у него есть известная судимость за захват или уничтожение имущества.
• Это все еще человек за учетной записью? Это относится к непрерывной, постоянной аутентификации – или гарантии того, что человек, чья личность была подтверждена при входе, все еще присутствует, предотвращая захват учетной записи другими людьми.

Агентный ИИ добавляет четвертый вопрос – имеет ли этот агент полномочия действовать как прокси реального пользователя? Этот вопрос полномочий имеет решающее значение, подтверждая объем и продолжительность полномочий человека для действий ИИ-агента от его имени, в соответствии с контекстом. Это не только о том, что человек делегирует задачу; это о том, чтобы гарантировать, что ИИ-агент обладает конкретными, отменяемыми, контекстно-зависимыми полномочиями, полученными от человека. Все действия ИИ-агента должны быть отслеживаемы до реального, законного человека; это ключ к развертыванию агентного ИИ на B2C-сайтах в безопасной и подотчетной форме.

По оценкам, ИИ стоял за примерно 20 процентами мошенничества, совершенного в 2024 году во всех секторах, и эта цифра ожидается только расти, поскольку хакеры развертывают новые методы. Кроме того, к примеру, существует возможность захвата агента, или когда атакующий вмешивается в то, как агент воспринимает информацию или принимает решения. Итак, помимо проверки законности и полномочий ИИ-агентов, проверка целостности агентов также имеет решающее значение, чтобы гарантировать, что они не были изменены.

Gartner смягчил свои сильные прогнозы для роста агентного ИИ в целом с важным замечанием: более 40 процентов проектов агентного ИИ будут отменены к концу 2027 года. Это был суровый сигнал пробуждения – знак того, что многие организации недооценивают сложность реализации агентного ИИ, особенно необходимость обеспечить адекватные меры контроля риска. Хотя существует много способов, которыми агентные ИИ-агенты могут быть использованы для причинения вреда, способность проверить законность и полномочия является базовым, фундаментальным шагом для минимизации риска. К счастью, то, что требуется, – это не изобретение, а эволюция – дополнение проверенных онлайн-рамок верификации личности, которые существуют сегодня.