“Цифровые двойники” Agentic AI требуют эволюции верификации личности

Объявление Amazon о функции “Buy for Me” было смелым шагом, сигнализирующим о реальном потенциале агентного ИИ в электронной коммерции. Позволяя ИИ-агентам бесшовно покупать продукты напрямую с других сайтов, когда эти товары недоступны на Amazon, компания позиционирует себя как основного поставщика высокоудобных и полноценных покупательских trải nghiệm.

Агентный ИИ – где автономные агенты действуют от имени реальных пользователей – находится на пути к быстрому внедрению в корпоративной среде, особенно в контексте B2B. Представьте себе мир, где “B2B ИИ-агенты”, работающие в различных областях (таких как обслуживание клиентов, продажи, цепочка поставок, ИТ-операции, финансы и кадры), могут принимать действия на более рутинных корпоративных задачах без вмешательства человека.

Агентный ИИ также является хорошей новостью в потребительской сфере, где “B2C ИИ-агенты” предлагают значительные возможности для потребителей сэкономить время и усилия в своей повседневной жизни. Рассмотрим “агента-покупателя”, который может помочь онлайн-шопперам найти лучшие предложения, отслеживать снижение цен, автоматизировать покупки, обрабатывать возвраты и бронировать путешествия. Возможности в различных отраслях似乎 бесконечны:

• Личные финансы и управление богатством – представьте себе ИИ-агентов, которые могут автономно выполнять финансовые стратегии, ребалансировать портфели, находить оптимальные процентные ставки для сбережений и даже управлять налоговыми декларациями.
• Обслуживание клиентов и поддержка (для физических лиц) – вместо того, чтобы звонить на горячую линию или общаться с ботом, личный агентный ИИ может общаться напрямую с ИИ компании, чтобы решить проблемы, уточнить заказы или внести изменения. Это устраняет необходимость для физических лиц повторять информацию или ориентироваться в сложных системах IVR.
• Здравоохранение – ИИ-агенты смогут управлять записями на прием, заказывать рецепты, подавать страховые заявления и даже активно искать вторые мнения или анализировать медицинские исследования от имени пациентов.

Принятие агентного ИИ дает сайтам возможность выделиться за счет исключительной удобства и trải nghiệm пользователей. Однако с другой стороны, агентный ИИ очень уязвим для мошенничества. Исследования показывают, что боты составляют между 40 и 50 процентами всего веб-трафика, и около 65 процентов этих ботов, как полагают, являются злонамеренными. Агентный ИИ по сути является способом для обычных потребителей использовать ботов, и мошенники – которые часто используют ботов в больших объемах для реализации операций в масштабе – теперь будут иметь намного легче скрываться на виду среди законного агентного трафика.

На фундаментальном уровне, способность различать эти злонамеренные и законные боты в масштабе будет ключевым фактором в различении лидеров в гонке агентного ИИ. В агентном мире машины будут наделены полномочиями и будут ходить по тем же “киберкоридорам”, что и мы, люди.

Но готова ли ландшафт электронной коммерции?

Агентный ИИ потребует переосмысления или расширения существующей онлайн-рамки верификации личности, что, в свою очередь, потребует от поставщиков решений продолжать улучшать то, что они уже делают. На сегодняшний день эта рамка была сосредоточена на трех вопросах:

• Это реальный человек? Быстрое распространение глубоких фейков требует проверок на наличие жизни для всех высокорисковых транзакций, гарантируя, что они инициированы реальным, живым человеком. В контексте агентного ИИ ответ может быть: “нет, я не человек”, но это не означает, что проверка на наличие жизни не имеет значения. Обнаружение наличия жизни всегда должно быть частью биометрических проверок, происходящих в высокорисковых точках пользовательского пути, чтобы гарантировать, что человек находится в цикле – например, когда создается учетная запись, переводятся деньги или запрашивается восстановление учетной записи (“Я забыл свой пароль”).
• Это доверенный человек? Это способность определить, является ли пользователь мошенником, будущим VIP-клиентом или чем-то средним, что часто включает проверку против публичных баз данных. Например, человек, пытающийся забронировать жилье на онлайн-рынке аренды, будет помечен как высокорисковый, если у него есть известная уголовная история сквоттинга или повреждения имущества.
• Это все еще человек за учетной записью? Это относится к непрерывной, постоянной аутентификации – или обеспечению того, что человек, чья личность была проверена при входе, все еще находится там, предотвращая захват учетной записи другими людьми.

Агентный ИИ добавляет четвертый вопрос – имеет ли этот агент полномочия действовать от имени реального пользователя? Этот вопрос об полномочиях является критическим, подтверждая объем и продолжительность разрешения человека на то, чтобы ИИ-агент действовал от его имени, в соответствии с контекстом. Это не только о том, чтобы человек делегировал задачу; это о том, чтобы гарантировать, что ИИ-агент обладает конкретными, отзывными, контекстно-зависимыми разрешениями, полученными от человека. Все действия ИИ-агента должны быть отслеживаемы до реального, законного человека; это ключ к тому, чтобы сайты B2C развертывали агентный ИИ безопасным и подотчетным образом.

Согласно одному недавнему оценке, ИИ стоял за примерно 20 процентами мошенничества, совершенного в 2024 году во всех секторах, и эта цифра ожидается только расти, поскольку хакеры развертывают новые методы. Кроме того, злонамеренные ИИ-агенты, выдающие себя за законные, еще один пример – это захват агента, или когда атакующий вмешивается в то, как агент воспринимает информацию или принимает решения. Итак, помимо проверки законности и полномочий ИИ-агентов, проверка целостности агентов также имеет решающее значение, чтобы гарантировать, что они не были изменены.

Gartner смягчил свои сильные прогнозы роста агентного ИИ в целом важным замечанием: более 40 процентов проектов агентного ИИ будут отменены к концу 2027 года. Это был суровый сигнал пробуждения – знак того, что многие организации недооценивают сложность реализации агентного ИИ, особенно необходимость обеспечить адекватный контроль рисков. Хотя существует много способов, которыми агентные ИИ-агенты могут быть использованы для причинения вреда, способность проверить законность и полномочия является базовым, фундаментальным шагом для минимизации риска. К счастью, то, что требуется, – это не изобретение, а эволюция – дополнение существующих онлайн-рамок верификации личности, которые существуют сегодня.