«Персональные цифровые двойники» Agentic AI потребуют эволюции проверки личности

Объявление Amazon о своей «Buy for MeФункция стала смелым шагом, демонстрирующим реальный потенциал агентского ИИ в электронной коммерции. Предоставляя агентам ИИ возможность беспрепятственно приобретать товары напрямую с других сайтов, если их нет в наличии на Amazon, компания позиционирует себя как ведущего поставщика максимально удобных и приятных покупок.

Агентный ИИ, где автономные агенты действуют от имени реальных пользователей, находится на пути к быстрое внедрение на предприятии, особенно в контексте B2B. Представьте себе мир, где «B2B-агенты ИИ», работающие в различных сферах (например, в сфере обслуживания клиентов, продаж, цепочки поставок, ИТ-операций, финансов и управления персоналом), могут принимать меры на более обыденных корпоративных задачах без вмешательства человека.

Агентский ИИ также является долгожданной новостью в потребительской сфере: «B2C-агенты ИИ» предлагают потребителям значительные возможности для экономии времени и сил в повседневной жизни. Представьте себе «агента покупателя», который может помочь онлайн-покупателям найти лучшие предложения, отслеживать снижение цен, автоматизировать покупки, обрабатывать возвраты и бронировать поездки. Возможности в различных отраслях кажутся безграничными:

• Личные финансы и управление благосостоянием – Подумайте об агентах ИИ, которые могут автономно реализовывать финансовые стратегии, перебалансировать портфели, находить оптимальные процентные ставки для сбережений и даже управлять налоговыми декларациями.
• Обслуживание и поддержка клиентов (для частных лиц) – Вместо того, чтобы звонить на горячую линию или общаться с ботом, персональный агентский ИИ может напрямую взаимодействовать с агентским ИИ компании для решения проблем, уточнения заказов или внесения изменений. Это избавляет людей от необходимости повторять информацию или пользоваться сложными системами интерактивного речевого ответа (IVR).
• Здравоохранение – Агенты ИИ смогут управлять приемами, заказывать рецепты, подавать страховые заявления и даже заблаговременно запрашивать второе мнение или анализировать медицинские исследования от имени пациентов.

Внедрение агентного ИИ даёт веб-сайтам возможность выделиться благодаря исключительному удобству и пользовательскому опыту. Однако, с другой стороны, агентный ИИ крайне уязвим для мошенничества. Исследования показывают, что боты сочинять от 40 до 50% всего веб-трафика, причём около 65% этих ботов считаются вредоносными. Агентный ИИ — это, по сути, способ для обычных пользователей использовать ботов, и мошенникам, которые часто используют ботов в больших объёмах для проведения масштабных операций, теперь будет гораздо легче скрываться среди легитимного агентского трафика.

На фундаментальном уровне способность различать вредоносных и легитимных ботов в масштабах станет ключевым фактором в определении лидеров в гонке агентов ИИ. В агентном мире машины получат полномочия и будут ходить по тем же «киберпространствам», что и мы, люди.

Но готова ли сфера электронной коммерции?

Агентный ИИ потребует переосмысления или расширения существующей онлайн-системы верификации личности, что, в свою очередь, потребует от поставщиков решений постоянного совершенствования уже существующих функций. На сегодняшний день эта система сосредоточена на трёх вопросах:

• Этот человек настоящий?? Стремительное распространение дипфейков делает обязательной проверку «живого» статуса для всех высокорисковых транзакций, гарантируя, что они инициированы реальным, живым человеком. В контексте агентного ИИ ответ может быть: «Нет, я не человек», но это не означает, что «живой» статус не важен. Определение «живого» статуса всегда должно быть частью биометрических проверок, проводимых в высокорисковых точках взаимодействия пользователя, чтобы гарантировать присутствие человека в процессе, например, при создании учётной записи, переводе денег или запросе на восстановление учётной записи («Я забыл пароль»).
• Доверяет ли этот человек?? Это возможность определить, является ли пользователь мошенником, потенциальным VIP-клиентом или кем-то средним, что часто требует проверки по общедоступным базам данных. Например, человек, пытающийся забронировать жильё на онлайн-площадке аренды, будет помечен как человек с высоким уровнем риска, если у него/нее есть известная криминальная история о незаконном захвате жилья или уничтожении имущества.
• Это все еще тот человек, который стоит за аккаунтом?? Это подразумевает непрерывную, постоянную аутентификацию — или регулярную проверку того, что человек, чья личность была подтверждена при входе в систему, всё ещё находится там, что предотвращает захват учётной записи другими людьми.

Агентный ИИ добавляет четвертый вопрос – имеет ли этот агент полномочия действовать как прокси-сервер реального пользователя?? Этот вопрос полномочий имеет решающее значение, подтверждая объем и продолжительность разрешения человека на то, чтобы агент ИИ выступал в качестве его доверенного лица в соответствии с контекстом. Речь идёт не просто о делегировании задачи человеком; речь идёт о том, чтобы агент ИИ обладал конкретными, отзываемыми и контекстно-зависимыми разрешениями, полученными от человека. Все действия агента ИИ должны быть отслежены до реального, легитимного человека; это ключ к безопасному и ответственному развертыванию агентского ИИ на B2C-площадках.

Согласно одной из недавних оценок, ИИ отстает примерно на 20 процентов мошенничества, совершённого в 2024 году во всех секторах, и ожидается, что эта цифра будет только расти по мере того, как хакеры будут применять новые методы. Помимо вредоносных ИИ-агентов, выдающих себя за легитимных, другим примером является перехват агента, или когда злоумышленник вмешивается в восприятие информации агентом или принятие решений. Таким образом, помимо проверки легитимности и полномочий ИИ-агентов, проверка целостность агентов также важно убедиться, что они не были подделаны.

Компания Gartner смягчила свои оптимистичные прогнозы относительно общего роста развития агентного ИИ, сделав важную оговорку: более 40% проектов в области агентного ИИ будут отменены к концу 2027 года. Это стало серьёзным сигналом тревоги – признаком того, что многие организации недооценивают сложность внедрения агентного ИИ, особенно необходимость обеспечения адекватного контроля рисков. Хотя существует множество способов использования агентов агентного ИИ для причинения вреда, возможность проверки легитимности и полномочий – это базовый, основополагающий шаг к минимизации риска. К счастью, требуется не переосмысление, а эволюция – расширение проверенных фреймворков онлайн-верификации личности, существующих сегодня.