“Особисті цифрові двійники” Agentic AI вимагатимуть еволюцію перевірки ідентифікації

Оголошення Amazon про свою функцію “Buy for Me” було сміливим кроком, який свідчить про реальний потенціал агентних ІІ в електронній комерції. Надавши можливість ІІ-агентам безперешкодно купувати товари безпосередньо з інших сайтів, коли ці товари недоступні на Amazon, компанія позиціонує себе як провідного постачальника надзвичайно зручних і задовільних покупкових досвідів.

Агентні ІІ – де автономні агенти діють від імені реальних користувачів – знаходяться на шляху до швидкої корпоративної адоптації, особливо в контексті Б2Б. Представіть собі світ, де “Б2Б-агенти ІІ” діють у різних ролях (таких як обслуговування клієнтів, продажі, ланцюжки постачання, ІТ-операції, фінанси та кадри) і можуть вирішувати дії щодо більш рутинних корпоративних завдань без втручання людини.

Агентні ІІ також є доброю новиною у сфері споживачів, оскільки “Б2С-агенти ІІ” пропонують значні можливості для споживачів економити час і зусилля у своєму повсякденному житті. Розгляньте “агента-покупця”, який може допомогти онлайн-шоперам знайти найкращі пропозиції, відстежувати зниження цін, автоматизувати покупки, обробляти повернення та бронювати поїздки. Можливості у різних галузях здаються безкінечними:

• Особисті фінанси та управління капіталом – Подумайте про агентів ІІ, які можуть автономно виконувати фінансові стратегії, ребалансувати портфелі, знайти оптимальні ставки для заощаджень і навіть керувати податковими деклараціями.
• Обслуговування клієнтів і підтримка (для приватних осіб) – Замість того, щоб дзвонити на гарячу лінію або спілкуватися з ботом, особистий агент ІІ може спілкуватися безпосередньо з агентом ІІ компанії, щоб вирішити питання, уточнити замовлення або зробити зміни. Це усуває необхідність для осіб повторювати інформацію або навігацію в складних системах IVR.
• Охорона здоров’я – Агенти ІІ зможуть керувати призначеннями, замовляти рецепти, подавати страхові заяви та навіть активно шукати другі висновки або аналізувати медичні дослідження від імені пацієнтів.

Прийняття агентних ІІ пропонує сайтам можливість відрізнятися завдяки винятковій зручності користувачів і досвіду. Однак з іншого боку, агентні ІІ дуже вразливі до шахрайства. Дослідження показують, що боти складають між 40 і 50 відсотками всього трафіку в Інтернеті, причому близько 65 відсотків цих ботів вважаються шкідливими. Агентні ІІ по суті є способом для звичайних споживачів використовувати боти, а шахраї, які часто використовують боти у великих масштабах для здійснення операцій, тепер матимуть значно легше приховуватися на виду серед законного агентного трафіку.

На фундаментальному рівні можливість розрізняти ці шкідливі та законні боти у масштабі буде ключовим фактором у відрізненні лідерів у перегонах агентних ІІ. У світі агентних ІІ машини будуть наділені повноваженнями і будуть рухатися тією ж “кібер-алеєю”, що і люди.

Але чи готова ландшафт електронної комерції?

Агентні ІІ вимагатимуть переосмислення або розширення існуючої структури перевірки ідентифікації в Інтернеті, що, у свою чергу, вимагатиме від постачальників рішень продовжувати покращувати те, що вони вже роблять. До сьогодні ця структура була зосереджена на трьох питаннях:

• Чи це людина реальна? Швидке поширення діпфейків вимагає перевірок на живість для всіх ризикованих транзакцій, забезпечуючи, що вони ініціюються реальною, живою людиною. У контексті агентних ІІ відповідь може бути: “ні, я не людина”, але це не означає, що живість є неважливою. Перевірки на живість повинні завжди бути частиною біометричних перевірок, що відбуваються в критичних точках користувацького шляху, щоб забезпечити, що людина знаходиться в циклі – наприклад, коли створюється обліковий запис, передаються гроші або запитується відновлення облікового запису (“Я забув свій пароль”).
• Чи ця людина довірча? Це можливість визначити, чи є користувач шахраєм, майбутнім клієнтом ВІП або чимось середнім, що часто включає перевірку проти публічних баз даних. Наприклад, особа, яка намагається забронювати житло на онлайн-рентальній платформі, буде позначена як високоризикова, якщо в неї є відомий кримінальний запис про зайняття чи знищення власності.
• Чи це все ще людина за обліковим записом? Це стосується безперервної, постійної автентифікації – або забезпечення того, що людина, чию ідентичність була перевірена при вході, все ще присутня, запобігаючи захопленню облікового запису іншими людьми.

Агентні ІІ додають четверте питання – Чи має цей агент повноваження діяти як представник реальної людини? Це питання про повноваження є критичним, підтверджуючи обсяг і тривалість авторизації людини для агента ІІ діяти як його представник, відповідно до контексту. Це не тільки про те, щоб людина делегувала завдання; це про забезпечення того, що агент ІІ володіє конкретними, відкликаними, контекстно-чутливими людськими повноваженнями. Всі дії агентів ІІ повинні бути відстежуваними до реальної, законної людини; це ключ до безпечного та підзвітного розгортання агентних ІІ на сайтах Б2С.

За однією з недавніх оцінок, ІІ було причиною приблизно 20 відсотків шахрайства, скоєного в 2024 році у всіх секторах, і ця цифра очікується зростатиме, оскільки хакери застосовують нові техніки. Окрім шкідливих агентів ІІ, які маскують законні, іншим прикладом є захоплення агента, або коли нападник втручається в те, як агент сприймає інформацію або приймає рішення. Отже, крім перевірки законності та повноважень агентів ІІ, перевірка цілісності агентів також є критичною для забезпечення того, що вони не були змінені.

Gartner пом’якшив свої сильні прогнози щодо зростання агентних ІІ загалом важливим застереженням: понад 40 відсотків проектів агентних ІІ будуть скасовані до кінця 2027 року. Це був різкий сигнал про те, що багато організацій недооцінюють складність реалізації агентних ІІ, особливо щодо забезпечення адекватних засобів контролю ризику. Хоча існують різні способи, за допомогою яких агенти ІІ можуть бути використані для заподіяння шкоди, можливість перевірити законність і повноваження є базовим, фундаментальним кроком для мінімізації ризику. На щастя, для цього не потрібно винаходити щось нове, а лише еволюція – розширення існуючих перевірених онлайн-структур перевірки ідентифікації.