Прогалина згоди, що прихована в корпоративному ШІ

Розмови про корпоративний ШІ, як правило, починаються з даних. Чи має компанія достатньо інформації про клієнтів, щоб навчити модель, персоналізувати досвід або підтримати автоматичне рішення?

Питання, яке часто пропускають, — чи має компанія фактично дозвіл використовувати ці дані для конкретної мети, яку вона передбачає. 

Дані клієнтів можуть бути точними, доступними та цінними, хоча і мати обмеження. Хтось може погодитися отримувати персоналізовані рекомендації, не погоджуючись, щоб його інформація використовувалась для навчання ШІ‑моделі. Інша особа може захотіти отримувати електронні листи раз на місяць, відмовляючись від щоденних текстових повідомлень.

Ось чому я почав описувати управління згодою та уподобаннями як управління дозволами. Це відповідає простому питанню: Хто або що має дозвіл доступу до цих даних і їх використання для певної мети?

У міру того, як ШІ стає пов’язаним з більшою кількістю взаємодій з клієнтами, компаніям потрібно відповісти на це питання до того, як система діятиме. Задокументовані інциденти ШІ зросли з 233 у 2024 році до 362 у 2025 році — зростання на 55 % за один рік, і це показник того, наскільки важливо правильно це реалізувати.

Доступні дані не є уповноваженими даними

Більшість великих організацій вже мають технології для збору, зберігання та передачі інформації про клієнтів. Вони можуть знати, де зберігаються дані, якому клієнту вони належать і як зробити їх доступними для іншого застосунку.

Управління дозволами відповідає на інший набір питань:

• Навіщо була зібрана інформація?
• На що погодився клієнт?
• Для яких використань охоплює ця згода?
• Чи змінив клієнт свою думку?
• Які системи повинні отримати це оновлення?

Ці питання стають особливо важливими, коли дані, зібрані для однієї мети, вводяться в новий випадок використання ШІ. Інформація, що зберігається в CRM або профілі клієнта, не автоматично підходить для кожної моделі, кампанії чи автоматичного рішення.

Згода є однією з законних підстав для обробки персональних даних, але це не єдина підстава. Вимоги залежать від юрисдикції, даних та випадку використання. Головне, що лише доступність не доводить наявність дозволу.Регулятори вже досліджують що відбувається, коли ШІ‑моделі розробляються з використанням незаконно оброблених персональних даних. Питання щодо того, як була отримана інформація, не зникають, коли ця інформація потрапляє в модель.

ШІ потребує більше, ніж «підписатися» чи «відписатися»

Традиційні системи згоди часто зводять рішення клієнта до двох варіантів: підписатися або відписатися. Це не відображає те, як люди дійсно хочуть взаємодіяти з компаніями.

Клієнт може захотіти рекомендації продуктів, але відхилити нерелевантну рекламу. Він може прийняти персоналізацію, відмовившись від використання своєї інформації для навчання моделі. Він може все ще любити листи бренду, але бажати отримувати їх раз на місяць, а не щодня.

Огляд 22 споживчих AI‑систем виявив значну різноманітність у тому, як продукти запитують дозвіл і керують персоналізацією, без єдиного стандарту серед досліджених систем.

Надання клієнтам можливості «відмовитися» може стати великим відкриттям. Без такої опції хтось, хто розчаровується через надмірну кількість повідомлень, може повністю відписатися. Компанія втрачає готового клієнта, бо не надала йому більш розумний вибір.

Досвід стає нав’язливим в той момент, коли цей обмін порушується — коли клієнт не пам’ятає, що просив це, або не може зрозуміти, чому компанія діє на підставі певної інформації. Бізнеси можуть уникнути більшості такого непорозуміння, будучи прямими: Ось інформація, яку ми хочемо зібрати, ось як ми плануємо її використовувати, і ось що ви отримаєте в обмін.

Вибір клієнта має досягати кожної системи

Фіксація уподобань на веб‑сайті — це лише початок. Цей вибір має потрапити в кожну систему, що використовує інформацію клієнта. Клієнт може оновити уподобання, тоді як платформа електронної пошти, сервісний застосунок або середовище ШІ продовжують діяти за старою відповіддю, і різні підрозділи можуть в результаті мати конфліктуючі записи. Клієнт також може перейти від анонімного перегляду до автентифікованого облікового запису, і компанія ніколи не з’єднає його попередні вибори з новим профілем.

Саме тут згода більше не може залишатися у «силосі» конфіденційності, про який решта бізнесу майже не знає. Вона повинна бути пов’язана з маркетингом, досвідом клієнтів, управлінням даними та системами, що розгортають ШІ. Функціональний шар дозволів має підтримувати останній запис, зв’язувати вибори між профілями клієнтів, асоціювати кожен дозвіл з конкретною метою та надсилати зміни до кожної відповідної системи.

Якщо центральний запис показує, що клієнт відкликав дозвіл, а нижчестоящі системи продовжують використовувати дані, фіксація вибору фактично не поважає його. Ця проблема стає набагато більшою з ШІ. Один застарілий дозвіл може вплинути на тисячі рекомендацій, повідомлень або автоматизованих дій, перш ніж хтось це помітить.

Конфіденційність не може дозволити собі бути «офісом ні»

Все це не працює, якщо конфіденційність залучається лише після факту. У деяких компаніях команди з конфіденційності зарекомендували себе як офіс «ні», і часто це трапляється тому, що їх підключають до проєкту після того, як важливі рішення вже прийняті.

Маркетингова команда розробляє кампанію, команда даних створює нову модель, або керівництво вирішує швидко впроваджувати ШІ. Конфіденційність отримує план лише в кінці і виявляє проблему. У цей момент єдиною реалістичною відповіддю може бути «ні».

Залучення конфіденційності на ранніх етапах змінює розмову. Команда може допомогти бізнесу продовжувати рухатися вперед, одночасно позначаючи правильні галочки. Конфіденційність за проєктуванням набагато простіше, ніж намагатися розплутати систему після того, як дані клієнта вже пройшли через неї.

Це важливо, бо команди з конфіденційності часто малі, навіть у найбільших у світі компаніях. Ці малі, але потужні команди не можуть вручну відстежувати кожен вибір клієнта у всіх додатках. Їм потрібні системи, які гнучкі, прості у використанні та здатні переносити дозволи по всій організації.

Фахівці з конфіденційності також потребують впевненості, щоб пояснювати свою роботу в бізнес-термінах. Вони перебувають між компанією та клієнтом і можуть допомогти обом сторонам отримати більше цінності від взаємодії.

Трасування аудиту має охоплювати рішення ШІ

Коли рішення, згенероване ШІ, підлягає сумніву, компанія повинна мати можливість відтворити, що сталося. Це включає ідентифікацію, які дані клієнта були використані, на що клієнт погодився, яке повідомлення він отримав і чи досяг останній вибір системи до її дії. Встановлені рекомендації щодо ШІ підкреслюють документування даних, вимог до систем і рішень протягом усього життєвого циклу ШІ.

Ці докази підтримують регуляторні запити, а також мають практичну цінність. Команди з конфіденційності, маркетингу, досвіду клієнтів та даних повинні розуміти, чому щось пішло не так, визначити, які системи вийшли з синхронізації, і виправити процес.

Фіксація згоди не те саме, що її підтвердження пізніше. Запис стає значно важче відтворити після того, як дані пройшли через кілька систем і вплинули на автоматизовану дію.

Довіра будується або руйнується в кожній взаємодії

Довіра може звучати як модне слово, але це фундамент кожних відносин з клієнтом. Кожна взаємодія робить ці відносини трохи кращими або трохи гіршими, чи компанія це усвідомлює, чи ні.

Зі зростанням впровадження компанії отримують більше можливостей створювати цінність, але й більше шансів, що малі прогалини в управлінні вплинуть на клієнтів. Перш ніж масштабувати AI‑застосунок, орієнтований на клієнта, лідери мають розуміти, які дані він використовуватиме, які дозволи застосовуються і наскільки швидко оновлений вибір клієнта досягне системи.

Рекомендація не повинна базуватись на інформації, яку клієнт не очікував, що її використають. Повідомлення не повинно надходити через канал, який клієнт відхилив. Автоматизована система не повинна діяти лише тому, що дані доступні.

Клієнти вже повідомляють організаціям, чого вони хочуть. Наступний крок — переконатися, що AI‑системи, які працюють з їхніми даними, здатні слухати.