Разрыв согласия, скрытый внутри корпоративного ИИ

Разговоры о корпоративном ИИ, как правило, начинаются с данных. Есть ли у компании достаточно информации о клиентах, чтобы обучить модель, персонализировать опыт или поддержать автоматическое решение?

Вопрос, который часто упускают, — есть ли у компании фактическое разрешение использовать эти данные для конкретной цели, которую она преследует.

Данные о клиентах могут быть точными, доступными и ценными, но при этом иметь ограничения. Кто‑то может согласиться получать персонализированные рекомендации, не соглашаясь, чтобы его информация использовалась для обучения модели ИИ. Другой может захотеть получать электронные письма раз в месяц, но отклонять ежедневные SMS‑сообщения.

Именно поэтому я начал описывать управление согласием и предпочтениями как управление разрешениями. Это отвечает на простой вопрос: кто или что имеет право доступа к этим данным и их использования для определённой цели?

По мере того как ИИ всё больше соединяется с клиентскими взаимодействиями, компаниям необходимо ответить на этот вопрос до того, как система начнёт действовать. Зафиксированные инциденты ИИ увеличились с 233 в 2024 году до 362 в 2025 году — рост на 55 % за один год, и это показатель того, насколько важно правильно решить эту задачу.

Доступные данные не являются авторизованными данными

Большинство крупных организаций уже обладают технологиями для сбора, хранения и передачи информации о клиентах. Они могут знать, где находятся данные, какому клиенту они принадлежат и как сделать их доступными для другого приложения.

Управление разрешениями отвечает на иной набор вопросов:

• Зачем собиралась информация?
• На что согласился клиент?
• Какие применения покрывает это согласие?
• Изменил ли клиент своё мнение?
• Каким системам необходимо получить это обновление?

Эти вопросы становятся особенно важными, когда данные, собранные для одной цели, вводятся в новый сценарий использования ИИ. Информация, находящаяся в CRM или клиентском профиле, не автоматически подходит для каждой модели, кампании или автоматизированного решения.

Согласие является одной из законных основ для обработки персональных данных, но это не единственная. Требования зависят от юрисдикции, данных и сценария использования. Более широкая мысль заключается в том, что просто наличие данных не доказывает наличие разрешения.Регуляторы уже изучают что происходит, когда модели ИИ разрабатываются с использованием незаконно обработанных персональных данных. Вопросы о том, как была получена информация, не исчезают, как только эти данные попадают в модель.

ИИ требует большего, чем «Подтверждение» или «Отказ»

Традиционные системы согласия часто сводят решение клиента к двум вариантам: согласие или отказ. Это не отражает того, как люди действительно хотят взаимодействовать с компаниями.

Клиент может хотеть получать рекомендации по продуктам, но отклонять нерелевантную рекламу. Он может принимать персонализацию, отказываясь от использования своей информации для обучения модели. Он может по‑прежнему любить письма бренда, но желать получать их раз в месяц, а не каждый день.

Обзор 22 систем ИИ, ориентированных на потребителей оказал широкую вариативность в том, как продукты запрашивают разрешения и управляют персонализацией, без единого стандарта среди изученных систем.

Предоставление клиентам возможности отказаться от получения сообщений может открыть огромные возможности. Без этой опции человек, уставший от слишком большого количества сообщений, может полностью отписаться. Компания теряет готового клиента, потому что не предложила ему более разумный выбор.

Опыт становится навязчивым в тот момент, когда этот обмен ломается — когда клиент не помнит, что просил об этом, или не может понять, почему компания использует определённую информацию. Бизнес может избежать большей части этой путаницы, будучи прямым: вот информация, которую мы хотим собрать, вот как мы планируем её использовать и вот что вы получите взамен.

Выбор клиента должен достичь каждой системы

Сбор предпочтения на веб‑сайте — лишь начало. Этот выбор должен попасть во все системы, использующие информацию о клиенте. Клиент может обновить предпочтение, пока платформа электронной почты, сервисное приложение или среда ИИ продолжают действовать на основе старого ответа, и в результате разные бизнес‑подразделения могут иметь конфликтующие записи. Клиент также может перейти от анонимного просмотра к аутентифицированному аккаунту, и компания может никогда не связать его прежние выборы с новым профилем.

Здесь согласие уже не может находиться в отдельном «приватном» silo, о котором остальная часть бизнеса почти не знает. Оно должно быть связано с маркетингом, клиентским опытом, управлением данными и системами, развертывающими ИИ. Рабочий слой разрешений должен поддерживать актуальную запись, соединять выборы между клиентскими профилями, связывать каждое разрешение с конкретной целью и отправлять изменения во все соответствующие системы.

Если центральный реестр показывает, что клиент отозвал разрешение, но дочерние системы продолжают использовать данные, запись выбора фактически не учитывает его. Эта проблема становится гораздо более масштабной с ИИ. Одно устаревшее разрешение может влиять на тысячи рекомендаций, сообщений или автоматических действий, прежде чем кто‑то заметит.

Конфиденциальность не может позволить себе быть «офисом отказа»

Ничего из этого не работает, если конфиденциальность привлекается только после факта. Команды по конфиденциальности заработали репутацию в некоторых компаниях как офис отказа, и во многих случаях это происходит потому, что конфиденциальность вовлекается в проект после того, как важные решения уже приняты.

Маркетинговая команда разрабатывает кампанию, команда данных создает новую модель, или руководство решает быстро действовать в области ИИ. Конфиденциальность получает план почти в конце и выявляет проблему. В этот момент единственным реалистичным ответом может быть «нет».

Внедрение конфиденциальности в процесс на более ранних этапах меняет разговор. Команда может помочь бизнесу продолжать движение, одновременно проверяя нужные пункты по пути. Приватность по‑дизайну гораздо проще, чем пытаться распутать систему после того, как данные клиента уже прошли через неё.

Это важно, потому что команды по конфиденциальности часто небольшие, даже в крупнейших компаниях мира. Эти небольшие, но мощные команды не могут вручную отслеживать каждый выбор клиента во всех приложениях. Им нужны системы, которые гибки, просты в использовании и способны переносить разрешения по всему бизнесу.

Профессионалам в области конфиденциальности также нужна уверенность, чтобы объяснять свою работу в бизнес‑терминах. Они находятся между компанией и клиентом и могут помочь обеим сторонам извлечь большую ценность из отношений.

Аудиторский след должен охватывать решение ИИ

Когда решение, основанное на ИИ, ставится под вопрос, компания должна иметь возможность восстановить, что произошло. Это включает определение, какие данные клиента были использованы, на что клиент согласился, какое уведомление он получил и дошёл ли последний выбор до системы до её действия. Установленные рекомендации по ИИподчеркивают необходимость документирования данных, требований к системе и решений на протяжении всего жизненного цикла ИИ.

Эти доказательства поддерживают регуляторные запросы, но также имеют практическую ценность. Командам по конфиденциальности, маркетингу, клиентскому опыту и данным необходимо понять, почему что‑то пошло не так, определить, какие системы вышли из синхронизации, и исправить процесс.

Сбор согласия не равен его последующему доказательству. Запись становится гораздо труднее восстановить после того, как данные прошли через несколько систем и повлияли на автоматическое действие.

Доверие строится или разрушается по одной взаимодействию за раз

Доверие может звучать как модное слово, но это основа любых отношений с клиентом. Каждое взаимодействие делает эти отношения чуть лучше или чуть хуже, осознаёт это компания или нет.

По мере роста внедрения у компаний появляется больше возможностей создавать ценность, но также больше шансов, что небольшие пробелы в управлении затронут клиентов. Прежде чем масштабировать AI‑приложение, ориентированное на клиента, руководителям следует понять, какие данные оно будет использовать, какие разрешения применимы и как быстро обновлённый выбор клиента достигнет системы.

Рекомендация не должна опираться на информацию, которую клиент не ожидал использовать. Сообщение не должно приходить через канал, который клиент отклонил. Автоматическая система не должна действовать просто потому, что данные доступны.

Клиенты уже сообщают организациям, чего они хотят. Следующий шаг — убедиться, что AI‑системы, работающие с их данными, способны слушать.