Самый большой барьер ИИ — не возможности, а доверие.

По мере того как ИИ занимает более значимую роль в ключевых бизнес‑процессах и взаимодействии с клиентами, проблема уже не в внедрении; это доверие. Даже когда компании масштабируют ИИ для повышения эффективности, клиенты не автоматически начинают ему доверять.

Согласно глобальному исследованию KPMG 2025 года о доверии, отношениях и использовании искусственного интеллекта, лишь 41 % американцев готовы доверять ИИ, тогда как 70 % ожидают, что он принесёт им пользу. Проблема не в том, что люди не видят ценности ИИ, а в том, что компании просят их доверять технологии, которую они полностью не понимают и от которой не видят стабильных результатов. Это происходит потому, что такие инструменты часто работают поверх сегментированных данных, разрозненных процессов и непоследовательных коммуникаций. Когда эти системы плохо взаимодействуют, ИИ не укрепляет доверие; он может его подорвать.

ИИ масштабирует то, что уже есть

ИИ не улучшает автоматически системы, на которых он основан. В некоторых случаях он может выявить существующие слабости во внутренних рамках организации. Представьте клиента, который получает один ответ по электронной почте, другой — по SMS, и ещё один иной, когда общается с представителем. Внедрение ИИ в этот процесс не решает фундаментальную проблему, а лишь ускоряет её. Такие ошибки раздражают клиентов и подрывают их уверенность и доверие к процессам ИИ, которые обещали упростить их жизнь.

Поскольку ИИ надёжен только настолько, насколько надёжны данные и операционные системы, которые его питают, компании не могут просто «пришить» ИИ к существующим процессам и ожидать лучших результатов. Фрагментированные рабочие процессы заставляют модели работать с недостаточной, устаревшей или противоречивой информацией. Интеграция этих систем обеспечивает ИИ постоянный поток данных, позволяя ему предоставлять более точную информацию внутренним командам и потребителям.

Клиенты могут никогда не видеть процессы, стоящие за приложением ИИ, но они видят его результаты. Если ответ, сгенерированный ИИ, ошибочен или усложняет им жизнь, они теряют уверенность в компании и технологии.

Ответственный ИИ требует чётких границ

Организациям необходимо определить, где ИИ приносит наибольшую ценность. Недавнее исследованиепоказало, что потребители обеспокоены безопасностью данных и отсутствием человеческого контроля: лишь 40 % заявляют, что доверяют ИИ в обработке своих персональных данных, и 47 % выражают обеспокоенность именно этим. Эти опасения должны влиять на то, как организации проектируют и внедряют ИИ, а не только на то, как они о нём говорят. 

Чтобы потребители были уверены, что ИИ будет использоваться исключительно в их интересах, организациям необходимо создать чёткие рамки управления ИИ, в которых точно указано, к какой информации он может и не может получать доступ, какие действия может выполнять и когда вмешивается человек. Это не означает, что человек должен присутствовать в каждом случае использования ИИ; вместо этого следует сосредоточиться на определении тех моментов, где важен человеческий суд, и встроить их в рабочие процессы ИИ.

Когда ИИ работает в рамках определённых границ, использует информацию о клиентах надлежащим образом и имеет чёткие правила своих действий, у организаций появляется более надёжная база для завоевания доверия. 

Прозрачность не может быть второстепенной

По мере того как организации расширяют использование ИИ, им необходимо ясно информировать клиентов о том, где и как технология применяется в их взаимодействиях. Исследование Deloitte 2025 Connect Consumer Surveyоказало, что потребители часто считают, что технологии развиваются без достаточной прозрачности. Они не столько требуют от компаний объяснить, как работает модель, сколько хотят знать, что происходит с их данными, как это влияет на их опыт и кто несёт ответственность, если что‑то пойдёт не так.

На практике это означает проактивно сообщать, как используется ИИ, чтобы у людей было достаточно ясности для понимания того, что он делает, а чего нет. Такие вопросы гораздо проще решить, когда организации внедряют их в дизайн систем ИИ, поскольку потребители с большей готовностью полагаются на ИИ, когда понимают, как он работает.

Доверие определит ROI ИИ

Хотя клиенты могут никогда не видеть, что происходит внутри системы ИИ, они ощущают результаты. Они замечают, когда ответ, сгенерированный ИИ, ошибочен, когда им приходится повторять свои запросы, или когда они получают разные ответы в зависимости от канала обращения. Такие переживания подрывают доверие, но истинная причина кроется в: сегментированных данных, разрозненных процессах, слабом управлении или неясных коммуникациях.

Именно поэтому организациям необходимо смотреть за пределы самих моделей ИИ при оценке их эффективности. ROI зависит от того, могут ли люди, полагающиеся на него, доверять ему и способствует ли он вовлечённости клиентов. Продвинутая система, которой нельзя доверять, не принесёт ожидаемых бизнес‑результатов. ИИ будет продолжать становиться более способным, но эти возможности не определят, насколько далеко могут продвинуться организации — решающим фактором останутся люди, от которых он зависит.