Лидеры мнений

Как банкам вернуть доверие в эпоху цифрового банкинга на базе ИИ

Corey Gross
Добавьте Unite.AI в избранные источники в Google
Ключевые моментыДоверие к банковскому делу теперь зависит от результатов, а не от безупречной точности…
Показать больше
  • Доверие к банковскому делу теперь зависит от результатов, а не от безупречной точности вероятностных систем.
  • Адаптивное доверие сочетает вероятностный ИИ с защитными механизмами, циклами обратной связи и человеческим суждением там, где этого требуют ставки.
  • Банки, которые определят, где место ИИ, добьются внедрения, тогда как расплывчатые платформы потеряют осторожных институциональных покупателей.

Доверие всегда было основой банкинга. Но по мере того, как искусственный интеллект все больше интегрируется в банковские операции и клиентский опыт, способ, которым создается доверие, и способ, которым оно разрушается, фундаментально изменились.

На протяжении десятилетий банки и кредитные союзы строили доверие через детерминированные системы. Если клиент внес чек на счет, деньги появлялись. Если он оплатил счет, он был оплачен. Эти системы следовали четкой, линейной логике: если X происходит, то Y следует. Надежность и последовательность были сигналом доверия.

Цифровой банкинг, основанный на искусственном интеллекте, работает иначе. Многие из наиболее перспективных технологий ИИ, особенно большие языковые модели (LLM), являются вероятностными по своей конструкции. Они не производят единственный “правильный” ответ каждый раз. Они производят диапазон правдоподобных результатов на основе контекста, закономерностей и усвоенных моделей поведения. Эта вероятностная природа не является ошибкой; именно поэтому ИИ может быть полезен в определенных банковских рабочих процессах. Но это также означает, что финансовые учреждения не могут оценивать или управлять ИИ, используя ту же самую основу доверия, которую они применяли к традиционному программному обеспечению.

Банки и кредитные союзы, которые сейчас испытывают наибольшие трудности с внедрением и освоением ИИ, часто совершают одну и ту же ошибку: они ожидают совершенства там, где оно невозможно и не требуется. Таким образом, они смешивают точность с доверием. Эти два понятия не являются одинаковыми.

Точность не является тем же, что и доверие

Ни одна модель машинного обучения не является на 100% точной. Это не технологический пробел, который предстоит устранить; это определяющая характеристика того, как эти системы работают. Модели ИИ учатся способами, которые отражают человеческое рассуждение: они поглощают входные данные, взвешивают вероятности и генерируют выходные данные на основе контекста. Как и люди не являются идеально последовательными в своих суждениях, так и вероятностные системы не являются идеально последовательными.

Когда финансовые учреждения рассматривают эту изменчивость как дефект, они подготавливают себя к разочарованию. Более важно, что они рискуют неправильно применять ИИ к проблемам, где детерминированные системы являются лучшим инструментом. Если целью является точность, последовательность и абсолютная правильность каждый раз, традиционное программное обеспечение остается быстрее, дешевле и более надежным.

Доверие в контексте ИИ должно измеряться результатами. Помог ли инструмент пользователю выполнить намеченную задачу? Устранил ли он препятствия, повысил ли ясность или ускорил принятие решений? Если ответ положительный, и инструмент используется для подходящей задачи, доверие устанавливается, даже если сам результат не является совершенно точным.

Рассмотрим сценарий, в котором представитель службы поддержки клиентов создает защищенное сообщение для клиента. Детерминированный рабочий процесс не может помочь написать текст с учетом контекста и с сочувствием к клиенту. Большие языковые модели могут. Результат может быть неидеальным с первого раза, но с проверкой человеком в рамках процесса он стабильно получается лучше, чем при работе с нуля. В этом сценарии ИИ доверяют, потому что он делает то, для чего он предназначен.

Адаптивное доверие на практике

Именно здесь концепция адаптивного доверия становится важной. Адаптивное доверие признает, что не все взаимодействия требуют одного и того же уровня уверенности, надзора или контроля. Вместо применения жестких правил повсеместно, основы адаптивного доверия корректируются на основе контекста, риска и намерения.

На практике адаптивное доверие означает сочетание вероятностных систем ИИ с четкими ограничениями и циклами обратной связи. Входные данные ограничиваются соответствующими доменами. Выходные данные формируются политиками, разрешениями на основе ролей и историческими моделями использования. Самое главное, люди остаются участниками процесса там, где требуется человеческое суждение.

Например, помощник ИИ, используемый сотрудниками банка или кредитного союза, может предлагать типовые запросы на основе наблюдаемого поведения: недавние транзакции, неудачные попытки входа или изменения информации об учетной записи. Со временем система учится, какие вопросы наиболее актуальны в конкретных контекстах, и адаптируется соответственно. Неактуальные или небезопасные запросы игнорируются. Действия с высоким риском требуют явного подтверждения. Информационные запросы с меньшим риском обрабатываются автоматически.

Доверие, в этой модели, не является статичным. Оно непрерывно подкрепляется прозрачностью, последовательностью и восстановимостью. Пользователи могут видеть, откуда берется информация. Они могут отслеживать выходные данные до систем-источников. И если что-то не выглядит правильно, они могут вмешаться, исправить или отменить.

Что делает ИИ заслуживающим доверия в банковской сфере

ИИ становится заслуживающим доверия в банковской сфере, когда правильный инструмент применяется к правильной задаче, и когда его роль четко понимается как учреждением, так и пользователем.

Вероятностные инструменты должны использоваться для вероятностных результатов: подготовки кратких изложений, рекомендаций, черновиков, изучения вариантов и распознавания закономерностей. Детерминированные инструменты должны продолжать обрабатывать задачи, которые требуют точности, такие как обработка транзакций, остатки на счетах и платежи. Проблемы возникают, когда эти границы стираются.

Прозрачность является важным рычагом доверия. Когда системы ИИ цитируют свои источники, показывают свою работу или четко разграничивают извлечение фактов и субъективные рекомендации, пользователи учатся взаимодействовать с ними соответствующим образом. Со временем это создает обоснованное доверие, а не слепую зависимость.

Не менее важно восстановление. Доверие быстро разрушается, когда пользователи не могут проверить или отменить действие. Системы, которые позволяют пользователям проверять выходные данные, проверять ссылки или возвращаться к традиционным рабочим процессам, сохраняют уверенность даже тогда, когда ИИ участвует.

Почему доверие станет главным отличительным фактором в 2026 году

В 2026 году возможности ИИ сами по себе больше не будут значимым отличительным фактором. Большинство финансовых учреждений будут иметь доступ к аналогичным моделям, инструментам и инфраструктуре. То, что будет отделять лидеров от отстающих, – это то, насколько эффективно они развертывают эти инструменты способами, соответствующими ожиданиям клиентов.

Клиенты и члены не приходят в свои финансовые учреждения в поисках двусмысленности. Они ожидают детерминированности там, где это наиболее важно: вклады, платежи, переводы и остатки на счетах. Системы ИИ, которые вводят неопределенность в эти рабочие процессы, будут с трудом добиваться признания, независимо от того, насколько впечатляющей окажется демонстрация.

Напротив, банки и кредитные союзы, которые четко определяют, где ИИ добавляет ценность – и где нет, – добьются более быстрого освоения ИИ и более глубокого доверия. Эти учреждения будут сопротивляться искушению демонстрировать эффектные, неуправляемые ИИ-сервисы в пользу решений, которые тихо улучшают результаты.

Тот же принцип применяется к покупателям. Финансовые учреждения все осторожнее относятся к ИИ-решениям, которые выглядят впечатляющими, но плохо соответствуют реальным операционным потребностям. Поставщики, которые могут продемонстрировать продуманное соответствие конкретным задачам, ограничения и управление, будут превосходить тех, кто продает широкие, плохо определенные “платформы ИИ”.

Доверие зависит от конкретного применения

В конечном итоге, доверие не является абсолютным. Оно зависит от контекста. Мы доверяем инструментам, которые надежно выполняют задачу, для которой они были разработаны. Мы теряем доверие, когда они терпят неудачу в этой задаче, даже если они сложны или инновационны.

Доверие к ИИ нельзя оценивать по тем же метрикам, что и доверие к детерминированным системам. Оценивать вероятностные инструменты лишь по точности — значит выбирать неверный ключевой показатель эффективности. Вместо этого банки и кредитные союзы должны оценивать ИИ на основе эффективности, прозрачности и контроля пользователя в четко определенных случаях использования.

Когда финансовые учреждения принимают это различие, доверие перестает быть барьером для внедрения ИИ и становится принципом проектирования. Основы адаптивного доверия позволяют учреждениям двигаться быстрее без ущерба для доверия и развертывать ИИ способами, которые укрепляют, а не подрывают, отношения с их клиентами.

В эпоху цифрового банкинга на базе ИИ, возвращение доверия не требует совершенства. Оно требует ясности, дисциплины и скромности, позволяющей использовать каждый инструмент только там, где он действительно уместен.

Кори Гросс является вице-президентом и руководителем отдела данных и ИИ в Q2, поставщике решений для цифровой трансформации для финансовых услуг. Он управляет портфелем решений компании, ориентированных на данные, включая Q2 SMART, Q2 Discover и Andi, и возглавляет разработку возможностей, использующих ИИ.