Liderzy opinii

Jak banki mogą odzyskać zaufanie w erze cyfrowej bankowości opartej na AI

Corey Gross
Dodaj Unite.AI do preferowanych źródeł w Google
Kluczowe punktyZaufanie do bankowości zależy obecnie od wyników, a nie od bezbłędnej precyzji systemów…
Zobacz więcej
  • Zaufanie do bankowości zależy obecnie od wyników, a nie od bezbłędnej precyzji systemów probabilistycznych.
  • Zaufanie adaptacyjne łączy probabilistyczną sztuczną inteligencję z mechanizmami zabezpieczającymi, pętlami sprzężenia zwrotnego i ludzkim osądem tam, gdzie wymaga tego stawka.
  • Banki, które określą, gdzie należy stosować sztuczną inteligencję, zyskają adopcję, podczas gdy nieprecyzyjne platformy stracą ostrożnych nabywców instytucjonalnych.

Zaufanie zawsze było fundamentem bankowości. Jednak wraz z coraz większą integracją sztucznej inteligencji z operacjami i doświadczeniami bankowymi, sposób, w jaki tworzy się zaufanie, a także sposób, w jaki ono się psuje, uległ fundamentalnej zmianie.

Przez dziesięciolecia banki i spółdzielnie kredytowe budowały zaufanie poprzez deterministyczne systemy. Jeśli klient wpłacał czek, pieniądze pojawiały się. Jeśli płacił rachunek, był on opłacony. Te systemy podążały za klarowną, liniową logiką: jeśli X się wydarzy, to Y następuje. Niezawodność i spójność były sygnałem zaufania.

Cyfrowa bankowość oparta na sztucznej inteligencji działa inaczej. Wiele z najbardziej obiecujących technologii sztucznej inteligencji, w szczególności dużych modeli językowych (LLM), jest probabilistycznych z natury. Nie produkują one jednej „poprawnej” odpowiedzi za każdym razem. Produkują one zakres prawdopodobnych wyników opartych na kontekście, wzorcach i nauczonych zachowaniach. Ta probabilistyczna natura nie jest wadą; jest to powód, dla którego sztuczna inteligencja może być użyteczna w pewnych procesach bankowych. Jednak oznacza to również, że instytucje finansowe nie mogą oceniać ani zarządzać sztuczną inteligencją za pomocą tych samych ram zaufania, które stosowały do tradycyjnego oprogramowania.

Banki i spółdzielnie kredytowe, które mają największe trudności z wdrożeniem i przyjęciem sztucznej inteligencji, często popełniają ten sam błąd: oczekują perfekcji, gdzie nie jest to możliwe ani konieczne. Robiąc to, utożsamiają dokładność z zaufaniem. Te dwie rzeczy nie są takie same.

Dokładność nie jest tym samym co zaufanie

Żaden model uczenia maszynowego nie jest 100% dokładny. To nie jest luka technologiczna, która czeka na rozwiązanie; jest to cecha definiująca sposób działania tych systemów. Modele sztucznej inteligencji uczą się w sposób, który naśladuje ludzkie rozumowanie: absorbują dane wejściowe, ważą prawdopodobieństwa i generują dane wyjściowe na podstawie kontekstu. Podobnie jak ludzie nie są idealnie spójni w swoich osądach, tak i systemy probabilistyczne nie są.

Gdy instytucje finansowe traktują tę zmienność jako wadę, narażają się na rozczarowanie. Co więcej, ryzykują niewłaściwe zastosowanie sztucznej inteligencji do problemów, w których lepszym narzędziem są systemy deterministyczne. Jeśli celem jest precyzja, spójność i absolutna poprawność za każdym razem, tradycyjne oprogramowanie pozostaje szybsze, tańsze i bardziej niezawodne.

Zaufanie w kontekście sztucznej inteligencji powinno być mierzone na podstawie wyników. Czy narzędzie pomogło użytkownikowi w wykonaniu zamierzonego zadania? Czy zmniejszyło tarcie, poprawiło klarowność lub przyspieszyło podejmowanie decyzji? Jeśli odpowiedź brzmi tak, a zastosowanie jest odpowiednie, zaufanie jest ustanowione, nawet jeśli sam wynik nie jest idealnie precyzyjny.

Rozważmy sytuację, w której przedstawiciel obsługi klienta pisze bezpieczną wiadomość do klienta. Deterministyczny proces nie może pomóc w napisaniu empatycznego tekstu uwzględniającego kontekst. Model LLM może. Wynik może nie być idealny w pierwszym przebiegu, ale z weryfikacją przez człowieka w ramach procesu niezawodnie daje lepszy wynik niż zaczynanie od zera. W tym scenariuszu sztucznej inteligencji się ufa, ponieważ robi to, co ma robić.

Zaufanie adaptacyjne w praktyce

To jest miejsce, w którym pojęcie zaufania adaptacyjnego staje się niezwykle ważne. Zaufanie adaptacyjne uznaje, że nie wszystkie interakcje wymagają tego samego poziomu pewności, nadzoru lub kontroli. Zamiast stosowania sztywnych reguł powszechnie, ramy zaufania adaptacyjnego dostosowują się do kontekstu, ryzyka i intencji.

W praktyce zaufanie adaptacyjne oznacza łączenie systemów probabilistycznych sztucznej inteligencji z klarownymi barierami i pętlami sprzężenia zwrotnego. Dane wejściowe są ograniczone do odpowiednich dziedzin. Dane wyjściowe są kształtowane przez polityki, uprawnienia oparte na rolach i historyczne wzorce użycia. Co najważniejsze, ludzie pozostają uczestnikami procesu tam, gdzie potrzebny jest ludzki osąd.

Na przykład, asystent sztucznej inteligencji używany przez pracowników banku lub spółdzielni kredytowej może wyświetlać typowe zapytania na podstawie obserwowanego zachowania: ostatnie transakcje, nieudane próby logowania lub zmiany informacji o koncie. Z czasem system uczy się, które pytania są najbardziej istotne w określonych kontekstach i dostosowuje się odpowiednio. Nieistotne lub niebezpieczne zapytania są ignorowane. Czynności o wysokim ryzyku wymagają wyraźnego potwierdzenia. Żądania informacyjne o niższym ryzyku są obsługiwane automatycznie.

Zaufanie, w tym modelu, nie jest statyczne. Jest ciągle wzmacniane przez przejrzystość, spójność i możliwość przywrócenia prawidłowego stanu. Użytkownicy mogą zobaczyć, skąd pochodzą informacje. Mogą śledzić dane wyjściowe do systemów źródłowych. I jeśli coś nie wygląda prawidłowo, mogą interweniować, poprawić lub cofnąć.

Co sprawia, że sztuczna inteligencja jest godna zaufania w bankowości

Sztuczna inteligencja staje się godna zaufania w bankowości, gdy odpowiednie narzędzie jest stosowane do odpowiedniego zadania, a jego rola jest klarownie zrozumiana przez instytucję i użytkownika.

Narzędzia probabilistyczne powinny być używane do probabilistycznych wyników: podsumowywania, udzielania wskazówek, przygotowywania wersji roboczych, eksploracji i rozpoznawania wzorców. Narzędzia deterministyczne powinny nadal obsługiwać zadania, które wymagają precyzji, takie jak przetwarzanie transakcji, salda i płatności. Problemy pojawiają się, gdy te granice się zacierają.

Przejrzystość jest kluczową dźwignią budowania zaufania. Gdy systemy sztucznej inteligencji cytują swoje źródła, pokazują swoją pracę lub wyraźnie rozróżniają między odzyskiwaniem faktów a subiektywnymi wskazówkami, użytkownicy uczą się, jak odpowiednio z nimi współpracować. Z czasem tworzy to poinformowane zaufanie, a nie ślepe zaufanie.

Równie ważna jest możliwość przywrócenia prawidłowego stanu. Zaufanie szybko się wypala, gdy użytkownicy nie mogą zweryfikować ani cofnąć działania. Systemy, które pozwalają użytkownikom inspekcjonować dane wyjściowe, sprawdzać odniesienia lub wrócić do tradycyjnych przepływów pracy, utrzymują zaufanie, nawet gdy sztuczna inteligencja jest zaangażowana.

Dlaczego zaufanie będzie rzeczywistym wyróżnikiem w 2026

W 2026 roku możliwości sztucznej inteligencji same w sobie nie będą już istotnym wyróżnikiem. Większość instytucji finansowych będzie miała dostęp do podobnych modeli, narzędzi i infrastruktury. To, co będzie oddzielać liderów od pozostających w tyle, to skuteczność wdrażania tych narzędzi w zgodzie z oczekiwaniami klientów.

Klienci i członkowie nie przychodzą do swoich instytucji finansowych w poszukiwaniu niejednoznaczności. Oczekują determinizmu tam, gdzie ma to największe znaczenie: depozyty, płatności, transfery i salda. Systemy sztucznej inteligencji, które wprowadzają niepewność do tych przepływów, będą miały trudności z uzyskaniem akceptacji, niezależnie od tego, jak imponujące jest demo.

Z kolei banki i spółdzielnie kredytowe, które klarownie określą, gdzie sztuczna inteligencja dodaje wartość – i gdzie nie – osiągną szybsze wdrożenie AI i głębsze zaufanie. Te instytucje będą opierać się pokusie pokazywania efektownych doświadczeń ze sztuczną inteligencją pozbawionych nadzoru na rzecz rozwiązań, które cicho poprawiają wyniki.

Te same zasady stosują się do kupujących. Instytucje finansowe są coraz bardziej nieufne wobec rozwiązań sztucznej inteligencji, które wyglądają imponująco, ale nie odpowiadają jasno rzeczywistym potrzebom operacyjnym. Dostawcy, którzy mogą udowodnić przemyślane dopasowanie przypadku użycia, barier i zarządzania, będą lepsi niż ci, którzy sprzedają szerokie, nieokreślone „platformy sztucznej inteligencji”.

Zaufanie zależy od zastosowania

Ostatecznie zaufanie nie jest absolutne. Jest kontekstowe. Ufamy narzędziom, które niezawodnie robią to, do czego zostały zaprojektowane. Tracimy zaufanie, gdy nie powiodą się w tym jednym zadaniu, nawet jeśli są zaawansowane lub innowacyjne.

Zaufania do sztucznej inteligencji nie można oceniać za pomocą tych samych wskaźników co w przypadku systemów deterministycznych. Stosowanie samej precyzji jako kluczowego wskaźnika efektywności narzędzi probabilistycznych jest błędem. Zamiast tego, banki i spółdzielnie kredytowe muszą oceniać sztuczną inteligencję na podstawie skuteczności, przejrzystości i kontroli użytkownika w ramach klarownie zdefiniowanych przypadków użycia.

Gdy instytucje finansowe przyjmą tę różnicę, zaufanie przestanie być barierą dla przyjęcia sztucznej inteligencji i stanie się zasadą projektową. Ramy zaufania adaptacyjnego pozwalają instytucjom poruszać się szybciej bez poświęcania zaufania i wdrażać sztuczną inteligencję w sposób, który wzmacnia, a nie podważa, relację z ich klientami.

W erze cyfrowej bankowości opartej na sztucznej inteligencji odzyskanie zaufania nie wymaga perfekcji. Wymaga klarowności, dyscypliny i pokory, aby używać każdego narzędzia tylko tam, gdzie naprawdę należy.

Corey Gross jest wiceprezesem i szefem danych i sztucznej inteligencji w Q2, dostawcy rozwiązań do transformacji cyfrowej dla usług finansowych. Zarządza on portfelem rozwiązań opartych na danych, w tym Q2 SMART, Q2 Discover i Andi, oraz kieruje rozwijaniem możliwości wykorzystujących sztuczną inteligencję.