Brak godnego zaufania AI może zahamować innowacje i wartość biznesu

Niedawne badanie wśród globalnych liderów biznesu pokazuje, że godne zaufania AI jest głównym priorytetem, jednak wiele firm nie podejmuje wystarczających kroków, aby to osiągnąć, ale jakie są koszty?

Rzeczywiście, badanie IBM ujawniło, że aż 85% respondentów zgadza się, że konsumenci są bardziej skłonni wybrać firmę, która jest transparentna w tym, jak buduje, zarządza i wykorzystuje swoje modele AI.

Jednak większość przyznała, że nie podjęła kluczowych kroków, aby upewnić się, że ich AI jest godna zaufania i odpowiedzialna, takich jak redukcja biasu (74%), śledzenie zmian wydajności i dryfu modelu (68%) oraz upewnienie się, że mogą wyjaśnić decyzje podejmowane za pomocą AI (61%). Jest to niepokojące, zwłaszcza biorąc pod uwagę, że wykorzystanie AI ciągle rośnie – 35% respondentów stwierdziło, że obecnie wykorzystuje AI w swoim biznesie, w porównaniu z 31% rok temu.

Niedawno uczestniczyłem w zaproszonym Corporate Innovation Summit w Toronto, gdzie uczestnicy wymieniali się innowacyjnymi pomysłami i prezentowali technologie, które mają kształtować przyszłość. Miałem przywilej uczestniczenia w trzech sesjach okrągłego stołu w sektorach usług finansowych, ubezpieczeń i detalicznych, z trzema kluczowymi obszarami: potrzebą większej transparentności, aby budować zaufanie do AI, demokratyzacją AI za pomocą narzędzi no-code/low-code oraz rozwojem, aby dostarczyć szybsze czas realizacji i ograniczyć ryzyko za pomocą najlepszych praktyk zarządzania AI.

Zwiększ zaufanie do technologii AI. COVID-19 nasilił i przyspieszył trend korzystania z chatbotów i wirtualnych asystentów finansowych oraz bezdotykowego procesu onboardingu klientów. Ten trend będzie kontynuowany, jak potwierdza badanie Cap Gemini, które pokazuje, że 78% konsumentów planuje zwiększyć wykorzystanie technologii AI, w tym zarządzania tożsamością cyfrową, w swoich interakcjach z firmami świadczącymi usługi finansowe.

Pomimo korzyści, wiele wyzwań się pojawia. Głównym z nich jest brak zaufania konsumentów do technologii AI oraz wpływ ich powszechności na prawa i bezpieczeństwo. 30% konsumentów stwierdziło, że byłoby bardziej komfortowo dzielić się informacjami biometrycznymi, gdyby ich dostawcy usług finansowych zapewnili większą transparentność w wyjaśnieniu, w jaki sposób informacje te są zbierane, zarządzane i zabezpieczane.

CIO powinni przyjąć zasady godnego zaufania AI i wprowadzić rygorystyczne środki, które chronią prawa i bezpieczeństwo. Mogą to osiągnąć za pomocą szyfrowania, minimalizacji danych i bezpieczniejszej autentykacji, w tym rozważania nowych standardów tożsamości cyfrowej. W rezultacie Twoje starania w zakresie automatyzacji i samoobsługi będą bardziej przyjęte i będą wymagały mniejszej interwencji ludzkiej.

Usuń bariery dla demokratyzacji AI. Jest coraz większa tendencja do tworzenia aplikacji AI z użyciem narzędzi no-code/low-code, co badania przewidują, że osiągnie wartość 45,5 miliarda dolarów do 2025 roku. Głównym motorem jest szybszy czas realizacji z poprawą produktywności tworzenia aplikacji o 10x.

Na przykład, 56% firm świadczących usługi finansowe uważa zbieranie danych od kredytobiorców za jeden z najtrudniejszych i najmniej wydajnych kroków w procesie wnioskowania o kredyt, co skutkuje wysokim wskaźnikiem porzucenia. Podczas gdy technologie identyfikacji biometrycznej i zbierania danych napędzane przez AI są w stanie poprawić wydajność w procesie wnioskowania o kredyt, mogą one również stwarzać ryzyko zgodności, szczególnie w zakresie prywatności danych, poufności i biasu algorytmicznego.

Aby złagodzić i usunąć takie ryzyko, aplikacje no-code/low-code muszą zawierać kompleksowe testy, aby upewnić się, że działają zgodnie z pierwotnymi celami projektowymi, usuń potencjalny bias w zbiorze danych szkoleniowych, który może zawierać bias selekcji, bias etykietowania, oraz są bezpieczne przed atakami AI, które mogą negatywnie wpłynąć na wyniki algorytmiczne. Należy wziąć pod uwagę zasady odpowiedzialnej nauki o danych dotyczące uczciwości, dokładności, poufności i bezpieczeństwa.

Stwórz ramy zarządzania i regulacyjne AI. Zarządzanie AI nie jest już inicjatywą, której można zignorować, ale imperatywem. Zgodnie z trackerem OECD dotyczącym krajowych polityk AI, istnieje ponad 700 inicjatyw regulacyjnych AI w ponad 60 krajach. Istnieją jednak dobrowolne kodeksy postępowania i zasady etyki AI opracowane przez międzynarodowe organizacje standardów, takie jak Institute of Electrical and Electronic Engineers (IEEE) oraz National Institute of Standards and Technology (NIST).

Obawy firm otaczają założenie, że regulacje AI nałożą na nie więcej obowiązków zgodności z rygorystycznymi mechanizmami egzekwowania, w tym karami za niezgodność. Jednak regulacje AI są nieuniknione.

Europa i Ameryka Północna podejmują proaktywne kroki, które będą wymagać od CIO współpracy z ich odpowiednikami technicznymi i biznesowymi, aby utworzyć skuteczne polityki. Na przykład, proponowany przez Komisję Europejską Akt o Sztucznej Inteligencji proponuje wprowadzenie obowiązków opartych na ryzyku dla dostawców AI w celu ochrony praw konsumentów, jednocześnie promując innowacje i gospodarcze możliwości związane z technologiami AI.

Ponadto, w czerwcu 2022 roku rząd federalny Kanady opublikował długo oczekiwany Akt wdrażania Karty Cyfrowej, który chroni przed negatywnymi skutkami systemów AI o wysokim ryzyku. Stany Zjednoczone również prowadzą inicjatywy regulacyjne AI, choć w sposób sektorowy. Federalna Komisja Handlu (FTC), Biuro Ochrony Konsumentów (CFPB) oraz Rada Rezerwy Federalnej wszystkie wykazują swoje regulatory muskuły za pomocą mechanizmów egzekwowania, aby chronić konsumentów przed negatywnymi skutkami wynikającymi z coraz szerszego stosowania AI, które mogą skutkować dyskryminacyjnymi wynikami, choć niezamierzonymi. Ramy regulacyjne AI są konieczne dla każdej innowacyjnej firmy.

Osiągnięcie godnego zaufania AI wymaga danych napędzanych wnioskami

Wdrożenie godnego zaufania AI nie może być osiągnięte bez podejścia opartego na danych, aby określić, gdzie zastosowanie technologii AI może mieć największy wpływ, zanim przejdzie się do wdrożenia. Czy jest to poprawa zaangażowania klientów, czy realizacja wydajności operacyjnych, czy ograniczenie ryzyka zgodności?

Każdy z tych biznesowych sterowników wymaga zrozumienia, jak procesy są wykonywane, jak obsługiwane są eskalacje i wyjątki, oraz identyfikacji zmian w wykonaniu procesów i ich przyczyn. Na podstawie takiej analizy opartej na danych, organizacje mogą podejmować świadome decyzje biznesowe dotyczące wpływu i wyników związanych z wdrożeniem rozwiązań opartych na AI w celu redukcji tarcia przy onboardingu klientów i poprawy wydajności operacyjnych. Gdy organizacje mają korzyści z danych napędzanych wnioskami, mogą zautomatyzować bardzo pracochłonne procesy, takie jak spełnianie wymagań zgodności AI, audyt zgodności, KYC i AML w usługach finansowych.

Główna konkluzja jest taka, że integralną częścią automatyzacji procesów z użyciem AI jest wdrożenie najlepszych praktyk godnego zaufania AI. Etyczne wykorzystanie AI nie powinno być traktowane wyłącznie jako obowiązek prawny i moralny, ale jako imperatyw biznesowy. Jest to dobry interes biznesowy, aby być transparentnym w zastosowaniu AI. Buduje to zaufanie i wywołuje lojalność marki.