Liderzy opinii

Brak godnej zaufania AI może hamować innowacje i tworzenie wartości biznesowej

Andrew Pery
Dodaj Unite.AI do preferowanych źródeł w Google
Kluczowe punkty% konsumentów preferuje firmy przejrzyste w kwestii zarządzania modelami AI.
Zobacz więcej
  • % konsumentów preferuje firmy przejrzyste w kwestii zarządzania modelami AI.
  • Rozwój AI bez kodowania / z niskim poziomem kodowania ma osiągnąć 45,5 miliarda dolarów do 2025 roku.
  • Ponad 700 inicjatyw regulacyjnych dotyczących AI jest w toku w 60 krajach na całym świecie.

Niedawne badanie wśród globalnych liderów biznesu pokazuje, że godne zaufania AI jest głównym priorytetem, jednak wiele firm nie podejmuje wystarczających kroków, aby to osiągnąć, ale jakie są koszty?

Rzeczywiście, badanie IBM ujawniło, że aż 85% respondentów zgadza się, że konsumenci są bardziej skłonni wybrać firmę, która jest transparentna w tym, jak buduje, zarządza i wykorzystuje swoje modele AI.

Jednak większość przyznała, że nie podjęła kluczowych kroków, aby upewnić się, że ich AI jest godna zaufania i odpowiedzialna, takich jak redukcja biasu (74%), śledzenie zmian wydajności i dryfu modelu (68%) oraz upewnienie się, że mogą wyjaśnić decyzje podejmowane za pomocą AI (61%). Jest to niepokojące, zwłaszcza biorąc pod uwagę, że wykorzystanie AI ciągle rośnie – 35% respondentów stwierdziło, że obecnie wykorzystuje AI w swoim biznesie, w porównaniu z 31% rok temu.

Niedawno uczestniczyłem w dostępnym wyłącznie na zaproszenie Corporate Innovation Summit w Toronto, gdzie uczestnicy wymieniali się innowacyjnymi pomysłami i prezentowali technologie, które mają kształtować przyszłość. Miałem przywilej uczestniczenia w trzech sesjach okrągłego stołu w sektorach usług finansowych, ubezpieczeń i detalicznych, z trzema kluczowymi obszarami: potrzebą większej transparentności, aby budować zaufanie do AI, demokratyzacją AI za pomocą narzędzi no-code/low-code oraz rozwojem, aby dostarczyć krótszy czas do uzyskania korzyści i ograniczyć ryzyko za pomocą najlepszych praktyk zarządzania AI.

Zwiększ zaufanie do technologii AI. COVID-19 nasilił i przyspieszył trend korzystania z chatbotów i wirtualnych asystentów finansowych oraz bezdotykowego procesu onboardingu klientów. Ten trend będzie kontynuowany, jak potwierdza badanie Cap Gemini, które pokazuje, że 78% konsumentów planuje zwiększyć wykorzystanie technologii AI, w tym zarządzania tożsamością cyfrową, w swoich interakcjach z firmami świadczącymi usługi finansowe.

Pomimo korzyści, wiele wyzwań się pojawia. Głównym z nich jest brak zaufania konsumentów do technologii AI oraz wpływ ich powszechności na prawo do prywatności i bezpieczeństwo. 30% konsumentów stwierdziło, że byłoby bardziej komfortowo dzielić się informacjami biometrycznymi, gdyby ich dostawcy usług finansowych zapewnili większą transparentność w wyjaśnieniu, w jaki sposób informacje te są zbierane, zarządzane i zabezpieczane.

CIO powinni przyjąć zasady godnego zaufania AI i wprowadzić rygorystyczne środki, które chronią prawo do prywatności i bezpieczeństwo. Mogą to osiągnąć za pomocą szyfrowania, minimalizacji danych i bezpieczniejszej autentykacji, w tym rozważania nowych zdecentralizowanych standardów tożsamości cyfrowej. W rezultacie Twoje starania w zakresie automatyzacji i samoobsługi będą bardziej przyjęte i będą wymagały mniejszej interwencji ludzkiej.

Usuń bariery dla demokratyzacji AI. Jest coraz większa tendencja do tworzenia aplikacji AI z użyciem narzędzi no-code/low-code, co badania przewidują, że osiągnie wartość 45,5 miliarda dolarów do 2025 roku. Głównym motorem jest krótszy czas do uzyskania korzyści z poprawą produktywności tworzenia aplikacji o 10x.

Na przykład, 56% firm świadczących usługi finansowe uważa zbieranie danych od kredytobiorców za jeden z najtrudniejszych i najmniej wydajnych kroków w procesie wnioskowania o kredyt, co skutkuje wysokim wskaźnikiem porzucenia. Podczas gdy technologie identyfikacji biometrycznej i zbierania danych napędzane przez AI są w stanie poprawić wydajność w procesie wnioskowania o kredyt, mogą one również stwarzać ryzyko zgodności, szczególnie w zakresie prywatności danych, poufności i biasu algorytmicznego.

Aby złagodzić i usunąć takie ryzyko, aplikacje no-code/low-code muszą zawierać kompleksowe testy, aby upewnić się, że działają zgodnie z pierwotnymi celami projektowymi, usunąć potencjalną stronniczość w zbiorze danych szkoleniowych, który może zawierać bias selekcji, bias etykietowania, oraz są bezpieczne przed atakami AI, które mogą negatywnie wpłynąć na wyniki algorytmiczne. Należy wziąć pod uwagę zasady odpowiedzialnej nauki o danych dotyczące uczciwości, dokładności, poufności i bezpieczeństwa.

Stwórz ramy zarządzania i regulacyjne AI. Zarządzanie AI nie jest już jedynie mile widzianą inicjatywą, ale imperatywem. Zgodnie z trackerem OECD dotyczącym krajowych polityk AI, istnieje ponad 700 inicjatyw regulacyjnych AI w ponad 60 krajach. Istnieją jednak dobrowolne kodeksy postępowania i zasady etyki AI opracowane przez międzynarodowe organizacje standardów, takie jak Institute of Electrical and Electronic Engineers (IEEE) oraz National Institute of Standards and Technology (NIST).

Obawy firm otaczają założenie, że regulacje AI nałożą na nie więcej obowiązków zgodności z rygorystycznymi mechanizmami egzekwowania, w tym karami za niezgodność. Jednak regulacje AI są nieuniknione.

Europa i Ameryka Północna podejmują proaktywne kroki, które będą wymagać od CIO współpracy z ich odpowiednikami technicznymi i biznesowymi, aby utworzyć skuteczne polityki. Na przykład, proponowany przez Komisję Europejską Akt o Sztucznej Inteligencji proponuje wprowadzenie obowiązków opartych na ryzyku dla dostawców AI w celu ochrony praw konsumentów, jednocześnie promując innowacje i gospodarcze możliwości związane z technologiami AI.

Ponadto, w czerwcu 2022 roku rząd federalny Kanady opublikował długo oczekiwany Akt wdrażania Karty Cyfrowej, który chroni przed negatywnymi skutkami systemów AI o wysokim ryzyku. Stany Zjednoczone również prowadzą inicjatywy regulacyjne AI, choć w sposób sektorowy. Federalna Komisja Handlu (FTC), Biuro Ochrony Konsumentów (CFPB) oraz Rada Rezerwy Federalnej wszystkie wykazują swoje uprawnienia regulacyjne za pomocą mechanizmów egzekwowania, aby chronić konsumentów przed negatywnymi skutkami wynikającymi z coraz szerszego stosowania AI, które mogą skutkować dyskryminacyjnymi wynikami, choć niezamierzonymi. Ramy regulacyjne AI są konieczne dla każdej innowacyjnej firmy.

Osiągnięcie godnego zaufania AI wymaga wniosków opartych na danych

Wdrożenie godnego zaufania AI nie może być osiągnięte bez podejścia opartego na danych, aby określić, gdzie zastosowanie technologii AI może mieć największy wpływ, zanim przejdzie się do wdrożenia. Czy jest to poprawa zaangażowania klientów, czy realizacja wydajności operacyjnych, czy ograniczenie ryzyka zgodności?

Każdy z tych czynników biznesowych wymaga zrozumienia, jak procesy są wykonywane, jak obsługiwane są eskalacje i wyjątki, oraz identyfikacji różnic w realizacji procesów, przeszkód oraz ich przyczyn źródłowych. Na podstawie takiej analizy opartej na danych, organizacje mogą podejmować świadome decyzje biznesowe dotyczące wpływu i wyników związanych z wdrożeniem rozwiązań opartych na AI w celu redukcji tarcia przy onboardingu klientów i poprawy wydajności operacyjnych. Gdy organizacje mają korzyści z wniosków opartych na danych, mogą zautomatyzować bardzo pracochłonne procesy, takie jak spełnianie wymagań zgodności AI, audyt zgodności, KYC i AML w usługach finansowych.

Główna konkluzja jest taka, że integralną częścią automatyzacji procesów z użyciem AI jest wdrożenie najlepszych praktyk godnego zaufania AI. Etyczne wykorzystanie AI nie powinno być traktowane wyłącznie jako obowiązek prawny i moralny, ale jako imperatyw biznesowy. Jest to dobry interes biznesowy, aby być transparentnym w zastosowaniu AI. Buduje to zaufanie i wywołuje lojalność marki.

Andrew Pery jest propagatorem etyki AI w globalnej firmie zajmującej się inteligentną automatyzacją ABBYY. Posiada tytuł magistra prawa z wyróżnieniem z Northwestern University Pritzker School of Law i jest certyfikowanym specjalistą ds. prywatności danych. Pery ma ponad 25 lat doświadczenia w kierowaniu programami zarządzania technologią dla wiodących globalnych firm technologicznych. Jego specjalność to inteligentna automatyzacja procesów dokumentów i inteligencja procesów ze szczególną specjalizacją w technologiach AI, oprogramowaniu aplikacyjnym, prywatności danych i etyce AI.