Poruszaj się szybko, ale nie niszcz rzeczy: Jak balansować odpowiedzialne wdrożenie AI i innowacje

Zgodnie z niedawnym globalnym sondażem przeprowadzonym przez McKinsey, nawet jeśli 78% organizacji używa już AI w co najmniej jednej funkcji biznesowej, tylko 13% zatrudniło specjalistów ds. zgodności AI, a zaledwie 6% ma specjalistów ds. etyki AI w swoim zespole.

To, szczerze mówiąc, jest zachowaniem lekkomyślnym.

Chociaż w mojej nieodległej przeszłości byłam wielką zwolenniczką etosu „poruszaj się szybko i niszcz rzeczy” Doliny Krzemowej, nie możemy pozwolić sobie na tak bezczelną postawę w przypadku AI – technologii, która jest potężniejsza niż cokolwiek, co widzieliśmy wcześniej, i rozwija się z prędkością światła.

Wdrożenie AI bez żadnych znaczących zabezpieczeń jest właśnie tym rodzajem szybkiego i niebezpiecznego postępowania, które jest gwarantowane, że w końcu się odbije i zagraża wszystkiemu. Wystarczy tylko jeden incydent związany z AI, aby zniszczyć lata budowania marki.

I chociaż wielu CIO i CTO jest świadomych tych ryzyk, wydają się działać pod założeniem, że regulatorzy w końcu wkroczą i uratują ich przed ustanowieniem własnych ram, co skutkuje wieloma rozmowami o ryzyku, ale z bardzo małym nadzorem.

Chociaż nie mam wątpliwości, że regulacje w końcu nadejdą, jestem mniej pewna, czy zostaną ustanowione wkrótce. ChatGPT został wprowadzony około trzy lata temu, a dopiero teraz zaczynamy widzieć takie rzeczy, jak spotkanie Senackiej Komisji Sprawiedliwości w sprawie bezpieczeństwa chatbotów. Rzeczywistość jest taka, że może to potrwać lata, zanim zobaczymy jakiekolwiek znaczące regulacje.

Zamiast brać to jako pretekst do zwłoki w sprawie wewnętrznego nadzoru, to powinno skłonić firmy do przyjęcia bardziej proaktywnego podejścia. Szczególnie biorąc pod uwagę, że gdy regulacje w końcu nadejdą, firmy bez własnych ram będą musiały się spieszyć, aby dostosować się do zgodności. To było dokładnie to, co się stało, gdy zostały uchwalone GDPR i CCPA.

Podobnie jak scrappy startupy z początku ery są teraz traktowane jako duże korporacje, do których stosuje się wyższe standardy, musimy również dojrzeć w swoim podejściu do odpowiedzialnego wdrożenia AI.

Nie ma „kup teraz, zapłać później” w przypadku odpowiedzialnych wdrożeń AI – zacznij teraz

Pierwszym krokiem w kierunku bardziej odpowiedzialnego podejścia do AI jest przestanie czekać na regulatorów i ustanowienie własnych zasad. Jakikolwiek przewagę, którą możesz myśleć, że uzyskujesz, unikając zabezpieczeń dzisiaj, odbije się na ciebie w przyszłości, gdy będziesz musiał stawić czoła bardzo kosztownemu i burzliwemu procesowi dostosowania.

Oczywiście, dla wielu problemem jest nie wiedzieć, od czego zacząć. Moja firma niedawno przeprowadziła sondaż wśród 500 CIO i CTO w dużych przedsiębiorstwach, a prawie połowa (48%) wskazała „określenie, co stanowi odpowiedzialne użycie lub wdrożenie AI” jako wyzwanie w zapewnieniu etycznego użycia AI.

Jednym z łatwych miejsc do rozpoczęcia jest rozszerzenie swojego zakresu poza funkcje, które umożliwia AI, i rozważenie możliwych ryzyk. Na przykład, chociaż użycie AI może zaoszczędzić pracownikom czas, otwiera również możliwość udostępnienia ogromnych ilości danych osobowych (PII) lub tajemnic handlowych nieuprawnionym i niezatwierdzonym LLM.

Każda firma cyfrowa dzisiaj jest zaznajomiona z cyklem życia rozwoju oprogramowania (SDLC), który zapewnia ramy dla budowy jakościowych produktów. Najlepsze praktyki zarządzania AI powinny być wbudowane w ten codzienny przepływ pracy, aby zapewnić, że odpowiedzialne podejmowanie decyzji staje się częścią rutyny, a nie późnym dodatkiem.

Powinno zostać utworzone ciało zarządzające, takie jak komitet etyki lub rada nadzorcza, które określa standardy dotyczące zastosowań AI w organizacji oraz definiuje metryki monitorowania i utrzymania tego standardu. Funkcjonalnie wygląda to jak zarządzanie narzędziami AI i modelem, zatwierdzenie rozwiązań, zarządzanie ryzykiem, wyrównanie z przepisami i standardami oraz przejrzysta komunikacja. Chociaż technicznie może to być „nowy” proces, nie jest bardzo różny od najlepszych praktyk dotyczących danych i utrzymania cyberbezpieczeństwa, i może być zautomatyzowany, aby zapewnić wczesne wykrywanie problemów.

Oczywiście, nie wszystkie ryzyka wymagają tego samego poziomu uwagi, dlatego ważne jest również opracowanie stopniowego procesu zarządzania ryzykiem, aby zespół mógł się skoncentrować na tym, co zostało określone jako wysokiego priorytetu.

Wreszcie, i najważniejsze, przejrzysta komunikacja o praktykach zarządzania zarówno wewnętrznie, jak i zewnętrznie jest niezwykle ważna. Obejmuje to utrzymanie żywych dokumentów dotyczących standardów zarządzania oraz zapewnienie ciągłego szkolenia, aby zespoły były na bieżąco.

Przestań traktować zarządzanie jako zagrożenie dla innowacji

Jest całkiem możliwe, że prawdziwym zagrożeniem dla odpowiedzialnego AI jest przekonanie, że zarządzanie i innowacje są wzajemnie wykluczające się. Nasze dane z sondażu odzwierciedlały ogromne 87% CIO i CTO, którzy uważali, że zbyt wiele regulacji ograniczyłoby innowacje.

Ale zarządzanie powinno być traktowane jako strategiczny partner, a nie jakiś rodzaj hamulca innowacji.

Jednym z powodów, dla których zarządzanie jest postrzegane jako siła tarcia, która spowalnia impet, jest to, że często jest pozostawione na końcu rozwoju produktu, ale zabezpieczenia powinny być częścią procesu. Jak wspomniano powyżej, zarządzanie może być wbudowane w cykle sprintu, tak aby zespół produktowy mógł poruszać się szybko, podczas gdy automatyczne kontrole dla uczciwości, stronniczości i zgodności są uruchamiane równolegle. Długoterminowo to się opłaca, ponieważ klienci, pracownicy i regulatorzy czują się bardziej pewnie, gdy widzą odpowiedzialność wbudowaną od samego początku.

I to zostało udowodnione, że przynosi finansowe korzyści. Badania wykazały, że organizacje z dobrze wdrożonymi ramami zarządzania danymi i AI doświadczają poprawy wyników finansowych o 21-49%. Niepowodzenie w ustanowieniu tych ram, jednak, również ma swoje konsekwencje. Zgodnie z tym samym badaniem, do 2027 roku większość organizacji (60%) „nie zrealizuje oczekiwanego efektu swoich przypadków użycia AI z powodu niezgodnych ram etycznych”.

Jednym z zastrzeżeń do argumentu, że zarządzanie nie musi przychodzić kosztem innowacji, jest to, że zespoły prawne zaangażowane w te rozmowy mają tendencję do spowalniania rzeczy. W moim doświadczeniu jednak ustanowienie zespołu ds. zarządzania ryzykiem i zgodności (GRC) idzie daleko w utrzymaniu sprawności i szybkości, służąc jako mostek między zespołem prawnym a zespołem produktowym.

Kiedy zarządzane jest dobrze, zespół GRC buduje pozytywne relacje z zespołem prawnym, służąc jako ich oczy na ziemi i dostarczając im raporty, których potrzebują, a jednocześnie współpracując z zespołem developerskim, aby zminimalizować przyszłe ryzyko pozwów i grzywien. Ostatecznie to dalej potwierdza, że inwestowanie w zarządzanie na wczesnym etapie jest najlepszym sposobem, aby upewnić się, że nie przeszkadza ono innowacjom.

Utwórz systemy nadzoru i zarządzania, które mogą się skalować

Pomimo tego, że tak wielu z badanych CIO i CTO uważa, że regulacje mogą ograniczyć innowacje, podobnie duży odsetek (84%) oczekuje, że ich firma zwiększy nadzór nad AI w ciągu najbliższych 12 miesięcy. Biorąc pod uwagę prawdopodobieństwo, że integracje AI będą nadal rozszerzać się i skalować w czasie, jest równie ważne, aby systemy zarządzania mogły skalować się wraz z nimi.

Coś, co często widzę na wczesnych etapach wdrożeń AI w przedsiębiorstwach, to to, że różne jednostki w firmie pracują w izolacji, tak że prowadzą różne wdrożenia jednocześnie i z różnymi wizjami tego, co oznacza „odpowiedzialne AI”. Aby uniknąć tych niekonsekwencji, firmy powinny ustanowić dedykowane Centrum Doskonałości AI, które łączy kompetencje techniczne, zgodności i biznesowe.

Centrum Doskonałości AI powinno ustanowić standardy ogólnofirmowe oraz stopniowe procesy zatwierdzania, gdzie jest ścieżka dla przypadków niskiego ryzyka. To utrzymuje szybkość, jednocześnie zapewniając, że wdrożenia wysokiego ryzyka przechodzą przez bardziej formalne kontrole bezpieczeństwa. Podobnie, Centrum Doskonałości powinno również ustalić wskaźniki bezpieczeństwa AI dla wyższych kierowników, aby nie zgubić odpowiedzialności w codziennych funkcjach biznesowych.

Ale aby to się stało rzeczywistością, dyrektorzy wykonawczy potrzebują poprawionej widoczności wskaźników zarządzania. Pulpity, które dostarczają danych w czasie rzeczywistym, byłyby o wiele skuteczniejsze niż obecny standard statycznych raportów zgodności, które stają się nieświeże i często pozostają nieprzeczytane. Idealnie, firmy również powinny budować rejestry ryzyka AI, podobnie jak robią to w przypadku ryzyka cyberbezpieczeństwa, oraz przechowywać ślady audytu, które odzwierciedlają, kto zbudował wdrożenie ML/AI, jak było testowane i jak się wykonuje w czasie.

Najważniejsze, co wynika stąd, jest to, że odpowiedzialne AI wymaga, aby zarządzanie było ciągłym procesem. Nie chodzi tylko o zatwierdzenia na starcie, ale o ciągłe monitorowanie przez cały cykl życia modelu. Jak zatem szkolenie jest kluczowe. Deweloperzy, technolodzy i liderzy biznesu powinni być szkoleni w zakresie odpowiedzialnych praktyk AI, aby mogli zidentyfikować problemy na wczesnym etapie i utrzymać wysokie standardy zarządzania, gdy systemy ewoluują. W ten sposób wdrożenia AI będą bardziej godne zaufania, skuteczne i opłacalne – bez konieczności łamania czegokolwiek w procesie.