Buduję systemy AI na co dzień. Oto co większość ludzi nie rozumie

Buduję systemy AI dla przedsiębiorstw świadczących usługi kontaktowe.

Nie chodzi o demonstracje, benchmarki ani projekty badawcze. Chodzi o systemy produkcyjne, które współpracują z klientami, nawigują po politykach, pobierają informacje z rozproszonych platform przedsiębiorstw i działają w środowiskach kształtowanych przez niekompletne dane, sprzeczne rekordy, hałas tła i nieprzewidywalne zachowania ludzkie.

To doświadczenie dało mi pierwszorzędne miejsce obserwacji jednego z największych rozłączności w branży AI. Publiczna dyskusja na temat AI jest często dominowana przez to, czym ta technologia może się stać kiedyś, podczas gdy organizacje próbują się dowiedzieć, jak ją skutecznie wdrożyć dzisiaj. Są to bardzo różne dyskusje.

Pytania, na które spędzam swój czas, rzadko dotyczą sztucznej inteligencji ogólnej lub czy maszyny w końcu zastąpią ludzi. Zazwyczaj są one znacznie bardziej praktyczne. Czy system może konsekwentnie interpretować prośby klientów? Czy może pobrać dokładne informacje z wielu platform przedsiębiorstw? Czy może odzyskać się, gdy dane są niekompletne? Czy może eskalować odpowiednio, gdy zaufanie jest niskie? Czy zespoły mogą mu ufaj enough, aby wdrożyć go na dużą skalę?

Te pytania mogą być mniej ekscytujące niż nagłówki, ale są to te, które decydują o tym, czy AI przedsiębiorstw odniesie sukces. Z czasem doszłem do wniosku, że większość organizacji przecenia znaczenie samego modelu i niedocenia wszystkiego, co jest wymagane, aby ten model był użyteczny w prawdziwym biznesie.

Demonstracja nie jest wdrożeniem

Każdy, kto pracuje ściśle z AI przedsiębiorstw, rozumie lukę między kontrolowaną demonstracją a wdrożeniem produkcyjnym.

Napotykamy na przykłady tego ciągle. Jeden system AI, z którym pracujemy, ma trudności około połowy czasu, aby poprawnie zinterpretować 16-cyfrowy numer zamówienia przekonwertowany na słowa. Te rodzaje niepowodzeń są podobne do słynnego “ile r jest w słowie strawberry?” problemu, gdzie zaawansowane modele językowe miały trudności z zadaniem, które wydawało się trywialne dla ludzi. Te same modele mogą uzyskać wyjątkowo dobre wyniki w egzaminach takich jak MCAT. To kontrast ujawnia coś ważnego: wyniki benchmarkowe i niezawodność operacyjna nie są tym samym.

Gdy AI wchodzi do produkcji, dziedziczy ono całą złożoność otoczenia wokół niego. Systemy przedsiębiorstw zawierają niekompletne rekordy, sprzeczne informacje, przestarzałe procesy, rozłączone aplikacje i przypadki graniczne, które gromadziły się przez dziesięciolecia. Klienci zadają niejasne pytania. Polityki się zmieniają. Jakość danych się różni. Zachowanie ludzkie pozostaje wspaniale nieprzewidywalne.

Te rzeczywistości kształtują wyniki znacznie bardziej niż wyniki benchmarkowe, ponieważ AI nie działa w benchmarku. Działa w ramach procesów biznesowych, systemów i przepływów pracy, które wprowadzają złożoność, której model nie może sam rozwiązać.

AI przedsiębiorstw ma warstwę operacyjną

Jedna z lekcji, która ciągle zaskakuje ludzi, to to, jak szybko wyniki modelu przestają być czynnikiem ograniczającym. Gdy system osiąga produkcję, wyzwania operacyjne często stają się bardziej ważne niż sam model. Pomyślne inicjatywy AI zależą od projektu procesu, wyrównania organizacyjnego, jakości danych, integracji systemów, obserwowalności, ścieżek eskalacji, zarządzania i zaufania.

Zespoły potrzebują jasnych procedur postępowania w przypadku awarii. Potrzebują widoczności, jak systemy podejmują decyzje. Potrzebują pewności, że problemy mogą być identyfikowane i rozwiązywane przed wpływem na klientów. Organizacje często odkrywają, że praca wokół systemu AI wymaga tyle samo uwagi, co sam system AI.

Ta warstwa operacyjna jest miejscem, w którym wiele wdrożeń ostatecznie odnosi sukces lub się nie powodzi.

Obsługa klienta pozostaje jednym z najtrudniejszych problemów

Doświadczenie klienta oferuje jeden z najbardziej klarownych przykładów tej złożoności.

Proste interakcje stały się coraz bardziej zarządzalne dla systemów AI. Sprawdzenie salda konta. Zresetowanie hasła. Wyszukanie statusu lotu. Są to wysoko ustrukturyzowane zadania z przewidywalnymi wynikami.

Rzeczywiste rozmowy z klientami rzadko pozostają tak proste.

Klient próbujący rozwiązać problem związany z punktami lojalnościowymi, partnerami przewoźnikami, sporami o zwrot pieniędzy, wyjątkami od polityki i wieloma poprzednimi interakcjami przedstawia zupełnie inne wyzwanie. Kontekst jest fragmentaryczny. Cele mogą być niejasne. Polityki mogą się sprzeczać. Emocje często wchodzą w rozmowę.

Te interakcje nadal stanowią znaczną część pracy obsługi klienta i wymagają rozumu w systemach, procesach i regułach biznesowych w sposób, który pozostaje trudny dla AI. Postęp był zdumiewający. Złożoność pozostaje realna.

Dane przedsiębiorstw stają się w końcu użyteczne

Jedna z dziedzin, w której widzę znaczącą transformację, która dzieje się dzisiaj, dotyczy danych przedsiębiorstw.

Większość organizacji spędziła lata na gromadzeniu informacji w dziesiątkach lub setkach rozłączonych systemów. Cenna wiedza istnieje, ale lokalizowanie jej i używanie jej skutecznie było często trudne. AI sprawia, że te informacje stają się bardziej dostępne.

Organizacje zaczynają syntetyzować dane w systemach, powierzchniować istotny kontekst bardziej wydajnie i pomagać pracownikom nawigować w informacjach, które wcześniej były rozproszone w wielu aplikacjach i repozytoriach. Ta zdolność do operacjonalizacji wiedzy przedsiębiorstw może okazać się bardziej przełomowa niż wiele nagłówków AI, które dominują w publicznej dyskusji.

Następne wyzwanie: AI pracujący z AI

Następna fala innowacji prawdopodobnie będzie obejmować wiele systemów AI pracujących razem.

Organizacje już eksperymentują z przepływami pracy, w których agenci dzielą się informacjami, koordynują zadania i przyczyniają się do większych procesów biznesowych. To tworzy nowe wyzwania wokół odpowiedzialności, zaufania, eskalacji, komunikacji i zarządzania.

Ludzie rozwinęli niejawne umiejętności współpracy przez stulecia. Rozumiemy, jak prosić o pomoc, komunikować niepewność, eskalować ryzyko i odzyskać się z błędów. Budowanie tych zachowań w systemach AI jest o wiele nowszą dyscypliną.

Wiekszość następnego rozdziału AI przedsiębiorstw będzie obejmować nauczanie systemów, jak skutecznie działać obok siebie, pozostając zgodnymi z celami organizacyjnymi.

Co AI przedsiębiorstw wymaga naprawdę

Po latach budowania i wdrażania systemów AI, przekonałem się, że organizacje spędzają za dużo czasu na ocenianie inteligencji modelu i nie wystarczająco dużo czasu na przygotowanie środowiska wokół niego.

Inteligencja, którą te modele demonstrują, może być zdumiewająca. Każdego roku stają się one bardziej zdolne, użyteczne i zaawansowane. Sukcesywne wdrożenia nadal zależą od podstaw: godnych zaufania danych, dobrze zaprojektowanych procesów, przemyślanego zarządzania, jasnej odpowiedzialności i ludzi, którzy rozumieją, jak integrować nową technologię z istniejącymi operacjami.

Organizacje, które widzą największą wartość z AI, zwracają uwagę na te podstawy. Ponieważ sama inteligencja nie tworzy transformacji.

Transformacja następuje, gdy technologia, dane, procesy i ludzie pracują razem, aby wytworzyć lepsze wyniki.