Jeg bygger AI-systemer til erhvervslivet. Her er, hvad de fleste mennesker gør forkert

Jeg bygger AI-systemer til erhvervskontaktcenter.

Ikke demos, benchmarks eller forskningsprojekter. Produktions-systemer, der interagerer med kunder, navigerer i politikker, henter information fra ikke-sammenhængende erhvervsplatforme og opererer inden for miljøer, der er præget af beskidt data, modsætelige optegnelser, baggrundsstøj og uforudsigelig menneskelig adfærd.

Denne erfaring har givet mig en førerplads til en af de største misforståelser i AI-industrien. Den offentlige diskussion om AI er ofte domineret af, hvad teknologien måske kan blive en dag, mens organisationer prøver at finde ud af, hvordan de kan implementere den med succes i dag. Det er to meget forskellige diskussioner.

Spørgsmålene, jeg bruger min tid på at besvare, involverer sjældent kunstig generel intelligens eller om maskiner vil erstatte mennesker til sidst. De tendere til at være meget mere praktiske. Kan systemet konsekvent fortolke kundernes anmodninger? Kan det hente præcis information på tværs af multiple erhvervsplatforme? Kan det genoprette sig, når data er ufuldstændige? Kan det eskalere korrekt, når tilliden er lav? Kan teamene stole på det nok til at implementere det i stor skala?

Disse spørgsmål måske mindre spændende end overskrifterne, men de er dem, der afgør, om erhvervs-AI lykkes. Over tid er jeg kommet til at tro, at de fleste organisationer overvurderer betydningen af modellen i sig selv og undervurderer alt, hvad der kræves for at gøre modellen nyttig inden for en virkelig forretning.

Demonstrationen er ikke implementeringen

Enhver, der arbejder tæt med erhvervs-AI, forstår gapet mellem en kontrolleret demonstration og en produktionsimplementering.

Vi møder eksempler på dette konstant. Et AI-system, vi har arbejdet med, kæmper omtrent halvdelen af tiden for at korrekt fortolke en talt 16-cifret ordrenummer, der er omdannet til ord. Disse fejl ligner det nu berømte “hvad er antallet af r’er i ordet jordbær?”-problem, hvor avancerede sprogmodeller kæmpede med en opgave, der syntes trivial for mennesker. De samme modeller kan score exceptionelt godt på eksamener som MCAT. Den kontrast afslører noget vigtigt: benchmark-præstation og operations-reliabilitet er ikke det samme.

Når AI kommer ind i produktion, arver det al kompleksiteten af miljøet omkring det. Erhvervssystemer indeholder ufuldstændige optegnelser, modsætelige informationer, forældede processer, ikke-sammenhængende applikationer og edge-cases, der er opstået over årtier. Kunder stiller vage spørgsmål. Politikker ændres. Datakvaliteten varierer. Menneskelig adfærd forbliver vidunderligt uforudsigelig.

Disse realiteter former resultaterne langt mere end benchmark-scores, fordi AI ikke opererer i en benchmark. Det opererer inden for forretningsprocesser, systemer og arbejdsgange, der introducerer kompleksitet, som modellen ikke kan løse på egen hånd.

Erhvervs-AI har et operationslag

En lære, der konsekvent overrasker mennesker, er, hvor hurtigt modelpræstation stopper med at være den begrænsende faktor. Når et system når produktion, bliver operations-udfordringer ofte vigtigere end modellen i sig selv. Succesfulde AI-initiativer afhænger af procesdesign, organisationsjustering, datakvalitet, systemintegration, overvågning, eskalationsveje, styring og tillid.

Teamene har brug for klare procedurer for at håndtere fejl. De har brug for indsigt i, hvordan systemerne træffer beslutninger. De har brug for tillid til, at problemer kan identificeres og løses, før de påvirker kunderne. Organisationer opdager ofte, at arbejdet omkring AI-systemet kræver lige så megen opmærksomhed som AI-systemet i sig selv.

Det operationslag er, hvor mange implementeringer ultimativt lykkes eller kæmper.

Kundeservice forbliver et af de sværeste problemer

Kundeoplevelsen tilbyder et af de tydeligste eksempler på denne kompleksitet.

Enkle interaktioner er blevet mere håndterbare for AI-systemer. Kontrol af en kontosaldo. Nulstilling af en adgangskode. Søgning efter en flystatus. Disse er højt strukturerede opgaver med forudsigelige resultater.

Virkelige kundesamtaler forbliver sjældent så enkle.

En kunde, der forsøger at løse et problem med en flyselskab, der involverer loyalitetspoint, partnerflyselskaber, refusionsdiskussioner, politikundtagelser og multiple tidligere interaktioner, repræsenterer en meget større udfordring. Konteksten er fragmenteret. Målene kan være uklare. Politikkerne kan være i konflikt. Følelser kommer ofte ind i samtalen.

Disse interaktioner fortsætter med at repræsentere en betydelig del af kundeservicearbejdet og kræver resonnering på tværs af systemer, processer og forretningsregler på måder, der fortsat er svære for AI. Fremskridtet har været bemærkelsesværdigt. Kompleksiteten forbliver reel.

Erhvervsdata bliver endelig brugbar

Et område, hvor jeg ser meningsfuld forandring ske i dag, involverer erhvervsdata.

De fleste organisationer har brugt årevis på at akkumulere information på tværs af dusinvis eller hundredvis af ikke-sammenhængende systemer. Værdifuld viden findes, men at lokalisere den og bruge den effektivt har ofte været svært. AI gør denne information mere tilgængelig.

Organisationer begynder at syntetisere data på tværs af systemer, overflade relevante kontekster mere effektivt og hjælpe medarbejdere med at navigere i information, der tidligere var spredt på tværs af multiple applikationer og lagre. Denne evne til at operationalisere erhvervskundskab kan vise sig at være mere transformerende end mange af de overskriftsfangerende AI-demonstrationer, der dominerer den offentlige diskussion.

Den næste udfordring: AI, der arbejder med AI

Den næste bølge af innovation vil sandsynligvis involvere multiple AI-systemer, der arbejder sammen.

Organisationer eksperimenterer allerede med arbejdsgange, hvor agenter deler information, koordinerer opgaver og bidrager til større forretningsprocesser. Dette skaber nye udfordringer omkring ansvar, tillid, eskalation, kommunikation og styring.

Mennesker har udviklet implicit samarbejdsfærdigheder over århundreder. Vi forstår, hvordan vi beder om hjælp, kommunikerer usikkerhed, eskalerer risici og genopretter os fra fejl. At bygge disse adfærdsmønstre ind i AI-systemer er en meget nyere disciplin.

Meget af den næste kapitel af erhvervs-AI vil involvere at lære systemerne, hvordan de kan operere effektivt side om side, mens de forbliver aligneret med organisationsmål.

Hvad erhvervs-AI faktisk kræver

Efter årevis med at bygge og implementere AI-systemer er jeg blevet overbevist om, at organisationer bruger for meget tid på at evaluere modelintelligens og ikke nok tid på at forberede miljøet omkring det.

Intelligensen, disse modeller demonstrerer, kan være bemærkelsesværdig. Hvert år bliver de mere kapable, mere nyttige og mere sofistikerede. Alligevel afhænger succesfulde implementeringer stadig af grundlæggende principper: troværdig data, vel-designede processer, tankefuld styring, klar ansvar og mennesker, der forstår, hvordan de kan integrere ny teknologi i eksisterende operationer.

Organisationerne, der ser den største værdi fra AI, betaler tæt opmærksomhed til disse grundlæggende principper. Fordi intelligens alene ikke skaber forandring.

Forandring sker, når teknologi, data, processer og mennesker arbejder sammen for at producere bedre resultater.