Jeg bygger AI-systemer for livets skyld. Her er hva de fleste mennesker tar feil

Jeg bygger AI-systemer for bedriftskontorsenter.

Ikke demonstrasjoner, benchmark eller forskningsprosjekter. Produksjonssystemer som samhandler med kunder, navigerer i politikker, henter informasjon fra frakoblete bedriftsplattformer og opererer i miljøer som er formet av ufullstendig data, motsigelser, bakgrunnsstøy og uforutsigbar menneskelig atferd.

Denne erfaringen har gitt meg en førsteradsplass til en av de største misforståelsene i AI-bransjen. Den offentlige samtalen om AI er ofte dominert av hva teknologien kan bli en dag, mens organisasjoner prøver å finne ut hvordan de kan deployere den med hell i dag. Det er to svært forskjellige samtaler.

Spørsmålene jeg bruker mye tid på å svare på, involverer sjelden kunstig generell intelligens eller om maskiner vil erstattet mennesker til slutt. De tenderer å være mye mer praktiske. Kan systemet konsistent tolke kundforespørsler? Kan det hente nøyaktig informasjon over flere bedriftsplattformer? Kan det gjenopprette når data er ufullstendig? Kan det eskalere på en passende måte når tillit er lav? Kan teamene stole på det nok til å deployere det i stor skala?

Disse spørsmålene kan være mindre spennende enn overskriftene, men de er de som bestemmer om bedrifts-AI lykkes. Over tid har jeg kommet til å tro at de fleste organisasjonene overvurderer betydningen av modellen selv og undervurderer alt det som kreves for å gjøre modellen nyttig innen en virkelig bedrift.

Demonstrasjonen er ikke deployeringen

Alle som arbeider tett med bedrifts-AI forstår gapet mellom en kontrollert demonstrasjon og en produksjonsdeployering.

Vi møter eksempler på dette hele tiden. Et AI-system vi har arbeidet med, sliter omtrent halvparten av tiden med å korrekt tolke en talt 16-sifret ordrenummer omgjort til ord. Slike feil er lignende til det nå berømte “hvor mange r’er er i jordbær?”-problemet, der avanserte språkmodeller sliter med en oppgave som synes trivial for mennesker. De samme modellene kan score eksepsjonelt godt på eksamener som MCAT. Den kontrasten avslører noe viktig: benchmark-ytelse og operativ pålitelighet er ikke det samme.

Når AI går inn i produksjon, arver det all kompleksiteten i miljøet rundt det. Bedriftssystemer inneholder ufullstendige poster, motsigelser, foreldede prosesser, frakoblete applikasjoner og randtilfeller som har akkumulert over årevis. Kunder stiller vage spørsmål. Politikker endres. Datakvalitet varierer. Menneskelig atferd forblir underbart uforutsigbar.

Disse realitetene former resultater langt mer enn benchmark-poeng fordi AI ikke opererer i en benchmark. Det opererer innen bedriftsprosesser, systemer og arbeidsflyter som introduserer kompleksitet modellen ikke kan løse på egen hånd.

Bedrifts-AI har et operasjonslag

En lære som konsekvent overrasker mennesker er hvor raskt modell-ytelse slutter å være begrensningen. Når et system når produksjon, blir operasjonelle utfordringer ofte viktigere enn modellen selv. Suksessfulle AI-initiativer avhenger av prosessdesign, organisatorisk justering, datakvalitet, systemintegrering, overvåkbarhet, eskalasjonsveier, styring og tillit.

Teamene trenger klare prosedyrer for å håndtere feil. De trenger synlighet i hvordan systemer tar beslutninger. De trenger tillit til at problemer kan identifiseres og løses før de påvirker kunder. Organisasjoner oppdager ofte at arbeidet rundt AI-systemet krever like mye oppmerksomhet som AI-systemet selv.

Det operative laget er der mange deployeringer til slutt lykkes eller sliter.

Kundeservice forblir ett av de hardeste problemene

Kundeopplevelsen tilbyr ett av de klareste eksemplene på denne kompleksiteten.

Enkle interaksjoner har blitt mer håndterbare for AI-systemer. Sjekke en kontosaldo. Nullstille en passord. Søke opp en flystatus. Disse er svært strukturerte oppgaver med forutsigbare resultater.

Reelle kundesamtaler sjelden forbli like enkle.

En kunde som prøver å løse et flyselskapsproblem som involverer lojalitetspoeng, partnerflyselskaper, refusjonskonflikter, politiske unntak og flere tidligere interaksjoner presenterer en svært forskjellig utfordring. Konteksten er fragmentert. Målene kan være uklare. Politikker kan motsi hverandre. Følelser kommer ofte inn i samtalen.

Disse interaksjonene fortsatt å representere en betydelig andel av kundeservicearbeidet, og de krever resonnering over systemer, prosesser og forretningsregler på måter som fortsatt er vanskelige for AI. Fremgangen har vært bemerkelsesverdig. Kompleksiteten forblir virkelig.

Bedriftsdata blir endelig brukbar

Et område der jeg ser meningsfull transformasjon skje i dag, involverer bedriftsdata.

De fleste organisasjonene har brukt år på å akkumulere informasjon over flere dusin eller hundre frakoblete systemer. Verdifull kunnskap eksisterer, men å finne og bruke den effektivt har ofte vært vanskelig. AI gjør denne informasjonen mer tilgjengelig.

Organisasjoner begynner å syntetisere data over systemer, overflate relevant kontekst mer effektivt og hjelpe ansatte å navigere informasjon som tidligere var spredt over flere applikasjoner og lagre. Evnen til å operasjonalisere bedriftskunnskap kan vise seg å være mer transformasjonell enn mange av de overskrift-dominerte AI-demonstrasjonene som dominerer offentlig diskusjon.

Neste utfordring: AI som arbeider med AI

Neste bølge av innovasjon vil sannsynligvis involvere flere AI-systemer som arbeider sammen.

Organisasjoner eksperimenterer allerede med arbeidsflyter der agenter deler informasjon, koordinerer oppgaver og bidrar til større forretningsprosesser. Dette skaper nye utfordringer rundt ansvar, tillit, eskalering, kommunikasjon og styring.

Mennesker har utviklet implisitte samarbeidsferdigheter over århundrer. Vi forstår hvordan å be om hjelp, kommunisere usikkerhet, eskalere risiko og gjenopprette feil. Bygging av disse atferdene inn i AI-systemer er en mye nyere disiplin.

Mye av den neste kapitlet av bedrifts-AI vil involvere å lære systemer hvordan å operere effektivt sammen med hverandre mens de fortsatt er i linje med organisatoriske mål.

Hva bedrifts-AI faktisk krever

Etter å ha bygget og deployert AI-systemer i år, har jeg blitt overbevist om at organisasjoner bruker for mye tid på å evaluere modellintelligens og ikke nok tid på å forberede miljøet rundt det.

Intelligensen disse modellene viser, kan være bemerkelsesverdig. Hvert år blir de mer kapable, mer nyttige og mer sofistikerte. Likevel avhenger suksessfulle deployeringer fortsatt av grunnleggende prinsipper: pålitelig data, godt designet prosesser, omsorgsfull styring, klar ansvar og mennesker som forstår hvordan å integrere ny teknologi i eksisterende operasjoner.

Organisasjoner som ser den største verdien fra AI, legger stor vekt på disse grunnleggende prinsippene. Fordi intelligens alene ikke skaper transformasjon.

Transformasjon skjer når teknologi, data, prosesser og mennesker arbeider sammen for å produsere bedre resultater.