Jag bygger AI-system för livet. Här är vad de flesta människor har fel om

Jag bygger AI-system för företagskundtjänst.

Inte demonstrationer, benchmark-tester eller forskningsprojekt. Produktionsystem som interagerar med kunder, navigerar i policys, hämtar information från olika företagsplattformar och fungerar i miljöer som formas av smutsig data, motsägelsefulla register, bakgrundsbrus och oförutsägbar mänskligt beteende.

Den erfarenheten har gett mig en första radens plats till en av de största diskrepanserna i AI-branschen. Den offentliga diskussionen om AI domineras ofta av vad tekniken kan bli en dag, medan organisationer försöker lista ut hur de ska distribuera den framgångsrikt idag. Det är mycket olika samtal.

Frågorna jag tillbringar min tid med att svara på involverar sällan artificiell allmän intelligens eller om maskiner kommer att ersätta människor till slut. De tenderar att vara mycket mer praktiska. Kan systemet konsekvent tolka kundförfrågningar? Kan det hämta korrekt information över flera företagsplattformar? Kan det återhämta sig när data är ofullständig? Kan det eskalera korrekt när förtroendet är lågt? Kan teamen lita på det tillräckligt för att distribuera det i stor skala?

Dessa frågor kan vara mindre spännande än rubrikerna, men de är de som avgör om företags-AI lyckas. Med tiden har jag kommit att tro att de flesta organisationer övervärderar modellens betydelse och underskattar allt som krävs för att göra modellen användbar inom ett riktigt företag.

Demonstrationen är inte distributionen

Alla som arbetar nära företags-AI förstår gapet mellan en kontrollerad demonstration och en produktionsdistribution.

Vi möter exempel på detta hela tiden. Ett AI-system vi har arbetat med kämpar ungefär hälften av tiden för att korrekt tolka en talad 16-siffrig ordernummer omvandlad till ord. Dessa typer av misslyckanden liknar det nu berömda “hur många r är i jordgubb?”-problemet, där avancerade språkmodeller kämpade med en uppgift som verkade trivial för människor. Samma modeller kan prestera exceptionellt bra på tester som MCAT. Den kontrasten avslöjar något viktigt: benchmark-prestanda och operativ tillförlitlighet är inte samma sak.

När AI kommer in i produktionen ärver den all komplexitet i den omgivande miljön. Företagssystem innehåller ofullständiga register, motsägelsefull information, föråldrade processer, frånkopplade applikationer och edge cases som har ackumulerats under årtionden. Kunder ställer vaga frågor. Policys ändras. Datakvaliteten varierar. Mänskligt beteende förblir underbart oförutsägbart.

Dessa verkligheter formar resultat mycket mer än benchmark-poäng eftersom AI inte fungerar i en benchmark. Det fungerar inom affärsprocesser, system och arbetsflöden som introducerar komplexitet som modellen inte kan lösa på egen hand.

Företags-AI har ett operativt lager

En läxa som konsekvent förvånar människor är hur snabbt modellprestanda slutar vara den begränsande faktorn. När ett system når produktionen blir operativa utmaningar ofta viktigare än modellen själv. Framgångsrika AI-initiativ är beroende av processdesign, organisationsanpassning, datakvalitet, systemintegration, observerbarhet, eskalationsvägar, styrning och förtroende.

Team behöver tydliga procedurer för att hantera misslyckanden. De behöver synlighet i hur system fattar beslut. De behöver förtroende för att problem kan identifieras och åtgärdas innan de påverkar kunder. Organisationer upptäcker ofta att arbetet runt AI-systemet kräver lika mycket uppmärksamhet som AI-systemet själv.

Det operativa lagret är där många distributioner slutligen lyckas eller kämpar.

Kundtjänst förblir ett av de svåraste problemen

Kundupplevelsen erbjuder ett av de tydligaste exemplen på denna komplexitet.

Enkla interaktioner har blivit alltmer hanterbara för AI-system. Kontrollera ett kontoutdrag. Återställa ett lösenord. Titta på en flygstatus. Dessa är högt strukturerade uppgifter med förutsägbara resultat.

Riktiga kundkonversationer sällan stannar på det enkla.

En kund som försöker lösa ett problem med en flygbolag som involverar lojalitetspoäng, partnerflygbolag, återbetalningskonflikter, policyundantag och flera tidigare interaktioner presenterar en mycket annan utmaning. Sammanhanget är fragmenterat. Målen kan vara oklara. Policys kan vara i konflikt. Känslor kommer ofta in i konversationen.

Dessa interaktioner fortsätter att representera en betydande del av kundtjänstarbetet och kräver resonemang över system, processer och affärsregler på sätt som fortfarande är svåra för AI. Framstegen har varit remarkabla. Komplexiteten förblir verklig.

Företagsdata blir slutligen användbar

Ett område där jag ser meningsfull transformation hända idag involverar företagsdata.

De flesta organisationer har tillbringat år med att ackumulera information över dussintals eller hundratals frånkopplade system. Värdefull kunskap finns, men att hitta och använda den effektivt har ofta varit svårt. AI gör att den informationen blir mer tillgänglig.

Organisationer börjar syntetisera data över system, yta relevant sammanhang mer effektivt och hjälpa anställda att navigera information som tidigare var utspridd över flera applikationer och repository. Denna förmåga att operationalisera företagskunskap kan visa sig vara mer transformerande än många av de rubrikerna som domineras av AI-demonstrationer som dominerar den offentliga diskussionen.

Nästa utmaning: AI som arbetar med AI

Nästa våg av innovation kommer troligen att involvera flera AI-system som arbetar tillsammans.

Organisationer experimenterar redan med arbetsflöden där agenter delar information, koordinerar uppgifter och bidrar till större affärsprocesser. Detta skapar nya utmaningar runt ansvar, förtroende, eskalering, kommunikation och styrning.

Människor har utvecklat implicita samarbetsförmågor under århundraden. Vi förstår hur man ber om hjälp, kommunicerar osäkerhet, eskalerar risker och återhämtar sig från misstag. Att bygga dessa beteenden in i AI-system är en mycket nyare disciplin.

Mycket av den nästa kapitlet av företags-AI kommer att involvera att lära system hur man opererar effektivt bredvid varandra samtidigt som man förblir anpassad till organisationsmål.

Vad företags-AI faktiskt kräver

Efter år av att bygga och distribuera AI-system har jag blivit övertygad om att organisationer tillbringar för mycket tid med att utvärdera modellintelligens och inte tillräckligt med tid med att förbereda miljön runt den.

Intelligensen som dessa modeller visar kan vara remarkabel. Varje år blir de mer kapabla, mer användbara och mer sofistikerade. Ändå är framgångsrika distributioner fortfarande beroende av grundläggande faktorer: pålitlig data, väldesignade processer, tankefull styrning, tydligt ansvar och människor som förstår hur man integrerar ny teknik i befintliga operationer.

Organisationerna som ser den största värdet från AI är uppmärksamma på dessa grundläggande faktorer. Eftersom intelligens ensam inte skapar transformation.

Transformation sker när teknik, data, processer och människor arbetar tillsammans för att producera bättre resultat.

För att integrera ny teknik i befintliga operationer. De organisationer som ser den största värdet från AI är uppmärksamma på dessa grundläggande faktorer. Eftersom intelligens ensam inte skapar transformation. Transformation sker när teknik, data, processer och människor arbetar tillsammans för att producera bättre resultat.