Ik bouw AI-systemen voor de kost. Hier is wat de meeste mensen verkeerd begrijpen

Ik bouw AI-systemen voor enterprise contactcenters.

Niet demos, benchmarks of onderzoeksprojecten. Productiesystemen die interactie hebben met klanten, navigeren door beleid, informatie ophalen uit losse enterprise-platforms en opereren in omgevingen die worden gevormd door rommelige data, conflicterende records, achtergrondruis en onvoorspelbaar menselijk gedrag.

Die ervaring heeft me een front-row seat gegeven bij een van de grootste disconnects in de AI-industrie. Het publieke gesprek over AI wordt vaak gedomineerd door wat de technologie mogelijk ooit zal worden, terwijl organisaties proberen te begrijpen hoe ze het succesvol kunnen inzetten vandaag. Dat zijn twee heel verschillende gesprekken.

De vragen die ik de hele tijd beantwoord, gaan zelden over artificiële algemene intelligentie of of machines ooit mensen zullen vervangen. Ze gaan meestal over veel praktischere dingen. Kan het systeem consistent klantverzoeken interpreteren? Kan het accurate informatie ophalen uit meerdere enterprise-platforms? Kan het herstellen als data onvolledig is? Kan het op de juiste manier escaleren als het vertrouwen laag is? Kunnen teams het vertrouwen om het op grote schaal in te zetten?

Die vragen mogen dan minder spannend zijn dan de headlines, maar ze zijn degenen die bepalen of enterprise AI succesvol is. Na verloop van tijd ben ik gaan geloven dat de meeste organisaties de belangrijkheid van het model zelf overschatten en onderschatten alles wat nodig is om dat model nuttig te maken binnen een echte onderneming.

De Demo Is Niet de Inzet

Iedereen die nauw samenwerkt met enterprise AI begrijpt de kloof tussen een gecontroleerde demonstratie en een productie-inzet.

We zien voortdurend voorbeelden van dit verschil. Een AI-systeem waarmee we hebben gewerkt, heeft ongeveer de helft van de tijd moeite om een gesproken 16-cijferige bestelnummer dat is omgezet in woorden, correct te interpreteren. Deze soorten fouten zijn vergelijkbaar met het nu beroemde “hoeveel r’s zitten er in strawberry?” probleem, waarbij geavanceerde taalmodellen moeite hadden met een taak die voor mensen triviaal leek. Dezelfde modellen kunnen exceptioneel goed scoren op examens zoals de MCAT. Dat contrast onthult iets belangrijks: benchmarkprestaties en operationele betrouwbaarheid zijn niet hetzelfde.

Zodra AI in productie gaat, erft het alle complexiteit van de omgeving eromheen. Enterprise-systemen bevatten onvolledige records, contradictorische informatie, verouderde processen, losse applicaties en randgevallen die zich over decennia hebben opgestapeld. Klanten stellen vage vragen. Beleid verandert. Datakwaliteit varieert. Menselijk gedrag blijft heerlijk onvoorspelbaar.

Die realiteiten bepalen de resultaten veel meer dan benchmark-scores, omdat AI niet in een benchmark werkt. Het werkt binnen bedrijfsprocessen, systemen en workflows die complexiteit introduceren die het model zelf niet kan oplossen.

Enterprise AI Heeft een Operationele Laag

Een les die mensen vaak verrast, is hoe snel de prestaties van het model ophouden het beperkende factor te zijn. Zodra een systeem in productie gaat, worden operationele uitdagingen vaak belangrijker dan het model zelf. Succesvolle AI-initiatieven zijn afhankelijk van procesontwerp, organisatorische uitlijning, datakwaliteit, systeemintegratie, observatie, escalatiepaden, governance en vertrouwen.

Teams hebben duidelijke procedures nodig voor het afhandelen van fouten. Ze hebben zicht nodig in hoe systemen beslissingen nemen. Ze hebben vertrouwen nodig dat problemen kunnen worden geïdentificeerd en opgelost voordat ze klanten beïnvloeden. Organisaties ontdekken vaak dat het werk rondom het AI-systeem evenveel aandacht vereist als het AI-systeem zelf.

Die operationele laag is waar veel inzetten uiteindelijk succesvol zijn of worstelen.

Klantenservice Blijft een van de Moeilijkste Problemen

Klantbeleving biedt een van de duidelijkste voorbeelden van deze complexiteit.

Eenvoudige interacties zijn voor AI-systemen steeds beter beheersbaar. Een accountsaldo controleren. Een wachtwoord resetten. Een vluchtstatus opzoeken. Dit zijn zeer gestructureerde taken met voorspelbare resultaten.

Echte klantgesprekken blijven zelden zo eenvoudig.

Een klant die probeert een luchtvaartprobleem op te lossen dat betrekking heeft op loyaliteitspunten, partnerluchtvaartmaatschappijen, geschillen over terugbetaling, beleidsuitzonderingen en meerdere eerdere interacties, vormt een heel andere uitdaging. De context is gefragmenteerd. De doelen kunnen onduidelijk zijn. Het beleid kan conflicteren. Emoties komen vaak in het gesprek.

Deze interacties vormen nog steeds een aanzienlijk deel van het klantenservice-werk en vereisen redenering over systemen, processen en bedrijfsregels op manieren die voor AI moeilijk blijven. De vooruitgang is opmerkelijk. De complexiteit blijft echter reëel.

Enterprise Data Wordt Eindelijk Bruikbaar

Een gebied waarin ik betekenisvolle transformatie zie gebeuren, is enterprise data.

De meeste organisaties hebben jarenlang informatie verzameld over dozijnen of honderden losse systemen. Waardevolle kennis bestaat, maar het vinden en effectief gebruiken ervan is vaak moeilijk geweest. AI maakt die informatie nu toegankelijker.

Organisaties beginnen data te synthetiseren over systemen, relevante context efficiënter naar boven te halen en medewerkers te helpen navigeren in informatie die eerder verspreid was over meerdere applicaties en repositories. Deze mogelijkheid om enterprise-kennis operationeel te maken, kan meer transformatief blijken te zijn dan veel van de AI-demonstraties die de publieke discussie domineren.

De Volgende Uitdaging: AI die Samenwerkt met AI

De volgende golf van innovatie zal waarschijnlijk betrekking hebben op meerdere AI-systemen die samenwerken.

Organisaties experimenteren al met workflows waarin agenten informatie delen, taken coördineren en bijdragen aan grotere bedrijfsprocessen. Dit creëert nieuwe uitdagingen rondom verantwoordelijkheid, vertrouwen, escalatie, communicatie en governance.

Mensen hebben impliciete samenwerkingsvaardigheden ontwikkeld over eeuwen. We weten hoe we om hulp moeten vragen, onzekerheid moeten communiceren, risico’s moeten escaleren en ons moeten herstellen van fouten. Het opbouwen van die gedragingen in AI-systemen is een veel nieuwere discipline.

Een groot deel van het volgende hoofdstuk van enterprise AI zal betrekking hebben op het leren van systemen hoe ze effectief naast elkaar kunnen opereren en toch in overeenstemming blijven met de organisatorische doelen.

Wat Enterprise AI Echt Vereist

Na jaren AI-systemen te hebben gebouwd en ingezet, ben ik ervan overtuigd geraakt dat organisaties te veel tijd besteden aan het evalueren van modelintelligentie en niet genoeg tijd aan het voorbereiden van de omgeving eromheen.

De intelligentie die deze modellen demonstreren, kan opmerkelijk zijn. Elk jaar worden ze capabeler, nuttiger en geavanceerder. Toch zijn succesvolle inzetten nog steeds afhankelijk van de basisbeginselen: betrouwbaarheid, goed ontworpen processen, zorgvuldige governance, duidelijke verantwoordelijkheid en mensen die weten hoe ze nieuwe technologie moeten integreren in bestaande operaties.

De organisaties die de meeste waarde halen uit AI, letten goed op die basisbeginselen. Omdat intelligentie alleen geen transformatie creëert.

Transformatie gebeurt wanneer technologie, data, processen en mensen samenwerken om betere resultaten te produceren.

De organisaties die de meeste waarde halen uit AI, zijn zich hiervan bewust en integreren nieuwe technologie in bestaande operaties. De organisaties die de meeste waarde halen uit AI, zijn zich hiervan bewust en integreren nieuwe technologie in bestaande operaties. Omdat intelligentie alleen geen transformatie creëert. Transformatie gebeurt wanneer technologie, data, processen en mensen samenwerken om betere resultaten te produceren. De organisaties die de meeste waarde halen uit AI, zijn zich hiervan bewust en integreren nieuwe technologie in bestaande operaties.