Dimitri Masin, CEO & Co-Founder bij Gradient Labs – Interview Serie

Dimitri Masin is de CEO en Co-Founder van Gradient Labs, een AI-startup die autonome klantenserviceagenten bouwt, specifiek ontworpen voor gereguleerde industrieën zoals financiële dienstverlening. Voordat hij Gradient Labs in 2023 oprichtte, had Masin senior leiderschapsrollen bij Monzo Bank, waaronder Vice President of Data Science, Financial Crime en Fraud, en werkte hij eerder bij Google. Onder zijn leiderschap heeft Gradient Labs snel aan populariteit gewonnen en bereikte het £1 miljoen aan jaarlijks terugkerend inkomen binnen vijf maanden na de lancering. Masin richt zich op het ontwikkelen van AI-systemen die hoge prestaties combineren met strikte regelgevingsconformiteit, waardoor veilige en schaalbare automatisering mogelijk wordt voor complexe klantoperaties.

Wat inspireerde je om Gradient Labs te lanceren na zo’n succesvolle reis bij Monzo?

Bij Monzo hadden we jarenlang gewerkt aan de automatisering van klantenservice, waarbij we doorgaans bescheiden efficiencyverbeteringen van 10% nastreefden. Maar begin 2023 zagen we een seismische technologische verschuiving met de release van GPT-4. Plotseling werd het mogelijk om 70-80% van het handmatige, repetitieve werk volledig autonoom te automatiseren met AI.

Deze technologische doorbraak waar we nu doorheen gaan, inspireerde ons om Gradient Labs te starten. In mijn carrière heb ik twee dergelijke revolutionaire golven gezien: de mobiele revolutie (die vroeg in mijn carrière plaatsvond) en nu AI. Wanneer je erkent dat je midden in zo’n transformatie zit die de wereld volledig zal veranderen, moet je het moment grijpen. Ons team wist – dit is het moment.

Bij Monzo hielp je het bedrijf door een massive hypergroei leiden. Wat waren enkele van de grootste lessen uit die ervaring die je nu toepast bij Gradient Labs?

Ten eerste, balans tussen autonomie en richting. Bij Monzo gingen we ervan uit dat mensen simpelweg gedijen op autonomie – dat het is wat hen het meest motiveert. Maar die visie lijkt nu te simplistisch. Ik geloof dat mensen ook waarde hechten aan richting. Echte autonomie is niet zeggen “doe maar wat je wilt”, maar eerder duidelijke richting geven en hen de vrijheid geven om goed gedefinieerde problemen op hun eigen manier op te lossen.

Ten tweede, top-talent vereist top-vergoeding. Als je streeft naar het aannemen van de top 5% in je functie, moet je daarvoor ook de juiste vergoeding betalen. Anders zullen grote technologiebedrijven hen weghalen zodra het bekend wordt dat je top-talent hebt dat onderbetaald wordt.

Ten derde, reinvent de wielen niet. Bij Monzo probeerden we innovatieve benaderingen te creëren voor werkstructuren, compensatiesystemen en carrièreladders. De belangrijkste conclusie: verspil geen energie aan het innoveren van organisatorische fundamenten – duizenden bedrijven hebben al best practices vastgesteld. Ik zie nog steeds LinkedIn-berichten over “alle titels en hiërarchieën afschaffen” – ik heb dit herhaaldelijk zien gebeuren en bijna alle bedrijven keren uiteindelijk terug naar traditionele structuren.

Gradient Labs richt zich op gereguleerde industrieën, die traditioneel complexe behoeften hebben. Hoe benaderde je de bouw van een AI-agent (zoals Otto) die effectief kan opereren in deze omgeving?

We namen een onconventionele aanpak, waarbij we het typische advies om snel te lanceren en te itereren op een live product afwezen. In plaats daarvan besteedden we 14 maanden aan de ontwikkeling van Otto voordat we hem lanceerden, met een zeer hoge kwaliteitsnorm vanaf het begin. We moesten iets creëren dat banken en financiële instellingen konden vertrouwen om hun ondersteuning volledig autonoom te behandelen.

We bouwden geen co-piloten – we bouwden eind-tot-eind-automatisering van klantenservice. Met onze achtergrond in financiële dienstverlening hadden we een precieze interne benchmark voor “wat goed is”, waardoor we de kwaliteit konden beoordelen zonder afhankelijk te zijn van klantfeedback. Dit gaf ons de vrijheid om ons te concentreren op kwaliteit terwijl we snel itereren. Zonder live-klanten konden we grotere sprongen maken, dingen vrijbreken en snel omschakelen – uiteindelijk leverden we een superieur product bij de lancering.

Otto gaat verder dan het beantwoorden van eenvoudige vragen en behandelt complexe workflows. Kun je ons doorlopen hoe Otto multi-step- of high-risktaken behandelt die typische AI-agenten zouden kunnen falen?

We hebben Otto gebouwd rond het concept van SOP’s (Standard Operating Procedures) – essentieel leidraad-documenten geschreven in gewoon Engels die uitleggen hoe specifieke problemen moeten worden aangepakt, vergelijkbaar met wat je een menselijke agent zou geven.

Twee belangrijke architectonische beslissingen maken Otto bijzonder effectief in het behandelen van complexe workflows:

Ten eerste, beperken we tool-exposure. Een veelvoorkomende foutmodus voor AI-agenten is het incorrect kiezen uit te veel opties. Voor elke procedure exposeren we alleen een kleine subset van relevante tools aan Otto. Bijvoorbeeld, in een card-replacement-workflow zou Otto mogelijk alleen 1-2 tools zien in plaats van alle 30 geregistreerde tools in het systeem. Dit verbetert de nauwkeurigheid aanzienlijk door de beslissingsruimte te verkleinen.

Ten tweede, hebben we een groot deel van de typische AI-assistent-infrastructuur opnieuw opgebouwd om uitgebreide chain-of-thought-redenering mogelijk te maken. In plaats van simpelweg procedures naar een OpenAI- of Anthropic-assistent te gooien, stelt onze architectuur ons in staat om meerdere verwerkingstappen tussen invoer en uitvoer uit te voeren. Dit maakt diepere redenering en betrouwbaardere resultaten mogelijk.

Gradient Labs noemt het bereiken van “superhumane kwaliteit” in klantenservice. Wat betekent “superhumane kwaliteit” voor jou, en hoe meet je dit intern?

Superhumane kwaliteit betekent het leveren van klantenservice die meetbaar beter is dan wat mensen kunnen bereiken. De volgende drie voorbeelden illustreren dit:

Ten eerste, uitgebreide kennis. AI-agenten kunnen grote hoeveelheden informatie verwerken en hebben gedetailleerde kennis van een bedrijf. In tegenstelling tot mensen, die typisch alleen een kleine subset van informatie leren, en wanneer ze iets niet weten, moeten ze naar kennisbases of collega’s verwijzen. Dit leidt tot een frustrerende ervaring waarbij klanten tussen teams worden doorverwezen. Een AI-agent, daarentegen, heeft een diepe kennis van het bedrijf en zijn processen, en levert consistent, eind-tot-eind-antwoorden – geen escalatie nodig.

Ten tweede, niet-lui-zoekopdrachten – AI is snel in het verzamelen van informatie. Terwijl mensen proberen tijd te besparen door klanten vragen te stellen voordat ze onderzoeken, onderzoekt AI proactief accountinformatie, vlaggen, waarschuwingen en foutmeldingen voordat het gesprek begint. Dus, wanneer een klant vaag zegt “Ik heb een probleem met X”, kan de AI onmiddellijk een oplossing bieden in plaats van meerdere verduidelijkende vragen te stellen.

Ten derde, geduld en kwaliteitsconsistentie. In tegenstelling tot mensen, die onder druk staan om een bepaald aantal antwoorden per uur te behandelen, behoudt onze AI consistent hoge kwaliteit, geduld en bondige communicatie. Het antwoordt geduldig zo lang als nodig is zonder haast.

We meten dit voornamelijk door middel van klanttevredenheidsscores. Voor alle huidige klanten bereiken we CSAT-scores van gemiddeld 80%-90% – typisch hoger dan hun menselijke teams.

Je hebt expres vermeden om Gradient Labs te koppelen aan een enkele LLM-aanbieder. Waarom was deze keuze belangrijk, en hoe beïnvloedt dit de prestaties en betrouwbaarheid voor je klanten?

In de afgelopen twee jaar hebben we gezien dat onze grootste prestatieverbeteringen voortkwamen uit onze mogelijkheid om over te schakelen naar het beste model zodra OpenAI of Anthropic iets sneller, beter of nauwkeuriger uitbracht. Model-agiliteit was cruciaal.

Deze flexibiliteit stelt ons in staat om de kwaliteit continu te verbeteren en tegelijkertijd de kosten te beheren. Sommige taken vereisen krachtigere modellen, andere minder. Onze architectuur stelt ons in staat om te evolueren en te verbeteren in de loop van de tijd, door het optimale model voor elke situatie te selecteren.

Uiteindelijk zullen we private open-source LLM’s ondersteunen die worden gehost op de infrastructuur van klanten. Vanwege onze architectuur zal dit een eenvoudige overgang zijn, wat vooral belangrijk is bij het bedienen van banken die specifieke vereisten hebben voor modelimplementatie.

Gradient Labs bouwt niet alleen een chatbot – je richt je op het behandelen van back-office-processen. Wat zijn de grootste technische of operationele uitdagingen bij het automatiseren van dergelijke taken met AI?

Er zijn twee duidelijke categorieën van processen, elk met hun eigen uitdagingen:

Voor eenvoudige processen bestaat de technologie grotendeels al. De belangrijkste uitdaging is integratie – aansluiten bij de vele maatwerk-backend-systemen en -tools die financiële instellingen gebruiken, aangezien de meeste klantoperaties meerdere interne systemen omvatten.

Voor complexe processen blijven significante technische uitdagingen bestaan. Deze processen vereisen typisch dat mensen worden aangenomen en getraind voor 6-12 maanden om expertise te ontwikkelen, zoals fraudeonderzoeken of anti-witwasbeoordelingen. De uitdaging hier is kennisoverdracht – hoe geven we AI-agenten dezelfde domeinexpertise? Dat is een moeilijk probleem dat iedereen in deze ruimte nog steeds probeert op te lossen.

Hoe balanceert Gradient Labs de behoefte aan AI-snelheid en -efficiëntie met de strikte nalevingsvereisten van gereguleerde industrieën?

Het is zeker een balans, maar op conversatieniveau neemt onze agent gewoon meer tijd om na te denken. Het evalueert meerdere factoren: Begrijp ik wat de klant vraagt? Geef ik het juiste antwoord? Toont de klant kwetsbaarheidsignalen? Wil de klant een klacht indienen?

Deze bewuste aanpak verhoogt de latentie – onze mediane responstijd kan 15-20 seconden zijn. Maar voor financiële instellingen is dat een eerlijke ruil. Een responstijd van 15 seconden is nog steeds veel sneller dan een menselijke reactie, terwijl de kwaliteitsgaranties veel belangrijker zijn voor de gereguleerde bedrijven waarmee we samenwerken.

Zie je een toekomst waarin AI-agenten niet alleen worden vertrouwd voor ondersteuning, maar ook voor hoger-inzet-beslissingsTaken binnen financiële instellingen?

Financiële instellingen gebruikten al traditionele AI-technieken voor hoge-inzet-beslissingen voordat de huidige golf van generatieve AI opkwam. Waar ik de echte kans zie, is in orkestratie – niet het nemen van de beslissing, maar het coördineren van het hele proces.

Bijvoorbeeld, een klant uploadt documenten, een AI-agent routeert ze naar een validatiesysteem, ontvangt bevestiging van validiteit en activeert vervolgens passende acties en klantcommunicatie. Deze orkestratiefunctie is waar AI-agenten uitblinken.

Voor de hoogste-inzet-beslissingen zelf zie ik niet veel verandering in de nabije toekomst. Deze modellen vereisen uitlegbaarheid, voorkeurspreventie en goedkeuring via modelrisicocommissies. Grote taalmodellen zouden aanzienlijke nalevingsuitdagingen in deze contexten tegenkomen.

Hoe zal AI de klantbeleving voor banken, fintech-bedrijven en andere gereguleerde sectoren de komende 3-5 jaar vormgeven?

Ik zie vijf belangrijke trends die de klantbeleving vormgeven:

Ten eerste, echte omnichannel-interactie. Stel je voor dat je een chat in je bankapp start en vervolgens naadloos overschakelt naar spraak met dezelfde AI-agent. Spraak, oproepen en chat zullen samensmelten tot een enkele continue ervaring.

Ten tweede, adaptieve UI’s die navigatie binnen de app minimaliseren. In plaats van door menus te zoeken naar specifieke functionaliteiten, kunnen klanten eenvoudig hun behoeften uiten: “Verhoog mijn limiet” – en de actie gebeurt onmiddellijk via conversatie.

Ten derde, betere eenheidseconomie. Ondersteuning en operaties zijn enorme kostenposten. Het verlagen van deze kosten kan banken in staat stellen om eerder niet-winbare klanten te bedienen of besparingen door te geven aan gebruikers – vooral in onderbediende segmenten.

Ten vierde, uitzonderlijke ondersteuning op schaal. Startups met weinig klanten kunnen nu persoonlijke ondersteuning bieden, maar de kwaliteit neemt typisch af naarmate bedrijven groeien. AI maakt geweldige ondersteuning schaalbaar, niet alleen mogelijk.

Ten slotte zal klantenservice transformeren van een frustrerende noodzaak tot een echt behulpzame dienst. Het zal niet langer worden gezien als een arbeidsintensieve infrastructuurkost, maar als een waardevolle, efficiënte klanttouchpoint die de algehele ervaring verrijkt.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Gradient Labs bezoeken.