Manuel Romero, mede-oprichter en Chief Scientific Officer bij Maisa – Interviewreeks

Manuel Romero, mede-oprichter en Chief Scientific Officer bij Maisa, is een AI-onderzoeker en -ingenieur die zich richt op het ontwikkelen van betrouwbare, ondernemingsbrede kunstmatige intelligentiesystemen. Hij richtte Maisa op in 2024 om verantwoorde AI te bouwen die complexe bedrijfsprocessen kan uitvoeren met transparantie en controle. Voor Maisa bekleedde Romero senior AI-engineer- en machine learning-rollen bij bedrijven zoals Clibrain en Narrativa, waar hij zich specialiseerde in natuurlijke taalverwerking en grote AI-systemen. Eerder in zijn carrière werkte hij als full-stack software-engineer en DevOps-specialist voordat hij overstapte naar geavanceerd AI-onderzoek en -ontwikkeling, waardoor hij een actieve bijdrager werd aan de open-source AI-ecosysteem.

Maisa AI ontwikkelt autonome “digitale werknemers”, AI-agents die zijn ontworpen om complexe ondernemingswerkprocessen te automatiseren terwijl ze traceerbaarheid, governance en betrouwbaarheid behouden. Het platform stelt organisaties in staat om AI-agents te bouwen en te implementeren met behulp van natuurlijke taal, waardoor automatisering mogelijk wordt over interne systemen en gegevensbronnen zonder uitgebreide codering. Door te focussen op verifieerbare redenering en gestructureerde uitvoering, streeft Maisa ernaar om de gebruikelijke beperkingen van generatieve AI-systemen te overwinnen en ondernemingen in staat te stellen om autonome AI op grote schaal veilig te implementeren.

U heeft vaak gefocust op het begrijpen van de diepere “waarom” achter AI-systemen. Vanuit een technisch oogpunt, wat heeft u ertoe gebracht om Maisa op te richten in 2024, en welke lacune in ondernemingsbrede AI-architectuur dacht u dat niet werd aangepakt?

De motivatie achter het oprichten van Maisa kwam voort uit de realisatie dat de meeste ondernemingsbrede AI-stacks waren gebouwd rondom modellen, niet systemen.

Tijdens de generatieve AI-boom richtten veel bedrijven zich op het integreren van grote taalmodellen in bestaande workflows. Deze systemen waren echter vaak broos, ondoorzichtig en moeilijk te bedienen op grote schaal. Ze ontbraken:

• deterministische uitvoering waar het ertoe deed.
• sterke observeerbaarheid, traceerbaarheid
• reproduceerbaarheid

De lacune die wij zagen was de afwezigheid van echte AI-infrastructuur voor ondernemingen. Bedrijven bouwden toepassingen rondom LLM-API’s, maar ze ontbraken iets equivalent aan een computerarchitectuur voor kenniswerk.

Maisa werd opgericht om die lacune aan te pakken door een architectuur te ontwerpen die centraal staat rondom de Knowledge Processing Unit (KPU), een systeem dat het mogelijk maakt voor AI om betrouwbaar te functioneren binnen echte ondernemingswerkprocessen.

U heeft gewerkt aan geavanceerde natuurlijke taalverwerking en generatieve systemen voordat u Maisa oprichtte. Hoe hebben die ervaringen de architectonische keuzes achter het platform beïnvloed?

Mijn ervaring met NLP en NLG, met name rondom de training en pre-training van taalmodellen en later grote taalmodellen (honderden), maakte iets heel duidelijk toen ik probeerde om echte systemen op te bouwen op basis van deze modellen. De transformer-architectuur is extreem krachtig, maar het komt met ten minste drie fundamentele beperkingen die moeten worden aangepakt om het betrouwbaar in productie te gebruiken.

De eerste is hallucinaties. Deze modellen genereren tekst probabilistisch en kunnen outputs produceren die correct klinken maar niet zijn gebaseerd op geverifieerde informatie.

De tweede is contextbeperkingen. Zelfs met grotere contextvensters, werken modellen binnen een begrensd tokenruimte, waardoor het moeilijk is om te redeneren over grote of complexe kennislichamen.

De derde is up-to-date-informatie. Pre-getrainde modellen vertegenwoordigen een momentopname van kennis op het moment van training, terwijl ondernemingsomgevingen systemen vereisen die kunnen redeneren over constant veranderende informatie.

Het erkennen van deze beperkingen heeft veel van de architectonische beslissingen achter Maisa gevormd. In plaats van te vertrouwen op het model alleen, hebben we ons gericht op het bouwen van een systeem dat gestructureerde toegang tot kennis, validatiemechanismen en gecontroleerde uitvoering biedt, zodat AI betrouwbaar kan functioneren in echte ondernemingswerkprocessen.

Veel ondernemingen experimenteren met generatieve AI, maar worstelen om verder te gaan dan pilots. Vanuit een systeemontwerpersperspectief, wat is de kernreden waarom schalen faalt in zoveel organisaties?

Veel ondernemingen worstelen om verder te gaan dan generatieve AI-pilots omdat de meeste implementaties zijn gebouwd als experimenten in plaats van als robuuste systemen. Vroege prototypes vertrouwen vaak op prompt-engineering, lichtgewicht-orkestratie en eenvoudige opzoekpijpen, die waarde kunnen demonstreren maar niet de betrouwbaarheid, observeerbaarheid of controle bieden die nodig is voor productieomgevingen. Als organisaties proberen deze systemen te schalen, komen ze problemen tegen zoals inconsistentie in outputs, gebrek aan traceerbaarheid, moeilijkheden bij het integreren met ondernemingswerkprocessen en beperkte governance over hoe de AI zich gedraagt. In wezen is het probleem dat grote taalmodellen probabilistische generatoren zijn, terwijl ondernemingsprocessen voorspelbaar en auditeerbaar gedrag vereisen. Zonder een architectuur die structuur toevoegt rondom redenering, validatie, uitvoering en monitoring, blijven generatieve AI-systemen moeilijk te schalen tot voorbij geïsoleerde gebruikscases.

Maisa’s Digital Workers zijn ontworpen om auditeerbaar en gestructureerd te zijn in plaats van puur probabilistisch. Wat betekent dit in praktische zin voor ondernemingen die AI evalueren voor productiegebruik?

Wanneer we zeggen dat Maisa’s Digital Workers auditeerbaar en gestructureerd zijn in plaats van puur probabilistisch, bedoelen we dat de AI functioneert binnen een gecontroleerd systeem waarin zijn acties en redenering kunnen worden getraceerd en beheerd. In plaats van een model te laten genereren van outputs en beslissingen, structureert het systeem hoe de AI interacteert met gegevens, tools en workflows. Elk stap in het proces kan worden gelogd, geïnspecteerd en gevalideerd, en acties worden uitgevoerd via gedefinieerde interfaces in plaats van rechtstreeks vanuit modeloutput. Voor ondernemingen betekent dit dat AI-systemen kunnen worden gemonitord, geauditeerd en geïntegreerd in kritieke processen met meer vertrouwen. Het verplaatst AI van een zwarte doos-assistent naar een systeem waarvan het gedrag kan worden begrepen, gecontroleerd en vertrouwd in productieomgevingen.

Als de architect van de Knowledge Processing Unit, hoe verschilt het van een typische orkestratielaag of workflow-engine gebouwd rondom grote taalmodellen?

De Knowledge Processing Unit verschilt van typische orkestratielagen omdat het is ontworpen om de volledige levenscyclus van AI-gedreven redenering te beheren in plaats van alleen prompts en modelaanroepen te coördineren. De meeste orkestratiekaders fungeren als workflowbeheerders die stappen zoals opzoekacties, prompting en tooluitvoering ketenen. De KPU functioneert op een dieper architectonisch niveau door te structureren hoe kennis wordt toegankelijk gemaakt, hoe redenering wordt uitgevoerd en hoe acties worden uitgevoerd binnen het systeem. Het behandelt kennisverwerking als een kerncomputatielaag, waardoor geheugen, validatie en gecontroleerde uitvoering worden geïntegreerd, zodat AI betrouwbaar kan functioneren binnen complexe ondernemingswerkprocessen in plaats van alleen maar antwoorden te genereren.

In gereguleerde industrieën is het risicotolerantieniveau laag. Welke specifieke ontwerpbeshlissingen hebt u genomen om ervoor te zorgen dat AI-outputs betrouwbaar blijven en geen fouten propageren over complexe workflows?

In gereguleerde industrieën zijn betrouwbaarheid en controle essentieel, dus hebben we het systeem ontworpen met verschillende waarborgen om ervoor te zorgen dat AI-outputs betrouwbaar blijven. Een van de belangrijkste principes is gestructureerde uitvoering, waarbij de AI geen kritieke acties kan triggeren zonder door gecontroleerde interfaces te gaan. We hebben ook validatielagen geïmplementeerd die modeloutputs controleren op schemas, regels of secundaire mechanismen voordat ze worden geaccepteerd. Bovendien houdt het systeem volledige observeerbaarheid, waarbij redeneringsstappen, toolinteracties en beslissingen worden opgenomen zodat ze kunnen worden getraceerd en geauditeerd. Samen helpen deze ontwerpbeshlissingen om te voorkomen dat fouten zich verspreiden door workflows en stellen organisaties in staat om AI-systemen te exploiteren met het niveau van betrouwbaarheid en governance dat nodig is in gereguleerde omgevingen.

Wat zijn de meest overtuigende vroege gebruikscases waarin u Digital Workers hebt zien evolueren van geleide assistentie naar volledig operationele AI-gedreven uitvoering?

Enkele van de meest overtuigende vroege gebruikscases verschijnen in kennisintensieve workflows waar processen goed zijn gedefinieerd maar nog steeds significante analyse en besluitvorming vereisen. In gebieden zoals compliance-review, technische ondersteuningsoperaties en interne kennisbeheer, kunnen Digital Workers verder gaan dan het alleen assisteren van mensen en beginnen met het uitvoeren van gestructureerde taken van begin tot eind. Ze kunnen grote hoeveelheden interne informatie ophalen en analyseren, gedefinieerde procedures toepassen, interactie hebben met ondernemingssystemen via gecontroleerde tools en outputs produceren die rechtstreeks in operationele workflows worden geïntegreerd. De belangrijkste verschuiving vindt plaats wanneer de AI niet alleen suggesties genereert maar ook betrouwbaar gedefinieerde acties kan uitvoeren binnen een beheerd systeem, waardoor organisaties delen van complex kenniswerk kunnen automatiseren in plaats van alleen maar te versterken.

Naarmate de reglementaire aandacht voor AI wereldwijd toeneemt, hoe ziet u de kern-AI-infrastructuur evolueren om te voldoen aan compliance-eisen zonder innovatie te beperken?

Naarmate de reglementaire aandacht voor AI toeneemt, denk ik dat we een verschuiving zullen zien weg van architecturen die alleen maar modelprovider-API’s aanroepen en output vertrouwen. Ondernemingen en regelgevers zullen steeds vaker systemen eisen waarin AI-gedrag observeerbaar, auditeerbaar en beheerd is. Dit is waar architecturen zoals de Knowledge Processing Unit belangrijk worden. Dit type architectuur stelt organisaties in staat om controles af te dwingen, beslissingen te traceren en ervoor te zorgen dat AI-outputs betrouwbaar zijn voordat ze invloed hebben op echte processen. Na verloop van tijd verwacht ik dat dit soort systemen de standaardbasis zullen worden voor betrouwbare AI-infrastructuur.

U heeft gesproken over ethiek en verantwoordelijkheid naast uw technische werk. Hoe beïnvloeden die perspectieven uw aanpak van het bouwen van transparante AI-systemen?

Ethiek en verantwoordelijkheid vertalen zich rechtstreeks naar systeemontwerpbeshlissingen. Als AI-systemen deel gaan uitmaken van echte operationele workflows, kunnen ze niet functioneren als ondoorzichtige black boxes waarvan het gedrag niet kan worden geïnspecteerd of begrepen. Die perspectieven hebben sterk beïnvloed hoe ik AI-systemen bouw. Transparantie, traceerbaarheid en menselijke toezicht moeten vanaf het begin in de architectuur worden ingebouwd. Dit betekent ervoor zorgen dat redeneringsstappen kunnen worden waargenomen, beslissingen kunnen worden geauditeerd en acties worden uitgevoerd via gecontroleerde mechanismen. Wanneer deze principes op het niveau van de infrastructuur zijn ingebed, worden AI-systemen niet alleen meer betrouwbaar maar ook gemakkelijker voor organisaties om verantwoordelijk te beheren.

Kijkt u vooruit, denkt u dat agente AI-infrastructuur net zo fundamenteel kan worden als cloud-infrastructuur in het voorgaande decennium — en wat moet er technisch gebeuren om die verschuiving te laten plaatsvinden?

Ik geloof dat agente AI-infrastructuur het potentieel heeft om net zo fundamenteel te worden als cloud-infrastructuur in het voorgaande decennium. Terwijl organisaties proberen om steeds complexere kenniswerk te automatiseren, zullen ze systemen nodig hebben die betrouwbaar kunnen coördineren tussen redenering, geheugen en uitvoering over veel taken en gegevensbronnen. Echter, om die verschuiving te laten plaatsvinden, moet de onderliggende architectuur verder ontwikkeld worden dan alleen maar modelintegraties. We hebben infrastructuur nodig die gestructureerde redenering, betrouwbare toegang tot ondernemingskennis, sterke observeerbaarheid en gecontroleerde uitvoering van acties biedt. Wanneer die capaciteiten in het kernsysteem zijn ingebouwd, kan agente AI evolueren van experimentele tools naar betrouwbare infrastructuur waarop organisaties vertrouwen om kritieke operaties uit te voeren.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Maisa AI bezoeken.