Waarom Agentic AI nog steeds faalt in de echte wereld

De afgelopen jaren hebben we indrukwekkende demonstraties van agentic AI-systemen gezien. Ze schrijven code die testcases doorstaat. Ze zoeken op het web en beantwoorden complexe vragen. Ze navigeren door software-interfaces met opmerkelijke nauwkeurigheid. Elke conferentiepresentatie, elke persbericht, elke benchmarkrapport benadrukt de opkomst van agentic AI.

Maar er is een probleem dat zich onder deze indrukwekkende demonstraties verschuilt. Wanneer deze systemen van gecontroleerde omgevingen naar echte wereld-implementatie gaan, falen ze vaak op manieren die benchmarks nooit voorspeld hebben. De codegenerator die perfect werkte op 100 gecuratede voorbeelden, begint fouten te produceren bij randgevallen die hij nooit eerder heeft gezien. De webzoekagent die 85% nauwkeurigheid bereikte in het lab, haalt steeds minder relevante resultaten op naarmate het gebruikersgedrag verandert. Het planningsysteem dat tien API-aanroepen perfect coördineerde tijdens het testen, breekt wanneer het een onverwachte API-responsformaat tegenkomt.

Deze systemen falen niet omdat ze geen intelligentie missen, maar omdat ze geen adaptatie hebben. Het probleem ligt in de manier waarop AI-agents leren en aanpassen. Terwijl state-of-the-art-systemen zijn gebouwd op enorme foundation-modellen, is ruwe intelligentie alleen niet genoeg. Om gespecialiseerde taken uit te voeren, moet een agent kunnen aanpassen. Huidige agentic AI-systemen kunnen dit niet vanwege structurele beperkingen in hun ontwerp en training. In dit artikel onderzoeken we deze beperkingen en waarom ze blijven bestaan.

De illusie van capaciteit in demonstraties

De gevaarlijkste foutmodus in moderne AI is de illusie van competentie. Korte demonstraties verhullen vaak de echte complexiteit. Ze werken met schone datasets, voorspelbare API’s en smalle taakscopes. Productieomgevingen zijn het tegenovergestelde. Databases zijn onvolledig, schemas veranderen zonder waarschuwing, services time-outen, machtigingen conflicteren en gebruikers stellen vragen die de onderliggende veronderstellingen van het systeem schenden.

Dit is waar productiecomplexiteit aanzienlijk toeneemt. Een enkele randgeval dat één keer in een demonstratie voorkomt, kan duizenden keren per dag in implementatie voorkomen. Kleine probabilistische fouten accumuleren. Een agent die “meestal goed” is, wordt snel onbetrouwbaar in echte operaties.

Aan de basis van het probleem ligt de afhankelijkheid van bevroren foundation-modellen. Deze modellen excelleren in patroonvoltooiing, maar agentic gedrag is sequentieel en staatvol. Elke actie is afhankelijk van de uitkomst van de vorige. In dergelijke omgevingen neemt statistische onzekerheid snel toe. Een kleine fout vroeg in een taak kan uitmonden in lussen, doodlopende steegjes of destructieve acties later. Dit is waarom agents die capabel lijken tijdens evaluatie vaak snel afnemen zodra ze zijn geïmplementeerd.

Het probleem is niet een ontbrekende functie. Het is dat general-purpose-modellen worden gevraagd om te gedragen als domeinspecialisten zonder dat ze mogen leren van hun omgeving.

Van algemene intelligentie naar gesitueerde competentie

Foundation-modellen zijn generalisten van ontwerp. Ze coderen brede kennis en flexibele redeneerpatronen. Productie-agents moeten daarentegen situatie-specifiek zijn. Ze moeten de specifieke regels, beperkingen en foutmodi van een bepaalde organisatie en haar tools begrijpen. Zonder dit lijken ze op iemand die elke handleiding heeft gelezen, maar nooit een dag heeft gewerkt.
Overbruggen van deze kloof vereist een heroverweging van adaptatie zelf. Huidige methoden vallen in twee brede, gebrekkige kampen: het opnieuw trainen van de core AI-agent zelf, of het bijstellen van de externe tools die het gebruikt. Elke aanpak lost één probleem op, maar creëert anderen. Dit laat ons met systemen die te stijf, te duur of te onstabiel zijn voor productieomgevingen waar consistentie en kosten belangrijk zijn.

De monolithische agent-val

De eerste aanpak, Agent Adaptatie, probeert de core LLM slimmer te maken in het gebruik van tools. Het leert de AI de specifieke vaardigheden die het nodig heeft om de tools te gebruiken. Onderzoekers categoriseren dit verder in twee klassen. Sommige methoden trainen de agent met directe feedback van tools, zoals de succesvolle compilatie van code of de resultaten van een zoekmachine. Andere trainen het op basis van de correctheid van de eindoutput, zoals een goed of fout antwoord.

Systemen zoals DeepSeek-R1 en Search-R1 laten zien dat agents complexe, multi-stapstrategieën voor toolgebruik kunnen leren. Echter, deze kracht komt met een aanzienlijke kosten. Het trainen van modellen met een miljard parameters is computationeel extravagant. Meer kritisch, het creëert een stijve, broze intelligentie. Door de kennis en toolgebruiksregels van de agent te combineren, maakt deze aanpak updates langzaam, riskant en ongeschikt voor snel veranderende bedrijfsbehoeften. Het aanpassen van de agent aan een nieuwe taak of tool riskeert “catastrofisch vergeten“, waarbij het eerder verworven vaardigheden verliest. Het is alsof je een hele fabrieksassemblagelijn opnieuw moet opbouwen elke keer dat je een nieuw widget wilt toevoegen.

Het fragile toolbox-probleem

Het herkennen van deze beperkingen, is de tweede belangrijke aanpak, Tool Adaptatie, laat de core agent bevroren en optimaliseert in plaats daarvan de tools in zijn ecosysteem. Dit is modulair en kostenefficiënter. Sommige tools worden generisch getraind, zoals een standaard zoekopvraag, en ingeplugd. Andere worden specifiek afgestemd op een bevroren agent, leren van zijn output en worden betere helpers.

Dit paradigma houdt immense beloften in voor efficiëntie. Een baanbrekende studie van een systeem genaamd s3 toonde het potentieel van deze aanpak aan. Het trainde een kleine, gespecialiseerde “zoeker” tool om een bevroren LLM te ondersteunen, en bereikte prestaties die vergelijkbaar waren met een volledig opnieuw getrainde agent zoals Search-R1, maar met 70 keer minder trainingsdata. De intuïtie is dat je geen genie-fysicus hoeft te leren hoe hij een bibliotheekcatalogus moet gebruiken; in plaats daarvan train je een betere bibliothecaris die de fysicus’ behoeften begrijpt.

Echter, het toolbox-model heeft zijn eigen beperking. De capaciteiten van het hele systeem zijn uiteindelijk beperkt door de inherente redenering van de bevroren LLM. Je kunt een scherper scalpel geven aan een chirurg, maar je kunt geen niet-chirurg laten uitvoeren van een hartoperatie. Bovendien wordt het orkestreren van een groeiend aantal aanpasbare tools een complexe integratie-uitdaging. Tool A kan optimaliseren voor één metriek die de invoervereisten van Tool B schendt. De prestaties van het systeem zijn dan afhankelijk van een fragiele balans tussen de onderling verbonden componenten.

De co-adaptatie-uitdaging

Dit brengt ons bij de kern van het adaptatie-deficit in de huidige agentic AI-paradigma’s. We passen ofwel de agent aan, ofwel de tools, maar niet beide op een gesynchroniseerde, stabiele manier. Productieomgevingen zijn niet statisch. Nieuwe data, nieuwe gebruikersvereisten en nieuwe tools komen constant naar voren. Een AI-systeem dat niet soepel en veilig kan evolueren, zowel in zijn “brein” als in zijn “handen”, zal onvermijdelijk breken.

Onderzoekers identificeren deze behoefte aan co-adaptatie als de volgende frontier. Echter, het is een complexe uitdaging. Als zowel de agent als zijn tools tegelijk leren, wie krijgt de credits of de schuld voor falen? Hoe voorkom je een onstabiele feedbacklus waarin de agent en tools elkaars veranderingen najagen zonder de algehele prestaties te verbeteren? Vroege pogingen hiertoe, zoals het behandelen van de agent-toolrelatie als een coöperatief multi-agent systeem, onthullen de moeilijkheid. Zonder robuuste oplossingen voor credits toewijzen en stabiliteit, blijft zelfs onze meest geavanceerde agentic AI een verzameling indrukwekkende maar losse capaciteiten.

Geheugen als een first-class systeem

Een van de meest zichtbare tekenen van het adaptatie-deficit is statisch geheugen. Veel geïmplementeerde agents verbeteren niet over tijd. Ze herhalen dezelfde fouten omdat ze geen ervaring kunnen internaliseren. Elke interactie wordt behandeld alsof het de eerste was.

Productieomgevingen eisen adaptief geheugen. Agents moeten episodische recall hebben om lange-termijntaken aan te pakken, strategisch geheugen om plannen te verfijnen en operationeel geheugen om herhaling van fouten te voorkomen. Zonder dit voelen agents fragiel en onbetrouwbaar.

Geheugen moet worden behandeld als een afstembaar onderdeel, niet als een passieve log. Systemen die ervaring herzien, leren van fouten en hun gedrag aanpassen, zijn veel stabieler.

Nieuwe risico’s van adaptieve systemen

Adaptatie introduceert zijn eigen risico’s. Agents kunnen leren om metrics te optimaliseren in plaats van doelen, een fenomeen bekend als parasitaire adaptatie. Ze kunnen succesvol lijken terwijl ze de onderliggende doelstelling ondermijnen. In multi-agent systemen kunnen gecompromitteerde tools agents manipuleren door subtiele prompt-injectie of misleidende data. Om deze risico’s te mitigeren, vereisen agents robuuste verificatiemechanismen. Acties moeten getest, omkeerbaar en auditeerbaar zijn. Veiligheidslagen tussen agents en tools waarborgen dat fouten niet stilzwijgend worden doorgegeven.

De bottom line

Voor Agentic AI om te werken in de echte wereld, kan het niet alleen intelligent zijn; het moet ook kunnen aanpassen. De meeste agents falen vandaag omdat ze “bevroren” zijn in de tijd, terwijl de echte wereld complex en constant verandert. Als een AI zijn geheugen niet kan bijwerken en niet kan leren van zijn fouten, zal het uiteindelijk breken. Betrouwbaarheid komt niet van een perfecte demonstratie; het komt van de capaciteit om aan te passen.