Varför Agentic AI fortfarande bryter i den riktiga världen

Under de senaste åren har vi sett agentic AI-system generera imponerande demonstrationer. De skriver kod som passerar testfall. De söker på webben och svarar på komplexa frågor. De navigerar i programgränssnitt med anmärkningsvärd precision. Varje konferenspresentation, varje pressmeddelande, varje benchmarkrapport lyfter fram framväxten av agentic AI.

Men det finns ett problem som gömmer sig under dessa imponerande demonstrationer. När dessa system flyttar från kontrollerade miljöer till riktiga distributionsmiljöer, misslyckas de ofta på sätt som benchmark inte förutsåg. Koden som fungerade perfekt på 100 kuraterade exempel börjar producera fel på kanter som den aldrig sett tidigare. Webbsökagenten som uppnådde 85% träffsäkerhet i labbet hämtar alltmer irrelevanta resultat allteftersom användarbeteenden förändras. Planeringssystemet som samordnade tio API-samtal utan problem under testning bryter när det möter ett oväntat API-svarformat.

Dessa system misslyckas inte för att de saknar intelligens, utan för att de saknar anpassning. Problemet ligger i hur AI-agenter lär sig och anpassar sig. Medan de mest avancerade systemen byggs på massiva grundmodeller, räcker inte ren intelligens. För att utföra specialiserade uppgifter måste en agent kunna anpassa sig. Nuvarande agentic AI-system kan inte göra detta på grund av strukturella begränsningar i deras design och utbildning. I den här artikeln undersöker vi dessa begränsningar och varför de består.

Illusionen av förmåga i demonstrationer

Den farligaste felmoden i modern AI är illusionen av kompetens. Korta demonstrationer döljer ofta den riktiga komplexiteten. De fungerar på rena datamängder, förutsägbara API:er och smala uppgiftsomfång. Produktionsmiljöer är det motsatta. Databaser är ofullständiga, scheman ändras utan varning, tjänster går på timeout, behörigheter är i konflikt och användare ställer frågor som bryter mot systemets underliggande antaganden.

Detta är där produktionskomplexiteten ökar avsevärt. En enskild kanter som visas en gång i en demonstration kan visas tusentals gånger per dag i distribution. Små probabilistiska fel ackumuleras. En agent som är “i stort sett rätt” blir snabbt opålitlig i riktiga operationer.

I kärnan av problemet ligger beroendet av frusna grundmodeller. Dessa modeller excellerar på mönsterkomplettering, men agerande beteende är sekventiellt och tillståndsbaserat. Varje åtgärd beror på resultatet av den föregående. I sådana miljöer ackumuleras statistisk osäkerhet snabbt. Ett mindre misstag tidigt i en uppgift kan kaskada till slingor, döda ändar eller destruktiva åtgärder senare. Detta är varför agenter som verkar kapabla under utvärdering ofta försämras snabbt när de distribueras.

Problemet är inte en saknad funktion. Det är att allmänna modeller används som om de vore specialister utan att tillåtas lära av sin miljö.

Från allmän intelligens till situationsbunden kompetens

Grundmodeller är generalister av design. De kodar bred kunskap och flexibla resonemangsmönster. Produktionsagenter måste däremot vara situationsbundna. De måste förstå de specifika reglerna, begränsningarna och felmoderna för en viss organisation och dess verktyg. Utan detta liknar de någon som har läst varje manual men aldrig arbetat en dag på jobbet.

Att överbrygga denna klyfta kräver en omprövning av anpassning. Nuvarande metoder faller i två breda, felaktiga läger: omträning av den centrala AI-agenten eller justering av de externa verktyg den använder. Varje tillvägagångssätt löser ett problem medan det skapar andra. Detta lämnar oss med system som är antingen för rigida, för dyra eller för instabila för produktionsmiljöer där konsekvens och kostnad är viktiga.

Den monolitiska agentfällan

Den första tillvägagångssättet, agentanpassning, försöker göra den centrala LLM smartare på att använda verktyg. Det lär i princip AI de specifika färdigheter den behöver för att använda verktygen. Forskare kategoriserar detta ytterligare i två klasser. Vissa metoder tränar agenten med direkt feedback från verktyg, som en kodkompilators framgång eller en sökmotors resultat. Andra tränar den baserat på den slutliga utdatans korrekthet, som ett rätt eller fel svar.

System som DeepSeek-R1 och Search-R1 visar att agenter kan lära sig komplexa, flerstegsstrategier för verktygsanvändning. Men denna kraft kommer med en betydande kostnad. Träning av modeller med en miljard parametrar är beräkningsmässigt extravagant. Mer kritiskt skapar det en rigid, skör intelligens. Genom att kombinera agentens kunskap och verktygsanvändningsregler gör detta tillvägagångssätt uppdateringar långsamma, riskfyllda och olämpliga för snabbt föränderliga affärsbehov. Anpassning av agenten till en ny uppgift eller verktyg riskerar “katastrofalt glömska“, där den förlorar tidigare bemästrade färdigheter. Det är som att behöva bygga om en hel fabriksmonteringslinje varje gång du vill lägga till en ny widget.

Den sköra verktygsproblemen

Genom att erkänna dessa begränsningar, det andra stora tillvägagångssättet, verktygsanpassning, lämnar den centrala agenten frusen och optimerar i stället verktygen i dess ekosystem. Detta är mer modulärt och kostnadseffektivt. Vissa verktyg tränas generiskt, som en standard sökare, och kopplas in. Andra är specifikt inställda för att komplettera en frusen agent, lär av dess utdata för att bli bättre hjälpare.

Denna paradigm innehåller stora löften för effektivitet. En banbrytande studie av ett system som kallas s3 demonstrerade potentialen i detta tillvägagångssätt. Det tränade ett litet, specialiserat “sökare”-verktyg för att stödja en frusen LLM, uppnådde prestanda jämförbar med en fullständigt omtränad agent som Search-R1 men använde 70 gånger färre träningsdata. Intuitionen är att varför omträna en genial fysiker hur man använder en bibliotekskatalog? I stället, tränar en bättre bibliotekarie som förstår fysikerns behov.

Men verktygsmodellen har sin egen begränsning. Förmågan hos hela systemet är slutligen begränsad av den frusna LLM:s inneboende resonemang. Du kan ge en skarpare skalpell till en kirurg, men du kan inte göra en icke-kirurg utföra hjärtkirurgi. Dessutom blir orkestreringen av en växande uppsättning adaptiva verktyg en komplex integreringsutmaning. Verktyg A kan optimera för en måttstock som bryter mot verktyg B:s ingångskrav. Systemets prestanda beror då på en skör balans mellan sammanlänkade komponenter.

Samadaptationsutmaningen

Detta leder oss till kärnan i anpassningsbristen i nuvarande agentic AI-paradigm. Vi antingen anpassar agenten eller verktygen, men inte båda på ett synkroniserat och stabilt sätt. Produktionsmiljöer är inte statiska. Ny data, nya användarbehov och nya verktyg dyker ständigt upp. Ett AI-system som inte kan utvecklas smidigt och säkert både sin “hjärna” och sina “händer” kommer oundvikligen att bryta.

Forskare identifierar detta behov av samanpassning som nästa frontier. Men det är en komplex utmaning. Om både agenten och dess verktyg lär sig samtidigt, vem får krediter eller skuld för misslyckande? Hur förhindrar man en instabil återkopplingsloop där agenten och verktygen jagar varandras förändringar utan att förbättra den övergripande prestandan? Tidiga försök med detta, som att behandla agent-verktygsrelationen som ett samarbetsmultiagent-system, avslöjar svårigheten. Utan robusta lösningar för kredit tilldelning och stabilitet, förblir även vår mest avancerade agentic AI en uppsättning imponerande men frånkopplade förmågor.

Minne som ett första-klass-system

En av de mest synliga tecknen på anpassningsbristen är statiskt minne. Många distribuerade agenter förbättrar sig inte över tiden. De upprepar samma misstag eftersom de inte kan internalisera erfarenhet. Varje interaktion behandlas som om den vore den första.

Produktionsmiljöer kräver adaptivt minne. Agenter behöver episodisk återkallning för att hantera långsiktiga uppgifter, strategiskt minne för att förfinansiera planer och operativt minne för att undvika upprepade misslyckanden. Utan detta känns agenter sköra och opålitliga.

Minnet bör behandlas som en justerbar komponent, inte en passiv logg. System som granskar erfarenhet, lär av misstag och justerar sitt beteende är avsevärt mer stabila.

Nya risker från adaptiva system

Anpassning introducerar sina egna risker. Agenter kan lära sig att optimera måttstockar snarare än mål, ett fenomen känt som parasitisk anpassning. De kan verka framgångsrika medan de undergräver det underliggande målet. I multiagent-system kan komprometterade verktyg manipulera agenter genom subtil promptinjektion eller vilseledande data. För att mildra dessa risker kräver agenter robusta verifikationsmekanismer. Åtgärder måste vara testbara, reversibla och granskningsbara. Säkerhetslager mellan agenter och verktyg säkerställer att misstag inte sprids tyst.

Slutsatsen

För att Agentic AI ska fungera i den riktiga världen, kan det inte bara vara intelligent; det måste kunna anpassa sig. De flesta agenter misslyckas idag eftersom de är “frusna” i tid, medan den riktiga världen är komplex och ständigt föränderlig. Om en AI inte kan uppdatera sitt minne och förbättra sig från sina misstag, kommer den så småningom att bryta. Tillförlitlighet kommer inte från en perfekt demonstration; den kommer från förmågan att anpassa sig.