Den Claude “Nerfing”-debat ikke handler om Claude, men om, hvad der sker, når dine operationer køres på andres beslutninger.

Tidligere på året offentliggjorde Stella Laurenzo, Senior Director of AI hos AMD, telemetri fra næsten 7.000 Claude Code-sessions, der dokumenterede noget, som ingeniører havde følt, men havde svært ved at formulere: mellem januar og marts faldt den synlige resonansdybde med 73%, API-opkald per opgave øgedes 80 gange, og modellen læste langt færre filer, før den foretog ændringer. Tallene spredte sig hurtigt. Fortolkningen spredte sig endnu hurtigere.

Anthropic bestrider rammen. Selskabet siger, at ændringerne skyldes bevidste produktbeslutninger, herunder en ny adaptiv tænkemekanisme og en skift til mediumindsats som standard. Uafhængige analytikere har også bestridt dele af metoden. Debatten er i gang, og fornuftige mennesker er uenige om, hvad der faktisk skete.

Men her er det, der betyder noget, hvis du kører en forretning på toppen af disse systemer: om det var en forringelse eller en bevidst finjustering, ændrer ikke, hvad virksomhedsoperatørerne oplevede. De kunne ikke forudsige det. De kunne ikke kontrollere det. Og nogle af dem følte det i produktionen, før de forstod, hvad der skete. Det er den virkelige historie, og den har intet at gøre med Anthropic specifikt.

Dette er et afhængighedsproblem, ikke et modelproblem.

Det, vi beskriver, har et navn: model skrøbelighed. Det er tilstanden, hvor mission-kritiske operationer er tæt koblet til modellens adfærd, så enhver ændring på modellaget, enten en finjusteringsbeslutning, en ny standard, en kapacitetsdrevet omdirigering eller en stille deprecation, rammer forretningen direkte, uden buffer og uden varsel.

Dette er ikke en ny mønster. GPT-4 gennemgik en version af det i 2023. Claude 3.5 gennemgik en i 2024. Claude Opus gennemgår en nu. Det vil ske igen med den næste frontiersmodel og den efter den. Ikke fordi nogen vendor handler i dårlig tro, men fordi optimering af en frontiersmodel for omkostninger, latency og skala på globalt niveau er præcis, hvad frontiervendors har brug for at gøre. Deres incitamenter og incitamenterne for en virksomhed, der kører produktionsoperationer på toppen af dem, er relaterede. De er ikke identiske. De vil aldrig være det.

Vi startede Qurrent i 2023 og har den historiske viden til at vide, hvordan virksomhedssoftware-cykler spiller ud: En virksomhed investerer i AI. Demoen virker. Piloten virker. Så går det live, og noget skifter på modellaget, og pludselig ejer kunden problemet. De er dem, der vedligeholder arbejdsgange, jagter regressioner, absorberer forstyrrelser. Det har aldrig gjort mening for mig som en bæredygtig model for virksomhedsoperationer.

Den virksomhedsversion af denne historie er operationel, ikke teknisk.

For udviklere er den nuværende situation ulemper. Token-budgetter brænder hurtigere. Kodningssessioner stopper. Benchmark-disapointment. Det er et rigtigt problem, men det er et genskabt problem.

For virksomheder, der kører finansielle operationer, compliance-arbejdsgange, regnskab og komplekse bagkontorprocesser, er indsatsen anderledes. Disse arbejdsgange kan ikke absorbere en dårlig uge. Fejl akkumulerer. Volumen akkumulerer. SLA’er er forpligtelser over for faktiske kunder, ikke interne præferencer. Øjeblikket, en model begynder at underpræstere på en høj-indsatser-proces, er skaden akkumulerende, uanset om nogen har bemærket det endnu.

Hvad gør dette sværere er, at de fleste virksomheder, der prøvede at komme foran AI ved at bygge interne agenter på en enkelt model, nu opdager, hvor ufuldstændig den grundlag var. Den første agent var den lette del. Det, der ikke blev bygget, var den omgivende infrastruktur: evalueringssystemer, der kan detektere adfærdsdrift, før det når en kunde, failover-logik, der omdirigerer arbejde automatisk, når en model begynder at underpræstere, og kontinuerlig styring, der kan holde trit med et landskab, der ændrer sig hver kvartal. Disse tre huller bliver ikke håndterbare. De vokser til en permanent ingeniør-funktion, som ingen budgetterede for, besat af mennesker, hvis job er essentielt at holde trit med beslutninger, der træffes af vendors, de ikke har nogen indflydelse over.

Hvad resilience faktisk ligner i produktion.

Ved Qurrent byggede vi den digitale arbejdsstyrke til at være model-agnostisk fra starten, ikke som en markedsposition, men som et arkitektonisk krav. Hver opgave ruter til den bedst-presterende model for den opgave, evaluering kontinuerligt. Når en bedre model skibes, får kunderne den automatisk. Når en nuværende model underpræsterer på en specifik arbejdsgang, omdirigerer orkestreringslaget arbejdet på sekunder, uden menneskelig indgriben og uden, at nogen vågner op til en Slack-tråd klokken 2 om natten.

Under det køre automatiserede simulationer mod produktionsarbejdsgange rundt om uret, måler, om output matcher forventet adfærd. Drift detekteres på infrastrukturlaget, før operationsholdet føler det, og langt før en kunde gør. Og hver beslutning, der træffes af hver digital arbejder, er logget og gennemgåelig, en fuld glasboks, fordi man ikke kan styre, hvad man ikke kan se.

Disse er ikke premium-funktioner. De er prisen for at køre AI i produktion på virksomhedsskala. De fleste virksomheder lærer, at i midten af en nyheds cyklus, hvilket er den dyre måde at opdage det på.

Spørgsmålet, der er værd at stille dette kvartal.

Hvis modellen, din operation afhænger mest af, havde en dårlig uge næste kvartal, hvor mange af dine arbejdsgange ville føle det? Hvordan ville du vide det? Og hvor hurtigt kunne du omdirigere rundt om det?

Hvis svaret på det andet spørgsmål er “vi ville høre fra en kunde”, er operationen ikke produktionsklar. Det er en pilot, der kører i skala, og forskellen betyder mere, end de fleste ledere realiserer, indtil det ikke gør.

Den nuværende debat er, på en underhånden måde, nyttig. Hver CFO og COO, der ser på dette, fik lige en gratis forhåndvisning af, hvad model skrøbelighed ligner under rigtig operativ belastning, uden at betale for det selv. Den rigtige respons er ikke at skifte model. Det er at bygge operationer, der ikke afhænger af en enkelt.

Teknologien vil fortsætte med at ændre. Det er den eneste sikkerhed på dette marked. De virksomheder, der kommer ud af dette årti stærkest, vil ikke være dem, der valgte den rigtige model. De vil være dem, hvis operationer aldrig behøvede at bekymre sig.