Tankeledere

Den økonomiske virkeligheten ved å skalere agentbaserte AI-arbeidsbelastninger

Sohrab Hosseini
Legg til Unite.AI blant dine foretrukne kilder på Google
A high-tech data center landscape featuring glowing blue fiber-optic data streams converging into a complex network, passing through a massive, reinforced industrial gate that represents a
Viktige punkterAI-kostnaders uforutsigbarhet skyldes dynamiske arbeidsflyter som ikke fanges opp av…
Vis mer
  • AI-kostnaders uforutsigbarhet skyldes dynamiske arbeidsflyter som ikke fanges opp av tradisjonell skymonitorering.
  • Agentiske systemer multipliserer kostnader gjennom kjeder av modellkall og henteoperasjoner.
  • Bedrifter behandler nå kostnad som en kjerneport for pålitelighet ved AI-utrulling.

1. Den skjulte kostnadssjokket etter utrulling av AI

I tidlige pilotprosjekter ser AI-systemer ut til å være økonomisk effektive på overflaten. Trafikkmengdene er lave, bruksområdene er smalt definerte, og teamene overvåker atferden i kontrollerte miljøer. Under disse betingelsene vurderes kostnaden vanligvis på nivået for enkeltmodellkall eller begrensede arbeidsflyter. Dette gir inntrykk av at skaleringsprosessen vil være enkel. I alle fall, det er hva de fleste teamene trodde.

Det inntrykket forsterkes av at utgiftsveksten for generativ AI ikke viser tegn til å avta. En nylig rapport estimerer at bedrifts-Gen-AI-applikasjonsutgifter nådde titalls milliarder dollar i 2025, mer enn en tredobling fra året før.

Men virkeligheten endrer seg så snart agentene utsettes for virkelige brukere og operasjonell kompleksitet.

Produksjonsmiljøer introduserer uforutsigbare samhandlingsmønstre, lengre samtaler, bakgrunnsprosesser og eskalasjonsveier til mer kapable modeller. En enkelt forespørsel kan utløse flere nedstrømsaksjoner som ikke var synlige under testing. Bedrifter møter en utfordring som mange team beskriver som en “fakturaoverraskelse”, en plutselig økning i utgifter uten en klar forståelse av hvilken atferd eller arbeidsflyter som genererte det.

På dette stadiet er utfordringen ikke bare å optimalisere modeller. I stedet handler det om å få innsikt i kjøretidsdynamikken som faktisk driver AI-kostnader.

2. Hvorfor AI-arbeidsbelastninger bryter tradisjonelle skykostmodeller

Tidligere hadde tradisjonell skykoststyring utviklet seg rundt relativt forutsigbare arbeidsbelastninger. Infrastrukturforbruk kunne måles i stabile enheter som beregningstimer, lagring eller forespørselsvolum, og til og med optimaliseres gjennom tilordningsstrategier eller brukskontroller. Hovedsaken å vite er at utførelsesveiene hovedsakelig var deterministiske. Dette gjorde det mulig å forutsi utgifter med rimelig nøyaktighet og tilskrive kostnader til bestemte tjenester eller team.

AI-arbeidsbelastninger introduserer en annen økonomisk modell. Utgifter er hovedsakelig knyttet til tokenbruk, kontekststørrelse, modellkallkjeder og dynamiske arbeidsflytbeslutninger som varierer fra en interaksjon til den neste.

Den samme brukerforespørselen kunne følge helt forskjellige kjøretidsveier avhengig av tillitsnivå, verktøysvar eller fallbacklogikk. Derfor er kostnaden ikke lineær eller lett forutsigbar som den en gang var. Tradisjonelle FinOps-kontrollpaneler gir innsikt i infrastrukturforbruk. Den virkelige utfordringen ligger i hvor ofte de sliter med å fange atferd under kjøring utover bare ressurstildelingen. Bedrifter kan ikke virkelig bestemme økonomien til AI-systemer via tradisjonelle midler.

3. Det voksende kostnadsbildet i agentbaserte systemer

Ettersom bedrifter går fra enkelttrinnsinferens til agentarkitekturer, blir kostnadsprofilen til AI-systemer mye mer kompleks. Nylig bransjeanalyse forutsier til og med at over 40% av agentbaserte AI-prosjekter vil mislykkes i å nå produksjon innen 2027, drevet delvis av den virkelige kostnaden og kompleksiteten ved å distribuere flertrinnsagentarbeidsflyter i skala.

En brukerforespørsel løses ikke gjennom ett modellkall. I stedet går prosessen gjennom koordinerte arbeidsflyter som kan involvere planleggingssteg. Tenk på informasjonsinnhenting, verktøysutføringer og interaksjoner mellom flere agenter.

I tillegg kommer det at de ovennevnte arbeidsflytene legger til funksjoner som generering utvidet med informasjonsinnhenting (RAG) eller multiagent-samarbeid, som introduserer ekstra betalte operasjoner som akkumulerer over tid.

En interaksjon kan utløse kall for å lage embedding-vektorer, vektor-databaseforespørsler, iterative resonneringsløkker og eskalasjoner til mer kapable modeller når tilliten synker. Mens hver enkelt handling kan se marginal ut i isolasjon, har deres kumulative effekt formet den overordnede økonomien til systemet.

4. Hvorfor promptoptimalisering alene ikke kan løse kjøretidsøkonomi

Promptoptimalisering er vanligvis et av de første virkemidlene teamene tar i bruk når de forsøker å kontrollere AI-kostnader. Å redusere tokenbruk, finjustere instruksjoner eller forbedre svarstruktur kan levere meningsfulle effektivitetsgevinster på nivået for enkeltmodellkall. Optimaliseringer adresserer bare en liten del av det bredere økonomiske bildet. I produksjonsmiljøer er det meste av kostnadsvolatilitet drevet av atferdmønster over arbeidsflyter i stedet for bare promptlengde alene.

Ineffektivitet oppstår ofte fra unødvendige gjentatte forsøk, for omfattende informasjonsinnhenting, eskalasjoner til mer kostbare modeller eller agenter som utfører arbeid som ikke materielt endrer resultater. Uten innsikt i kjøretidsspor og forretningspåvirkning kan prompt-justering bare flytte utgifter fra ett område av systemet til et annet.

Med AI-systemer som blir mer autonome og sammenkoblede, krever kostnadsstyring systemiske kontroller som bestemmer hvordan agenter opererer i sanntid. Det handler ikke bare om lokale justeringer av hvordan enkeltforespørsler er formulert.

En nylig AI FinOps-undersøkelse som dekket titalls milliarder i skyutgifter nevnte en overgang til sanntids AI-kostnadsinnsikt, per-team-budsjett og automatiske budsjettvarsel. Idéen er å behandle kostnad som en operasjonell SLO i stedet for en ren økonomisk måling.

5. Fremvoksende arkitektoniske tilnærminger til AI-kostkontroll

Som svar på økende kostnadsvolatilitet, revurderer bedrifter hvor og hvordan økonomisk kontroll bør pålegges innenfor AI-systemer. I stedet for å behandle kostoptimalisering som en etterfølgende finansøvelse, introduserer teamene arkitektoniske mekanismer som påvirker utgifter i sanntid.

Et fremvoksende mønster vi begynner å se, er bruken av ruting- og orkestreringslag som dynamisk velger modeller eller arbeidsflyter basert på oppgavekompleksitet, latensmål eller budsjettbegrensninger. Dette lar bedrifter balansere kvalitet og effektivitet uten å stole på statiske konfigurasjonsvalg.

Andre ruter vi har sett teamene ta, inkluderer policy-styrt kjøretidskontroll, kostnadsbevisste strategier for gjentatte forsøk og sentralisert observerbarhet som tilskriver utgifter til bestemte arbeidsflyter.

Evaluering brukes også oftere som et styringsverktøy, med team som tar videre bare de konfigurasjonene som møter forhåndsdefinerte kostnads- og ytelseskriterier.

6. Kostnad som den neste pålitelighetsporten for bedrifts-AI

Med AI-systemer som blir integrert i kjerneforretningens arbeidsflyter, behandler bedrifter virkelig kostnad som en utrullingsbegrensning sammen med kvalitet, sikkerhet og pålitelighet. Slik servicenivåmål definerer akseptable ytelsesgrenser, oppstår enhetsøkonomiske terskler som en forutsetning for å skalere automatisering trygt. Systemer som ikke kan møte forutsigbare kostnadsprofiler, er vanskeligere å rettferdiggjøre operasjonelt, uansett deres tekniske evne.

Dette skiftet får teamene til å introdusere “kostnadsterskler” før bredere utrullinger, støttet av kontinuerlig overvåkning etter at systemene er satt i drift. Over tid, er det sannsynlig at kostnadsstyring vil utvikle seg til en pågående ingeniørdisiplin i stedet for en enkeltstående optimaliseringsinnsats. Bedrifter som skalerer AI mest suksessfullt, vil være de som designer for økonomisk kontroll fra utgangspunktet, og sikrer at alle forbedringer i funksjonalitet er matchet av bærekraftige operasjonelle modeller.

I den neste fasen av innføring av AI i bedrifter, kan vi se at økonomisk kontroll blir like grunnleggende for systemdesign som pålitelighet og sikkerhet.

Sohrab Hosseini, medgrunnlegger av orq.ai, er en teknologileder og entreprenør basert i Amsterdam-området med dyp erfaring fra SaaS, systemer i stor skala og anvendt AI. Siden han grunnla orq.ai i 2022, har han fokusert på å bygge praktisk infrastruktur som hjelper team å flytte store språkmodeller fra eksperimentering til pålitelig produksjonsbruk. Hans bakgrunn inkluderer senior ledelsesroller som COO og CTO i Neocles, CTO for fremtidens teknologi i Transdev hvor han arbeidet med autonom ruting og flåteledelse, og COO i TradeYourTrip. I parallell er han aktiv som rådgiver og engleinvestor, som støtter tidlige AI-selskaper med produktretning, teknisk dømmekraft og gjennomføringsstrategi.