Tankeledere

Den økonomiske virkelighed ved at skalere agentbaserede AI-arbejdsbelastninger

Sohrab Hosseini
Føj Unite.AI til dine foretrukne kilder på Google
A high-tech data center landscape featuring glowing blue fiber-optic data streams converging into a complex network, passing through a massive, reinforced industrial gate that represents a
NøglepunkterAI-omkostningers uforudsigelighed stammer fra dynamiske arbejdsgange, som ikke fanges…
Vis mere
  • AI-omkostningers uforudsigelighed stammer fra dynamiske arbejdsgange, som ikke fanges af traditionel cloud-overvågning.
  • Agentiske systemer multiplicerer omkostninger gennem kæder af modelkald og retrieval-operationer.
  • Virksomheder behandler nu omkostninger som en central pålidelighedsbarriere for AI-implementering.

1. Det skjulte omkostningschok efter AI-udrulning

I de tidlige pilotforsøg ser AI-systemer ud til at være økonomisk effektive på overfladen. Trafikvolumener er lave, brugstilfælde er snævert defineret, og hold overvåger nøje adfærd i kontrollerede miljøer. Under disse betingelser vurderes omkostningerne typisk på niveauet med enkelte modelkald eller begrænsede arbejdsgange. Det giver indtryk af, at skaleringsprocessen vil være ligetil. I hvert fald er det, hvad de fleste hold troede.

Det indtryk forstærkes af, at udgifterne til generativ AI ikke viser tegn på at aftage. En ny rapport estimerer, at udgifterne til enterprise-gen-AI-applikationer nåede adskillige titals milliarder dollars i 2025, mere end en tredobling fra år til år.

Men virkeligheden ændrer sig, når agenter udsættes for rigtige brugere og operationel kompleksitet.

Produktionsmiljøer introducerer uforudsigelige samspilsmønstre, længere samtaler, baggrundsprocesser og eskalationsveje til mere avancerede modeller. En enkelt anmodning kan udløse flere nedstrømsaktioner, som ikke var synlige under testningen. Virksomhederne står over for en udfordring, som mange hold beskriver som en “fakturaoverraskelse”, en pludselig stigning i udgifter uden en klar forståelse af, hvilke adfærdsmønstre eller arbejdsgange den skyldes.

På dette stadium er udfordringen ikke kun at optimere modeller. I stedet handler det om at få indsigt i de kørselsdynamikker, der faktisk driver AI-omkostningerne.

2. Hvorfor AI-arbejdslast bryder traditionelle skyomkostningsmodeller

Tidligere udviklede traditionel skyomkostningsstyring sig om relativt forudsigelige arbejdsbelastninger. Forbrug af infrastruktur kunne måles i stabile enheder som beregningstimer, lagring eller anmodningsvolumener og endda optimeres gennem udbygningsstrategier eller forbrugsstyring. Det vigtigste at vide er, at kørselsvejene var overvejende deterministiske. Dette gjorde det muligt at forudsige udgifter med rimelig nøjagtighed og tilskrive omkostninger til bestemte tjenester eller hold.

AI-arbejdslast introducerer en anden økonomisk model. Udgifterne er overvejende knyttet til tokenforbrug, kontekststørrelse, kæder af modelkald og dynamiske arbejdsgangsbeslutninger, der varierer fra den ene interaktion til den anden.

Den samme brugeranmodning kunne følge helt forskellige kørselsveje afhængigt af tillidsniveauer, værktøjsrespons eller fallback-logik. Derfor er omkostningerne ikke lineære eller lette at forudsige, som de var før. Traditionelle FinOps-kontrolpaneler giver indsigt i infrastrukturforbrug. Det virkelige problem ligger i, hvor ofte de kæmper for at fange adfærd under kørsel ud over blot ressourceallokering. Virksomheder kan ikke virkelig bestemme økonomien i AI-systemer via traditionelle midler.

3. Den udvidende omkostningsbillede for agentbaserede systemer

Da virksomhederne bevæger sig fra enkelttrins inference til agentbaserede arkitekturer, bliver omkostningsprofilerne for AI-systemer langt mere komplekse. En ny industriel analyse forudsiger endda, at over 40% af agentbaserede AI-projekter vil mislykkes med at nå produktionsdrift inden 2027, delvist drevet af de virkelige omkostninger og kompleksiteten ved at udrulle multi-trins agentarbejdsgange i stor skala.

En brugeranmodning løses ikke gennem ét modelkald. I stedet går processen gennem koordinerede arbejdsgange, der måske involverer planlægningstrin. Tænk på informationssøgning, værktøjskørsler og interaktioner mellem flere agenter.

Ikke at tale om, at de nævnte arbejdsgange tilføjer funktioner som generering udvidet med informationssøgning (RAG) eller multi-agent-samarbejde, som introducerer yderligere betalte operationer, der akkumulerer over tid.

En interaktion kan udløse kald til dannelse af embedding-vektorer, vektor-databaseforespørgsler, iterative ræsonnementsløkker og eskaleringer til mere avancerede modeller, når tilliden falder. Selv om hver enkelt handling kan synes marginal i isolation, har deres kumulative effekt formet den samlede økonomi for systemet.

4. Hvorfor promptoptimering alene ikke kan løse kørselsøkonomi

Promptoptimering er ofte et af de første greb, teams tager i brug, når de forsøger at kontrollere AI-omkostninger. At reducere tokenforbrug, præcisere instruktioner eller forbedre svarstrukturen kan levere meningsfulde effektivitetsgevinster på niveauet med enkelte modelkald. Optimeringerne dækker kun en lille del af det bredere økonomiske billede. I produktionsmiljøer er det meste af omkostningsvolatiliteten drevet af adfærdsmønstre på tværs af arbejdsgange snarere end promptlængde alene.

Ineffektivitet opstår ofte fra unødvendige gentagelser, for omfattende informationssøgning, eskaleringer til dyrere modeller eller agenter, der udfører arbejde, der ikke ændrer resultaterne væsentligt. Uden indsigt i kørselsspor og forretningsmæssig effekt kan promptjustering blot flytte udgifterne fra den ene del af systemet til en anden.

Når AI-systemer bliver mere autonome og forbundne, kræver omkostningsstyring systemiske kontroller, der bestemmer, hvordan agenter opererer i realtid. Det handler ikke kun om lokale justeringer af, hvordan enkelte anmodninger formuleres.

En ny AI FinOps-undersøgelse, der dækkede cloududgifter i størrelsesordenen adskillige titals milliarder, nævnte en overgang til realtids AI-omkostnings indsigt, pr. hold-budgetter og automatiske budgetalarmer. Idéen er at behandle omkostning som en operationel SLO snarere end en ren økonomisk målestok.

5. Fremvoksende arkitektoniske tilgange til AI-omkostningskontrol

Som svar på den voksende omkostningsvolatilitet genovervejer virksomhederne, hvor og hvordan økonomisk kontrol skal anvendes inden for AI-systemer. I stedet for at behandle omkostningsoptimering som en efterfølgende finansøvelse introducerer hold arkitektoniske mekanismer, der påvirker udgifterne på kørselstidspunktet.

Et fremvoksende mønster, vi begynder at se, er brugen af routings- og orkestreringslag, der dynamisk vælger modeller eller arbejdsgange baseret på opgavekompleksitet, mål for latenstid eller budgetbegrænsninger. Det giver virksomheder mulighed for at balancere kvalitet og effektivitet uden at afhænge af statiske konfigurationsvalg.

Andre ruter, vi har set hold tage, inkluderer politikstyret kørselskontrol, omkostningsbevidste gentagsstrategier og centraliseret observerbarhed, der tilskriver udgifter til bestemte arbejdsgange.

Evaluering bruges også mere almindeligt som et styringsværktøj, hvor hold kun fremmer de konfigurationer, der opfylder foruddefinerede omkostnings- og præstationsgrænser.

6. Omkostning som det næste pålidelighedskriterium for enterprise AI

Da AI-systemer bliver integreret i kerneforretningsarbejdsgange, behandler virksomheder virkelig omkostning som en udrulningsbegrænsning sammen med kvalitet, sikkerhed og pålidelighed. Ligesom serviceniveaumål definerer acceptable ydelsesgrænser, opstår enhedsøkonomiske grænser som en forudsætning for at skalere automatisering sikkert. Systemer, der ikke kan opfylde forudsigelige omkostningsprofiler, er sværere at retfærdiggøre operationelt, uanset deres tekniske evne.

Dette skift får hold til at introducere “omkostningskriterier” før bredere udrulninger, understøttet af kontinuerlig overvågning, når systemerne er live. Over tid vil omkostningsstyring sandsynligvis udvikle sig til en løbende ingeniørdisciplin snarere end en enkeltstående optimeringsindsats. De virksomheder, der skalerer AI mest succesfuldt, vil være de, der designer for økonomisk kontrol fra starten og sikrer, at enhver forbedring af evnen er matchet med bæredygtige operationelle modeller.

I den næste fase af indførelsen af AI i virksomheder kan vi måske se økonomisk kontrol blive lige så fundamental for systemdesign som pålidelighed og sikkerhed.

Sohrab Hosseini, medstifter af orq.ai, er en teknologileder og iværksætter baseret i Amsterdam-området med dyb erfaring på tværs af SaaS, systemer i stor skala og anvendt AI. Siden han stiftede orq.ai i 2022, har han fokuseret på at bygge praktisk infrastruktur, der hjælper hold med at flytte store sprogmodeller fra eksperimenter til pålidelig produktionsbrug. Hans baggrund omfatter senior ledelsesroller som COO og CTO i Neocles, CTO of Future Technology i Transdev, hvor han arbejdede med autonom ruteplanlægning og flådestyring, og COO i TradeYourTrip. Samtidig er han aktiv som rådgiver og business angel, hvor han støtter tidlige AI-virksomheder med produktretning, teknisk dømmekraft og gennemførelsesstrategi.