Hva DeepSeek kan lære oss om AI-kostnader og effisiens

Med sitt søte hvallogo, kunne den nylige lanseringen av DeepSeek ha vært bare en annen ChatGPT-kopi. Det som gjorde det nyhetsverdig – og som sendte konkurrentenes aksjer i en nedadgående spiral – var hvor lite det kostet å lage. Det kastet en monkey wrench inn i USAs forestilling om investeringen det tar å trene en høyfungerende Large Language Model (LLM).

DeepSeek hevdet å ha brukt bare 6 millioner dollar på å trene sitt AI-modell. Juxtaposert med de rapporterte 80-100 millioner dollar som OpenAI brukte på Chat GPT-4 eller de 1 milliarden de har satt av til GPT-5, kaster DeepSeek denne investeringen i tvil og lar store spillere som Nvidia (NVDA ) – hvis aksjeverdi falt 600 milliarder dollar på en dag – TSMC og Microsoft (MSFT ) bekymre seg for AI-s langsiktige økonomiske bærekraft. Hvis det er mulig å trene AI-modeller for betydelig mindre enn tidligere antatt, hva betyr dette for AI-utgiftene totalt?

Selv om forstyrrelsen av DeepSeek har ført til viktige diskusjoner, synes noen nøkkel punkter å bli tapt i mengden. Imidlertid bringer nyheten opp en større fokus på hvor mye innovasjon koster og den mulige økonomiske påvirkningen av AI. Her er tre viktige innsikter som oppstår fra denne nyheten:

1. DeepSeeks $6 million prislapp er misvisende

Selskaper må forstå den totale kostnaden for eierskap (TCO) for sin infrastruktur. Selv om DeepSeeks $6 million prislapp har blitt kastet rundt mye, er det sannsynligvis bare kostnaden for dens pre-trening løp og ikke hele investeringen. Den totale kostnaden – ikke bare for å kjøre, men for å bygge og trene DeepSeek – er sannsynligvis mye høyere. Bransjeanalysefirmaet SemiAnalysis avslørte at selskapet bak DeepSeek brukte 1,6 milliarder dollar på hardware for å gjøre sin LLM til virkelighet. Så, den sannsynlige kostnaden ligger noen hvor i midten.

Uansett hva den sanne kostnaden er, har lanseringen av DeepSeek skapt en fokus på kostnadseffektiv innovasjon som kan være transformasjonell. Innovasjon blir ofte fremmet av begrensninger, og suksessen til DeepSeek understreker måten innovasjon kan skje når ingeniørteam optimaliserer sine ressurser i møte med virkelige begrensninger.

2. Inference er hva som gjør AI verdifull, ikke trening

Det er viktig å merke seg hvor mye AI-modelltrening koster, men trening representerer en liten del av den totale kostnaden for å bygge og kjøre en AI-modell. Inference — de mange måtene AI endrer hvordan mennesker arbeider, samhandler og lever — er hvor AI blir virkelig verdifull.

Dette bringer opp Jevons-paradokset, en økonomisk teori som foreslår at når teknologiske fremgangsmåter gjør bruken av en ressurs mer effektiv, kan den totale forbruket av den ressursen faktisk øke. Med andre ord, når treningkostnadene går ned, vil inference og agensforbruk øke, og den totale utgiftene vil følge med.

AI-effisiens kan faktisk føre til en stigende tide av AI-utgifter, som burde løfte alle båter, ikke bare kinesiske. Anta at de rir effisiensbølgen, vil selskaper som OpenAI og Nvidia også dra nytte av det.

3. Hva som forblir sant er at enhetsøkonomi er det viktigste

Å gjøre AI mer effektiv er ikke bare om å senke kostnadene; det handler også om å optimalisere enhetsøkonomi. The Motley Fool spår at dette året vil være året for AI-effisiens. Hvis de har rett, burde selskaper merke seg å senke sine AI-treningkostnader samt sine AI-forbrukskostnader.

Organisasjoner som bygger eller bruker AI må kjenne sine enhetsøkonomi fremfor å fremheve imponerende tall som DeepSeeks $6 millioner treningkostnad. Virkelig effisiens handler om å allokerer alle kostnader, spore AI-drevet etterspørsel og holde konstant øye på kost-til-verdi.

Cloud-enhetsøkonomi (CUE) handler om å måle og maksimere profit drevet av cloud. CUE sammenligner dine cloud-kostnader med omsetning og etterspørselsmål, og avslører hvor effektiv din cloud-utgift er, hvordan det har endret seg over tid, og (hvis du har riktig plattform) de beste måtene å øke denne effisiensen på.

Å forstå CUE har enda større nytte i en AI-kontekst, ettersom det er innebygget mer dyrt å forbruke enn tradisjonelle cloud-tjenester solgt av hyperscalerne. Selskaper som bygger agens-applikasjoner kunne beregne sin kostnad per transaksjon (f.eks. kostnad per faktura, kostnad per levering, kostnad per handel osv.) og bruke dette til å vurdere avkastningen på investeringen av spesifikke AI-drevne tjenester, produkter og funksjoner. Ettersom AI-utgiftene øker, vil selskaper bli tvunget til å gjøre dette; ingen selskap kan kaste uendelige penger på eksperimentell innovasjon for alltid. Til slutt må det gjøre forretningsmessig mening.

Mot større effisiens

Uansett hvor meningsfullt $6 million-tallet er, kan DeepSeek ha gitt en vendepunkt som våkner tech-industrien opp til den uunngåelige betydningen av effisiens. La oss håpe at dette åpner flomportene for kostnadseffektiv trening, inference og agens-applikasjoner som låser opp det sanne potensialet og avkastningen på AI.