Co może nas nauczyć DeepSeek o kosztach i wydajności sztucznej inteligencji

Z jego uroczym logo wieloryba, niedawne wydanie DeepSeek mogło się ograniczyć do kolejnej kopii ChatGPT. To, co sprawiło, że stało się godne uwagi – i co spowodowało, że akcje konkurentów poszły w dół – to to, jak niewiele kosztowało jego stworzenie. Skutecznie wrzuciło monkey wrench do amerykańskiej koncepcji inwestycji niezbędnej do szkolenia wysoko funkcjonalnego dużego modelu językowego (LLM).

DeepSeek rzekomo wydał tylko 6 milionów dolarów na szkolenie swojego modelu AI. Porównaj to z raportowanymi 80-100 milionami dolarów, które OpenAI wydało na Chat GPT-4 lub 1 miliardem dolarów, które wyznaczyli na GPT-5. DeepSeek poddaje w wątpliwość ten poziom inwestycji i pozostawia duże firmy, takie jak Nvidia (NVDA ) – których wartość akcji spadła o 600 miliardów dolarów w ciągu jednego dnia – TSMC i Microsoft (MSFT ), niepewne co do długoterminowej opłacalności finansowej AI. Jeśli jest możliwe przeszkolenie modeli AI za znacznie mniej, niż wcześniej zakładano, co to oznacza dla wydatków na AI w ogóle?

Chociaż zakłócenie DeepSeek doprowadziło do ważnych dyskusji, niektóre kluczowe punkty wydają się być tracone w chaosie. Niemniej, to, co wiadomość wywołuje, to większy nacisk na to, ile kosztuje innowacja i możliwy wpływ ekonomiczny AI. Oto trzy ważne spostrzeżenia wynikające z tej wiadomości:

1. Cena 6 milionów dolarów DeepSeek jest myląca

Firmy muszą zrozumieć całkowity koszt posiadania swojej infrastruktury (TCO). Chociaż cena 6 milionów dolarów DeepSeek była często wymieniana, jest to prawdopodobnie koszt tylko jego wstępnego szkolenia, a nie całkowitej inwestycji. Całkowity koszt – nie tylko prowadzenia, ale także budowy i szkolenia DeepSeek – jest prawdopodobnie znacznie wyższy. Firma analityczna SemiAnalysis ujawniła, że firma za DeepSeek wydała 1,6 miliarda dolarów na sprzęt, aby uczynić swój LLM rzeczywistością. Więc prawdopodobny koszt jest gdzieś pośrodku.

Niezależnie od tego, jaki jest prawdziwy koszt, pojawienie się DeepSeek stworzyło nacisk na innowacje oparte na kosztach, które mogą być przełomowe. Innowacja jest często pobudzana przez ograniczenia, a sukces DeepSeek podkreśla sposób, w jaki innowacja może nastąpić, gdy zespoły inżynierskie optymalizują swoje zasoby w obliczu rzeczywistych ograniczeń.

2. Inferencja jest tym, co sprawia, że AI jest wartościowe, a nie szkolenie

Ważne jest, aby zwrócić uwagę na to, ile kosztuje szkolenie modelu AI, ale szkolenie stanowi niewielką część całkowitego kosztu budowy i prowadzenia modelu AI. Inferencja — różne sposoby, w jakie AI zmienia sposób, w jaki ludzie pracują,互одействują i żyją — jest tym, co sprawia, że AI staje się naprawdę wartościowe.

To podnosi paradoks Jevonsa, teorię ekonomiczną, która sugeruje, że wraz ze wzrostem efektywności technologicznej, ogólny zużycie zasobu może się zwiększyć. Innymi słowy, wraz ze spadkiem kosztów szkolenia, inferencja i konsumpcja agentycka wzrosną, a wydatki ogółem będą rosły.

Efektywność AI może w rzeczywistości prowadzić do wzrostu wydatków na AI, co powinno podnieść wszystkie łodzie, a nie tylko chińskie. Zakładając, że będą jeździć na fali efektywności, firmy takie jak OpenAI i Nvidia również skorzystają.

3. To, co pozostaje prawdą, to to, że ekonomia jednostkowa ma największe znaczenie

Uczynienie AI bardziej efektywnym nie jest tylko kwestią obniżenia kosztów; jest to również optymalizacja ekonomii jednostkowej. The Motley Fool przewiduje, że ten rok będzie rokiem efektywności AI. Jeśli mają rację, firmy powinny zwrócić uwagę na obniżenie kosztów szkolenia AI, a także kosztów konsumpcji AI.

Organizacje, które budują lub używają AI, muszą wiedzieć, jaka jest ich ekonomia jednostkowa, zamiast wskazywać imponujące liczby, takie jak 6-milionowy koszt szkolenia DeepSeek. Prawdziwa efektywność oznacza alokację wszystkich kosztów, śledzenie popytu generowanego przez AI i stałe monitorowanie kosztów w stosunku do wartości.

Ekonomia jednostkowa chmury (CUE) ma do czynienia z pomiaraniem i maksymalizowaniem zysku generowanego przez chmurę. CUE porównuje koszty chmury z metrykami przychodu i popytu, ujawniając, jak efektywne są wydatki na chmurę, jak to się zmieniło w czasie i (jeśli masz odpowiednią platformę) najlepsze sposoby zwiększenia tej efektywności.

Zrozumienie CUE ma jeszcze większą użyteczność w kontekście AI, biorąc pod uwagę, że jest ono niezbędnie droższe w konsumpcji niż tradycyjne usługi chmury sprzedawane przez hyperscalers. Firmy budujące aplikacje agentyckie mogą obliczyć swój koszt na transakcję (np. koszt na fakturę, koszt na dostawę, koszt na transakcję itp.) i użyć tego do oceny zwrotu z inwestycji w określone usługi, produkty i funkcje AI. Wraz ze wzrostem wydatków na AI, firmy będą musiały to robić; żadna firma nie może rzucać niekończącymi się dolarami na innowacje eksperymentalne wiecznie. Ostatecznie musi to mieć sens biznesowy.

Ku większej efektywności

Niezależnie od tego, jak istotna jest kwota 6 milionów dolarów, DeepSeek może dostarczyć moment przełomowy, który obudzi branżę technologiczną do nieuniknionego znaczenia efektywności. Miejmy nadzieję, że to otworzy floodgates dla opłacalnych szkoleń, inferencji i aplikacji agentyckich, które odblokują prawdziwy potencjał i zwrot z inwestycji w AI.