Ukryte koszty AI w dużej skali

1 czerwca 2026, GitHub trwale wycofał płatny w stałej opłacie „premium requests” dla Copilot i zastąpił go kredytami AI rozliczanymi według zużycia. Kiedy miesiąc później pojawiły się pierwsze faktury według nowego modelu, niektórzy użytkownicy agentic zauważyli rachunki, na które nie byli przygotowani: Jeden programista zgłosił miesięczne koszty skaczące z $29 do $750 dla najcięższych przepływów pracy agentic.

Był to widoczny przykład szerszej zmiany na rynku narzędzi AI w ciągu 2026 roku – i taki, który może czekać na organizacje wciąż płacące ryczałt dziś.

Organizacje liczą godziny, które oszczędzają. Wiele z nich nie liczy tego, co ryczałt utrzymuje niewidoczne: zużycie kontekstu i ponowne próby po niepowodzeniu. Inne koszty w ogóle nie pojawiają się na fakturze dostawcy, w tym czas poświęcony na przeglądanie wyników i utrzymanie podpowiedzi. Gdy rozliczenia przechodzą na rzeczywiste zużycie, organizacje bez dyscypliny kosztowej ryzykują rachunek, który zaskoczy je w podobny sposób, jak nowy model Copilot zaskoczył niektórych użytkowników.

Kontekst, którego nikt nie wycenia

AI oczywiście potrzebuje kontekstu; to nie jest wątpliwe. Pytanie brzmi, czy przesyłany kontekst jest istotny, czy po prostu wygodnie dostępny. Wysłanie całego dokumentu to najszybszy sposób dostarczenia modelowi informacji. Nie jest to automatycznie najtańszy ani najlepszy sposób.

W maju 2026 roku Laboratorium Gospodarki Cyfrowej Stanfordu opublikowało analizę zadań kodowania agentowego w ośmiu najnowocześniejszych modelach i stwierdziło, że te zadania zużywają do tysiąca razy więcej tokenów niż prosty czat kodowy, przy czym głównym czynnikiem nie jest wyjście modelu, lecz kontekst wejściowy, który jest wielokrotnie ponownie wysyłany. Agent odczytuje całą swoją historię przy każdym kolejnym kroku. To samo zadanie, uruchamiane wielokrotnie, wykazywało zmienność zużycia tokenów nawet do trzydziestokrotności.

Dokładność nie rośnie liniowo wraz z objętością kontekstu: często osiąga szczyt przy umiarkowanej ilości, a potem tylko zwiększa koszty bez dodawania wartości.

Ślepota na tokeny nie wynika więc z tego, że AI nie potrzebuje kontekstu. Chodzi o fakt, że bez pomiaru nikt nie pyta, czy cały ten kontekst jest naprawdę potrzebny. Przy ryczałcie pytanie to łatwo zignorować. Przy rozliczeniach opartych na zużyciu staje się to częścią kosztu.

Kiedy płacisz podwójnie za niepowodzenie

Przepływy agentowe niosą kolejny koszt, który prawie nigdy nie pojawia się w kalkulacjach ROI. Wyobraź sobie uproszczony łańcuch dziesięciu kroków, z których każdy ma 95% szans na prawidłowe działanie. Brzmi to wystarczająco niezawodnie, ale po połączeniu, ten łańcuch ma tylko około 60% szans na przejście całego przebiegu bez żadnego błędu.

W przepływie, który przy każdym wywołaniu ponownie wysyła zgromadzony kontekst, każde niepowodzenie i następująca po nim ponowna próba nie kosztują tylko powtórzonego kroku: płacisz ponownie za wszystko, co zostało wysłane wcześniej.

To powszechny ból, przez który przechodzi prawie każdy przy budowie pierwszego pipeline’u agentowego. Przeszedłem to sam. Na początku, przy kilku agentach, nie miało to dużego znaczenia. Jednak w miarę rozrostu pipeline’u każdy nieudany przebieg stawał się droższy, i to skłoniło mnie do zadawania pytań, jaki kontekst potrzebuje każdy agent i jak go buforować, zamiast pytać jedynie, czy przebieg się powiódł.

Ta sama analiza oblicza, że agent dziesięciokrokowy z 95% niezawodnością na krok zużywa około 40% więcej tokenów na ponowne próby niż system idealnie niezawodny. To koszt, który zobaczysz na fakturze, ale prawdopodobnie nie znajdziesz go w żadnym arkuszu ROI.

Nadzór nie jest błędem. Należy go uwzględnić w budżecie

Ten punkt należy precyzyjnie wyjaśnić, ponieważ łatwo go źle zinterpretować. Przeglądanie wyników AI nie jest awarią systemu; jest to uzasadniona, oczekiwana część pracy z AI, tak jak przegląd kodu jest uzasadnioną częścią pracy z programistami. Problem nie polega na tym, że wyniki są przeglądane. Problem polega na tym, że ta praca prawie nigdy nie jest uwzględniana w kalkulacji, ile AI faktycznie zaoszczędziło.

Instytut Work AI firmy Glean przeprowadził ankietę wśród 6 000 pracowników i stwierdził, że automatyzacja oszczędza im około 11 godzin tygodniowo, ale prawie sześć i pół godziny z tych godzin przeznaczane jest na zadania konserwacyjne: dostarczanie kontekstów systemom AI, sprawdzanie ich pracy i naprawianie błędów. Netto oszczędność wynosi więc bliżej czterech i pół godziny – mniej niż połowa pierwotnej liczby. AI nadal oszczędza czas, tylko nie tak dużo, jak sugeruje pierwsza liczba.

Podpowiedzi wymagają konserwacji, nie tylko autora

Podpowiedzi zachowują się dziś bardziej jak kod produkcyjny: aktualizacja modelu, zmiana kontekstu lub pozornie drobna edycja mogą zmienić ich działanie. Bez wersjonowania i testowania te zmiany mogą cicho wprowadzać problemy. Testy regresji, które są standardową praktyką w przypadku kodu, wciąż często pomijane są przy weryfikacji podpowiedzi. Zmiana, która wydaje się drobną edycją jednego zdania, może trafić do produkcji i obniżyć dokładność, nie zauważona, dopóki problem nie narasta do widocznej skali.

Zbudowanie odpowiedniego frameworku ewaluacji – w tym zestawu testowego i automatycznych testów regresji przy każdej zmianie – to dodatkowa praca, która prawie nigdy nie pojawia się w kalkulacji “AI oszczędza czas”.

Tańsze tokeny, wyższe rachunki

GitHub Copilot nie był wyjątkiem. Badanie przytoczone przez CFO Dive wykazało, że prawie siedem na dziesięć firm w USA zgłosiło przynajmniej częściowe przekroczenia budżetu na AI w ciągu ostatniego roku, głównie przed pełnym przejściem na rozliczenia oparte na zużyciu, a nie po nim.

Bain & Company, w swojej czerwcowej analizie ekonomiki tokenów, dodaje paradoks, który najlepiej oddaje całą sytuację: cena za token spadła o połowę w ciągu roku, podczas gdy zużycie w tym samym okresie wzrosło 4,5‑krotnie.

Model stał się tańszy, ale rachunek pozostaje uporczywie wysoki. Firmy przeszły na nowsze modele, przydzieliły agentom bardziej złożone zadania i znalazły dla nich więcej przepływów pracy. Tańszy token nie oznaczał niższych wydatków; oznaczał, że pojawiło się więcej powodów do jego zużycia.

Jak przygotować się przed przyjściem rachunku

Ramowy schemat, który z tego wynika, nie dotyczy używania mniejszej ilości AI. Chodzi o poznanie kosztów AI, zanim zdecydujesz się na dalsze skalowanie.

1. Najpierw uzyskaj przejrzystość

Aż do momentu, gdy podzielisz zużycie według zespołu, przepływu pracy, aplikacji i zakończonego zadania, każde rozszerzenie jest ślepą zakładką. Ta przejrzystość nie jest darmowa: w szczególności w przypadku agentowych przepływów pracy, śledzenie każdego kroku, rejestrowanie, co się stało i dlaczego, oraz monitorowanie niekontrolowanych pętli wymaga własnego czasu inżynieryjnego i narzędzi. Zaplanuj to jako część kosztu utrzymania AI, a nie jako późniejsze dodatki.

2. Przelicz ROI na bazie netto

Odejmij czas poświęcony na przegląd, poprawki i utrzymanie promptów od zgłoszonych zaoszczędzonych godzin. Jeśli oszczędność czasu jest celem przypadku użycia i wynik netto jest ujemny lub niezweryfikowany, nie jest gotowy do skalowania. Gdy zamierzonym benefitem jest jakość, pojemność, redukcja ryzyka lub przychód, zmierz ten rezultat bezpośrednio.

3. Stosuj dyscyplinę kosztową, ale nie jednolicie

Sztywny limit wydatków ma sens tam, gdzie porażka jest tania: wewnętrzne narzędzia, eksperymentalni agenci, środowiska deweloperskie. Dla krytycznych funkcji skierowanych do klienta – na przykład asystenta obsługi klienta – sztywny limit nie jest wykonalny, ponieważ tworzy ryzyko awarii. W takim wypadku potrzebne są warstwowe przejścia do tańszego modelu i wczesne alerty, a nie wyłączenie przy zerze.

4. Traktuj prompty i ewaluacje jako zasoby inżynieryjne

Wersjonuj je, testuj i przeglądaj zmiany przed wdrożeniem, tak jak zarządzałbyś kodem produkcyjnym.

Wejdź w odnowienia z własnymi danymi

Ceny dostawców są trudne do oceny bez własnych danych o zużyciu. Przed odnowieniem lub zmianą modelu oblicz, ile kosztowałyby Twoje istniejące przepływy pracy przy proponowanych warunkach. Celem nie jest jedynie wynegocjowanie niższej ceny. Chodzi o to, by wiedzieć, jak ta cena zachowa się przy Twoim rzeczywistym poziomie zużycia, zamiast dowiadywać się tego z faktury.

Trzy rzeczy, które możesz zrobić w tym tygodniu: sprawdzić, czy możesz rozbić zużycie AI według zespołu i przepływu pracy; wybrać jeden przypadek użycia i zestawić czas poświęcony na przegląd z godzinami zgłoszonymi jako zaoszczędzone; oraz dowiedzieć się, gdzie sztywny limit wydatków może spowodować awarię zamiast kontrolować koszt.

Koszty AI można kontrolować. Po prostu nie, gdy po raz pierwszy dowiadujesz się o nich z rachunku.