Uber zużył roczny budżet na AI w 120 dni. Jak płacić mniej za tokeny?

Rachunki za modele językowe rosną szybciej niż firmowe plany, a przykład Ubera pokazuje, że problemem jest głównie sposób korzystania z AI, a nie sama cena. Zestawiamy sposoby na niższe koszty i sprawdzamy, które są w zasięgu małej firmy.

Przez dwa lata firmy sprawdzały, co potrafi sztuczna inteligencja. Teraz dyrektorzy finansowi zaczynają liczyć, ile to kosztuje i co z tego wynika. Najgłośniejszy przykład to Uber, ale mechanizm, który tam zadziałał, grozi każdej organizacji rozliczającej AI za zużycie. Sprawdziliśmy, skąd biorą się te wydatki i jak można je ograniczyć.

Jak Uber zużył budżet w cztery miesiące

W grudniu 2025 roku Uber wdrożył dla około 5 tys. programistów narzędzia do pisania kodu z pomocą AI: Claude Code od Anthropic i Cursor. Według „Fortune” w pierwszym kwartale 2026 roku odsetek inżynierów korzystających z Claude Code wzrósł z 32 do 84 proc. Kierownictwo przyspieszało wdrożenie wewnętrznymi rankingami, w których zespoły oceniano za intensywność korzystania z AI. Rankingi nagradzały więc liczbę zapytań, a nie gotowe funkcje.

Miesięczny koszt na programistę dochodził do 2 tys. dol. Źródła różnie podają punkt wyjścia: ITwiz pisze o bazowych 150 dol., „Fortune” o widełkach od 500 dol. Według ITwiz CTO firmy Praveen Neppalli Naga zużył podczas dwugodzinnej prezentacji tokeny warte 1200 dol. W kwietniu roczny budżet na AI był wyczerpany. COO Andrew Macdonald przyznał w podcaście Rapid Response, że nie potrafi powiązać rosnącego zużycia z 25-procentowym wzrostem liczby użytecznych funkcji dla pasażerów i kierowców. „That link is not there yet” - powiedział, czyli tego związku jeszcze nie widać. W czerwcu firma wprowadziła limit 1500 dol. miesięcznie na pracownika i narzędzie, a jego przekroczenie wymaga zgody przełożonego.

Dlaczego licznik tokenów rozsadza budżety

Token to jednostka, na którą model dzieli tekst: całe krótkie słowo, część słowa, znak interpunkcyjny. Płaci się osobno za tokeny wejściowe (polecenie, wklejony dokument, historia rozmowy) i wyjściowe (odpowiedź modelu), przy czym te drugie są zwykle droższe. Według ITwiz polski tekst często zużywa więcej tokenów niż ta sama treść po angielsku.

Licencje SaaS (oprogramowanie w abonamencie) przyzwyczaiły działy finansowe do stałych, przewidywalnych opłat. Rozliczenie za tokeny działa jak licznik prądu, a agenci AI, czyli systemy, które samodzielnie odpytują model w pętli i wywołują inne narzędzia, kręcą tym licznikiem znacznie szybciej. Gartner szacuje, że agent zużywa od 5 do 30 razy więcej tokenów na zadanie niż zwykły czatbot. Anthropic na podstawie własnych pomiarów podaje mniej: około czterech razy więcej dla pojedynczego agenta i około 15 razy więcej dla systemu wielu agentów.

Analitycy ostrzegali przed tym wcześniej. Gartner już w czerwcu 2025 roku przewidywał, że ponad 40 proc. projektów agentowej AI zostanie przerwanych do końca 2027 roku, między innymi z powodu rosnących kosztów i niejasnej wartości biznesowej. Często cytowany raport MIT NANDA z 2025 roku mówi, że około 95 proc. organizacji nie uzyskało mierzalnego zwrotu z generatywnej AI. Raport jest jednak wstępny, nie przeszedł recenzji naukowej i krytykuje się go za małą próbę, więc do tej liczby trzeba podchodzić ostrożnie.

Pierwszy sposób: tańszy model tam, gdzie wystarczy

29 września OpenAI pokazało GPT-6.1 Sol. Kosztuje 2 dol. za milion tokenów wejściowych i 10 dol. za milion wyjściowych, czyli pięć razy mniej niż GPT-6 Astra (10 i 50 dol.). Tokeny pobierane z pamięci podręcznej (cache, czyli zapisanych wcześniej, powtarzalnych fragmentów poleceń) kosztują 0,10 dol. za milion. Przykładowo zespół, który miesięcznie zużywa 100 mln tokenów wejściowych i 20 mln wyjściowych, zapłaciłby za Astrę 2000 dol., a za Sol 400 dol.

OpenAI deklaruje, że przy niskim poziomie wysiłku obliczeniowego odsetek odpowiedzi z błędem merytorycznym spadł z 11,4 proc. (GPT-6 Sol) do 7,7 proc. i że różnica wobec GPT-6 Astra nie przekracza 1,9 pkt proc. To jednak wyniki testów wewnętrznych OpenAI. Niezależnej oceny modelu we wdrożeniach firmowych jeszcze nie ma, więc przed zmianą domyślnego modelu warto sprawdzić go na własnych zadaniach. Sol jest dostępny w planach Plus, Pro, Business, Enterprise i Edu w ramach ChatGPT Work i Codex.

Uber poszedł później tą drogą. Do sierpnia czterokrotnie zwiększył liczbę pracowników korzystających z najmocniejszych modeli i jednocześnie obniżył koszt tokena. Pomogło lepsze wykorzystanie cache, zmiana modelu domyślnego, testowanie nowych modeli pod kątem efektywności i pokazanie pracownikom ich własnego zużycia oraz kosztu na godzinę.

Drugi sposób: kod i model lokalny przed drogim API

Konsultant SEO Chris Green opisał na łamach Search Engine Journal eksperyment z Gemini Nano, małym modelem wbudowanym w przeglądarkę Chrome i działającym na komputerze użytkownika. Nano dobrze zamieniał zebrane dane w czytelny opis, ale zawodził przy trudniejszej, końcowej ocenie, w której trzeba połączyć kilka sygnałów. Tam lepiej radził sobie duży model dostępny przez API (interfejs programistyczny, przez który aplikacja korzysta z modelu na serwerach dostawcy i płaci za zużycie).

Z eksperymentu wyszedł podział na trzy warstwy: precyzyjne operacje wykonuje zwykły kod, lekką interpretację mały model lokalny, a duży model włącza się tylko wtedy, gdy potrzebny jest osąd. Green zauważa też, że ograniczenia małego modelu zmusiły go do poprawienia kodu, a to poprawiło wyniki także dużych modeli. Ta sama zasada działa poza SEO: formularze i sztywne reguły taniej obsłuży skrypt albo klasyczna automatyzacja, a agent ma sens tam, gdzie jest język, niepewność i wyjątki.

Trzeci sposób: kierowanie zapytań do odpowiedniego modelu

Routing polega na tym, że system sam decyduje, który model obsłuży dane zapytanie. Recenzowane badanie RouteLLM (konferencja ICLR 2025) wykazało obniżkę kosztów o ponad 85 proc. przy zachowaniu 95 proc. jakości modelu flagowego. Do tego dochodzi cache, który według Anthropic obniża koszt długich, powtarzalnych poleceń nawet o 90 proc., oraz przetwarzanie wsadowe w API OpenAI, tańsze o połowę.

Arkadiusz Ilgowski, CEO NATEK, mówi ITwiz, że firmy coraz częściej uruchamiają modele open-weight, czyli z publicznie dostępnymi wagami, na własnych lub kontrolowanych serwerach:

Co jest dostępne dla korporacji, a co dla małej firmy

Duża organizacja może postawić własne modele otwarte, zbudować routing i przydzielić limity grupom pracowników. Paweł Górka, CIO w Bruk-Bet, proponuje osobne pakiety tokenów i narzędzi dla programistów, pracowników biurowych i analityków finansowych, z jasno określonym celem i szkoleniem. Własna infrastruktura oznacza jednak koszty bezpieczeństwa, utrzymania i aktualizacji. Ilgowski zaznacza, że modele komercyjne pozostają lepszym wyborem tam, gdzie skala jest za mała, by budować własne środowisko.

Mała firma nie potrzebuje serwerów, żeby płacić mniej. Wystarczy tańszy model jako domyślny, a flagowy tylko do trudnych zadań. Do tego cache dla powtarzalnych szablonów, skrypt zamiast modelu przy prostym przetwarzaniu danych i limity ustawione w panelu dostawcy.

Naszym zdaniem najważniejsza lekcja z Ubera nie dotyczy ceny modelu, tylko tego, co firma mierzy. Zespoły nagradzane za zużycie zużywają więcej. Warto więc liczyć koszt jednej skończonej rzeczy: zamkniętego zgłoszenia, wdrożonej funkcji, obsłużonej sprawy. Stanisław Korwin-Kossakowski, CEO GoNextStage, radzi przy tym, by pełny rachunek robić dopiero po uporządkowaniu zapytań, bo wcześniej pokazuje on koszt chaosu, a nie koszt AI.