Mam klienta - firmę e-commerce z Łodzi, 40 pracowników. W styczniu ich miesięczny rachunek za API OpenAI wynosił 1200 zł. W maju było to już 8700 zł. Przychody w tym czasie? Wzrosły o 12%. Koszty AI - o 625%. To nie jest wyjątek. To wzorzec, który widzę u coraz większej liczby polskich firm.
Boom na sztuczną inteligencję w polskim biznesie trwa w najlepsze. Firmy wdrażają ChatGPT, Claude'a, automatyzacje oparte na dużych modelach językowych. Efekty bywają spektakularne - szybsza obsługa klienta, automatyczne generowanie ofert, analiza dokumentów w sekundy zamiast godzin. Problem polega na tym, że mało kto liczy, ile to naprawdę kosztuje. A kiedy w końcu ktoś siada do arkusza kalkulacyjnego, okazuje się, że rachunek za tokeny rośnie szybciej niż jakikolwiek zysk, który AI miała przynieść.
Nie piszę tego, żeby straszyć ani zniechęcać do AI. Wręcz przeciwnie - uważam, że sztuczna inteligencja to najważniejsze narzędzie biznesowe ostatnich dekad. Ale narzędzie trzeba umieć używać ekonomicznie. Inaczej zamiast przewagi konkurencyjnej dostajemy dziurę w budżecie.
Dlaczego koszty AI wymykają się spod kontroli
Większość polskich firm zaczyna przygodę z AI od prostych zastosowań - subskrypcja ChatGPT Plus za 20 dolarów miesięcznie na pracownika, może kilka automatyzacji w Make lub Zapier. Na tym etapie koszty są przewidywalne i niskie. Problemy zaczynają się, gdy firma przechodzi na API i buduje własne rozwiązania.
Mechanizm jest prosty, ale zdradliwy. Każde zapytanie do modelu AI kosztuje tokeny. Im dłuższy prompt, im więcej kontekstu przekazujesz, im bardziej zaawansowany model wybierasz - tym więcej płacisz. A firmy mają naturalną tendencję do eskalacji: skoro ChatGPT-4o działa dobrze, to może GPT-4.1 będzie działać jeszcze lepiej? Skoro analiza jednego dokumentu zajmuje 2000 tokenów, to może wrzućmy od razu cały katalog produktów jako kontekst?
Według danych z raportu TechCrunch, problem dotyczy całej branży - nie tylko polskich MŚP. Firmy technologiczne na całym świecie zmagają się z tym, że koszty infrastruktury AI rosną szybciej niż przychody, które ta infrastruktura generuje. Anthropic, twórca Claude'a, wydaje miliardy na obliczenia. OpenAI przy przychodach rzędu 10 miliardów dolarów rocznie wciąż nie jest rentowne. Jeśli sami producenci AI mają problem z ekonomiką, to co dopiero firma produkująca meble z Radomia?
Widzę trzy główne pułapki kosztowe u moich klientów:
- Nadmiarowy kontekst - firmy wysyłają do modelu całe bazy wiedzy przy każdym zapytaniu, zamiast precyzyjnie filtrować potrzebne informacje. Jeden z moich klientów wysyłał 15 000 tokenów kontekstu przy każdym zapytaniu klienta na czacie, podczas gdy wystarczyło 2000.
- Wybór zbyt dużego modelu - używanie GPT-4.1 do zadań, z którymi świetnie radzi sobie GPT-4.1-mini albo nawet GPT-4.1-nano. Różnica w cenie? Nawet 10-krotna.
- Brak cache'owania - te same zapytania, te same odpowiedzi, generowane od zera za każdym razem. Firma szkoleniowa z Krakowa płaciła za generowanie tych samych opisów kursów po 30-40 razy dziennie, bo nikt nie pomyślał o zapisywaniu wyników.
Jak policzyć prawdziwy koszt AI w firmie
Zanim zaczniesz optymalizować, musisz wiedzieć, ile naprawdę wydajesz. I nie chodzi tylko o fakturę od OpenAI. Prawdziwy koszt AI w firmie składa się z kilku warstw, o których wiele osób zapomina.
Pierwsza warstwa to bezpośrednie koszty API - tokeny, subskrypcje, opłaty za infrastrukturę chmurową. To jest ta część, którą łatwo zobaczyć na fakturze. Dla typowej polskiej firmy MŚP, która aktywnie korzysta z AI, to od kilkuset do kilkunastu tysięcy złotych miesięcznie.
Druga warstwa to koszty integracji i utrzymania. Ktoś musi te automatyzacje budować, testować, naprawiać gdy się psują. Jeśli zatrudniasz do tego programistę albo zewnętrzną firmę, dolicz od 5000 do 20 000 zł miesięcznie. Jeśli robisz to sam jako właściciel - policz swój czas. Godzina twojej pracy ma swoją wartość.
Trzecia warstwa to koszty błędów. AI halucynuje. Generuje nieprawdziwe informacje. Wysyła klientom odpowiedzi, które nie mają sensu. Jeden z moich klientów - biuro rachunkowe z Wrocławia - odkrył po dwóch miesiącach, że ich asystent AI podawał klientom błędne terminy podatkowe w około 8% przypadków. Koszt naprawy tych błędów i odbudowy zaufania klientów? Trudny do oszacowania, ale realny.
Proponuję prosty wzór do oceny rentowności wdrożenia AI:
ROI z AI = (zaoszczędzony czas × stawka godzinowa + dodatkowe przychody) - (koszty API + koszty integracji + koszty błędów)
Kiedy robię ten rachunek z klientami, wynik bywa zaskakujący. Część wdrożeń okazuje się fantastycznie opłacalna - zwłaszcza te proste, dobrze zdefiniowane. Inne - szczególnie ambitne, rozbudowane projekty - wychodzą na minus. Nie dlatego, że AI nie działa, ale dlatego, że nikt nie kontrolował kosztów.
Pięć konkretnych sposobów na obniżenie rachunku za AI
Przejdźmy do praktyki. Oto strategie, które stosuję z moimi klientami i które realnie obniżają koszty, często o 50-70%, bez utraty jakości.
1. Dopasuj model do zadania. To najprostszy i najskuteczniejszy ruch. Nie każde zadanie wymaga najdroższego modelu. Klasyfikacja e-maili, proste odpowiedzi na FAQ, ekstrakcja danych z faktur - do tego wystarczą mniejsze, tańsze modele. GPT-4.1-mini kosztuje ułamek ceny pełnego GPT-4.1, a dla wielu zadań daje identyczne wyniki. U jednego klienta z branży logistycznej zamiana modelu w systemie klasyfikacji zleceń obniżyła miesięczny koszt z 3200 zł do 480 zł. Jakość? Spadła o 2 punkty procentowe - z 94% na 92% trafności. Akceptowalny kompromis.
2. Optymalizuj prompty. Długi prompt to drogi prompt. Zamiast wysyłać instrukcję na 500 słów przy każdym zapytaniu, zainwestuj czas w napisanie krótkiej, precyzyjnej instrukcji. Technika "few-shot prompting" - gdzie dajesz modelowi 2-3 przykłady zamiast długiego opisu - często daje lepsze wyniki przy mniejszej liczbie tokenów. Wykorzystuj też prompt caching, który oferują zarówno OpenAI, jak i Anthropic. Jeśli część twojego promptu jest stała (instrukcja systemowa, opis firmy), cache pozwala nie płacić za nią przy każdym zapytaniu.
3. Wdróż inteligentne cache'owanie odpowiedzi. Jeśli twój chatbot odpowiada na pytania o godziny otwarcia, politykę zwrotów czy cennik - to są pytania, które powtarzają się dziesiątki razy dziennie. Zapisuj odpowiedzi i serwuj je z pamięci podręcznej zamiast generować od nowa. Prosty system cache oparty na podobieństwie semantycznym (np. z użyciem embeddingów) potrafi obsłużyć 40-60% zapytań bez wywoływania drogiego modelu.
4. Ustaw limity i alerty budżetowe. OpenAI, Anthropic i inne platformy pozwalają ustawiać limity wydatków. Korzystaj z tego. Ustaw alert na 80% planowanego budżetu miesięcznego. Ustaw twardy limit, po którego przekroczeniu system przełącza się na tańszy model albo kolejkuje zapytania. To banalne do wdrożenia, a chroni przed niespodziankami na fakturze. Jeden z moich klientów - sklep internetowy z Gdańska - odkrył dzięki alertom, że ich system rekomendacji produktowych miał pętlę, która generowała tysiące zbędnych zapytań do API w nocy. Bez alertu zapłaciliby za to ponad 4000 zł w ciągu jednego weekendu.
5. Rozważ modele lokalne dla powtarzalnych zadań. Dla firm, które przetwarzają duże wolumeny danych, uruchomienie mniejszego modelu open-source (np. Llama 3, Mistral, Phi-3) na własnym serwerze lub w polskiej chmurze może być tańsze niż płacenie za API. Próg opłacalności to zazwyczaj kilkadziesiąt tysięcy zapytań dziennie - ale dla firm z dużym ruchem klientów to realistyczny scenariusz. Trzeba jednak uczciwie powiedzieć: lokalne modele wymagają kompetencji technicznych i nie dorównują jakością najlepszym modelom komercyjnym w złożonych zadaniach.
Strategia na przyszłość - jak planować budżet AI
Ceny tokenów spadają - to dobra wiadomość. W ciągu ostatnich 18 miesięcy koszt miliona tokenów wejściowych dla najlepszych modeli spadł kilkukrotnie. Konkurencja między OpenAI, Anthropic, Google i Meta działa na korzyść użytkowników. Ale jednocześnie rośnie apetyt firm na coraz bardziej zaawansowane zastosowania, które zjadają te oszczędności i jeszcze więcej.
Dlatego rekomenduję moim klientom podejście, które nazywam "budżetem AI jako procent przychodu". Zamiast traktować wydatki na AI jako koszt technologiczny bez limitu, ustal z góry, ile procent miesięcznego przychodu możesz przeznaczyć na sztuczną inteligencję. Dla większości polskich MŚP rozsądny przedział to 1-3% przychodu. Jeśli twoja firma zarabia 500 000 zł miesięcznie, twój budżet AI to 5000-15 000 zł. W ramach tego budżetu priorytetyzuj wdrożenia według ROI.
Druga zasada: zaczynaj od pilotażu. Nie wdrażaj AI w całej firmie na raz. Wybierz jeden proces, zmierz koszty i efekty przez 2-3 miesiące, a dopiero potem skaluj. Firma produkcyjna z Poznania, z którą pracowałem w tym roku, zaczęła od automatyzacji odpowiedzi na zapytania ofertowe. Po dwóch miesiącach pilotażu wiedzieli dokładnie: koszt 1800 zł miesięcznie, oszczędność 60 roboczogodzin, zero krytycznych błędów. Dopiero z tymi danymi podjęli decyzję o rozszerzeniu na kolejne procesy.
Trzecia zasada: monitoruj na bieżąco. Koszty AI potrafią skoczyć z dnia na dzień - bo ktoś zmienił prompt, bo wzrósł ruch na stronie, bo dostawca zmienił cennik. Tygodniowy przegląd wydatków na AI powinien być tak samo naturalny jak sprawdzanie stanu konta firmowego.
Warto też mieć plan B. Co się stanie, jeśli OpenAI podniesie ceny? Albo jeśli model, na którym opierasz swój kluczowy proces, zostanie wycofany? Dywersyfikacja dostawców AI nie jest paranoją - to rozsądne zarządzanie ryzykiem. Buduj swoje rozwiązania tak, żeby zmiana modelu z GPT na Claude'a czy Gemini była kwestią zmiany konfiguracji, a nie przepisywania całego systemu.
Podsumowanie
AI jest opłacalna dla polskich firm. Ale nie automatycznie i nie bezwarunkowo. Opłacalność wymaga świadomego zarządzania kosztami - doboru odpowiednich modeli, optymalizacji promptów, cache'owania, monitorowania wydatków i twardego trzymania się budżetu.
Najgorsze, co możesz zrobić, to wdrażać AI na zasadzie "jakoś to będzie" i sprawdzać koszty raz na kwartał. Najlepsze - podejść do tego jak do każdej innej inwestycji biznesowej: z arkuszem kalkulacyjnym, jasnym celem i regularnymi pomiarami. Firmy, które to robią, osiągają realne oszczędności i przewagę. Reszta po prostu sponsoruje rozwój OpenAI z własnej kieszeni.
Jeśli czujesz, że twoje wydatki na AI rosną szybciej niż korzyści - to nie jest powód do rezygnacji ze sztucznej inteligencji. To powód, żeby zacząć nią zarządzać.
Źródło: The token bill comes due: Inside the industry scramble to manage AI's runaway costs - TechCrunch