Kalkulator kosztów API OpenAI, Claude i Gemini

Włącz buforowanie promptów jako pierwszą optymalizację, zanim zrobisz cokolwiek innego. W Anthropic oznacz stabilny prompt systemowy nagłówkami cache_control, a tokeny z pamięci podręcznej będą kosztować około 10% standardowej ceny tokenów wejściowych. W OpenAI buforowanie działa automatycznie w niektórych endpointach, gdy prefiks promptu jest identyczny w kolejnych żądaniach. Największe oszczędności uzyskasz w obciążeniach z długim, stabilnym kontekstem i dużą liczbą żądań: chatbotach ze szczegółowymi personami, systemach RAG z powtarzanym kontekstem wyszukiwania oraz pętlach agentów, które wielokrotnie wysyłają ten sam długi zestaw instrukcji. Większość zespołów zapomina włączyć buforowanie i przepłaca od 5 do 10 razy.

Przenieś wszystkie obciążenia, które nie muszą działać w czasie rzeczywistym, do Batch API. Zarówno Anthropic, jak i OpenAI oferują endpointy batchowe za dokładnie 50% standardowej ceny w zamian za SLA odpowiedzi do 24 godzin. Zadania klasyfikacji, moderacja treści, generowanie embeddingów, potoki sumaryzacji i uruchomienia ewaluacyjne to dobrzy kandydaci. Praca integracyjna jest trywialna, bo prompt i model pozostają bez zmian. Zespoły rutynowo uruchamiają całe potoki tagowania treści po standardowych stawkach, choć batch obniżyłby rachunek o połowę bez żadnej różnicy w jakości.

Kieruj żądania według stopnia trudności. Proste zapytania (powitania, formatowanie, podstawowe wyszukiwania) powinny trafiać do GPT-4o mini, Claude Haiku lub Gemini Flash w cenie od 0,15 do 0,80 USD za milion tokenów wejściowych. Trudne rozumowanie powinno trafiać do Claude Opus, GPT-4.5 lub Gemini Pro w cenie od 1,25 do 75 USD za milion tokenów. Mały klasyfikator przed routerem modeli zwykle obniża koszty o 60–80% w mieszanych obciążeniach. Wysyłanie wszystkiego do modelu klasy frontier to najczęstszy błąd kosztowy w AI, jaki widzimy w środowisku produkcyjnym.

Agresywnie ograniczaj max_tokens. Tokeny wyjściowe kosztują od 3 do 5 razy więcej niż tokeny wejściowe, a domyślny bufor wyjściowy 4K jest znacznie większy, niż potrzebuje większość odpowiedzi. Ogranicz odpowiedzi tak/nie do 10 tokenów, krótkie podsumowania do 200, a ustrukturyzowany JSON do tego, czego wymaga Twój schemat, plus niewielki bufor. Model czasem chce rozwijać wypowiedź, nawet gdy o to nie prosisz, a Ty płacisz za te rozwinięcia. Ograniczenie max_tokens w większości przypadków oznacza obniżenie kosztów tokenów wyjściowych o 30–50%.

Ogranicz pobrany kontekst tylko do tego, co potrzebne dla danego zapytania. Systemy RAG często pobierają od 10 do 20 fragmentów i na wszelki wypadek umieszczają wszystkie w prompcie. Efekt to płacenie za tysiące nieistotnych tokenów w każdym żądaniu. Dodanie rerankera, który filtruje 3–5 najbardziej trafnych fragmentów, zwykle ogranicza zużycie tokenów wejściowych o 50–70% bez utraty jakości, a często nawet poprawia jakość, bo model nie rozprasza się nieistotnym kontekstem.

Loguj każde żądanie wraz z liczbą tokenów, modelem oraz statusem buforowania (z pamięcią podręczną lub bez). Nie można optymalizować czegoś, czego nie widać, a koszty AI mogą zmienić się z dnia na dzień, gdy pojawi się nowa funkcja lub ktoś poprawi prompt. Ustaw dzienne alerty o wydatkach. Zbuduj dashboard z podziałem wydatków według funkcji, modelu i endpointu. Większość przekroczeń kosztów w środowisku produkcyjnym, z którymi się spotykamy, wynika z tego, że wzorzec użycia zmienił się dwa tygodnie wcześniej, zanim ktokolwiek spojrzał na rachunek.