Kostnadskalkylator för OpenAI-, Claude- och Gemini-API

Slå på prompt caching som första optimering, före allt annat. För Anthropic, markera din stabila system-prompt med cache_control-headers så faller cachade tokens till ungefär 10 % av standardpriset för input. För OpenAI sker cachning automatiskt på vissa endpoints när din prompt-prefix är identisk mellan anrop. Vinsten är störst på arbetslaster med lång stabil kontext och många anrop: chatbottar med detaljerade personas, RAG-system med upprepad retrieval-kontext, och varje agentloop som skickar om en lång instruktionsuppsättning. De flesta team glömmer att slå på cachning och överbetalar 5 till 10 gånger.

Flytta varje arbetslast som inte är realtid till Batch API. Både Anthropic och OpenAI erbjuder batch-endpoints till exakt 50 % av standardpriset i utbyte mot en svars-SLA på 24 timmar. Klassificeringsjobb, innehållsmoderering, embedding-generering, summeringspipelines och evalueringskörningar är alla bra kandidater. Integrationsarbetet är trivialt eftersom prompt och modell är oförändrade. Team kör rutinmässigt hela sin pipeline för innehållstaggning på standardpris när batch skulle halvera räkningen utan någon kvalitetsskillnad.

Dirigera anropen efter svårighetsgrad. Enkla frågor (hälsningar, formatering, enkla uppslag) hör hemma på GPT-4o mini, Claude Haiku eller Gemini Flash för 0,15 till 0,80 USD per miljon input-tokens. Svårt resonemang hör hemma på Claude Opus, GPT-4.5 eller Gemini Pro för 1,25 till 75 USD per miljon. En liten klassificerare framför din modell-router kapar oftast kostnaderna 60 till 80 % på blandade arbetslaster. Att skicka allt till en frontier-modell är det vanligaste AI-kostnadsmisstaget vi ser i produktion.

Begränsa max_tokens hårt. Output-tokens kostar 3 till 5 gånger mer än input-tokens, och standardbufferten på 4K output är långt större än de flesta svar behöver. Begränsa ja-eller-nej-svar till 10 tokens, korta sammanfattningar till 200, strukturerad JSON till vad ditt schema kräver plus en liten buffert. Modellen vill ibland utveckla även när du inte bett om det, och du betalar för de utläggningarna. Att strama åt max_tokens är en kostnadsminskning på 30 till 50 % för output i de flesta fall.

Skala ner hämtad kontext till bara det som behövs per fråga. RAG-system hämtar ofta 10 till 20 chunks och proppar in dem alla i prompten för säkerhets skull. Resultatet är att du betalar för tusentals irrelevanta tokens per anrop. Att lägga till en reranker som filtrerar ner till de 3 till 5 mest relevanta chunkarna kapar vanligtvis input-tokenanvändningen med 50 till 70 % utan kvalitetsförlust, ofta med kvalitetsförbättring eftersom modellen inte distraheras av irrelevant kontext.

Logga varje anrop med antal tokens, modell och om det var cachat eller inte. Du kan inte optimera det du inte ser, och AI-kostnaderna kan ändra karaktär över en natt när en ny funktion lanseras eller en prompt justeras. Lägg upp dagliga kostnadslarm. Bygg en dashboard som bryter ner utgifterna per funktion, modell och endpoint. De flesta kostnadsöverskridanden vi stöter på i produktion beror på att ett användningsmönster skiftade ett par veckor innan någon ens tittade på räkningen.