Kostencalculator voor de OpenAI-, Claude- en Gemini-API

Schakel prompt caching als allereerste optimalisatie in, nog vóór al het andere. Markeer bij Anthropic je stabiele system prompt met cache_control-headers, en de gecachete tokens zakken naar grofweg 10% van de standaard inputprijs. Bij OpenAI gebeurt caching automatisch op bepaalde endpoints zodra je prompt-prefix over de verzoeken heen identiek is. De winst is het grootst bij workloads met lange, stabiele context en veel verzoeken: chatbots met uitgebreide persona's, RAG-systemen met steeds dezelfde retrieval-context en elke agent-loop die een lange instructieset telkens opnieuw meestuurt. De meeste teams vergeten caching aan te zetten en betalen 5 tot 10 keer te veel.

Verplaats elke workload die niet realtime hoeft naar de Batch API. Anthropic en OpenAI bieden allebei batch-endpoints tegen precies 50% van de standaardprijs, in ruil voor een antwoord-SLA van 24 uur. Classificatie, content-moderatie, het genereren van embeddings, samenvattingspipelines en evaluatieruns zijn allemaal geschikte kandidaten. Het integratiewerk is minimaal, want prompt en model blijven hetzelfde. Teams draaien hun hele content-taggingpipeline routineus op de standaardprijs, terwijl batch de rekening zou halveren zonder enig verschil in kwaliteit.

Routeer verzoeken op moeilijkheid. Simpele queries (begroetingen, opmaak, eenvoudige lookups) horen thuis op GPT-4o mini, Claude Haiku of Gemini Flash, voor $0,15 tot $0,80 per miljoen input-tokens. Zware redeneertaken horen op Claude Opus, GPT-4.5 of Gemini Pro, voor $1,25 tot $75 per miljoen. Een kleine classifier vóór je model-router drukt de kosten op gemengde workloads doorgaans met 60 tot 80%. Alles naar een frontier-model sturen is de meest voorkomende kostenfout die we in productie zien.

Begrens max_tokens streng. Output-tokens kosten 3 tot 5 keer meer dan input-tokens, en de standaard output-buffer van 4K is veel groter dan de meeste antwoorden nodig hebben. Zet ja-of-nee-antwoorden op 10 tokens, korte samenvattingen op 200 en gestructureerde JSON op wat je schema vraagt plus een kleine marge. Het model wil soms uitweiden ook als je daar niet om vroeg, en die uitweidingen betaal je. max_tokens strakker zetten levert in de meeste gevallen 30 tot 50% lagere outputkosten op.

Beperk de opgehaalde context tot precies wat een query nodig heeft. RAG-systemen halen vaak 10 tot 20 chunks op en proppen ze voor de zekerheid allemaal in de prompt. Het gevolg: je betaalt per verzoek voor duizenden irrelevante tokens. Een reranker die terugfiltert naar de 3 tot 5 meest relevante chunks drukt het input-tokengebruik doorgaans met 50 tot 70% zonder kwaliteitsverlies, vaak zelfs met kwaliteitswinst, omdat het model niet wordt afgeleid door overbodige context.

Log elk verzoek met het aantal tokens, het model en de gecachete versus ongecachete status. Je kunt niet optimaliseren wat je niet ziet, en AI-kosten kunnen van de ene dag op de andere van vorm veranderen zodra er een nieuwe feature live gaat of een prompt wordt aangepast. Stel dagelijkse uitgavenmeldingen in en bouw een dashboard dat de kosten uitsplitst per feature, model en endpoint. De meeste kostenoverschrijdingen die we in productie tegenkomen, ontstaan doordat een gebruikspatroon al twee weken was verschoven voordat iemand naar de rekening keek.