API-Kostenrechner für OpenAI, Claude und Gemini

Aktivieren Sie Prompt Caching als allererste Optimierung, vor allem anderen. Bei Anthropic markieren Sie Ihren stabilen System-Prompt mit cache_control-Headern, und die gecachten Tokens fallen auf rund 10 % des Standard-Input-Preises. Bei OpenAI greift das Caching auf bestimmten Endpunkten automatisch, sobald Ihr Prompt-Präfix über die Anfragen hinweg identisch ist. Am meisten bringt es bei Workloads mit langem, gleichbleibendem Kontext und vielen Anfragen: Chatbots mit ausgearbeiteten Personas, RAG-Systeme mit wiederkehrendem Retrieval-Kontext und jede Agent-Schleife, die einen langen Anweisungssatz erneut schickt. Die meisten Teams vergessen, das Caching einzuschalten, und zahlen das 5- bis 10-Fache zu viel.

Verlagern Sie jeden Workload ohne Echtzeitbedarf auf die Batch API. Anthropic und OpenAI bieten Batch-Endpunkte zu exakt 50 % des Standardpreises, im Gegenzug für ein Antwort-SLA von 24 Stunden. Klassifizierungsjobs, Content-Moderation, das Erzeugen von Embeddings, Zusammenfassungs-Pipelines und Auswertungsläufe sind allesamt gute Kandidaten. Die Anbindung ist trivial, weil Prompt und Modell unverändert bleiben. Teams fahren routinemäßig ihre ganze Content-Tagging-Pipeline zum Standardpreis, obwohl Batch die Rechnung ohne jeden Qualitätsunterschied halbieren würde.

Leiten Sie Anfragen nach Schwierigkeit. Einfache Anfragen (Begrüßungen, Formatierung, schlichte Abfragen) gehören auf GPT-4o mini, Claude Haiku oder Gemini Flash für 0,15 $ bis 0,80 $ pro Million Input-Tokens. Anspruchsvolles Reasoning gehört auf Claude Opus, GPT-4.5 oder Gemini Pro für 1,25 $ bis 75 $ pro Million. Ein kleiner Klassifizierer vor Ihrem Modell-Router senkt die Kosten bei gemischten Workloads meist um 60 bis 80 %. Alles an ein Frontier-Modell zu schicken ist der häufigste KI-Kostenfehler, den wir im Betrieb sehen.

Begrenzen Sie max_tokens konsequent. Output-Tokens kosten 3- bis 5-mal so viel wie Input-Tokens, und der voreingestellte Output-Puffer von 4K Tokens ist weit größer, als die meisten Antworten brauchen. Begrenzen Sie Ja-oder-Nein-Antworten auf 10 Tokens, kurze Zusammenfassungen auf 200, strukturiertes JSON auf das, was Ihr Schema verlangt, plus einen kleinen Puffer. Das Modell schweift manchmal aus, auch ungefragt, und Sie zahlen für diese Abschweifungen. max_tokens enger zu fassen senkt die Output-Kosten in den meisten Fällen um 30 bis 50 %.

Dampfen Sie den abgerufenen Kontext auf das ein, was pro Anfrage wirklich nötig ist. RAG-Systeme rufen oft 10 bis 20 Chunks ab und packen zur Sicherheit alle in den Prompt. Das Ergebnis: Sie zahlen pro Anfrage für Tausende belangloser Tokens. Ein Reranker, der auf die 3 bis 5 relevantesten Chunks herunterfiltert, senkt den Input-Token-Verbrauch meist um 50 bis 70 % ohne Qualitätsverlust, oft sogar mit Qualitätsgewinn, weil belangloser Kontext das Modell nicht mehr ablenkt.

Protokollieren Sie jede Anfrage mit Token-Zahl, Modell und der Angabe, ob gecacht oder nicht. Was Sie nicht sehen, können Sie nicht optimieren, und KI-Kosten können über Nacht ein anderes Gesicht bekommen, sobald ein neues Feature ausgeliefert oder ein Prompt angepasst wird. Richten Sie tägliche Ausgabe-Alerts ein. Bauen Sie ein Dashboard, das die Ausgaben nach Feature, Modell und Endpunkt aufschlüsselt. Die meisten Kostenüberschreitungen im Betrieb, die uns begegnen, entstehen, weil sich ein Nutzungsmuster zwei Wochen verschoben hatte, bevor überhaupt jemand auf die Rechnung sah.