Calcolatore costi API OpenAI, Claude e Gemini

Abilita il prompt caching come prima ottimizzazione, prima di ogni altra cosa. Per Anthropic, marca il tuo system prompt stabile con gli header cache_control e i token in cache scendono a circa il 10% del prezzo di input standard. Per OpenAI, il caching avviene in automatico su certi endpoint quando il prefisso del prompt è identico tra le richieste. Il vantaggio è massimo sui carichi con contesto stabile lungo e molte richieste: chatbot con persona dettagliate, sistemi RAG con contesto di retrieval ripetuto e qualsiasi loop di agent che rispedisce un lungo set di istruzioni. La maggior parte dei team dimentica di abilitare il caching e paga 5–10 volte di più.

Sposta ogni carico non in tempo reale sulla Batch API. Sia Anthropic sia OpenAI offrono endpoint batch a uno sconto esatto del 50% sul prezzo standard in cambio di uno SLA di risposta di 24 ore. Job di classificazione, content moderation, generazione di embedding, pipeline di riassunto e run di valutazione sono tutti buoni candidati. Il lavoro di integrazione è banale, perché prompt e modello restano invariati. I team fanno girare regolarmente l'intera pipeline di tagging dei contenuti a prezzo standard, quando il batch dimezzerebbe il conto senza alcuna differenza di qualità.

Instrada le richieste per difficoltà. Le query semplici (saluti, formattazione, ricerche di base) appartengono a GPT-4o mini, Claude Haiku o Gemini Flash, a 0,15–0,80 $ per milione di token di input. Il ragionamento difficile appartiene a Claude Opus, GPT-4.5 o Gemini Pro, a 1,25–75 $ per milione. Un piccolo classificatore davanti al router dei modelli taglia di solito i costi del 60–80% sui carichi misti. Mandare tutto a un modello di frontiera è l'errore di costo AI più comune che vediamo in produzione.

Limita max_tokens con decisione. I token di output costano 3–5 volte più di quelli di input, e il buffer di output da 4K di default è ben più grande di quanto serva alla maggior parte delle risposte. Limita le risposte sì-o-no a 10 token, i riassunti brevi a 200, il JSON strutturato a quanto richiede il tuo schema più un piccolo margine. A volte il modello vuole dilungarsi anche quando non lo hai chiesto, e tu paghi quelle digressioni. Stringere max_tokens è una riduzione del costo di output del 30–50% nella maggior parte dei casi.

Riduci il contesto recuperato solo a ciò che serve per ogni query. I sistemi RAG spesso recuperano 10–20 chunk e li infilano tutti nel prompt per sicurezza. Il risultato è pagare per migliaia di token irrilevanti a richiesta. Aggiungere un reranker che filtra fino ai 3–5 chunk più rilevanti taglia di solito l'uso dei token di input del 50–70% senza perdita di qualità, spesso con un miglioramento di qualità, perché il modello non viene distratto da contesto irrilevante.

Logga ogni richiesta con conteggio dei token, modello e stato in cache rispetto a non in cache. Non puoi ottimizzare ciò che non vedi, e i costi AI possono cambiare forma da un giorno all'altro quando rilasci una nuova funzione o modifichi un prompt. Imposta avvisi di spesa giornalieri. Costruisci una dashboard che scomponga la spesa per funzione, modello ed endpoint. La maggior parte degli sforamenti che incontriamo in produzione succede perché un pattern d'uso è cambiato due settimane prima che qualcuno guardasse la fattura.