Kalkulator biaya API OpenAI, Claude & Gemini

Aktifkan prompt caching sebagai optimasi pertama, sebelum yang lain. Untuk Anthropic, tandai system prompt yang stabil dengan header cache_control dan token yang di-cache turun ke sekitar 10% dari harga input standar. Untuk OpenAI, caching berjalan otomatis di endpoint tertentu saat prefix prompt Anda identik antar-request. Keuntungan terbesar ada di workload dengan context panjang yang stabil dan banyak request: chatbot dengan persona detail, sistem RAG dengan context retrieval yang berulang, dan loop agent apa pun yang mengirim ulang instruction set panjang. Kebanyakan tim lupa mengaktifkan caching dan akhirnya bayar 5 sampai 10 kali lebih mahal.

Pindahkan semua workload yang tidak real-time ke Batch API. Anthropic maupun OpenAI menawarkan endpoint batch di tepat 50% dari harga standar dengan SLA respons 24 jam. Pekerjaan klasifikasi, moderasi konten, pembuatan embedding, pipeline summarization, dan evaluation run semuanya cocok. Integrasinya mudah karena prompt dan model tidak berubah. Banyak tim rutin menjalankan seluruh pipeline content tagging di harga standar, padahal batch bisa memangkas tagihan setengahnya tanpa perbedaan kualitas sama sekali.

Arahkan request berdasarkan tingkat kesulitan. Query sederhana (sapaan, formatting, pencarian dasar) cocok di GPT-4o mini, Claude Haiku, atau Gemini Flash dengan harga $0,15 sampai $0,80 per juta token input. Penalaran berat cocok di Claude Opus, GPT-4.5, atau Gemini Pro dengan harga $1,25 sampai $75 per juta. Classifier kecil di depan model router biasanya memangkas biaya 60 sampai 80% di workload campuran. Mengirim semua ke model frontier adalah kesalahan biaya AI paling umum yang kami temui di produksi.

Batasi max_tokens secara agresif. Token output biayanya 3 sampai 5 kali lebih mahal dari token input, dan buffer output default 4K jauh lebih besar dari yang dibutuhkan kebanyakan respons. Batasi jawaban ya-atau-tidak di 10 token, ringkasan pendek di 200, JSON terstruktur sesuai kebutuhan schema Anda ditambah buffer kecil. Model kadang ingin menjelaskan lebih panjang meski Anda tidak memintanya, dan Anda yang bayar untuk itu. Memperketat max_tokens memangkas biaya output 30 sampai 50% di kebanyakan kasus.

Pangkas context yang di-retrieve hanya ke yang dibutuhkan per query. Sistem RAG sering mengambil 10 sampai 20 chunk dan memasukkan semuanya ke prompt untuk jaga-jaga. Hasilnya, Anda membayar ribuan token yang tidak relevan per request. Menambahkan reranker yang menyaring ke 3 sampai 5 chunk paling relevan biasanya memangkas penggunaan token input 50 sampai 70% tanpa penurunan kualitas, bahkan sering justru meningkatkan kualitas karena model tidak terganggu oleh context yang tidak relevan.

Catat setiap request beserta jumlah token, model, dan status cached versus uncached. Anda tidak bisa mengoptimalkan yang tidak bisa Anda lihat, dan biaya AI bisa berubah drastis dalam semalam saat fitur baru dirilis atau prompt diutak-atik. Pasang alert pengeluaran harian. Buat dashboard yang memecah pengeluaran per fitur, model, dan endpoint. Kebanyakan pembengkakan biaya produksi yang kami temui terjadi karena pola penggunaan berubah dua minggu sebelum ada yang melihat tagihan.