Calculadora de coste de integración de IA

Activa el prompt caching antes de optimizar cualquier otra cosa. Anthropic y OpenAI te dejan cachear las partes estables de tu entrada (system prompt, contexto recuperado, definiciones de herramientas) con un descuento de en torno al 90 % sobre los tokens cacheados. La caché de 5 minutos de Anthropic es gratis y la de 1 hora suma un 25 %. Para cualquier chatbot o sistema RAG con un system prompt estable de más de 2.000 tokens, la caché se amortiza en las horas siguientes a salir en vivo. La mayoría de los equipos se olvida de activarla y paga de 5 a 10 veces de más durante meses.

Pasa toda carga que no sea en tiempo real a la Batch API. La clasificación, el resumen, la generación de embeddings, las tandas de evaluación y el procesamiento nocturno son todos buenos candidatos. El batch cuesta exactamente el 50 % del precio estándar a cambio de un SLA de 24 horas, y la integración es trivial: mismo modelo, mismo prompt, endpoint distinto. Es habitual que los equipos pasen toda su cadena de moderación de contenido o etiquetado de documentos a precio estándar cuando el batch reduciría la factura a la mitad sin diferencia de calidad.

Enruta las peticiones por dificultad. Manda las consultas fáciles (saludos, búsquedas simples, tareas de formato) a Claude Haiku o GPT-4o mini, a entre 0,15 $ y 0,80 $ por millón de tokens de entrada. Reserva Claude Opus o GPT-4.5 (a entre 15 $ y 75 $ por millón) para el razonamiento difícil en el que los modelos baratos fallan de verdad. Un clasificador de dificultad sencillo delante de tu enrutador de modelos suele recortar costes entre un 60 % y un 80 % en cargas mixtas. La mayoría de los equipos lo manda todo a un modelo frontera, que es como volar en primera clase para sacar la basura.

Limita max_tokens con mano dura. Los tokens de salida cuestan de 3 a 5 veces más que los de entrada, y la mayoría de las respuestas no necesitan el buffer de salida de 4.000 tokens que la API permite por defecto. Si estás extrayendo una respuesta de sí o no, limita la salida a 10 tokens. Si estás generando un resumen corto, limítala a 200. A veces el modelo quiere explicar su razonamiento aunque no se lo pidas, y pagas por esas explicaciones. Ajustar max_tokens suele recortar por sí solo los costes de salida entre un 30 % y un 50 %.

Cachea las respuestas deterministas en la capa de aplicación. Si la misma entrada produce la misma salida (categorización, búsquedas fijas, traducción de código), guarda el resultado en Redis o en una base de datos y sírvelo desde caché en las peticiones repetidas. La caché a nivel de aplicación superpuesta a la caché a nivel de API puede recortar otro 30 %–50 % del gasto total en LLM en cargas con entradas repetitivas. El caso clásico es la categorización de productos a escala de e-commerce, donde el mismo SKU se categoriza cientos de veces de forma innecesaria.

Instrumenta la monitorización de tokens desde el primer día. No puedes optimizar lo que no mides, y los costes de IA escalan lo bastante rápido como para que un prompt mal configurado o un bucle descontrolado generen una factura de 10.000 $ en un fin de semana. Registra tokens de entrada, tokens de salida, modelo usado y cacheado frente a no cacheado en cada petición. Configura alertas de gasto diario. La mayoría de las desviaciones de coste que vemos en producción ocurren porque nadie notó un cambio en el patrón de uso durante dos semanas, hasta que llegó la factura.