Caché de prompts en SiliconFlow: cómo el precio de lectura de caché puede reducir su factura de API
Índice de contenidos
Las aplicaciones de modelos de lenguaje grande a menudo reutilizan las mismas instrucciones del sistema, instrucciones de proyectos o contexto de documentos en muchas solicitudes. Procesar esa entrada repetida a la tarifa completa puede elevar los costos de la API sin agregar nueva información. El almacenamiento en caché de prompts reduce este gasto general al aplicar un precio de lectura de caché más bajo a la entrada repetida elegible. En SiliconFlow, los modelos compatibles separan los precios de entrada estándar, entrada almacenada en caché y salida, lo que brinda a los desarrolladores una forma más clara de estimar el costo de almacenamiento en caché de prompts y comparar modelos antes de su implementación.
¿Qué es el almacenamiento en caché de prompts?
El almacenamiento en caché de prompts permite reutilizar la entrada previamente procesada cuando aparece el mismo contexto estable en solicitudes posteriores.
Considere un chatbot de soporte al cliente con un prompt del sistema de 10.000 tokens que contiene:
Reglas de respuesta
Políticas de productos
Definiciones de herramientas
Instrucciones de seguridad
Ejemplos de formato
Un nuevo mensaje de usuario puede contener solo 100 tokens, pero la aplicación sigue enviando el prompt del sistema completo con cada solicitud.
Sin almacenamiento en caché, la sección repetida de 10.000 tokens se puede procesar a la tarifa de entrada estándar cada vez. Cuando esa sección califica para una lectura de caché, puede usar la tarifa de entrada almacenada en caché más baja del modelo.
El almacenamiento en caché de prompts no reutiliza una respuesta anterior. El modelo todavía genera una nueva respuesta para la solicitud actual. Solo se reutiliza el procesamiento de la entrada repetida elegible.
Tokens de entrada estándar, entrada almacenada en caché y salida
Una estimación confiable de precios de almacenamiento en caché de prompts separa la solicitud en tres categorías.
Tokens de entrada estándar
Los tokens de entrada estándar se procesan a la tarifa de entrada normal del modelo. Pueden incluir:
Nuevos mensajes de usuario
Instrucciones del sistema no almacenadas en caché
Historial de conversación
Documentos recuperados
Código fuente
Resultados de herramientas
Contexto cambiado o recién agregado
El texto repetido no recibe automáticamente el precio de entrada almacenada en caché. La facturación depende de si la sección repetida califica para la caché disponible y la utiliza.
Tokens de entrada almacenada en caché
Los tokens de entrada almacenada en caché son tokens de entrada elegibles procesados a través de un caché de prompts. Las páginas de modelos de SiliconFlow pueden etiquetar la tarifa correspondiente como lectura de caché, mientras que la página de precios puede usar entrada almacenada en caché.
El precio de la lectura de caché es específico de cada modelo. Algunos modelos ofrecen una gran diferencia entre las tarifas de entrada estándar y almacenada en caché, mientras que otros ofrecen un descuento menor.
Al 15 de julio de 2026, la página del modelo Serverless GLM-5.2 muestra:
Categoría de token | Precio por 1M de tokens |
|---|---|
Entrada estándar | $1.302 |
Entrada almacenada en caché | $0.26 |
Salida | $4.092 |
Los precios pueden cambiar. Consulte la página actual del modelo GLM-5.2 antes de finalizar un presupuesto de producción.
Tokens de salida
Los tokens de salida son generados por el modelo y siguen sujetos al precio de salida normal.
El almacenamiento en caché de prompts puede reducir el costo de la entrada repetida elegible, pero no reduce la tarifa de salida. Por lo tanto, las aplicaciones que producen respuestas largas pueden experimentar una reducción total de la factura menor, incluso cuando gran parte de su entrada está almacenada en caché.
Por qué es importante el precio de la lectura de caché
El contexto repetido puede volverse costoso a gran escala.
Suponga que una aplicación incluye 20.000 tokens reutilizables en 1.000 solicitudes. Eso crea 20 millones de tokens de entrada repetidos. Incluso una diferencia modesta entre la entrada estándar y el precio de la lectura de caché puede tener un efecto significativo en el gasto total.
Sin embargo, un descuento por lectura de caché no es lo mismo que una reducción total de la factura.
La factura completa aún puede incluir:
El primer procesamiento del prompt
Entrada nueva o modificada
Fallos de caché
Salida generada
Reintentos
Pasos adicionales del agente
Respuestas de llamada a herramientas
Por ejemplo, una tarifa de lectura de caché que está un 80 % por debajo de la tarifa de entrada estándar no significa que la factura total de la API vaya a disminuir un 80 %. El descuento solo se aplica a la entrada elegible que realmente utiliza la caché.
Por qué la tasa de aciertos de caché determina el ahorro real
El precio de lectura de caché publicado muestra el descuento potencial, pero la tasa de aciertos de caché determina con qué frecuencia se logra esa tarifa más baja en la práctica. En una instantánea de precios efectivos de OpenRouter capturada el 25 de agosto de 2026, SiliconFlow ocupó el primer lugar entre los proveedores listados de GLM 5.2 por participación de tokens de un día, con un 42.5 %, mientras registraba una tasa de aciertos de caché del 91.8 %. La alta tasa de aciertos de caché indica que la entrada almacenada en caché se estaba utilizando ampliamente durante el período medido, lo que ayudó a reducir la brecha entre el precio de entrada listado y el costo de entrada efectivo. Estas cifras pueden cambiar con el tráfico, la estructura de las solicitudes y la ventana de medición, por lo que los desarrolladores deben tratarlas como una instantánea del mercado actual y validar los ahorros con cargas de trabajo de producción representativas. Por esta razón, el costo de almacenamiento en caché de prompts debe evaluarse a nivel de flujo de trabajo, no solo comparando dos precios de tokens.
Datos de precios efectivos de OpenRouter para GLM 5.2, capturados el 25 de agosto de 2026. SiliconFlow ocupó el primer lugar por participación de tokens de un día con un 42.5 % y registró una tasa de aciertos de caché del 91.8 %. Las métricas de los proveedores son dinámicas y pueden cambiar con el tiempo.
Por esta razón, el costo de almacenamiento en caché de prompts debe evaluarse a nivel de flujo de trabajo, no solo comparando dos precios de tokens.
Dónde ahorra más el almacenamiento en caché de prompts
El almacenamiento en caché de prompts proporciona el mayor valor cuando aparece un bloque de contexto grande y estable en muchas solicitudes.
Chatbots con prompts de sistema repetidos
Los chatbots de producción a menudo utilizan prompts del sistema que son mucho más largos que los mensajes individuales de los usuarios. Estos prompts pueden contener:
Instrucciones de marca y tono
Políticas de escalada
Información del producto
Descripciones de herramientas
Reglas de seguridad
Ejemplos de respuestas
Si este contenido se mantiene constante, puede representar una gran parte reutilizable de cada solicitud.
Por ejemplo, un chatbot puede enviar:
8.000 tokens de instrucciones estables
2.000 tokens de historial de conversación reciente
100 tokens del último mensaje del usuario
Las instrucciones del sistema ofrecen una mayor oportunidad de almacenamiento en caché que el mensaje corto del usuario. A medida que cambia la conversación, el prefijo estable puede seguir siendo reutilizable mientras que los mensajes recientes continúan usando la tarifa de entrada estándar.
El almacenamiento en caché no debe reemplazar la limpieza de prompts. Eliminar instrucciones duplicadas o innecesarias puede reducir aún más los costos.
Agentes de codificación con contexto de proyecto repetido
Los agentes de codificación reutilizan con frecuencia información sustancial del proyecto durante la planificación, la generación de código, la depuración y la revisión.
El contexto repetido puede incluir:
Instrucciones del repositorio
Notas de arquitectura
Estándares de codificación
Información de dependencias
Definiciones de herramientas
Resúmenes de archivos
Requisitos de pruebas
El agente puede mantener este contexto de proyecto estable al principio del prompt y añadir después la tarea actual, los archivos seleccionados, la salida de la terminal o los mensajes de error.
SiliconFlow proporciona APIs compatibles con OpenAI que pueden reducir el trabajo de integración para las herramientas que ya utilizan patrones comunes de Chat Completions. Los desarrolladores también pueden conectar modelos compatibles a entornos de codificación como Roo Code.
La interfaz facilita las pruebas de modelos, pero los parámetros del modelo, los límites de contexto, el comportamiento de las herramientas y la calidad de la salida aún requieren validación antes de la implementación en producción.
Una ventana de contexto más grande no produce automáticamente un agente más eficiente. Enviar un repositorio completo en cada paso puede agregar costos e información irrelevante. Excluir dependencias, archivos generados, código duplicado y documentos no relacionados mejora tanto la eficiencia de los tokens como el enfoque en la tarea.
Flujos de trabajo de RAG basados en sesiones y documentos largos
El almacenamiento en caché de prompts también puede ayudar cuando un flujo de trabajo de RAG utiliza repetidamente el mismo documento o conjunto de referencia estable.
Los casos de uso relevantes incluyen:
Hacer varias preguntas sobre un mismo contrato
Revisar secciones de un manual técnico
Analizar un informe de investigación fijo
Realizar comprobaciones repetidas contra la misma colección de políticas
Mantener una sesión de asistente basada en documentos
El ahorro puede ser limitado cuando cada consulta recupera un conjunto diferente de pasajes. Si la mayor parte del prompt cambia con cada solicitud, queda menos contenido elegible para su reutilización.
Una estructura práctica de RAG separa:
Instrucciones estables del sistema
Contexto de documento persistente
Pasajes recién recuperados
La pregunta actual del usuario
Esto hace que las partes reutilizables y dinámicas sean más fáciles de medir de forma independiente.
Cómo estructurar los prompts para una mejor reutilización de caché
La estabilidad del prompt es importante. Los cambios frecuentes al comienzo de una solicitud pueden reducir la cantidad de contexto reutilizable.
Una estructura práctica coloca el contenido estable antes de la información que cambia con frecuencia:
Instrucciones del sistema
Definiciones de herramientas
Ejemplos fijos
Contexto persistente de proyecto o documento
Historial de conversación reciente
Mensaje actual del usuario
Datos en tiempo real y salida de herramientas
Mantenga la parte estable consistente siempre que sea posible. Evite cambiar repetidamente:
El orden de los mensajes
Las definiciones de herramientas
La redacción de las instrucciones
El formato de los ejemplos
El orden de los documentos
El espacio en blanco y los metadatos generados
La información dinámica, como las marcas de tiempo, las variables de sesión, los IDs de usuario, los resultados de búsqueda y las respuestas de herramientas, generalmente pertenece a una parte posterior de la solicitud.
El comportamiento de la caché puede variar según el modelo y la carga de trabajo. Pruebe solicitudes de producción representativas en lugar de asumir que el texto repetido siempre utilizará la tarifa de lectura de caché.
Cómo estimar el ahorro del almacenamiento en caché de prompts
Una estimación de costos debe separar la entrada reutilizable, la entrada cambiante y la salida generada.
Utilice las siguientes variables:
N: Número de solicitudes
R: Tokens de entrada reutilizables por solicitud
U: Tokens de entrada nuevos o cambiantes por solicitud
O: Tokens de salida por solicitud
Pi: Precio de entrada estándar por millón de tokens
Pc: Precio de entrada almacenada en caché por millón de tokens
Po: Precio de salida por millón de tokens
Sin almacenamiento en caché de prompts:
Costo total =
N × [(R + U) × Pi + O × Po] ÷ 1.000.000
La siguiente fórmula proporciona una estimación de caché idealizada. Supone que la primera solicitud utiliza el precio de entrada estándar y que la parte reutilizable de cada solicitud posterior califica para la tarifa de lectura de caché.
Costo total = [(R + U) × Pi + (N - 1) × (R × Pc + U × Pi) + N × O × Po] ÷ 1.000.000
Ahorro estimado:
Ahorro = (N - 1) × R × (Pi - Pc) ÷ 1.000.000
Ejemplo utilizando los precios de GLM-5.2
Asuma que un flujo de trabajo tiene:
1.000 solicitudes
20.000 tokens de entrada reutilizables por solicitud
1.000 tokens de entrada nuevos por solicitud
500 tokens de salida por solicitud
Utilizando los precios de GLM-5.2 del 15 de julio de 2026:
Escenario | Costo estimado |
|---|---|
Toda la entrada se cobra a la tarifa estándar | $29.39 |
Estimación idealizada con la entrada reutilizable posterior almacenada en caché | $8.57 |
Ahorro estimado | $20.82 |
Reducción estimada del costo total | 70.8% |
El precio de la entrada almacenada en caché está aproximadamente un 80 % por debajo del precio de la entrada estándar en este ejemplo. La factura total disminuye en aproximadamente un 70.8 %, no un 80 %, porque la nueva entrada y la salida siguen utilizando sus tarifas normales.
Esta es una estimación idealizada. Los costos reales pueden diferir debido a la elegibilidad de la caché, los cambios en los prompts, los fallos de caché, los reintentos y el uso real de tokens.
Cómo comparar los precios de almacenamiento en caché de prompts entre modelos
No seleccione un modelo basándose únicamente en su tarifa de lectura de caché. Compare el perfil completo de costos y rendimiento.
Factor | Por qué es importante |
|---|---|
Precio de entrada estándar | Se aplica a nuevas entradas y fallos de caché |
Precio de entrada almacenada en caché | Se aplica a la entrada reutilizada elegible |
Precio de salida | Puede dominar los flujos de trabajo con gran volumen de generación |
Capacidad de contexto | Limita la cantidad de material que cabe en una solicitud |
Capacidad del modelo | Afecta la precisión y la finalización de tareas |
Eficiencia de tokens | Influye en el volumen de entrada y salida |
Comportamiento del agente | Más pasos o llamadas a herramientas aumentan el costo total |
SiliconFlow proporciona acceso a un amplio catálogo de modelos Serverless a través de APIs unificadas. Esto facilita la comparación de modelos con diferentes perfiles de capacidad, contexto y precios sin tener que operar una infraestructura de inferencia separada para cada opción.
Para las aplicaciones que ya utilizan formatos de solicitud comunes compatibles con OpenAI, cambiar la URL base, la clave API y el ID del modelo puede reducir el trabajo de migración inicial. Aún es necesario probar cada modelo para verificar los parámetros compatibles, el uso de herramientas, el manejo del contexto, la latencia y la calidad de la salida.
La métrica de producción más útil suele ser el costo por tarea exitosa, en lugar del costo por solicitud.
Un modelo de menor precio puede resultar más costoso si requiere repetidos intentos. Un modelo con una tarifa de salida más alta aún puede ser rentable si completa la tarea con menos tokens o menos pasos de agente.
Cuándo el almacenamiento en caché de prompts puede no ahorrar mucho
El almacenamiento en caché de prompts ofrece un valor limitado cuando hay poca entrada estable para reutilizar.
Los ejemplos comunes incluyen:
Prompts del sistema cortos
Solicitudes de una sola vez
Bajo volumen de solicitudes
Prompts que cambian sustancialmente en cada llamada
Resultados de RAG que utilizan diferentes documentos cada vez
Definiciones de herramientas modificadas con frecuencia
Bajas tasas de aciertos de caché
Flujos de trabajo dominados por costos de tokens de salida
El almacenamiento en caché tampoco puede solucionar una selección de contexto ineficiente. Enviar documentos irrelevantes a una tarifa de entrada almacenada en caché más baja sigue consumiendo tokens y puede reducir la calidad de la respuesta.
Comience por eliminar el contexto innecesario. Luego, use el almacenamiento en caché de prompts para el contenido que genuinamente necesita permanecer disponible en todas las solicitudes.
Almacenamiento en caché de prompts vs ajuste fino
El almacenamiento en caché de prompts y el ajuste fino abordan problemas diferentes.
Almacenamiento en caché de prompts | Ajuste fino |
|---|---|
Reutiliza el procesamiento de entrada repetido | |
Reduce el costo de la entrada de inferencia elegible | Cambia el comportamiento del modelo específico de la tarea |
No cambia los pesos del modelo | Produce un modelo adaptado |
Ayuda con contextos largos y repetidos | Ayuda con patrones de tareas estables |
El contexto permanece en la solicitud | Parte del comportamiento se aprende a partir de ejemplos |
El valor depende del uso repetido | El valor depende de la calidad de los datos y del ajuste a la tarea |
Utilice el almacenamiento en caché de prompts cuando una aplicación deba proporcionar repetidamente instrucciones largas, documentos, contexto de proyecto o definiciones de herramientas.
Utilice el ajuste fino cuando el objetivo sea mejorar el comportamiento de respuesta estable, la terminología, el formato, la clasificación o la ejecución de tareas a través de ejemplos de entrenamiento.
Ambos enfoques también pueden funcionar juntos. Un modelo ajustado aún puede recibir instrucciones del sistema, herramientas o documentos repetidos que se beneficien de los precios de entrada almacenados en caché.
SiliconFlow admite modelos de chat ajustados a través del flujo de trabajo de Chat Completions, lo que permite a los equipos gestionar la adaptación y la inferencia del modelo dentro de la misma plataforma.
Reduzca la entrada repetida sin adivinanzas
El almacenamiento en caché de prompts puede reducir sustancialmente el gasto de la API cuando aparecen prompts grandes y estables en muchas solicitudes. Las oportunidades más sólidas a menudo provienen de chatbots, agentes de codificación y flujos de trabajo de documentos con un contexto reutilizable significativo.
SiliconFlow separa los precios de entrada estándar, entrada almacenada en caché y salida para los modelos compatibles, lo que facilita comprender de dónde proviene cada parte de la factura de la API. Los datos de precios efectivos de OpenRouter también proporcionan una señal externa de que el almacenamiento en caché de prompts está generando ahorros significativos en cargas de trabajo reales, aunque los resultados reales varían según el modelo y el patrón de solicitud. Con los precios de entrada almacenada en caché disponibles en un catálogo de modelos en crecimiento, los desarrolladores pueden comparar y cambiar modelos a través de una API unificada y compatible con OpenAI en lugar de mantener integraciones separadas. Revise los precios actuales del modelo, pruebe prompts representativos y mida el costo efectivo por tarea completada antes de escalar.
Preguntas comunes sobre el almacenamiento en caché de prompts en SiliconFlow
Q1. ¿Qué es el precio de almacenamiento en caché de prompts?
El precio de almacenamiento en caché de prompts es la tarifa que se aplica a la entrada elegible reutilizada a través de un caché de prompts. Por lo general, es más baja que la tarifa de entrada estándar, pero el precio exacto varía según el modelo.
Q2. ¿SiliconFlow almacena en caché cada prompt repetido?
No. El texto repetido no garantiza un acierto de caché. Los resultados dependen del modelo, la estructura del prompt, la estabilidad del prefijo y la elegibilidad de la caché. Sin embargo, SiliconFlow ha demostrado un sólido rendimiento de caché en datos de terceros. En una instantánea de OpenRouter capturada el 30 de julio de 2026, registró una tasa de aciertos de caché del 93.2 % para Kimi K2.7 Code, la más alta entre los proveedores externos mostrados en ese momento. Dado que las tasas de aciertos de caché son dinámicas, los desarrolladores deben verificar los datos actuales y medir sus propias cargas de trabajo.
Q3. ¿Están incluidos los tokens de salida en el precio de la lectura de caché?
No. El precio de la lectura de caché se aplica solo a la entrada elegible. La salida generada continúa utilizando la tarifa de salida estándar del modelo.
Q4. ¿Cómo se calcula el costo de almacenamiento en caché de prompts?
Separe la entrada reutilizable, la entrada cambiante y la salida. Aplique la tarifa de entrada almacenada en caché solo a la parte que se espera que use la caché, luego agregue los costos estándar de entrada y salida.
Q5. ¿Por qué los ahorros reales son menores que el descuento por lectura de caché?
El descuento solo cubre la entrada almacenada en caché. La nueva entrada, los tokens de salida, el procesamiento inicial, los fallos de caché, los reintentos y las llamadas adicionales del agente siguen siendo facturables.
