El número más interesante de este lanzamiento no es el tamaño del modelo.

// the whole thing

Antes de entrar por piezas, esta es la máquina completa.

Cuatro decisiones explican casi toda la historia:

1. El prompt deja de recorrer las 40 capas.
2. La mayoría de las capas deja de mantener su propia KV global.
3. La KV global baja de FP8 a FP4.
4. La memoria local deja de persistirse durante horas.

// 01 · input-heavy inference

Por qué un agente cambia la inferencia.

Un agente lee archivos, ejecuta código, llama herramientas, recibe resultados, falla, vuelve a leer el error y continúa. En cada paso arrastra buena parte de todo lo anterior.

Cuando mandas un prompt a un modelo pasan, simplificando, dos cosas. Primero lo lee: prefill. Después genera la respuesta token a token: decode.

Para no recalcular todo el contexto en cada token, el modelo conserva representaciones intermedias de lo que ha leído. La primera vez puedes pensar en ellas como unos apuntes de trabajo. El nombre real es KV cache.

En una conversación corta esto importa poco. En una trayectoria larga de agente, no.

1. prompt
2. leer repositorio
3. tool result
4. editar
5. test
6. error
7. leer error
8. editar
9. ...

Cada resultado se añade a la siguiente petición. Después de suficientes pasos, el modelo puede recibir cientos de miles de tokens y generar solo unos cientos.

Ahí aparecen dos costes distintos: calcular el input, que es prefill compute, y guardar y mover su memoria, que es la KV cache.

La atención dispersa ha reducido mucho el primer problema. Al hacerlo, el segundo pesa más: la caché activa ocupa HBM, los prefijos reutilizables necesitan almacenamiento fuera de la GPU y mover todo ese estado consume ancho de banda.

V4.1 Flash está construido alrededor de esa segunda mitad.

// 02 · CED

Leer el prompt con medio modelo.

V4.1 Flash tiene 40 capas Transformer, pero el prompt ya no las recorre todas de la misma forma.

Puedes pensar en las primeras 20 como el lector y en las otras 20 como el escritor. Técnicamente DeepSeek las llama causal encoder y decoder.

No son dos modelos independientes. Siguen formando una única arquitectura autoregresiva de 40 capas. Lo que cambia es por dónde pasa el prompt.

Para la atención global, cada capa del decoder proyecta la KV que necesita a partir de la representación final del encoder. No necesita recorrer otra vez todo el prompt capa por capa.

De ahí sale una de las cifras más raras del modelo: 8B de parámetros activos por token en prefill, 16B en decode. Leer usa menos modelo que escribir.

En un workload agéntico tiene sentido: la llamada puede contener muchísimo más input que output.

// 03 · CSA2

Compartir la memoria entre capas.

Reducir el prefill resuelve una parte. La otra es cuánta memoria mantiene el modelo mientras trabaja.

V4.1 introduce Compressed Sparse Attention 2, CSA2.

Hay tres formas de comprimir la atención: hacer más pequeña cada entrada de la memoria, guardar o consultar menos posiciones, o evitar que cada capa mantenga una copia independiente de información muy parecida. CSA2 empuja especialmente la tercera.

Una capa Full construye su KV global y hace la búsqueda completa de las posiciones a las que atender. Una capa Reindex reutiliza la KV global de una capa Full anterior, pero vuelve a puntuar las posiciones con su propia query. Una capa Reuse reutiliza tanto la KV global como la selección Top-K.

Compartir memoria no obliga a todas las capas a mirar exactamente a la misma información. Las Reindex conservan capacidad para cambiar la selección.

Las 40 capas se reparten en 4 Full, 4 Reindex, 30 Reuse y 2 solo SWA. Las 30 Reuse reutilizan tanto la KV global como la selección calculada por otra capa. Siguen teniendo su propia query y su estado local SWA.

Esto es lo que permite que una arquitectura más compleja sobre el papel tenga una ejecución muy corta en algunas capas. DeepSeek reporta rutas de 15 kernels en prefill y 11 en decode para las capas Reuse.

// 04 · FP4

Guardar la KV global en cuatro bits.

Después de reducir el número de cachés independientes, DeepSeek reduce el tamaño de cada una.

V4 Flash guardaba su KV principal en FP8. V4.1 baja la KV global a FP4.

No toda la memoria baja a cuatro bits. La KV correspondiente a Sliding Window Attention es más sensible a la cuantización y se mantiene en FP8.

La cuantización se introduce durante post-training mediante Quantization-Aware Training. El modelo aprende bajo las mismas condiciones numéricas con las que después tendrá que funcionar.

DeepSeek usa E2M1 con una escala E4M3 por cada 16 canales. Aplica la cuantización después de RoPE y elimina una escala global adicional que otros formatos NVFP4 sí utilizan.

// 05 · cache hierarchy

Separar la memoria que dura horas de la que dura minutos.

V4 persistía dos memorias con patrones de reutilización muy distintos.

La KV global puede seguir siendo útil horas o días después. La KV de SWA describe el estado local reciente de una sesión y suele perder su valor mucho antes.

En V4 ambas podían terminar ocupando almacenamiento persistente durante mucho tiempo. En V4.1 se separan.

La KV global permanece en almacenamiento persistente, con una vida garantizada de al menos 72 horas en el diseño descrito. La SWA se mueve a un pool distribuido construido con aproximadamente el 10% de la DRAM del host de cada máquina y vive minutos.

Lo interesante aparece cuando esa memoria local ya ha caducado. V4 había planteado reconstruirla. Hacerlo de forma exacta era demasiado caro para producción.

V4.1 usa Encoder SWA Bounded Replay: reproduce únicamente los últimos 128 tokens. No reconstruye exactamente el mismo estado. Limita el coste de recuperación.

Un miss deja de abrir una recomputación grande y pasa a tener un coste acotado.

Junto con el resto de cambios, la caché persistente queda en torno a 1/8 de V4 Flash. Parte de la mejora viene de guardar la memoria mejor. Parte viene de no guardarla.

// 06 · checkpoint

V4 Flash → V4.1 Flash.

Después de las cuatro decisiones, el cambio se puede resumir así.

Hay un cambio menos evidente detrás de la tabla. V4.1 casi duplica el backbone, de 284B a 552B, pero la ruta activa no crece en la misma proporción.

Más capacidad total no significa pagar por toda esa capacidad en cada token.

// 07 · compute, memoria, factura

Compute, memoria y factura.

Las cuatro decisiones atacan recursos distintos.

Menos compute al leer.

CED hace que el contexto largo atraviese principalmente 20 capas durante prefill.

Menos HBM por contexto.

CSA2 comparte KV entre capas y FP4 reduce el tamaño de la KV global.

Menos almacenamiento persistente.

La memoria local deja de vivir durante horas y Bounded Replay hace asumible reconstruirla de forma aproximada.

Menos trabajo de indexado.

Las capas Reindex profundas buscan dentro de 16.384 candidatos, no en todo el contexto.

Menos overhead en las capas Reuse.

DeepSeek reporta 15 kernels en prefill y 11 en decode para esa ruta.

Más prefijos reutilizables por la misma infraestructura.

Si cada prefijo ocupa menos, caben más. Si caben más, aumentan las oportunidades de cache hit.

De 4K a 1M

De 4K a 1M tokens, el contexto crece 256×. El coste de decodificar un token, medido por DeepSeek en FLOPs ponderados por precisión, crece alrededor de un 25%.

La métrica pondera BF16 = 1, FP8 = 0,5 y FP4 = 0,25. No es latencia extremo a extremo y no es una factura. Sirve para ver el objetivo: que el coste por token generado deje de crecer proporcionalmente con la longitud del contexto.

Dónde aparece en precio

DeepSeek bajó sus tarifas con el lanzamiento. El recorte más grande está en el input cacheado, que es justo la parte que más importa cuando un agente vuelve a enviar una trayectoria creciente y gran parte de ese contexto ya ha pasado antes por el sistema.

Los 890 bytes no son una métrica abstracta: terminan cambiando cuánto contexto puede mantenerse reutilizable y cuánto cuesta volver a usarlo.

// 08 · model + scaffold

Los benchmarks no cuentan una sola historia.

V4.1 Flash no gana en todo.

En varios benchmarks agénticos y de software compite con sistemas cerrados muy grandes. En tareas más duras de razonamiento y conocimiento experto sigue habiendo diferencias claras.

En Codeforces alcanza 3.471, frente a 3.348 de V4 Pro y 3.289 de V4 Flash.

DeepSeek publica además pruebas de perplejidad sobre corpus internos, documentación de empresa, repositorios privados y material académico, mucho menos expuestos a contaminación que los benchmarks públicos. El modelo base de V4.1 Flash mejora al de V4 Pro en los tres conjuntos reportados.

Desliza la tabla para ver todas las columnas.

Esfuerzo de razonamiento al máximo. Un guion indica que DeepSeek no reporta cifra.

Hay otra variable importante: el harness.

La arquitectura que abarata el contexto y el harness que decide cómo usarlo son dos capas distintas del mismo sistema.

// 09 · what stayed the same

Qué no ha cambiado.

V4.1 introduce bastantes mecanismos nuevos, pero no conviene leer CED como si DeepSeek hubiese convertido el modelo en una arquitectura encoder-decoder clásica.

• Sigue siendo un modelo autoregresivo.
• Sigue siendo un MoE.
• Sigue usando atención local mediante SWA.
• Sigue usando atención dispersa para contexto largo.
• El decoder no es un segundo modelo independiente.
• CED cambia cómo se procesa y reutiliza el prompt dentro de la pila de 40 capas.

// 10 · other changes

Otras piezas que cambiaron.

Las cuatro decisiones anteriores explican el grueso de la economía de contexto. V4.1 también cambia otras partes del sistema.

• Engram

  Añade aproximadamente 196B parámetros de memoria condicional en dos módulos.

  Memoriza patrones de 2, 3 y 4 tokens mediante tablas hash. Como la dirección de memoria puede calcularse directamente desde el input, esos embeddings pueden prefetchearse desde memoria del host mediante RDMA mientras el Transformer continúa trabajando.

  Más capacidad paramétrica sin mantenerla toda residente en HBM.

• DSpark

  Sustituye el enfoque MTP anterior para speculative decoding.

  Un draft model propone varios tokens y una cabeza adicional estima la probabilidad de aceptación por posición. El sistema combina esa confianza con curvas reales de rendimiento para decidir cuánto merece la pena especular según la carga.

  El objetivo no es proponer siempre más tokens. Es maximizar throughput real.

• Single-Pass mHC

  DeepSeek reorganiza determinadas dependencias de sus conexiones residuales mHC para poder fusionar operaciones en un Mega-mHC kernel.

  La consecuencia buscada es menos tráfico de activaciones y menos viajes a memoria.

• Visión nativa

  V4.1 Flash incorpora visión de forma nativa.

  Antes de pasar la representación visual al modelo de lenguaje, un pixel-unshuffle 3×3 reduce aproximadamente nueve veces el número de tokens visuales.

  Otra forma de reducir contexto antes de que llegue a la parte cara.

// 11 · deployment topology

EPD: encoder, prefill y decode dejan de escalar juntos.

DeepSeek introduce Encoder-Prefill-Decode disaggregation, EPD.

1. visual encoding
2. prefill
3. decode

Las tres fases tienen perfiles de hardware distintos. Prefill busca throughput de procesamiento masivo. Decode es mucho más sensible al ancho de banda de memoria y a la latencia. La codificación visual introduce otra carga distinta.

EPD permite escalarlas de forma independiente y solapar parte del trabajo.

Para quien consume una API esto es casi invisible. Para quien sirve el modelo, puede cambiar la topología completa del despliegue.

// 12 · run it

Ejecutarlo en Helmcode.

V4.1 Flash ya está disponible en Helmcode, en infraestructura europea y sin retención de logs.

Sustituye a V4 Flash en el mismo hueco de los planes y mantiene el identificador de modelo, así que una integración existente puede recibir la arquitectura nueva sin cambiar el cliente.

curl https://api.helmcode.com/v1/chat/completions \
  -H "Authorization: Bearer sk-your-key-here" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-v4-flash",
    "messages": [
      {
        "role": "user",
        "content": "Explica RAG en una frase."
      }
    ]
  }'

Necesitas una suscripción activa a Helmcode o NaN y una API key de tu dashboard.

Si estás eligiendo entre los modelos incluidos en tu plan, V4.1 Flash tiene sentido cuando pesan el trabajo agéntico, los documentos largos o la ventana de un millón de tokens. Para RAG, clasificación, código corto y otros workloads, la elección puede ser otra. ver_guía_de_modelos →