5 entradas
Un nodo de 8 H200 para GLM-5.2 cuesta 25.250 € al mes antes de servir un solo token. Los números completos, el break-even y cuándo gana el hardware propio.
Los cinco teoremas del paper de Cordis, el framework de plugins detrás de DeepSeek Harness, explicados en lenguaje llano y con lo que ya corre en producción.
Cómo diseñar sistemas multi-modelo donde un LLM abierto planifica, otro ejecuta y el contexto que se pasan entre ellos es eficiente.
FP8, NVFP4, H200, B200: qué acelera en hardware cada generación de NVIDIA, cuánta VRAM necesita tu modelo y qué GPU comprar. Con datos de producción reales.
Before we start, a bit of context. The infrastructure is hosted on AWS and the architecture was based on Serverless services:
// cookies
Solo usamos cookies estrictamente necesarias para que el sitio funcione. Nada de analítica ni publicidad, nunca — consulta la Política de cookies.
// preferencias