GLM 5.3 ya disponible en Helmcode
GLM 5.3 empata con Kimi K3 en lo más alto de los modelos abiertos y corre en nuestra infraestructura europea con 1M de contexto y los mismos 150 € al mes.
5 entradas
GLM 5.3 empata con Kimi K3 en lo más alto de los modelos abiertos y corre en nuestra infraestructura europea con 1M de contexto y los mismos 150 € al mes.
Un nodo de 8 H200 para GLM-5.2 cuesta 25.250 € al mes antes de servir un solo token. Los números completos, el break-even y cuándo gana el hardware propio.
Cómo diseñar sistemas multi-modelo donde un LLM abierto planifica, otro ejecuta y el contexto que se pasan entre ellos es eficiente.
FP8, NVFP4, H200, B200: qué acelera en hardware cada generación de NVIDIA, cuánta VRAM necesita tu modelo y qué GPU comprar. Con datos de producción reales.
Before we start, a bit of context. The infrastructure is hosted on AWS and the architecture was based on Serverless services:
// cookies
Solo usamos cookies estrictamente necesarias para que el sitio funcione. Nada de analítica ni publicidad, nunca — consulta la Política de cookies.
// preferencias