AI for Dummies - Parte 1
En este post aprenderemos lo que son los parámetros y la cuantización para saber cuánto ocupan los modelos de IA.
AI
2 posts
2 posts
En este post aprenderemos lo que son los parámetros y la cuantización para saber cuánto ocupan los modelos de IA.
En este post os cuento cómo estan montados los servidores de inferencia de la comunidad. El hardware que utilizamos, el stack que corremos y los modelos que servimos.