¿Cuánta memoria puede necesitar este modelo?

Pesos + KV cache + overhead como rango orientativo. Aumentar el contexto puede aumentar significativamente la memoria.

Modelo del catálogo (precarga parámetros) Si faltan parámetros: "Parámetros no verificados". El cálculo manual no modifica el catálogo.

Parámetros totales

Cuantización

Contexto (tokens)

RAM (GB)

VRAM (GB)

No se detecta hardware automáticamente ni se almacena lo que indiques. Solo se aceptan cantidades pequeñas (RAM/VRAM) en URLs reproducibles.

Cómo se calcula

Pesos ≈ parámetros × bits efectivos / 8 (bits por formato como rango documentado). KV cache ≈ 2 × capas × dimensión × contexto × 2B cuando hay arquitectura; si no, se declara no estimable (nunca cero). Overhead 15% del máximo de pesos. El total es un rango, no un valor con decimales falsos. Regla: no existe "X GB = modelo máximo YB" universal.