Guia · Nivel Intermedio · Modelos
Entrenamiento vs inferencia
Las dos fases de la vida de un modelo: entrenar (caro, una vez, con datos) e inferir (barato, cada consulta). Por qué confundirlas lleva a errores de criterio.
Publicado: 19/09/2026 · Última revisión: 19/09/2026 · Lectura: 7 min
Entrenamiento: aprender una vez, a gran costo
El entrenamiento (training) es la fase donde el modelo ajusta sus parámetros procesando enormes volúmenes de datos. Requiere miles de GPUs trabajando durante semanas o meses, con costos que van de cientos de miles a decenas de millones de dólares para los modelos más grandes.
Suele dividirse en etapas: pre-entrenamiento (aprender patrones generales del lenguaje y del mundo a partir de texto, código e imágenes), ajuste por instrucciones (aprender a seguir pedidos y conversar) y alineación (reforzar comportamientos útiles y seguros, típicamente con retroalimentación humana).
El entrenamiento lo hacen los proveedores o laboratorios, no los usuarios. Cuando se anuncia un modelo nuevo, lo que se anuncia es el resultado de un entrenamiento nuevo.
Inferencia: usar el modelo, consulta a consulta
La inferencia (inference) es la fase de uso: el modelo ya entrenado recibe una entrada y genera una salida. Cada mensaje que enviás a un asistente y cada llamada a una API son inferencias.
La inferencia es órdenes de magnitud más barata que el entrenamiento, pero no gratis: requiere GPUs (o CPUs potentes) con suficiente memoria para cargar los parámetros, y su costo escala con la cantidad de tokens procesados. Por eso los precios de API se cobran por token y por eso los modelos gigantes necesitan infraestructura seria para responder rápido.
La latencia (cuánto tarda la respuesta) y el costo por consulta son propiedades de la inferencia, y dependen del tamaño del modelo, del hardware y de cuántos tokens de entrada y salida tenga tu pedido.
Tres confusiones frecuentes
- El modelo no aprende de tus conversaciones. Chatear es inferencia: los parámetros no cambian. Si querés que sepa algo nuevo hay que dárselo en el contexto, conectarle herramientas o hacer un ajuste fino (fine-tuning), que es un mini-entrenamiento aparte.
- Un modelo caro de entrenar puede ser barato de usar, y viceversa. El costo de entrenamiento lo absorbe el proveedor; a vos te importa el precio de inferencia.
- Ejecutar un modelo en tu máquina es inferencia local: necesitás memoria suficiente para sus parámetros, no entrenar nada. De eso trata el futuro hub de IA local.
Fuentes
- Documentación de Transformers (entrenamiento y fine-tuning) (documentacion-tecnica) · consultado 20/09/2026