Ejecutar modelos abiertos localmente

El camino corto

El recorrido mínimo, sin rodeos:

1. Elegí el modelo según tu tarea y tu hardware (ver guía de elección en el hub de IA local).
2. Verificá la licencia (ver guía de licencias): que permita tu uso.
3. Descargá el archivo en el formato de tu runtime (típicamente GGUF) y en la cuantización que entre en tu memoria.
4. Abrilo con tu runtime (Ollama para empezar rápido, llama.cpp para control total).

Si algo falla, el diagnóstico sigue las capas del ecosistema: ¿es el archivo (formato equivocado)?, ¿el runtime (backend sin soporte para tu GPU)?, ¿la memoria (modelo más grande que tu RAM)? ¿o la licencia (uso no permitido)?

Qué no duplica esta guía

Esta guía es deliberadamente corta: es un puente, no un manual. El detalle vive donde corresponde y no se copia acá:

• Hardware y memoria: hub de IA local (CPU/GPU, cuantización, KV cache).
• Runtimes: guía de llama.cpp y Ollama.
• Licencias: guía de cómo leer la licencia.
• Modelos concretos: catálogo del sitio, con datos verificados por ficha.

Si venís del hub de IA local, ya sabés el cómo; esta guía te recordó el con qué permiso. Si venís del lado abierto, el hub de IA local te espera con el cómo completo.

Fuentes

• Documentación oficial de Ollama (puesta en marcha local) (documentacion-oficial) · consultado 20/09/2026
• Repositorio oficial de llama.cpp (repositorio-oficial) · consultado 20/09/2026

Seguir aprendiendo

• Cómo elegir un modelo local (Intermedio)