Actualidad: ver ahora
Cotizaciones: dolar oficial / blue
Clima: ver pronóstico

Guia · Nivel Intermedio · IA Local

llama.cpp y Ollama: qué papel cumple cada uno

Modelo, formato, runtime, servidor e interfaz son cinco cosas distintas. Dónde encajan llama.cpp y Ollama en esa pila.

Publicado: 19/09/2026 · Última revisión: 19/09/2026 · Lectura: 7 min

Las cinco capas

Para usar IA local conviven cinco conceptos que conviene no mezclar:

  1. Modelo: los pesos entrenados (qué sabe hacer).
  2. Formato: cómo vienen empaquetados (GGUF, por ejemplo).
  3. Runtime: el motor que ejecuta los cálculos (usa CPU/GPU).
  4. Servidor: el programa que expone el motor por red local o API.
  5. Interfaz: lo que vos ves (chat, terminal, app, IDE).

Gran parte de la confusión del principiante viene de mezclar capas: preguntar ¿Ollama o GGUF? es como preguntar ¿Spotify o MP3?; son respuestas a preguntas distintas.

llama.cpp: el motor

llama.cpp es un motor de inferencia de código abierto escrito en C/C++, sin dependencias pesadas, optimizado para correr modelos en hardware común (CPU, Apple Silicon, NVIDIA, AMD y más backends). Es la pieza runtime: carga el GGUF, reparte el trabajo entre CPU y GPU y genera los tokens.

Su filosofía es minimalista y portable: compila casi en cualquier lado y expone herramientas de línea de comandos más un servidor con API compatible. Muchos otros proyectos lo usan por debajo sin que lo notes. Si te gusta compilar, ajustar flags y exprimir hardware, este es tu nivel.

Ollama: la experiencia completa

Ollama apunta a la experiencia completa: un solo programa que descarga, gestiona, sirve y conversa con modelos en tu máquina, con comandos simples y una API lista para conectar apps. Por debajo usa un motor de inferencia; por arriba te da biblioteca de modelos, versionado y chat inmediato.

La elección es de perfil, no de calidad moral: Ollama si querés empezar ya y no pelearte con compilación; llama.cpp si querés control total, hardware exótico o integrar el motor en tu propio proyecto. Existen otras alternativas (interfaces y servidores varios); antes de adoptar una, verificá que tenga desarrollo activo y documentación, igual que con cualquier software.

Fuentes