Necesidad
Qué querés lograr: chat, programación, análisis de texto, documentos, experimentación, privacidad u offline. La tarea condiciona todo lo demás.
Ejecutar IA en tu computadora: cómo empezar
Quiero ejecutar IA en mi computadora. ¿Cómo empiezo?
El hub de IA Local explica qué es la IA local y cómo funciona; esta página responde otra pregunta: cómo empezar a ejecutarla en tu equipo, paso por paso. La progresión es necesidad, hardware disponible, tarea, modelo, cuantización, runtime, descarga, ejecución, prueba y ajuste.
No hay una configuración universal ni un modelo ganador para todos: la tarea condiciona la elección y el hardware disponible pone los límites. Ante la duda, empezar chico y probar con tu tarea real es mejor que descargar el modelo más grande.
Qué podés hacer
- Chatear con un modelo sin depender de la nube
- Programar con asistencia local por privacidad
- Analizar textos y documentos en tu equipo
- Experimentar y aprender cómo funcionan los modelos
- Trabajar con datos que no pueden salir de tu máquina
- Usar IA sin conexión a Internet
- Probar modelos antes de decidir una opción productiva
El recorrido: de tu necesidad a la primera ejecución
Hardware disponible
Qué tenés hoy: CPU, GPU, NPU, RAM, VRAM y almacenamiento. Identificarlo es el paso previo; no se crea ninguna calculadora aquí ni se recomiendan configuraciones exactas sin datos fiables.
Modelo
Elegirlo desde el catálogo entre los marcados para uso local, con la guía de cómo elegir un modelo local. Sin listas hardcodeadas: el catálogo es la fuente.
Cuantización
El trade-off memoria, calidad y velocidad: a menor precisión, menos memoria y más velocidad, con posible pérdida de calidad. Sin ganador universal (ver guía de cuantización).
Runtime
Con qué ejecutarlo (por ejemplo llama.cpp u Ollama, cada uno con su rol). La elección depende de facilidad, hardware, compatibilidad, API, uso e integración.
Descarga, ejecución, prueba y ajuste
Descargar de fuentes confiables, ejecutar, probar con tu tarea real (calidad, velocidad, memoria, contexto, estabilidad) y ajustar. No basta una pregunta genérica de prueba.
Flujo práctico de puesta en marcha
Necesidad, hardware, tarea, modelo, cuantización, runtime, descarga, ejecución, prueba y ajuste: en ese orden.
- Definí tu necesidad: qué tarea concreta querés resolver
- Relevá tu hardware: CPU, GPU, NPU, RAM, VRAM y disco disponible
- Elegí el modelo desde el catálogo de uso local según tu tarea
- Elegí la cuantización entendiendo el trade-off memoria, calidad y velocidad
- Elegí el runtime según facilidad, hardware y compatibilidad
- Descargá el modelo solo de fuentes confiables
- Ejecutá y probá con tu tarea real, no con una pregunta genérica
- Medí calidad, velocidad, memoria, contexto y estabilidad
- Ajustá modelo, cuantización o runtime según lo medido
Local no significa automáticamente seguro ni privado por arte de magia: depende de qué descargás, qué exponés y qué datos usan tus herramientas.
Qué necesitás saber
Conceptos explicados en las guías existentes. Se escriben una vez y se reutilizan: son las mismas guías de la sección Explorar IA.
¿Qué es la IA local?
Ejecutar modelos de IA en tu propia computadora: qué significa, qué ganás (privacidad, costo, control) y qué perdés respecto a la nube.
Leer guíaCPU, GPU, NPU, RAM y VRAM para IA
Qué hace cada componente cuando ejecutás un modelo, qué limita a qué, y por qué no existe una regla simple de cuánta memoria necesitás.
Leer guía¿Qué es la cuantización?
Cómo los modelos se achican para entrar en tu PC: precisión, niveles de cuantización, qué significan Q4/Q5/Q6/Q8 y sus trade-offs.
Leer guía¿Qué es GGUF?
GGUF no es un modelo: es el formato contenedor que permite distribuir y ejecutar modelos cuantizados. Qué contiene y por qué importa.
Leer guíallama.cpp y Ollama: qué papel cumple cada uno
Modelo, formato, runtime, servidor e interfaz son cinco cosas distintas. Dónde encajan llama.cpp y Ollama en esa pila.
Leer guíaCómo elegir un modelo local
Nueve criterios para elegir qué modelo correr en tu máquina, cómo usar el catálogo del sitio y qué no hay que inventar.
Leer guíaContexto y consumo de memoria en IA local
Por qué las conversaciones largas consumen memoria extra: parámetros, precisión, KV cache y offloading, sin fórmulas universales.
Leer guíaModelos relacionados
Modelos del catálogo marcados para uso local. Sin ranking y sin pares hardware-modelo inventados: la tarea y tu hardware condicionan la elección.
Riesgos y límites
- Descargar archivos de fuentes no confiables
- Licencias: no todo lo descargable es usable para tu caso
- Consumo de disco: los modelos ocupan mucho espacio
- Quedarse sin RAM o VRAM a mitad de ejecución
- Drivers desactualizados o incompatibles
- Incompatibilidad entre modelo, formato y runtime
- Modelos demasiado grandes para el hardware disponible
- Contexto excesivo que degrada velocidad y memoria
- Exponer accidentalmente el servidor local a Internet
- Asumir que local equivale automáticamente a seguro
Próximo paso
Ver modelos para uso local Cómo elegir un modelo local Qué es la cuantización Qué es GGUF llama.cpp y Ollama: rol de cada uno Explorar el hub de IA Local Abrir ¿Qué IA necesito?