¿Qué es la IA local?

Qué significa IA local

IA local es ejecutar un modelo de inteligencia artificial en tu propia computadora (o servidor) en lugar de enviarle tus datos a un servicio en la nube. Descargás los archivos del modelo una vez y a partir de ahí todo el procesamiento ocurre en tu máquina: tus textos no viajan a ningún lado.

Esto es posible porque muchos modelos tienen sus pesos publicados (se pueden descargar) y existen programas gratuitos que saben ejecutarlos en hardware común. No todos los modelos sirven para esto: los más grandes del mundo solo corren en centros de datos. Pero hay una franja enorme de modelos útiles que sí entran en una PC hogareña o una laptop moderna.

Local vs nube: cuatro diferencias

Privacidad: en local, tus datos no salen de tu red. Ideal para código propietario, documentos sensibles o cuando un contrato te lo exige. En la nube, todo lo que enviás se rige por las condiciones del proveedor.

Latencia: en local no hay viaje por internet, pero tu hardware suele ser más lento que un centro de datos. Resultado: respuestas más predecibles, a veces más lentas en el primer token y competitivas después.

Costo: en la nube pagás por uso (tokens); en local pagás una vez (el hardware) y después el costo marginal es electricidad. Para uso intensivo y constante, lo local suele ganar; para uso esporádico, la nube.

Control: en local elegís el modelo exacto, la versión, y nadie te lo cambia ni te lo retira un martes a la mañana. En la nube dependés del roadmap del proveedor.

Limitaciones honestas

Lo local no es gratis ni mágico:

• Modelos más chicos: la frontera (los modelos más capaces del momento) no entra en hardware hogareño. Para tareas que exigen lo máximo, la nube sigue ganando.
• Vos sos el administrador: descargar, actualizar, configurar y solucionar problemas corre por tu cuenta.
• Hardware manda: la velocidad y el tamaño del modelo que podés correr dependen de tu RAM, tu VRAM y tu procesador (ver guía de hardware).
• Sin servicios incluidos: búsqueda web, memoria entre dispositivos y funciones empresariales hay que armarlas vos.

La decisión no es ideológica sino práctica: muchos usan ambas, lo sensible y cotidiano en local y lo exigente en la nube.

Fuentes

• Documentación oficial de Ollama (ejecución local de modelos) (documentacion-oficial) · consultado 20/09/2026
• Repositorio oficial de llama.cpp (inferencia local en C/C++) (repositorio-oficial) · consultado 20/09/2026

Seguir aprendiendo

• CPU, GPU, NPU, RAM y VRAM para IA (Intermedio)