Ejecutar LLM locales con n8n y Ollama (IA privada, sin costes de API)
· Por AI Compare
Workflows de IA privados sin coste por token: conecte n8n a modelos locales con Ollama.
Por qué ejecutar LLM locales con n8n
Ollama ejecuta modelos de pesos abiertos (Llama, Qwen, Mistral, Gemma y otros) en su propio equipo o servidor. Conéctelo a n8n y obtendrá workflows de IA en los que:
- Ningún dato sale de su infraestructura, útil para documentos confidenciales y datos de clientes.
- No hay costes de API por token; solo paga el hardware.
- No hay límites de peticiones de proveedores externos.
A cambio, los modelos locales suelen ser menos capaces que los mejores modelos en la nube, y necesita suficiente RAM (idealmente, una GPU).
Guía de hardware
| Tamaño del modelo | RAM necesaria (aprox.) | Adecuado para |
|---|---|---|
| 1–4 mil millones de parámetros | 4–8 GB | Clasificación, extracción, resúmenes cortos |
| 7–9 mil millones | 8–16 GB | Chat general, redacción, agentes sencillos |
| 14 mil millones o más | 16–32 GB o más, GPU recomendada | Mejor razonamiento, documentos más largos |
Un VPS pequeño sin GPU ejecutará modelos pequeños con lentitud. Para algo más que un uso ligero, use un equipo con GPU o un Mac con Apple Silicon.
Paso 1: instalar Ollama y descargar un modelo
Instale Ollama desde ollama.com y después:
ollama pull llama3.1:8b
ollama run llama3.1:8b "Hello"
Ollama ofrece una API en el puerto 11434.
Paso 2: conectar n8n con Ollama
En n8n, cree una credencial Ollama con la URL base:
| Configuración | URL base |
|---|---|
| n8n y Ollama instalados directamente en el mismo equipo | http://localhost:11434 |
| n8n en Docker, Ollama en el host | http://host.docker.internal:11434 (en Linux añada --add-host=host.docker.internal:host-gateway) |
| Ambos en el mismo proyecto de Docker Compose | http://ollama:11434 (el nombre del servicio) |
El error más habitual es usar localhost desde dentro del contenedor de n8n, que apunta al propio contenedor y no a su equipo.
Paso 3: crear el workflow de chat
- Chat Trigger: le da una ventana de chat en n8n (y, opcionalmente, una URL de chat pública).
- AI Agent o Basic LLM Chain.
- Subnodo Ollama Chat Model: elija el modelo que descargó.
- Simple Memory opcional para un chat de varios turnos.
Abra el panel de chat y envíe un mensaje. La primera respuesta puede tardar más mientras el modelo se carga en memoria.
Casos de uso que funcionan bien en local
- Resumir documentos internos y notas de reuniones.
- Clasificar tickets de soporte o correos.
- Extraer campos de facturas o contratos a JSON.
- RAG privado sobre los archivos de la empresa con Embeddings Ollama y una base vectorial local (Qdrant o Postgres con pgvector).
Consejos
- Los modelos pequeños siguen con menos fiabilidad las instrucciones de uso de herramientas. Limite los agentes a una o dos herramientas, o use una Basic LLM Chain con salida estructurada.
- Use una temperatura baja (0–0,3) para extracción y clasificación.
- El «self-hosted AI starter kit» de n8n reúne n8n, Ollama, Qdrant y Postgres en Docker Compose, una forma rápida de ponerlo todo en marcha a la vez.
