Executar LLMs locais com o n8n e o Ollama (IA privada, sem custos de API)
· Por AI Compare
Workflows de IA privados sem custos por token: ligue o n8n a modelos locais com o Ollama.
Porquê executar LLMs locais com o n8n
O Ollama executa modelos de pesos abertos (Llama, Qwen, Mistral, Gemma e outros) na sua própria máquina ou servidor. Ligue-o ao n8n e obtém workflows de IA em que:
- Nenhum dado sai da sua infraestrutura, útil para documentos confidenciais e dados de clientes.
- Não há custos de API por token; paga apenas o hardware.
- Não há limites de pedidos de fornecedores externos.
Em contrapartida, os modelos locais são normalmente menos capazes do que os melhores modelos na cloud, e precisa de RAM suficiente (idealmente uma GPU).
Guia de hardware
| Tamanho do modelo | RAM necessária (aprox.) | Adequado para |
|---|---|---|
| 1–4 mil milhões de parâmetros | 4–8 GB | Classificação, extração, resumos curtos |
| 7–9 mil milhões | 8–16 GB | Chat geral, rascunhos, agentes simples |
| 14 mil milhões ou mais | 16–32 GB ou mais, GPU recomendada | Melhor raciocínio, documentos mais longos |
Um VPS pequeno sem GPU executa modelos pequenos de forma lenta. Para mais do que uso ligeiro, use uma máquina com GPU ou um Mac com Apple Silicon.
Passo 1: instalar o Ollama e descarregar um modelo
Instale o Ollama a partir de ollama.com e depois:
ollama pull llama3.1:8b
ollama run llama3.1:8b "Hello"
O Ollama disponibiliza uma API na porta 11434.
Passo 2: ligar o n8n ao Ollama
No n8n, crie uma credencial Ollama com o URL base:
| Configuração | URL base |
|---|---|
| n8n e Ollama instalados diretamente na mesma máquina | http://localhost:11434 |
| n8n em Docker, Ollama no anfitrião | http://host.docker.internal:11434 (no Linux adicione --add-host=host.docker.internal:host-gateway) |
| Ambos no mesmo projeto Docker Compose | http://ollama:11434 (o nome do serviço) |
O erro mais comum é usar localhost a partir do contentor do n8n, que aponta para o próprio contentor e não para o seu computador.
Passo 3: criar o workflow de chat
- Chat Trigger: dá-lhe uma janela de chat no n8n (e, opcionalmente, um URL de chat público).
- AI Agent ou Basic LLM Chain.
- Sub-nó Ollama Chat Model: escolha o modelo que descarregou.
- Simple Memory opcional para conversas com várias mensagens.
Abra o painel de chat e envie uma mensagem. A primeira resposta pode demorar mais enquanto o modelo é carregado em memória.
Casos de uso que funcionam bem localmente
- Resumir documentos internos e notas de reuniões.
- Classificar pedidos de suporte ou emails.
- Extrair campos de faturas ou contratos para JSON.
- RAG privado sobre os ficheiros da empresa com Embeddings Ollama e uma base vetorial local (Qdrant ou Postgres com pgvector).
Dicas
- Os modelos mais pequenos seguem com menos fiabilidade as instruções de chamada de ferramentas. Limite os agentes a uma ou duas ferramentas, ou use uma Basic LLM Chain com saída estruturada.
- Use uma temperatura baixa (0–0,3) para extração e classificação.
- O «self-hosted AI starter kit» do n8n junta n8n, Ollama, Qdrant e Postgres em Docker Compose, uma forma rápida de pôr tudo a funcionar em conjunto.
