VPS para Rodar Modelos de IA Locais (Ollama)
Depender de uma API externa de IA tem custo por uso e envia seus dados para fora do seu servidor. Rodar um modelo de linguagem (LLM) localmente — como Llama, Mistral ou Gemma — resolve os dois problemas: você paga só o VPS, e nada sai do seu ambiente. A ferramenta mais simples para isso é o Ollama. Veja o que você precisa e como configurar.
Antes de continuar: rodar um LLM local exige bem mais RAM do que hospedar um app comum. Confira os requisitos abaixo antes de contratar o plano.
Quanto de RAM cada modelo precisa
| Modelo | Tamanho | RAM mínima recomendada |
|---|---|---|
| Llama 3.2 (3B) | ~2 GB | 4 GB |
| Mistral 7B | ~4,5 GB | 8 GB |
| Llama 3.1 (8B) | ~4,7 GB | 8–16 GB |
| Mixtral 8x7B | ~26 GB | 32 GB+ |
Sem GPU, o modelo roda na CPU — mais lento, mas funcional para a maioria dos casos de uso que não exigem resposta instantânea (ex: processamento em lote, automações internas, chatbots de baixo volume).
Passo 1: Instalar o Ollama
curl -fsSL https://ollama.com/install.sh | sh Passo 2: Baixar e rodar um modelo
ollama pull llama3.2
ollama run llama3.2 Isso já abre um chat interativo direto no terminal. Para usar o modelo a partir de outra aplicação (seu app, um n8n, etc.), o Ollama expõe uma API local na porta 11434, compatível com o formato da API da OpenAI.
Passo 3: Expor a API com segurança
Importante: por padrão, a API do Ollama só escuta localmente (127.0.0.1). Se outra aplicação no mesmo servidor for consumi-la, não é preciso expor nada à internet — e essa é a configuração mais segura.
Se precisar acessar de fora do servidor, configure um proxy reverso com autenticação (Nginx + senha básica, no mínimo) na frente da porta 11434 — nunca exponha essa porta diretamente sem proteção.
Vale a pena rodar localmente ou é melhor usar API externa?
Depende do volume. Se você faz poucas chamadas por dia, uma API paga por uso (OpenAI, Anthropic) sai mais barato que manter um VPS robusto ligado 24h. Se o volume é alto e constante, ou se privacidade dos dados é um requisito (dados sensíveis de clientes, por exemplo), rodar localmente compensa e se paga rápido.
Perguntas frequentes
Preciso de GPU para rodar um LLM em VPS?
Não é obrigatório. Modelos menores (até 8B parâmetros) rodam razoavelmente bem em CPU. Para volumes altos ou modelos maiores, um VPS com GPU acelera bastante, mas custa mais.
O Ollama é gratuito?
Sim, o Ollama é uma ferramenta open-source e gratuita. Você só paga pelo VPS onde ele roda.