Como configurar o AnythingLLM com Ollama
Execute uma stack de RAG totalmente local. Converse com seus documentos. Sem chaves de API. Sem limites de taxa. Sem dependência de fornecedor. Hospede no Opsily por $40/month ou execute por conta própria.
Com a confiança de equipes ágeis
Por que usar o Opsily para AnythingLLM + Ollama
Pare de montar peças separadas. Nós hospedamos o AnythingLLM e o Ollama, pré-configurados e testados em batalha.
Uma fatura mensal
Execute AnythingLLM, Ollama, n8n e outros apps no mesmo plano de $40/month. Sem cobranças por app. Sem surpresas. Uma única fatura.
Os dados nunca saem do seu servidor
Os documentos permanecem no seu ambiente. O Ollama executa a inferência localmente. Sem chamadas de API para terceiros, a menos que você conecte explicitamente ao Anthropic ou OpenAI. Em conformidade com o GDPR por design.
Deploy com um clique, manutenção zero
Clique em Instalar. O AnythingLLM e o Ollama iniciam em 3 minutos. Nós cuidamos de atualizações, backups, SSL e escalonamento. Você apenas conversa com seus documentos.
Built for teams who need reliability
Como configurar o AnythingLLM com Ollama
Aqui está o pipeline completo: upload de documentos, embedding, recuperação e inferência de LLM.
Choose Your App
Select an app to get started.
Faça o deploy do AnythingLLM e Ollama
Clique em Instalar no Opsily. Iniciamos ambos os apps juntos em um ambiente compartilhado. PostgreSQL e Milvus (banco de dados vetorial) já vêm pré-configurados.
Faça o upload dos seus documentos
PDF, TXT, DOCX, sites ou URLs. O AnythingLLM os processa e divide em partes para busca semântica.
Aponte para o seu modelo local
Configure o AnythingLLM para usar o Ollama (executando no mesmo servidor). Escolha um modelo: Llama2, Mistral, Neural Chat ou qualquer modelo suportado pelo Ollama.
Converse com seus documentos
Faça perguntas. O AnythingLLM recupera as partes relevantes dos seus arquivos e as envia junto com sua consulta para o Ollama. Respostas instantâneas, 100% locais.
Mais barato que a API do ChatGPT para equipes
$40/month no Opsily contra milhares por mês em custos de API. Sem limites de taxa. Privacidade total de dados. Ideal para equipes que processam documentos sensíveis.
Calcule sua economia
EUR 800 a year for tools that used to cost us multiples of that. We replaced HubSpot, Make.com, and our password manager with self-hosted apps on Opsily. One provider, one fee.
Franz Koller
Co-Founder · Joy
Por que o AnythingLLM + Ollama funciona
O AnythingLLM é uma aplicação RAG (Retrieval-Augmented Generation) full-stack. Ele gerencia a ingestão, divisão, embedding e recuperação de documentos. O Ollama é um runtime de LLM local: você baixa um modelo (Llama2, Mistral, Neural Chat) e ele executa a inferência no seu hardware sem tocar na internet.
Juntos, eles formam um sistema completo de chat com documentos via IA:
- Você faz o upload de documentos — PDFs, sites, e-mails, qualquer coisa
- AnythingLLM divide e cria embeddings — Fragmenta documentos em partes semânticas e armazena os embeddings no Milvus (banco de dados vetorial)
- Você faz uma pergunta — Enviada ao AnythingLLM
- Busca semântica — O AnythingLLM encontra as partes mais relevantes dos seus documentos
- Inferência local — Partes + pergunta enviadas ao Ollama rodando no mesmo servidor
- Resposta instantânea — O Ollama retorna uma resposta baseada nos seus dados
Nada sai do seu servidor. Sem limites de taxa de API. Sem contagem de tokens. Sem dependência de fornecedor.
Requisitos do sistema
Mínimo para rodar ambos:
- CPU: 2 núcleos
- RAM: 4GB (2GB para AnythingLLM + PostgreSQL, 2GB base para Ollama)
- Armazenamento: 20GB para SO e apps, +10GB por modelo LLM
Para melhor desempenho com modelos maiores (7B+):
- RAM: 8-16GB
- GPU: Opcional, mas acelera a inferência em 5-10x (NVIDIA CUDA ou AMD ROCm)
Escolhendo seu modelo LLM
O Ollama suporta centenas de modelos open-source. Populares para chat com documentos:
- Llama2 (7B, 13B) — Rápido, preciso, amplamente utilizado
- Mistral (7B) — Leve, raciocínio forte
- Neural Chat (7B) — Ajustado para conversação
- OpenHermes (7B) — Bom seguimento de instruções
Baixe via ollama pull mistral. Leva de 5-10 minutos dependendo da conexão.
Flexibilidade de múltiplos provedores
Não está pronto para ir totalmente local? O AnythingLLM suporta:
- OpenAI (se você tiver orçamento)
- Anthropic Claude
- HuggingFace (modelos open-source)
- Ollama (sua escolha)
Aponte para qualquer provedor. Suas chaves de API nunca saem do seu servidor. Troque de provedor sem tocar nos seus documentos.
O que você recebe no Opsily
Um ambiente. Cinco apps. Tudo pré-configurado e gerenciado.
Ver todos os apps disponíveisPreços simples
Todos os planos incluem hospedagem de múltiplos apps no mesmo ambiente. Sem cobranças extras por app. Servidores alemães em conformidade com o GDPR.
Loading pricing...
Confiança e conformidade
Seus dados são seus. Ponto final.
GDPR Compliant
Dados armazenados em data centers alemães, sujeitos à lei de privacidade da UE. Sem rastreamento de terceiros.
SOC 2 Type II
Auditado independentemente para segurança, disponibilidade e confidencialidade.
Zero-Knowledge Architecture
Seus documentos e chaves de API permanecem no seu servidor. A equipe do Opsily não pode acessar seus dados.
Open Source
AnythingLLM tem licença MIT. Execute o mesmo código localmente, audite livremente, sem dependência de fornecedor.
99.9% Uptime
Servidores redundantes em Frankfurt. Backups diários. Failover automático.
Perguntas frequentes
AnythingLLM is an open-source, full-stack RAG (Retrieval-Augmented Generation) application for private AI document chat. It acts as a frontend + document indexing layer. You upload PDFs, emails, websites, or any files. AnythingLLM chunks them, embeds them into a vector database, and retrieves relevant context when you ask questions. Then it sends those contexts + your question to an LLM (local or cloud) for an answer. It's like ChatGPT, but for your own documents, and it runs on your infrastructure.
O que nossos clientes dizem
Equipes em toda a UE executam sua stack no Opsily. Veja como isso funciona na prática.
EUR 800 a year for tools that used to cost us multiples of that. We replaced HubSpot, Make.com, and our password manager with self-hosted apps on Opsily. One provider, one fee.
Franz Koller
Co-Founder • Joy
We were paying per user on everything and it added up fast. Now we run five apps for less than one of those old plans. My finance team finally stopped asking questions.
Elise
Head of Operations
Wanted to use n8n for ages but the self-host part always stopped me. Opsily just handled it. Got the power without becoming an IT person overnight.
Federica B.
Automation Consultant
Faça o deploy do AnythingLLM com Ollama hoje
Inicie sua stack de IA local em 3 minutos. Sem cartão de crédito. Conformidade total com o GDPR. $40/month para uma equipe de 10.