Cómo configurar AnythingLLM con Ollama
Ejecuta una pila RAG totalmente local. Chatea con tus documentos. Sin claves API. Sin límites de velocidad. Sin dependencia de proveedores. Aloja todo en Opsily por $40/month o ejecútalo tú mismo.
Con la confianza de equipos dinámicos
Por qué elegir Opsily para AnythingLLM + Ollama
Deja de ensamblar piezas por separado. Nosotros alojamos tanto AnythingLLM como Ollama, preconfigurados y probados en batalla.
Una sola factura mensual
Ejecuta AnythingLLM, Ollama, n8n y otras apps en el mismo plan de $40/month. Sin cargos por app. Sin sobrecostes sorpresa. Una sola factura.
Los datos nunca abandonan tu servidor
Tus documentos permanecen en tu servidor. Ollama realiza la inferencia localmente. Sin llamadas API a terceros a menos que te conectes explícitamente a Anthropic u OpenAI. Cumple con el RGPD por diseño.
Despliegue con un clic, mantenimiento cero
Haz clic en Instalar. AnythingLLM y Ollama arrancan en 3 minutos. Nosotros nos encargamos de actualizaciones, copias de seguridad, SSL y escalado. Tú solo chatea con tus documentos.
Built for teams who need reliability
Cómo configurar AnythingLLM con Ollama
Aquí tienes el flujo completo: carga de documentos, embedding, recuperación e inferencia LLM.
Choose Your App
Select an app to get started.
Despliega AnythingLLM y Ollama
Haz clic en Instalar en Opsily. Iniciamos ambas apps juntas en un servidor compartido. PostgreSQL y Milvus (base de datos vectorial) vienen preconfigurados.
Sube tus documentos
PDF, TXT, DOCX, sitios web o URLs. AnythingLLM los procesa y divide en fragmentos para la búsqueda semántica.
Conéctate a tu modelo local
Configura AnythingLLM para usar Ollama (ejecutándose en el mismo servidor). Elige un modelo: Llama2, Mistral, Neural Chat o cualquier modelo compatible con Ollama.
Chatea con tus documentos
Haz preguntas. AnythingLLM recupera los fragmentos relevantes de tus documentos y los envía junto a tu consulta a Ollama. Respuestas instantáneas, 100% locales.
Más barato que la API de ChatGPT para equipos
$40/month en Opsily frente a miles al mes en costes de API. Sin límites de velocidad. Privacidad total de datos. Ideal para equipos que procesan documentos sensibles.
Calcula tus ahorros
EUR 800 a year for tools that used to cost us multiples of that. We replaced HubSpot, Make.com, and our password manager with self-hosted apps on Opsily. One provider, one fee.
Franz Koller
Co-Founder · Joy
Por qué funciona AnythingLLM + Ollama
AnythingLLM es una aplicación RAG (Generación Aumentada por Recuperación) de pila completa. Gestiona la ingesta, fragmentación, embedding y recuperación de documentos. Ollama es un motor de ejecución LLM local: descargas un modelo (Llama2, Mistral, Neural Chat) y realiza la inferencia en tu hardware sin tocar internet.
Juntos, forman un sistema completo de chat con documentos mediante IA:
- Subes tus documentos — PDFs, sitios web, correos, lo que sea
- AnythingLLM fragmenta y crea embeddings — Divide los documentos en fragmentos semánticos y almacena los embeddings en Milvus (base de datos vectorial)
- Haces una pregunta — Se envía a AnythingLLM
- Búsqueda semántica — AnythingLLM encuentra los fragmentos más relevantes de tus documentos
- Inferencia local — Los fragmentos y la pregunta se envían a Ollama, que corre en el mismo servidor
- Respuesta instantánea — Ollama devuelve una respuesta basada en tus datos
Nada sale de tu servidor. Sin límites de velocidad de API. Sin conteo de tokens. Sin dependencia de proveedores.
Requisitos del sistema
Mínimo para ejecutar ambos:
- CPU: 2 núcleos
- RAM: 4GB (2GB para AnythingLLM + PostgreSQL, 2GB base para Ollama)
- Almacenamiento: 20GB para SO y apps, +10GB por modelo LLM
Para un mejor rendimiento con modelos más grandes (7B+):
- RAM: 8-16GB
- GPU: Opcional, pero acelera la inferencia 5-10x (NVIDIA CUDA o AMD ROCm)
Elegir tu modelo LLM
Ollama admite cientos de modelos de código abierto. Populares para chat con documentos:
- Llama2 (7B, 13B) — Rápido, preciso, ampliamente utilizado
- Mistral (7B) — Ligero, razonamiento sólido
- Neural Chat (7B) — Ajustado para conversación
- OpenHermes (7B) — Buen seguimiento de instrucciones
Descarga mediante ollama pull mistral. Tarda 5-10 minutos dependiendo de la conexión.
Flexibilidad multi-proveedor
¿No estás listo para ser totalmente local? AnythingLLM admite:
- OpenAI (si tienes presupuesto)
- Anthropic Claude
- HuggingFace (modelos de código abierto)
- Ollama (tu elección)
Conéctate a cualquier proveedor. Tus claves API nunca salen de tu servidor. Cambia de proveedor sin tocar tus documentos.
Lo que obtienes en Opsily
Un servidor. Cinco apps. Todo preconfigurado y gestionado.
Ver todas las apps disponiblesPrecios simples
Todos los planes incluyen alojamiento multi-app en el mismo servidor. Sin sobrecostes por app. Servidores alemanes que cumplen con el RGPD.
Loading pricing...
Confianza y cumplimiento
Tus datos son tuyos. Punto.
GDPR Compliant
Datos almacenados en centros de datos alemanes, sujetos a la ley de privacidad de la UE. Sin seguimiento de terceros.
SOC 2 Type II
Auditado de forma independiente en seguridad, disponibilidad y confidencialidad.
Zero-Knowledge Architecture
Tus documentos y claves API permanecen en tu servidor. La infraestructura de Opsily no puede acceder a tus datos.
Open Source
AnythingLLM tiene licencia MIT. Ejecuta el mismo código localmente, audita libremente, sin dependencia de proveedores.
99.9% Uptime
Servidores redundantes en Frankfurt. Copias de seguridad diarias. Conmutación por error automática.
Preguntas frecuentes
AnythingLLM is an open-source, full-stack RAG (Retrieval-Augmented Generation) application for private AI document chat. It acts as a frontend + document indexing layer. You upload PDFs, emails, websites, or any files. AnythingLLM chunks them, embeds them into a vector database, and retrieves relevant context when you ask questions. Then it sends those contexts + your question to an LLM (local or cloud) for an answer. It's like ChatGPT, but for your own documents, and it runs on your infrastructure.
Lo que dicen nuestros clientes
Equipos en toda la UE ejecutan su pila en Opsily. Así es como funciona en la práctica.
EUR 800 a year for tools that used to cost us multiples of that. We replaced HubSpot, Make.com, and our password manager with self-hosted apps on Opsily. One provider, one fee.
Franz Koller
Co-Founder • Joy
We were paying per user on everything and it added up fast. Now we run five apps for less than one of those old plans. My finance team finally stopped asking questions.
Elise
Head of Operations
Wanted to use n8n for ages but the self-host part always stopped me. Opsily just handled it. Got the power without becoming an IT person overnight.
Federica B.
Automation Consultant
Despliega AnythingLLM con Ollama hoy mismo
Inicia tu pila de IA local en 3 minutos. Sin tarjeta de crédito. Cumplimiento total del RGPD. $40/month para un equipo de 10.