So nutzen Sie die AnythingLLM REST API

Die AnythingLLM REST API bietet Ihnen RAG in 3 Minuten

AnythingLLM ist eine Full-Stack-Plattform für Retrieval-Augmented Generation (RAG). Sie zerlegt Ihre Dokumente in Abschnitte, bettet sie in eine Vektordatenbank ein und ruft bei einer Frage den relevantesten Kontext ab. Anschließend sendet sie diesen Kontext zusammen mit Ihrer Anfrage an ein LLM, um eine Antwort zu erhalten.

Die REST API ermöglicht es Ihnen, diesen gesamten Prozess zu automatisieren:

• Dokumente in Workspaces hochladen via /api/documents/upload
• Dokumente abfragen mit /api/workspaces/{id}/chat
• Benutzer, LLM-Anbieter und Embeddings programmatisch verwalten
• Webhook-Benachrichtigungen erhalten, wenn Dokumente indexiert wurden

Warum die AnythingLLM API für Dokumenten-Chat besser ist als die ChatGPT API

Die ChatGPT API berechnet $0.01-0.05 pro Anfrage und sendet Ihre Daten an OpenAI-Server. AnythingLLM läuft auf Ihrer eigenen Umgebung. Ihre Dokumente bleiben privat. Sie zahlen $40/Monat pauschal (bei Opsily), unabhängig vom Anfragevolumen – keine Abrechnung pro Anfrage.

Sie erhalten zudem Anbieterflexibilität: Wechseln Sie zwischen Ollama (lokal), OpenAI, Anthropic oder HuggingFace, ohne Dokumente neu indexieren zu müssen. ChatGPT bindet Sie fest an den Anbieter.

Produktive Deployments benötigen Managed Hosting

AnythingLLM selbst zu hosten bedeutet, sich um Backups, Sicherheits-Patches, Datenbankoptimierung und SSL-Zertifikate zu kümmern. Opsily übernimmt all das. Stellen Sie AnythingLLM in 3 Minuten auf Opsily bereit. Sie erhalten automatische Updates, DSGVO-konforme deutsche Rechenzentren, tägliche verschlüsselte Backups und SSL – alles inklusive.

Python-Beispiel: Chatten mit Ihren Dokumenten

import requests

BASE_URL = "https://ihre-umgebung.opsily.com/api"
API_KEY = "sk_..."
WORKSPACE_ID = "workspace_123"

headers = {"Authorization": f"Bearer {API_KEY}"}

# Chat mit Dokumenten
response = requests.post(
    f"{BASE_URL}/workspaces/{WORKSPACE_ID}/chat",
    headers=headers,
    json={"message": "Fasse unsere Datenschutzrichtlinie zusammen"}
)

print(response.json()["response"])  # Antwort des LLM basierend auf Ihren Dokumenten

JavaScript-Beispiel: Einbetten in Ihre Web-App

const chatWithDocuments = async (question) => {
  const response = await fetch(
    `https://ihre-umgebung.opsily.com/api/workspaces/workspace_123/chat`,
    {
      method: "POST",
      headers: {
        "Authorization": `Bearer ${API_KEY}`,
        "Content-Type": "application/json"
      },
      body: JSON.stringify({ message: question })
    }
  );
  const data = await response.json();
  return data.response;
};

Beide Beispiele nutzen dieselben Endpunkte. Beide funktionieren auf Opsily Managed Hosting oder selbst gehosteter Umgebung. Kein Vendor Lock-in.