Ollama WebUI: Open WebUI und Alternativen einrichten — Vergleich, Kosten, DSGVO

TL;DR

Ollama liefert nur die API — eine Chat-Oberfläche für Mitarbeiter bringt es nicht mit. Die Standardlösung für den deutschen Mittelstand ist Open WebUI: kostenlose, quelloffene Weboberfläche, die per Docker in 5 Minuten auf dem KI-Server steht und über die OpenAI-kompatible API mit Ollama (und vLLM, LM Studio, lokalen Modellen) spricht. Für 5–50 Nutzer reicht dafür eine schlanke VM neben der GPU. Open WebUI kann mehr als Chat: RAG über eigene Dokumente, Benutzerverwaltung mit Rollen, Admin-Panel und optional deutsche UI. Alternativen wie AnythingLLM oder LibreChat lohnen sich vor allem, wenn Sie zusätzlich Dokumente in mehreren Formaten oder ein klassischeres Team-UI brauchen. DSGVO-Bonus: Alles läuft im eigenen Netz, keine Daten verlassen den Server — solange Sie Web-Recherche und Telemetrie abschalten. Kosten: 0 EUR Software, nur Hardware und Betrieb.

Warum Ollama ohne WebUI im Unternehmen scheitert

ollama run llama3 ist ein guter Einstieg für Einzelpersonen — aber keine Lösung für ein Team. IT-Verantwortliche, die einen KI-Server für ihre Abteilung aufbauen, brauchen:

1. Eine URL, die jeder im Browser öffnen kann (statt SSH und Terminal)
2. Benutzerverwaltung: Wer darf welches Modell nutzen, was wird protokolliert
3. Chat-Verlauf, der pro Nutzer gespeichert wird — idealerweise im Unternehmensnetz
4. Optional: Dokumente hochladen (RAG) für interne Wissensabfragen
5. Deutsche Oberfläche, damit die Einführung ohne Schulung funktioniert

Anthropic und OpenAI liefern solche Oberflächen mit (Claude.ai, ChatGPT), aber dann verlassen Daten das Haus. Für den lokalen KI-Server braucht es eine eigene UI — und genau da setzt Open WebUI an. Auch der Ollama-Docker-Betrieb gehört dazu: Während Ollama als Container die Inference stellt, kommt Open WebUI als zweiter Container daneben.

Open WebUI: die Standard-Wahl im Detail

Open WebUI ist die mit Abstand am weitesten verbreitete Weboberfläche für lokale LLMs. Das Projekt ist quelloffen (MIT-Lizenz, zuletzt unter dem ursprünglichen Namen Open WebUI bekannt und aktiv gepflegt) und unterstützt nicht nur Ollama, sondern jede OpenAI-kompatible API — damit auch vLLM, LM Studio oder einen EU-Cloud-Endpunkt.

Die Kernfunktionen, die für den Mittelstand zählen:

Installation (Docker, Standardweg):

docker run -d -p 3000:8080 \
  --gpus=all \
  -v ollama:/root/.ollama \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:ollama

Danach ist die UI unter http://<server-ip>:3000 erreichbar, der erste Account wird automatisch Admin. Wer Ollama separat betreibt, nutzt das Basis-Image und trägt unter Einstellungen → Verbindungen die Ollama-URL (http://localhost:11434) ein. Details zum sicheren Betrieb des Ports: Ollama Port ändern und absichern.

Die Alternativen im Vergleich

Nicht jedes Team will Open WebUI. Die wichtigsten Alternativen:

Für ein Unternehmensteam mit DSGVO-Anspruch bleiben Open WebUI und AnythingLLM die realistischen Kandidaten. Wenn der Fokus auf „Dokumente durchsuchen" liegt (Handbücher, AGB, interne Richtlinien), punktet AnythingLLM. Wenn es um eine ChatGPT-artige Oberfläche für 10–50 Mitarbeiter geht, gewinnt Open WebUI. Der direkte Frontend-Vergleich mit anderen LLM-Tools findet sich in unserem Artikel Ollama vs. vLLM vs. LM Studio: Frontend-Vergleich.

Kosten-Tabelle: Was kostet die WebUI wirklich?

Der größte Irrtum: Die WebUI wäre der Kostenpunkt. Sie ist es nicht.

Gesamtbild: Software 0 EUR; die WebUI schlägt nur mit dem Server-Anteil zu Buche. Der eigentliche Kostenblock ist die GPU bzw. der gemietete GPU-Server — nicht die Oberfläche. Wer Sparpotenzial sucht, findet es bei der Server-Auslastung (vLLM mit kontinuierlichem Batching), nicht beim Frontend.

DSGVO-Block: Daten bleiben im Haus — wenn Sie zwei Dinge abschalten

Open WebUI läuft komplett im eigenen Netz. Chat-Verläufe, Dokumente und Vektor-Datenbanken liegen lokal auf Ihrem Server. Damit ist die Grundlage DSGVO-konform: keine Auftragsverarbeitung mit einem Cloud-Anbieter, kein Drittlandtransfer (Art. 44 ff. DSGVO), keine Nutzung der Eingaben zum Modelltraining.

Zwei Stolperfallen, die Sie aktiv abschalten müssen:

1. Web-Recherche (WebSearch): Open WebUI kann Suchanfragen an externe Dienste stellen. Für eine saubere Datenlage die Websearches deaktivieren oder auf einen dokumentierten, in der EU vertraglich abgesicherten Dienst begrenzen — sonst verlassen Anfragestexte das Netz.
2. Telemetrie und Updates: Container-Images von GitHub (ghcr.io) werden beim docker pull von Servern der Plattform bezogen. Das ist kein Verarbeitungsvorgang personenbezogener Daten, aber für Air-Gapped-Umgebungen relevant: Image einmalig herunterladen und lokal spiegeln.

Dazu die üblichen Pflichten: AVV, wenn ein IT-Dienstleister den Server betreibt (Art. 28 DSGVO), Verzeichnis der Verarbeitungstätigkeiten (Art. 30), Protokollierung von Zugriffen auf Chat-Verläufe, klare Regel, welche Datenklassen in die KI dürfen. Wer den KI-Server mit mehreren Nutzern betreibt, sollte außerdem die Benutzerverwaltung des UIs direkt mit dem Active Directory oder LDAP koppeln, statt einzelne Logins zu verwalten.

Entscheidungsmatrix

Fazit

Für den KI-Server im Mittelstand ist die Frage „welche WebUI?" schnell beantwortet: Open WebUI, wenn Sie ein ChatGPT-ähnliches Erlebnis für das Team wollen; AnythingLLM, wenn Dokumenten-RAG dominiert. Beide sind kostenlos, quelloffen, laufen im eigenen Netz und sind in einem halben Tag produktiv. Der Kostentreiber ist nicht die Oberfläche, sondern die GPU dahinter — und genau dort lohnt sich die Auseinandersetzung mit Quantisierung und VRAM, bevor man kauft. Mit abgeschalteter Websuche und sauberer Benutzerverwaltung ist der Chat-Server DSGVO-konform, ohne dass ein Datenschutzbeauftragter Bauchschmerzen bekommt.

Sie wollen eine Chat-Oberfläche für Ihre Belegschaft aufbauen und sind unsicher bei Architektur oder DSGVO-Ausgestaltung? Wir begleiten von der Hardware-Wahl bis zur Benutzeranbindung.

Sprechen Sie uns an →

FAQ

Was ist Open WebUI?

Open WebUI ist eine quelloffene (MIT) Weboberfläche für lokale LLMs. Sie verbindet sich über OpenAI-kompatible APIs mit Ollama, vLLM, LM Studio und anderen Backends und bietet Chat, Benutzerverwaltung, RAG und ein Admin-Panel — komplett im eigenen Netz betreibbar.

Wie installiere ich Open WebUI mit Ollama?

Der schnellste Weg ist Docker: docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data ghcr.io/open-webui/open-webui:ollama. Danach läuft die Oberfläche unter http://<server-ip>:3000. Ohne Docker: Python/uv-Starter aus der Dokumentation. Für den sauberen Mehrmaschinen-Betrieb zuerst Ollama als Dienst einrichten.

Ist die WebUI DSGVO-konform?

Ja, mit zwei Einstellungen: Web-Recherche deaktivieren und Telemetrie aus. Dann verlassen weder Chat-Verläufe noch Dokumente das Unternehmensnetz. Pflichten wie AVV bei externem Server-Betrieb und ein Verarbeitungsverzeichnis bleiben (Art. 28, Art. 30 DSGVO) — die ausführliche Einordnung steht im DSGVO-Block oben.

Was kostet Open WebUI?

0 EUR Lizenzkosten. Benötigt wird nur ein Server/Container (bei vorhandenem KI-Server meist kostenlos mitnutzbar) plus die GPU für die Modelle. Die Gesamtkosten dominieren GPU-Kauf oder -Miete: GPU-Server vergleichen.

Kann Open WebUI auch mit vLLM statt Ollama?

Ja. Open WebUI spricht mit jedem OpenAI-kompatiblen Endpunkt. Bei vielen parallelen Nutzern ist vLLM das bessere Backend (kontinuierliches Batching, höherer Durchsatz) — Open WebUI bleibt einfach das Frontend davor. Vergleich: vLLM vs. Ollama: Durchsatz-Benchmark.

Gibt es eine deutsche Oberfläche?

Ja, Open WebUI unterstützt mehrere Sprachen, darunter Deutsch (unter Einstellungen → Sprache). Auch AnythingLLM ist auf Deutsch verfügbar. Damit entfällt der Schulungsaufwand für die Bedienung.

Wie binde ich die Benutzerverwaltung an Active Directory an?

Open WebUI unterstützt OIDC/LDAP-Anbindung über den Authentikations-Provider der Wahl. Damit melden sich Mitarbeiter mit ihren bestehenden Konten an, und die Rollen lassen sich zentral steuern — Pflicht für größere Teams und die Revision (siehe Private-KI-Konfiguration unter Ubuntu).

Weiterführende Artikel:

• Ollama installieren (Ubuntu, 2026) — der Server-Betrieb hinter der UI
• Ollama vs. vLLM vs. LM Studio: Frontend-Vergleich — das richtige UI für Produktivbetrieb
• vLLM vs. Ollama: Durchsatz-Benchmark — Backend-Entscheidung bei vielen Nutzern
• Ollama auf Kubernetes deployen — Skalierung für größere Teams
• Eigener KI-Server: Hardware-Guide 2026 — die GPU-Frage vor der UI
• KI-Server: GPU-VRAM-Rechner — welches Modell auf welcher GPU