Open WebUI: Praxis-Guide für Einrichtung und Betrieb

Open WebUI ist die führende Open-Source-Plattform für Unternehmen, die KI-Modelle auf eigener Infrastruktur betreiben wollen. Mit über 127.000 GitHub-Stars und 290 Millionen Downloads gehört sie zu den am schnellsten wachsenden Self-Hosting-Projekten weltweit. Laut Bitkom nennen rund 80 Prozent der deutschen Unternehmen Datenschutz als größte Hürde beim KI-Einsatz. Genau hier setzt die Plattform an: Sie verbindet lokale Sprachmodelle über Ollama und externe APIs in einer einheitlichen Oberfläche, die komplett ohne Cloud-Dienste auskommt.

Dieser Guide zeigt Ihnen, wie Sie Open WebUI mit Docker einrichten, KI-Modelle verwalten und die Plattform im Unternehmen DSGVO-konform betreiben.

Kennzahlen auf einen Blick

Kennzahl	Wert
GitHub-Stars	127.000+ (Stand März 2026)
Downloads	290 Millionen+
Community-Mitglieder	352.000+
Lizenzkosten	0 Euro (Open Source)
Installationszeit	Unter 5 Minuten per Docker

Quellen: GitHub API, openwebui.com (März 2026)

Was ist Open WebUI und wofür brauchen Sie es?

Open WebUI ist eine selbst gehostete Plattform für Künstliche Intelligenz, die als zentrale Oberfläche für verschiedene LLMs (Large Language Models) dient. Die Software bündelt lokale Sprachmodelle (über Ollama) und Cloud-APIs (OpenAI, Anthropic, Mistral) in einem einzigen Web-Interface. Anders als bei ChatGPT oder Microsoft Copilot läuft die Plattform auf Ihrer eigenen Hardware - ob im Serverraum, auf einem dedizierten Rechner oder in einer privaten Cloud.

Das Projekt startete im Oktober 2023 unter dem Namen “Ollama WebUI” und hat sich seitdem zur umfassendsten Open-Source-Alternative zu kommerziellen KI-Oberflächen entwickelt. Die Community umfasst über 352.000 Mitglieder, der Discord-Server zählt rund 33.000 aktive Teilnehmer. Das Entwicklungstempo ist hoch: Allein im März 2026 erschienen vier neue Versionen (v0.8.7 bis v0.8.10).

Kernfunktionen im Überblick

Die Plattform bietet weit mehr als eine Chat-Oberfläche. Sie umfasst ein vollständiges RAG-System (Retrieval Augmented Generation) für die Einbindung von Firmendokumenten, eine integrierte Benutzerverwaltung mit Rollenkonzept, Spracheingabe und -ausgabe, Bildgenerierung über DALL-E oder ComfyUI sowie ein Plugin-System für eigene Python-Erweiterungen. Über den eingebauten Modell-Marktplatz laden Sie neue Modelle, Prompts und Tools direkt in Ihre Instanz. Zusätzlich erstellen Sie eigene Agenten mit angepassten System-Prompts - etwa einen HR-Assistenten, einen Vertriebs-Bot oder einen Rechtsberater, jeweils mit eigener Wissensbasis.

Open WebUI installieren: Setup mit Docker in fünf Schritten

Die Installation gelingt am schnellsten mit Docker. Die Plattform stellt vorgefertigte Container-Images bereit, die alle Abhängigkeiten bereits enthalten. Für den produktiven Betrieb empfiehlt sich zusätzlich eine PostgreSQL-Datenbank statt der voreingestellten SQLite. Laut Stack Overflow Developer Survey 2024 nutzen 59 Prozent der professionellen Entwickler Docker - die Containerisierung ist damit im Unternehmensumfeld längst Standard.

Hier die fünf Schritte von der leeren Maschine bis zum ersten Chat:

1. Docker auf dem Server installieren
2. Open-WebUI-Container starten
3. Browser öffnen und Admin-Konto anlegen
4. Ollama oder eine API-Verbindung einrichten
5. Erstes Modell laden und testen

Voraussetzungen und Systemanforderungen

Für den Einstieg reicht ein Linux-Server mit Docker und mindestens 4 GB RAM. Wer lokale Modelle über Ollama betreiben will, braucht zusätzlich eine NVIDIA-GPU mit mindestens 8 GB VRAM - für kleinere Modelle wie Phi oder Gemma genügen auch 4 GB. Ohne GPU-Unterstützung können Sie die Plattform trotzdem nutzen, indem Sie externe APIs (OpenAI, Anthropic) anbinden. Die CPU-Inferenz über Ollama funktioniert ebenfalls, ist aber deutlich langsamer.

Der Docker-Befehl für die Standardinstallation sieht so aus:

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

Für GPU-Unterstützung verwenden Sie stattdessen das CUDA-Image:

docker run -d -p 3000:8080 --gpus all \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:cuda

Nach dem Start erreichen Sie die Oberfläche unter http://Ihre-Server-IP:3000. Der erste Nutzer, der sich registriert, erhält automatisch Admin-Rechte.

Installation ohne Docker

Alternativ lässt sich die Software auch direkt per Python installieren. Der Paketmanager uv ist dafür die schnellste Methode:

pip install open-webui
open-webui serve

Diese Variante eignet sich für Entwicklungsumgebungen oder Tests auf dem eigenen Rechner. Für den produktiven Betrieb im Unternehmen bleibt Docker die bessere Wahl, weil Updates und Backups sich einfacher handhaben lassen.

Welche KI-Modelle unterstützt Open WebUI?

Die Plattform verfolgt einen anbieterunabhängigen Ansatz und arbeitet mit jedem Backend zusammen, das dem OpenAI Chat Completions-Protokoll folgt. Konkret bedeutet das: Sie können lokale und cloudbasierte Modelle parallel nutzen und im Chat per @-Befehl zwischen ihnen wechseln.

Lokale Modelle mit Ollama einbinden

Ollama ist das meistgenutzte Backend für lokale Sprachmodelle und mit über 165.000 GitHub-Stars ein eigenständiges Open-Source-Projekt. Wenn Ollama auf demselben Server läuft, erkennt die Plattform die verfügbaren Modelle automatisch. Neue LLMs laden Sie direkt über die Web-Oberfläche herunter - ohne Kommandozeile.

Bewährte Modelle für den Unternehmenseinsatz:

Auf Hugging Face stehen mittlerweile über 2,7 Millionen Modelle bereit. Viele davon lassen sich über Ollama als GGUF-Dateien direkt importieren und sofort nutzen.

Der entscheidende Vorteil gegenüber SaaS-Lösungen: In Open WebUI wechseln Ihre Mitarbeitenden per @-Befehl zwischen Modellen. Für eine Vertragsanalyse nutzen sie Llama 4 Maverick, für eine schnelle E-Mail Mistral 7B, für eine technische Berechnung DeepSeek R1. Kein Anbieterwechsel, keine separaten Logins, keine zusätzlichen Kosten. Einen ausführlichen Vergleich der aktuell leistungsstärksten Modelle finden Sie in unserem KI-Assistenten-Vergleich.

Externe APIs anbinden

Neben lokalen Modellen verbindet die Plattform auch Cloud-Dienste wie OpenAI (GPT-4o), Anthropic (Claude), Google (Gemini) oder Mistral AI. Dafür tragen Sie den jeweiligen API-Schlüssel in den Einstellungen ein - die OpenAI-kompatible Schnittstelle macht die Anbindung unkompliziert. Der hybride Ansatz ist für viele Unternehmen der praktischste Weg: Vertrauliche Daten verarbeiten lokale Modelle, für komplexe Analysen oder Textgenerierung greifen Sie auf leistungsstärkere Cloud-Modelle zurück.

Was ist der Unterschied zwischen Open WebUI und Ollama?

Diese Frage taucht regelmäßig auf, weil beide Projekte eng zusammenarbeiten, aber grundverschiedene Aufgaben erfüllen. Ollama ist eine Inference-Engine - sie lädt Sprachmodelle auf die lokale Hardware und führt sie aus. Ollama hat keine grafische Oberfläche: Nutzer interagieren über die Kommandozeile oder per API.

Open WebUI dagegen ist das Frontend - die grafische Oberfläche, über die Nutzer mit den Modellen interagieren. Die Plattform stellt die Chat-Oberfläche, Benutzerverwaltung, Dokumenten-Upload und alle weiteren Features bereit, die den produktiven Einsatz im Team ermöglichen. Man kann es sich wie ein Tandem vorstellen: Ollama ist der Motor, Open WebUI das Cockpit. Beide funktionieren unabhängig voneinander - Open WebUI kann auch ohne Ollama mit Cloud-APIs arbeiten, und Ollama kann ohne Open WebUI über die Kommandozeile gesteuert werden. Im Zusammenspiel ergeben sie eine vollständige, lokale KI-Plattform.

Ist Open WebUI kostenlos?

Ja. Open WebUI steht als Open-Source-Software kostenlos zur Verfügung - ohne Nutzerlimit, ohne versteckte Gebühren und ohne Funktionsbeschränkungen. Die Community-Version deckt sämtliche Features ab: Chat, RAG, Benutzerverwaltung, Plugin-System, Modellverwaltung und API-Gateway. Es gibt eine optionale Enterprise-Version mit zusätzlichem SLA-Support, White-Labeling und Long-Term-Support-Versionen. Für die meisten mittelständischen Unternehmen reicht die kostenlose Variante. Im Vergleich: ChatGPT Team kostet 25 US-Dollar pro Nutzer und Monat, Microsoft 365 Copilot 30 US-Dollar - bei 100 Mitarbeitern summiert sich das auf 30.000 bis 36.000 US-Dollar pro Jahr.

Was kostet Self-Hosting im Vergleich zu SaaS?

Die Software ist kostenlos, aber die Infrastruktur nicht. Wie rechnet sich Self-Hosting gegenüber kommerziellen SaaS-Lösungen wie ChatGPT Team oder Microsoft Copilot?

Die Self-Hosting-Kosten bleiben unabhängig von der Nutzerzahl konstant. Ab etwa 10 bis 15 Nutzern rechnet sich ein eigener Server. Bei 50 Nutzern sparen Sie gegenüber ChatGPT Team rund 12.000 Euro pro Jahr, gegenüber Copilot sogar über 15.000 Euro. Hinzu kommt: Keine Daten verlassen Deutschland, kein Vendor Lock-in, volle Modellfreiheit.

Der Hetzner GEX44 (20 GB VRAM) reicht für Modelle bis 14B Parameter. Für leistungsstärkere Modelle wie Llama 4 Scout oder Qwen 3.5 empfiehlt sich der GEX131 mit 96 GB VRAM. Beide Server stehen in deutschen Rechenzentren.

Open WebUI im Unternehmen: Benutzerverwaltung und Teamfunktionen

Der Schritt vom persönlichen KI-Assistenten zur unternehmensweiten Plattform erfordert klare Strukturen bei Zugriff, Rollen und Modellzuweisung. Die Software bringt dafür alle nötigen Features mit - von der Modellverwaltung bis zum Prompt-Management für ganze Abteilungen.

Rollenkonzept und Rechteverwaltung

Die Benutzerverwaltung basiert auf drei Rollen: Super-Admin (der erste registrierte Nutzer), Admin und User. Admins steuern, welche Modelle, Wissensdatenbanken und Tools den einzelnen Nutzergruppen zur Verfügung stehen. Neue Mitarbeiter können einen Genehmigungsprozess durchlaufen, bevor sie Zugang erhalten.

Für größere Organisationen bietet die Plattform die Anbindung an bestehende Verzeichnisdienste: LDAP und Active Directory für die Authentifizierung, SSO über OIDC-Provider und SCIM 2.0 für automatisches Nutzer-Provisioning über Azure AD, Okta oder Google Workspace. Damit entfällt die doppelte Kontenverwaltung.

Firmenwissen per RAG einbinden

Mit der integrierten RAG-Funktion laden Sie PDFs, Word-Dokumente, Excel-Tabellen und andere Dateien als Wissensquelle hoch. Mitarbeiter können diese Dokumente im Chat per #-Befehl abrufen und Fragen dazu stellen. Die Antworten enthalten Quellenangaben mit Relevanz-Prozenten, sodass die Herkunft nachvollziehbar bleibt. Ein Maschinenbauunternehmen mit 500 Produktdatenblättern kann so seinen Vertrieb befähigen, technische Detailfragen direkt über den Chat zu beantworten - ohne manuelles Suchen in verschachtelten Ordnerstrukturen.

Für die Vektorspeicherung stehen neun Backends zur Wahl - von ChromaDB (Standard) über PGVector bis hin zu Elasticsearch oder Milvus. Unternehmen mit bestehender Suchinfrastruktur können so ihre vorhandenen Systeme weiterverwenden.

Ist Open WebUI DSGVO-konform?

Self-Hosting macht Open WebUI zu einer der wenigen KI-Plattformen, bei denen Datensouveränität kein Marketing-Versprechen ist, sondern technische Realität. Alle Daten - Chats, Dokumente, Nutzerprofile - bleiben auf Ihrer eigenen Infrastruktur. Es gibt keinen externen Datenabfluss, keine Auftragsverarbeitung und keine Abhängigkeit von US-amerikanischen Cloud-Diensten.

Datenschutz ohne Kompromisse

Wenn Sie die Plattform zusammen mit Ollama betreiben, verlässt kein einziges Byte Ihr Netzwerk. Das System funktioniert vollständig offline - auch in Air-Gapped-Umgebungen ohne Internetverbindung. Für besonders sensible Daten unterstützt die Software verschlüsselte Datenbanken (SQLCipher) und temporäre Chats, die nicht gespeichert werden.

Laut Bitkom verzichten rund 43 Prozent der deutschen Unternehmen auf bestimmte KI-Anwendungen, weil sie Datenschutzbedenken haben. Eine selbst gehostete Lösung wie Open WebUI beseitigt dieses Hindernis, weil die Datenverarbeitung vollständig on-premise stattfindet. Artikel 28 der DSGVO (Auftragsverarbeitung) greift beim Self-Hosting nicht, da keine externen Dienstleister an der Datenverarbeitung beteiligt sind.

EU AI Act und Open-Source-Modelle

Der EU AI Act trat 2025 in Kraft und bringt Transparenzpflichten für KI-Systeme. Open-Source-Modelle wie Llama, Mistral oder Gemma genießen dabei Erleichterungen gegenüber proprietären Systemen. Die Plattform selbst fällt nicht unter die Hochrisiko-Klassifikation, sondern dient als Werkzeug zur Nutzung von Modellen. Unternehmen müssen dennoch dokumentieren, welche Modelle sie einsetzen und für welche Zwecke - die Admin-Oberfläche und das Analytics-Dashboard liefern dafür die nötige Transparenz.

Open WebUI vs. ChatGPT Enterprise: Was eignet sich für den Mittelstand?

Die Entscheidung zwischen Self-Hosting und SaaS hängt von drei Faktoren ab: Datenschutzanforderungen, Budget und interner IT-Kompetenz. Ein direkter Vergleich macht die Unterschiede greifbar.

Bei 50 Nutzern kostet ChatGPT Team mindestens 15.000 US-Dollar pro Jahr an reinen Lizenzgebühren. Open WebUI verursacht keine Lizenzkosten - die Investition fließt stattdessen in Hardware und IT-Betrieb. Für Unternehmen mit vorhandener Server-Infrastruktur und IT-Abteilung ist das häufig die wirtschaftlichere Variante. Einen vollständigen Vergleich aller Optionen finden Sie in unserem Artikel KI für Unternehmen.

Der größte Vorteil von ChatGPT Enterprise liegt in der Einfachheit: Kein Setup, kein Serverbetrieb, sofort einsatzbereit. Wer dagegen Datensouveränität, Modellvielfalt und Anpassbarkeit braucht, findet in Open WebUI die flexiblere Lösung. Entscheidend ist die strategische Frage: Wollen Sie langfristig von einem einzelnen Anbieter abhängig sein, oder die Kontrolle über Ihre KI-Infrastruktur behalten? Mit lokaler KI und einer offenen Plattform stehen Ihnen alle Optionen offen.

Open WebUI Alternativen: Welche Self-Hosting-Plattformen gibt es?

Open WebUI ist die populärste Lösung, aber nicht die einzige. Je nach Anwendungsfall und technischem Hintergrund kommen auch andere Plattformen in Frage. Hier ein Überblick über die wichtigsten Alternativen.

Browser-basierte Alternativen

AnythingLLM eignet sich besonders für Teams, die schnell eine RAG-Lösung (Dokumente durchsuchen) brauchen, ohne sich mit Docker-Konfiguration zu beschäftigen. Die Desktop-App läuft unter Windows, macOS und Linux.

LibreChat ist die beste Alternative für Teams, die eine ChatGPT-identische Oberfläche wollen und gleichzeitig zwischen verschiedenen API-Anbietern (OpenAI, Anthropic, Google, lokale Modelle) wechseln möchten.

Lösungen jenseits des Browsers

Nicht jeder KI-Einsatz findet im Chat-Fenster statt. Für Entwickler, IT-Teams und Power-User gibt es leistungsstarke Alternativen, die direkt im Terminal oder als Desktop-Anwendung laufen:

• opencode - KI-Assistent für die Kommandozeile. Ideal für Entwickler, die Code schreiben, Dateien bearbeiten und Systeme verwalten, ohne den Terminal zu verlassen.
• Open Interpreter - Führt KI-generierte Befehle direkt auf dem Rechner aus. Kann Dateien erstellen, Programme starten und Daten verarbeiten.
• Aider - KI-Pair-Programmer, der direkt in Git-Repositories arbeitet und Code-Änderungen vorschlägt.

Der strategische Vorteil einer offenen Infrastruktur: Sie sind nicht an eine einzige Plattform gebunden. Ein Unternehmen kann Open WebUI für das Team, opencode für die Entwickler und AnythingLLM für die Dokumentenrecherche parallel betreiben, alle auf denselben lokalen Modellen.

Wie richte ich Open WebUI für mein Team ein?

Der Weg von der Einzelinstallation zur teamfähigen Plattform folgt einem klaren Stufenmodell. Je nach Unternehmensgröße und Anforderung passen Sie den Betrieb schrittweise an.

Vom Piloten zum Rollout

Starten Sie mit einem einzelnen Container auf einem vorhandenen Server. Installieren Sie Ollama, laden Sie ein kompaktes Modell wie Mistral 7B und testen Sie die Plattform mit einem kleinen Team. Sammeln Sie Feedback: Welche Aufgaben funktionieren gut? Wo braucht es leistungsstärkere Modelle?

Für den Abteilungseinsatz wechseln Sie auf Docker Compose mit PostgreSQL als Datenbank und richten Nutzergruppen ein. Binden Sie erste Firmendokumente über RAG ein - zum Beispiel Produktdatenblätter, Arbeitsanweisungen oder Prozessbeschreibungen.

Den unternehmensweiten Rollout begleiten Sie mit LDAP-Anbindung, sodass Mitarbeiter sich mit ihren bestehenden Zugangsdaten anmelden können. Das Analytics-Dashboard zeigt Ihnen, wie intensiv die Plattform genutzt wird und welche Modelle am häufigsten zum Einsatz kommen.

Typische Probleme und ihre Lösungen

Bei der Einrichtung treten einige Stolperstellen regelmäßig auf. Die häufigsten Probleme und ihre Lösungen:

Ollama nicht erreichbar aus Docker: Das häufigste Problem bei der Ersteinrichtung. Der Parameter --add-host=host.docker.internal:host-gateway im Docker-Befehl stellt sicher, dass der Container den Host-Rechner erreicht, auf dem Ollama läuft. Unter Linux muss Ollama zusätzlich auf 0.0.0.0 statt nur auf localhost lauschen.

Langsame Antworten bei lokalen Modellen: Prüfen Sie, ob das Modell tatsächlich auf der GPU läuft. Der Befehl ollama ps zeigt die aktive GPU-Nutzung an. Bei reiner CPU-Inferenz dauern Antworten bei 7B-Modellen oft 30 Sekunden und mehr.

Chats nach Update verschwunden: Wenn der Docker-Container ohne persistentes Volume (-v open-webui:/app/backend/data) erstellt wurde, gehen bei einem Container-Neustart alle Daten verloren. Prüfen Sie mit docker inspect open-webui, ob ein Volume gemountet ist.

Speicherprobleme bei großen Modellen: Modelle wie Llama 3.1 70B benötigen über 40 GB VRAM. Starten Sie mit kleineren Modellen und skalieren Sie erst, wenn der konkrete Bedarf klar ist.

Updates und Backups: Vor jedem Update sichern Sie das Docker-Volume mit docker cp open-webui:/app/backend/data ./backup. Das Update selbst erledigen Sie mit docker pull ghcr.io/open-webui/open-webui:main, gefolgt von einem Neustart des Containers. Bei kritischen Produktivumgebungen empfiehlt sich ein automatisiertes Backup per Cronjob.

Die Community auf Discord (33.000 Mitglieder) und die offizielle Dokumentation unter docs.openwebui.com sind gute Anlaufstellen für weiterführende Fragen. Laut McKinsey profitieren Unternehmen, die KI-Tools strukturiert einführen, von einer durchschnittlich 20 bis 30 Prozent höheren Produktivität in wissensintensiven Aufgaben.

Fazit: Lohnt sich Open WebUI für Ihr Unternehmen?

Open WebUI löst ein konkretes Problem: KI-Modelle im Unternehmen nutzen, ohne Daten an externe Anbieter abzugeben. Die Plattform kombiniert die Bedienbarkeit von ChatGPT mit der Datensouveränität von Self-Hosting und der Flexibilität, beliebige Modelle einzubinden.

Für mittelständische Unternehmen mit vorhandener IT-Infrastruktur ist Open WebUI der pragmatischste Einstieg in die unternehmenseigene Nutzung Künstlicher Intelligenz. Als Open-Source-Software steht die Plattform kostenlos und ohne Einschränkungen zur Verfügung. Die Installation dauert unter fünf Minuten, die Grundfunktionen erfordern keine Programmierkenntnisse und die Kosten beschränken sich auf Hardware und Betrieb.

Der erste Schritt: Laden Sie Open WebUI auf einem bestehenden Server per Docker, testen Sie es mit drei bis fünf Kollegen und einem kompakten Modell wie Mistral 7B. Nach zwei Wochen Praxistest wissen Sie, ob die Plattform zu Ihren Anforderungen passt.

Sie möchten Open WebUI in Ihrem Unternehmen einsetzen? Wir unterstützen Sie von der Architekturentscheidung über das Setup bis zur Schulung Ihrer Mitarbeitenden. Als erfahrene KI-Berater haben wir Open WebUI selbst im produktiven Einsatz und kennen die Plattform aus der täglichen Praxis. Sprechen Sie uns an und wir zeigen Ihnen, wie Self-Hosting in Ihrer Umgebung funktioniert. Oder prüfen Sie zuerst mit unserem KI Readiness Check, wo Ihr Unternehmen beim Thema Künstliche Intelligenz steht.