Open WebUI
Die Benutzeroberfläche, die Sie den Anwendern zur Verfügung stellen, wenn die Modellschicht bereits fertiggestellt ist.
Open WebUI sitzt vor Ollama oder jedem OpenAI-kompatiblen Endpunkt und bietet Ihnen Benutzerkonten, Konversationen, Dokumentenupload, RAG über hochgeladene Dateien und Modellverwaltung – die Teile, die niemand zweimal aufbauen möchte. Es ist der schnellste Weg, um einen funktionierenden Inferenzserver in etwas zu verwandeln, auf das eine Abteilung tatsächlich zugreifen kann, und es ist der Standard-Startpunkt für On-Premises-Deployments, die gestern noch eine Benutzeroberfläche benötigten.
Am besten für: Interne Chat-Deployments auf Basis selbst gehosteter Modelle mit echten Benutzerkonten
Deployment: Selbst hostbar