Open WebUI v0 11 1 Update Bild © Open WebUIOpen WebUI v0 11 1 Update (Bild © Open WebUI)

Leistungs- und Backend-Optimierung

Die bedeutendste technische Änderung ist eine komplette Neugestaltung des Streaming-Systems. Anstatt bei jedem Update die gesamte Nachricht erneut zu senden, streamt das System nun kleine Fragmente des neuen Textes. Dies reduziert den Datenübertragungsaufwand bei langen Antworten um das bis zu 1000-Fache, senkt die CPU-Auslastung auf den Servern und verringert die Anzahl der Browser-Neuzeichnungen.

Auch bei der Datenbank- und Speichereffizienz gab es mehrere gezielte Verbesserungen:

  • JSON-Verarbeitung: Das Aktivieren der Option ENABLE_ORJSON beschleunigt das Speichern von Chats, das Abrufen von Einstellungen und die Ausgabe des Code-Interpreters.
  • Geringere Datenbankauslastung: Das Senden einer Nachricht erfordert nun nur noch einen Datenbankzugriff statt zwei. Lange Chats werden in einem einzigen Vorgang in die Datenbank geschrieben, statt Nachricht für Nachricht.
  • Protokollierungsaufwand: Die Anwendung erstellt keine detaillierten Protokolltexte mehr, es sei denn, diese Protokolle werden tatsächlich gelesen, was die Reaktionszeiten auf stark ausgelasteten Servern verbessert.
  • Speicherverwaltung: Eine inaktive Instanz durchsucht nicht mehr kontinuierlich jeden Chat nach fälligen Timern, wodurch unnötige Prozessorauslastung und ein möglicher Speicherengpass verhindert werden.

Agenteninteraktion und Tools

Version 0.11.1 führt ein „Human-in-the-Loop“-Genehmigungssystem für Tools ein. Wenn dies von einem Administrator aktiviert wird, können Nutzer das Modell dazu veranlassen, anzuhalten und auf eine ausdrückliche Erlaubnis zu warten, bevor ein Tool-Aufruf ausgeführt wird.

Zu den weiteren Funktionen der Agenten gehören:

  • Interaktive Befragung: Modelle können nun ein integriertes Tool nutzen, um anzuhalten und dem Nutzer bis zu drei Multiple-Choice-Fragen zu stellen, bevor sie fortfahren.
  • Terminal-Datei-Integration: Agenten können in einem Terminal erstellte Dateien direkt in der Chat-Antwort anzeigen, komplett mit Vorschau und Download-Button.
  • Persistenz der Schlussfolgerungen: Schlussfolgerungsdaten werden nun über native Felder an Ollama zurückgegeben, wodurch Schlussfolgerungsmodelle ihren Gedankengang über mehrere Gesprächsrunden hinweg beibehalten können.

Benutzeroberfläche und Dokumentenhandhabung

Die Benutzeroberfläche wurde aktualisiert, um eine höhere Wiedergabetreue bei der Dokumentenvorschau zu bieten. Word-Dokumente werden nun als richtige Seiten mit intakten Kopf- und Fußzeilen sowie eingebetteten Bildern dargestellt. Die PowerPoint-Vorschau wurde verbessert, um Tabellen, Diagramme und Designfarben korrekt wiederzugeben.

Für mobile Nutzer unterstützt die Seitenleiste nun flüssige Wisch- und Flick-Gesten, während die übrigen Skalierungseinstellungen der Benutzeroberfläche nun die Größe aller Menüs und Dialoge über verschiedene Bildschirmauflösungen hinweg einheitlich anpassen. Zu den weiteren Verbesserungen an der Benutzeroberfläche gehören ein blinkender Cursor, der die aktuelle Generierungsstelle markiert, sowie eine überarbeitete Suchfunktion, die Konversationen mit allen gesuchten Stichwörtern unabhängig von deren Reihenfolge findet.

Verwaltungsfunktionen und Sicherheit

Zu dieser Version gehört ein Sicherheitshinweis, in dem dringend empfohlen wird, Produktionsumgebungen sofort zu aktualisieren, um Fehlerbehebungen bei der Zugriffskontrolle zu übernehmen.

Administratoren verfügen nun über erweiterte Verwaltungsoptionen:

  • Modellverwaltung: Es wird nun unterstützt, Modelle bei Verbindungen zu llama.cpp und LM Studio direkt über den Dialog „Modelle verwalten“ herunterzuladen und zu entladen.
  • Benutzergruppierung: Administratoren können nun große Mengen an Benutzern über CSV-Dateien in Gruppen importieren.
  • **Sitzungssicherheit: Das Ändern eines Passworts beendet nun alle anderen aktiven Sitzungen auf verschiedenen Geräten, sofern Redis verwendet wird.
  • SSO-Verbesserungen: Single Sign-On (SSO) löst nun Ereignisse bei Profil- und Gruppenänderungen aus, wodurch sichergestellt wird, dass die Sitzung sofort die aktualisierten Datensätze des Identitätsanbieters verwendet.

Datenbankwarnung

Diese Version enthält Migrationen des Datenbankschemas. Benutzern wird empfohlen, vor dem Upgrade eine Sicherungskopie aller Daten zu erstellen. In Umgebungen mit mehreren Workern oder Lastenausgleich müssen alle Instanzen gleichzeitig aktualisiert werden, da rollierende Updates aufgrund von Schemakompatibilitätsproblemen nicht unterstützt werden.