Open WebUI v0.11.4 Release: Optimierung und Terminalintegration

Optimierung von Infrastruktur und Image

Ein wichtiges Highlight von v0.11.4 ist die Einführung eines „Slim“-Docker-Images. Diese Version reduziert die Image-Größe auf etwa 175 MB, was einer Reduzierung um 89 % im Vergleich zu früheren Versionen entspricht. Erreicht wurde dies durch das Entfernen lokaler Modelle, zugehöriger Pakete und Installationstools.

Auch das Standard-Image wurde optimiert: Durch das Entfernen redundanter Python-Kopien, ungenutzter Schriftarten und unnötiger Pakete konnte seine Größe um etwa 170 MB reduziert werden.

Einschränkungen und Anforderungen des Slim-Images

Das Slim-Image ist für Umgebungen konzipiert, die auf externe Dienste angewiesen sind. Zu seinen betrieblichen Einschränkungen gehören:

• Datenbank und Speicher: Die Unterstützung ist auf SQLite und PostgreSQL beschränkt. MySQL, MariaDB und AWS RDS-IAM-Anmeldungen werden nicht unterstützt. Die Dateispeicherung ist auf den lokalen Speicher beschränkt; für S3-, Google Cloud- oder Azure-Buckets ist das Standard-Image erforderlich.
• KI-Funktionen: Lokale Embedding- und Reranking-Modelle fehlen. Nutzer müssen OpenAI, Ollama oder Azure OpenAI Embeddings verwenden.
• Dokumentenverarbeitung: Die Unterstützung beschränkt sich auf Text, Markdown, CSV, HTML und XML. Für PDF- und Word-Dateien ist ein externer Dokumentenextraktor erforderlich.
• Sprache und Web: Lokale Whisper- und Sprach-Engines wurden entfernt. Das Abrufen von Webseiten erfolgt über einfaches HTTP, da der Headless-Browser nicht enthalten ist.

Terminal-Integration und Skill-Ökosystem

Das Update erweitert die Funktionalität des verbundenen Terminalservers und verwandelt ihn in eine robustere Entwicklungsumgebung.

Terminal-Verbesserungen

• Befehls-Registerkarten: Der Terminal-Bereich verfügt nun über separate Registerkarten für jeden von einem Modell ausgeführten Befehl, sodass Nutzer mehrere Prozesse gleichzeitig neben ihrer eigenen Shell überwachen können.
• Ordnerverwaltung: Nutzer können nun ganze Ordner, einschließlich Unterverzeichnisse, direkt in Terminals hochladen.
• Dateivergleich: Ein neues Tool zum Nebeneinander-Vergleich ermöglicht es Nutzern, zwei Dateien zu analysieren, wobei Hinzufügungen und Löschungen bis hin zur spezifischen Zeichenänderung hervorgehoben werden.
• Kontextbezogene Anweisungen: Modelle lesen nun zu Beginn jeder Runde automatisch die Datei „AGENTS.md“, die sich im Home-Verzeichnis des Terminals befindet.

Skill-Verwaltung und -Erkennung

Das Skill-System wurde überarbeitet, um die Autonomie der Modelle und die Erstellung von Skills zu verbessern:

• Automatische Erkennung: Modellen wird nun eine Liste aller verfügbaren Skill-Namen und -Beschreibungen bereitgestellt. Der vollständige Text eines Skills wird erst geladen, wenn das Modell explizit beschließt, ihn aufzurufen.
• Direkte Erstellung: Nutzer können einen aktuellen Chat-Workflow mithilfe des Befehls /skills:create in eine wiederverwendbare Skill umwandeln, wodurch die Skill im Verzeichnis .agents/skills gespeichert wird.
• Terminal-Skills: Von einem Terminalserver angebotene Skills sind nun in die Menüs $ und / sowie im Integrationsbereich integriert.

Systemleistung und Backend-Skalierung

Es wurden mehrere Backend-Optimierungen implementiert, um Latenz und Serverauslastung zu reduzieren, insbesondere bei Umgebungen mit hohem Datenverkehr.

Anfrage- und Speichereffizienz

• Redis-Optimierung: In Multi-Server-Setups mit Redis rufen Chat-Anfragen nicht mehr die gesamte gemeinsame Modellliste ab. Worker verwalten nun lokale Kopien und laden diese nur bei Änderungen neu.
• Streaming-Optimierung: Das System verarbeitet lange Unterhaltungen nun effizienter, indem es vermeidet, den gesamten Gesprächsverlauf bei kleinen Nachrichtenaktualisierungen neu zu schreiben.
• Nicht blockierende Suche: Suchvorgänge über Chats und Wissensdatenbanken hinweg, einschließlich grep-Befehle, laufen nun asynchron, wodurch verhindert wird, dass lange Suchvorgänge andere Serveranfragen blockieren.

Verbesserungen bei Wissensdatenbank und RAG

• PostgreSQL-Indizierung: Der Suchindex für PostgreSQL wartet nun auf eine ausreichende Textmenge, bevor er erstellt wird, wodurch Genauigkeitsprobleme bei Neuinstallationen vermieden werden.
• Vektor-Such-Recall: Suchvorgänge in Wissensdatenbanken mit einem geringen Anteil an den insgesamt gespeicherten Daten nutzen nun iteratives Scannen, um sicherzustellen, dass alle relevanten Treffer abgerufen werden.
• Tika-4-Integration: Die Dokumentenextraktion über die Tika-Serverversion 4 liefert nun Daten im Markdown-Format und behält dabei Überschriften und Tabellen bei.

Benutzeroberfläche und Lokalisierung

Die Benutzeroberfläche wurde aktualisiert, um eine umfassendere Anpassung und eine breitere sprachliche Barrierefreiheit zu ermöglichen.

• Mehrsprachige Unterstützung: Modelle, Tools und Funktionen können nun Namen, Beschreibungen und Start-Prompts für mehrere Sprachen enthalten. Die Benutzeroberfläche zeigt die Formulierungen dynamisch entsprechend der vom Nutzer gewählten Sprache an.
• Administrator-Überschreibungen: Administratoren können nun bestimmte Formulierungen in der Benutzeroberfläche sprachspezifisch über die Admin-Einstellungen überschreiben.
• Visuelle Anpassung: Arbeitsbereichsmodellen können nun Hintergrundbilder zugewiesen werden, die hinter der Chat-Oberfläche angezeigt werden.
• Steuerelemente der Benutzeroberfläche: Ein neuer Schalter ermöglicht es Administratoren, das Anmeldeformular von der Authentifizierungsseite zu entfernen, um Single Sign-On (SSO) oder verzeichnisbasierte Anmeldungen zu erleichtern.

Sicherheit und Zugriffskontrolle

v0.11.4 enthält einen kritischen Sicherheitshinweis. Administratoren werden dringend gebeten, Produktionsumgebungen zu aktualisieren, um Schwachstellen in der Zugriffskontrolle zu beheben.

Wichtige Sicherheitsmaßnahmen

• Token-Datenschutz: Bei Fehlern bei der Anmeldung über einen Identitätsanbieter werden Anmeldedaten nicht mehr in den Anwendungsprotokollen aufgezeichnet.
• Sitzungsverwaltung: Das Abmelden beendet nun sofort alle aktiven Live-Verbindungen, die mit diesem Konto verbunden sind.
• Ursprungsbeschränkungen: Mermaid-Diagramme und SVG-Vorschauen sind nun auf den lokalen Ursprung beschränkt, um Angriffe durch externe Verweise zu verhindern.
• Terminalzugriff: Terminalverbindungen überprüfen nun alle zehn Sekunden erneut die Benutzerberechtigungen und stellen so sicher, dass ein widerrufener Zugriff zur sofortigen Beendigung der Sitzung führt.