OpenWebUI als Firmenchatbot

Warum ein firmeninterner Chatbot?

Egal ob Entwickler, Projektleiter, Designer oder Social Media Manager – die meisten Arbeitsplätze nutzen mittlerweile Sprachmodelle. Sie unterstützen bei der Kreativität, bei der Korrektur oder Ideenfindung, bis hin zur Automatisierung im Support oder der Entwicklung neuer Geschäftszweige. Firmeninterne Chatbots können die Effizienz erhöhen, die Kommunikation verbessern und die Automatisierung von Prozessen unterstützen. Doch gerade im Hinblick auf den Datenschutz sind viele Unternehmen noch unsicher und suchen nach Lösungen. Es kann oft nicht vermieden werden, dass Mitarbeiter externe Tools wie ChatGPT nutzen, um firmeninterne Daten zu verarbeiten. Solche Sprachmodelle bieten viele Vorteile und sollten daher für alle Mitarbeiter ein erlaubtes Werkzeug sein. Dennoch ist es wichtig, dass die Daten geschützt werden. Daher sind firmeninterne Angebote essenziell. Entweder wird ein DSGVO-konformer Anbieter gesucht, oder es soll ein sicherer Service auf den eigenen Servern betrieben und angeboten werden, um sensible Unternehmensdaten zu schützen. Aus diesem Grund setzen wir selber OpenWebUI ein.

Was ist OpenWebUI

OpenWebUI ist eine Open-Source-Anwendung, die eine intuitive Benutzeroberfläche zur Verfügung stellt, ähnlich aufgebaut wie das Interface von ChatGPT. Sie ist besonders für Unternehmen geeignet, die eigene Sprachmodelle integrieren oder Dienstleistungen von Anbietern wie OpenAI, Mistral, Deepseek usw. nutzen möchten. Durch die Möglichkeit der lokalen Installation bietet OpenWebUI eine flexible und datenschutzfreundliche Lösung, um moderne Chatbot-Technologien in das eigene Unternehmensumfeld zu integrieren.

Vorteile von OpenWebUI als Firmenchatbot

1. Open-Source: Der Quellcode ist frei einsehbar und wird kontinuierlich durch Community Plugins erweitert. Erweiterungen können auch durch das eigene Entwicklerteam einfach hinzugefügt werden.
2. Nutzerverwaltung: OpenWebUI bietet direkt eine Nutzerverwaltung mit Rechte- und Rollenkonzept.
3. Kontinuierliche Weiterentwicklung: OpenWebUI wird ständig verbessert und um neue Funktionen erweitert. Durch den offenen Quellcode werden Fehler und neue Funktionen schnell entwickelt, was eine zukunftssichere Investition darstellt.
4. Lokale Installation: Dadurch wird sichergestellt, dass die Daten auf eigenen Servern bleiben und nicht an externe Dritte gesendet werden.
5. Flexible Integration: Unternehmen können eigene Modelle integrieren oder Dienstleistungen von OpenAI und anderen Anbietern wie Mistral, DeepSeek oder LLaMA nutzen. Auch die Anbindung von OpenAI über Azure-Instanzen ist eine Variante, um sicherzustellen, dass Daten nur im europäischen Raum verarbeitet werden.
6. Intuitive Benutzeroberfläche: OpenWebUI bietet eine benutzerfreundliche Oberfläche, die ähnlich wie ChatGPT gestaltet ist und daher schnell von Mitarbeitern akzeptiert wird.

Einsatzmöglichkeiten von OpenWebUI

Es gibt verschiedene Wege und Komplexitätsstufen, wie OpenWebUI eingesetzt werden kann, je nach Anforderungen:

1. Komplexere Workflows: In Verbund mit der AI-Workflow-Plattform n8n können komplexe Prozesse sicher abgebildet werden. Beispielsweise um Emailpostfächer anzubinden oder Agentensysteme aufzubauen.
2. Als Wissensdatenbank: Durch die Integration einer Wissensdatenbank kann die Funktionalität des Chatbots massiv erweitert werden. Dokumente können durchsucht, oder als Grundlage für die Textgenerierung genutzt werden
3. Lokaler Chatbot: OpenWebUI kann einfach auf lokalen Servern installiert und direkt mit einem Lokalen Sprachmodel genutzt werden, was bereits eine solide Basis für firmeninterne Chatbots bietet.

Privacy by Design durch doccape

Trotz der Installation auf lokalen Servern besteht bei OpenWebUI weiterhin das Risiko, dass sensible Daten an die Sprachmodelle gesendet werden. Damit wir beim Einsatz von Sprachmodellen freie Wahl haben, nutzen wir doccape zum Anonymisieren der Eingaben.

Unser doccape Plugin wurde entwickelt, um diese Sicherheitsbedenken zu adressieren:

1. Schutz sensibler Daten: Durch diese Verarbeitung wird sichergestellt, dass keine vertraulichen Informationen in die Modelle gelangen, egal ob lokal installiert oder auf externen Servern.
2. Anonymisierung und Pseudonymisierung: Alle Chat-Eingaben und Datei-Uploads werden anonymisiert und pseudonymisiert, bevor sie an die Sprachmodelle weitergegeben werden.

Bei der Pseudonymisierung durch doccape werden definierbare Entitäten wie Personen, Straßen, Kontonummern und weitere sensible Informationen erkannt und durch standardisierte Pseudonyme ersetzt, beispielsweise PER-1, STR-1 und KNR-1. Die intelligente Pseudonymisierung gewährleistet, dass diese Entitäten konsistent zugeordnet werden. Dadurch bleibt der Kontext für das Sprachmodell erhalten, ohne sensible Daten zu verarbeiten. Bei Bedarf kann eine De-Pseudonymisierung durchgeführt werden, bei der die Pseudonyme wieder durch die ursprünglichen Werte ersetzt werden. Neben Texten können auch Bilder anonymisiert werden.

Sie haben Interesse an einem Firmenchatbot?

Wir haben eine öffentlich zugängliche Instanz von OpenWebUI mit unserem doccape Modul bereitgestellt. Sie können sich über openwebui.doccape.de registrieren und OpenWebUI testen.

Gerne beraten und unterstützen wir Sie bei der Installation eines Firmen-Chatbots. Buchen Sie einfach einen kostenlosen Beratungstermin, oder kontaktieren Sie uns über das Kontaktformular.

Mehr über Integrationsmöglichkeiten von doccape finden Sie unter Integrationen.