Roboter mit künstlicher Intelligenz

Ein internes Wissenssystem mit KI

Möchten Sie, dass Kollegen schnell Antworten auf Fragen zu Produkten, Richtlinien, IT, Prozessen oder Kunden erhalten? Dann ist ein internes Wissenssystem mit einem eigenen Chatbot ideal. Dank Abrufgestützte Generierung (RAG) ist ein solches System intelligenter als je zuvor: Mitarbeitende stellen Fragen in natürlicher Sprache, und der Chatbot durchsucht direkt Ihre eigene Dokumentation. Dies ist vollständig sicher möglich, ohne Daten an externe Parteien weiterzugeben – selbst wenn Sie große Sprachmodelle von OpenAI oder Google verwenden.

  • Stimmt die Antwort immer mit der internen Realität überein
  • Werden keine erfundenen Angaben gemacht (wie es manchmal bei reinen LLMs der Fall ist)
  • Werden vertrauliche Daten niemals an die Außenwelt weitergegeben

Welche Tools können Sie verwenden?

Ein eigenes Wissenssystem lässt sich mit verschiedenen Produkten aufsetzen – abhängig von Ihren Präferenzen und Anforderungen an Datenschutz, Skalierbarkeit und Benutzerfreundlichkeit.

Chatbot- und RAG-Frameworks

  • LlamaIndex (llamaindex.ai) – Open Source, vielseitig einsetzbar
  • Haystack (haystack.deepset.ai) – Besonders stark bei der Unternehmenssuche
  • LangChain (langchain.com) – Leistungsstark für Integrationen und individuelle Anpassungen
  • OpenWebUI (open-webui.github.io) – Einfache, moderne Weboberfläche für Chat und Verwaltung

Vektordatenbanken (für die Dokumentenspeicherung und eine schnelle Suchfunktion)

KI-Modelle

Wichtig:
Viele Tools, darunter OpenWebUI und LlamaIndex, können sowohl lokale (On-Premises-) als auch Cloud-Modelle anbinden. Ihre Dokumente und Suchanfragen verlassen niemals Ihre eigene Infrastruktur – es sei denn, Sie wünschen dies!

So fügen Sie ganz einfach Dokumente hinzu

Die meisten modernen Wissenssysteme bieten eine einfache Upload- oder Synchronisierungsfunktion.
Das funktioniert beispielsweise so:

  1. Laden Sie Ihre Dokumente hoch (PDF, Word, TXT, E-Mails, Wiki-Seiten) über die Weboberfläche (wie OpenWebUI)
  2. Automatische Verarbeitung: Das Tool indexiert Ihr Dokument und macht es für den Chatbot sofort durchsuchbar
  3. Live-Aktualisierung: Fügen Sie eine neue Datei hinzu? Dann wird sie meist innerhalb weniger Sekunden oder Minuten in den Antworten berücksichtigt

Für Fortgeschrittene:
Automatische Verknüpfungen mit SharePoint, Google Drive, Dropbox oder einem Fileserver sind mit LlamaIndex oder Haystack problemlos möglich.

Daten bleiben sicher und intern

Egal, ob Sie sich für eigene Modelle oder große Cloud-Modelle entscheiden:

  • Sie bestimmen selbst, was nach außen gelangt und was nicht
  • Integration mit Single Sign-on und Zugriffsverwaltung ist standardmäßig möglich
  • Prüfprotokolle: Wer hat was abgerufen?

Für sensible Informationen empfiehlt es sich, KI-Modelle On-Premises oder in einer privaten Cloud zu verwenden. Aber selbst wenn Sie GPT-4 oder Gemini einsetzen, können Sie festlegen, dass Ihre Dokumente vom Anbieter niemals als Trainingsdaten verwendet oder dauerhaft gespeichert werden.

Beispiel für eine moderne Architektur

Mit OpenWebUI bauen Sie ganz einfach ein sicheres, internes Wissenssystem auf, in dem Mitarbeitende Fragen an spezialisierte Chatbots stellen können. Sie können Dokumente hochladen, nach Kategorien ordnen und verschiedene Chatbots als Experten für ihr jeweiliges Fachgebiet einsetzen. Hier erfahren Sie, wie das geht!

1. Inhalte hinzufügen und kategorisieren

Dokumente hochladen

  • Melden Sie sich über Ihren Browser bei OpenWebUI an.
  • Gehen Sie zum Bereich Dokumente oder Wissensdatenbank.
  • Klicken Sie auf Hochladen und wählen Sie Ihre Dateien aus (PDF, Word, Text usw.).
  • Tipp: Fügen Sie beim Hochladen eine Kategorie oder ein Label hinzu, z. B. „HR“, „Technik“, „Vertrieb“, „Richtlinien“ usw.

Vorteil: Durch die Kategorisierung kann sich der passende Chatbot (Experte) auf relevante Quellen konzentrieren, sodass Sie immer eine passende Antwort erhalten.

AIR über openwebui

2. Chatbots mit eigenen Fachgebieten (Rollen)

OpenWebUI ermöglicht die Erstellung mehrerer Chatbots, jeweils mit einer eigenen Spezialisierung oder Rolle. Beispiele:

  • HR-Bot: Fragen zu Urlaub, Verträgen und Arbeitsbedingungen.
  • IT-Support: Hilfe bei Passwörtern, Anwendungen und Hardware.
  • RichtlinienBot: Antworten zu Unternehmensrichtlinien und Compliance.
  • VertriebsCoach: Informationen zu Produkten, Preisen und Angeboten.

Direkt loslegen oder lieber Unterstützung?

Möchten Sie schnell einen Proof of Concept umsetzen? Mit beispielsweise OpenWebUI und LlamaIndex ist eine Demo oft innerhalb eines Nachmittags online!
Möchten Sie die Lösung professionell einrichten, an Ihre bestehende IT anbinden oder muss sie wirklich sicher sein?
Fortis AI unterstützt Sie bei jedem Schritt: von der Auswahlberatung über die Implementierung und Integration bis hin zur Schulung.

Nehmen Sie Kontakt auf für ein unverbindliches Beratungsgespräch oder eine Demo.

Fortis AI – Ihr Wegweiser für KI, Wissen und digitale Sicherheit

Gerard

Gerard arbeitet als KI-Berater und Manager. Dank seiner umfangreichen Erfahrung in großen Organisationen kann er ein Problem besonders schnell analysieren und auf eine Lösung hinarbeiten. In Verbindung mit seinem wirtschaftlichen Hintergrund sorgt er für geschäftlich verantwortungsvolle Entscheidungen.