Ein internes Wissenssystem mit KI

Möchten Sie, dass Kollegen schnell Antworten auf Fragen zu Produkten, Richtlinien, IT, Prozessen oder Kunden erhalten? Dann ist ein internes Wissenssystem mit einem eigenen Chatbot ideal. Dank Retrieval-Augmented Generation (RAG) ist ein solches System intelligenter als je zuvor: Mitarbeiter stellen Fragen in natürlicher Sprache und der Chatbot sucht direkt in Ihrer eigenen Dokumentation. Dies ist vollständig sicher, ohne dass Daten an externe Parteien gelangen – selbst wenn Sie große Sprachmodelle von OpenAI oder Google verwenden.

• Stimmt die Antwort immer mit der internen Realität überein
• Werden keine Erfindungen gemacht (wie es manchmal bei reinen LLMs der Fall ist)
• Vertrauliche Daten werden niemals an Dritte weitergegeben

Welche Werkzeuge können Sie verwenden?

Der Aufbau eines eigenen Wissenssystems ist mit verschiedenen Produkten möglich, abhängig von Ihren Präferenzen und Anforderungen an Datenschutz, Skalierbarkeit und Benutzerfreundlichkeit.

Chatbot und RAG-Frameworks

• LlamaIndex (llamaindex.ai) – Open Source, breit anwendbar
• Heuhaufen (haystack.deepset.ai) – Stark in Enterprise Search
• LangKette (langchain.com) – Leistungsstark für Verknüpfungen und Maßanfertigung
• OpenWebUI (open-webui.github.io) – Einfache, moderne Weboberfläche für Chat und Verwaltung

Vektordatenbanken (für Dokumentenspeicherung und schnelle Suchfunktion)

• ChromaDB (trychroma.com)
• Weaviate (weaviate.io)
• Qdrant (qdrant.tech)

KI-Modelle

• Große Modelle in der Cloud
  • OpenAI GPT-4
  • Google Gemini
  • Azure OpenAI Dienst

• Eigene Modelle (On-Premises oder Private Cloud)
  • Llama 3 (Meta), Mistral, DeepSeek, GPT4All, über Ollama oder LocalAI

Wichtig:
Viele Tools, darunter OpenWebUI und LlamaIndex, können sowohl lokale (On-Premises) als auch Cloud-Modelle anbinden. Ihre Dokumente und Suchanfragen verlassen Ihre eigene Infrastruktur niemals, es sei denn, Sie wünschen dies ausdrücklich!

So fügen Sie ganz einfach Dokumente hinzu

Die meisten modernen Wissenssysteme bieten eine einfache Upload- oder Synchronisationsfunktion.
Dies funktioniert beispielsweise wie folgt:

1. Laden Sie Ihre Dokumente hoch (PDF, Word, txt, E-Mails, Wiki-Seiten) über die Weboberfläche (wie OpenWebUI)
2. Automatische Verarbeitung: Das Tool indiziert Ihr Dokument und macht es für den Chatbot sofort durchsuchbar
3. Live-AktualisierungWenn Sie eine neue Datei hinzufügen, wird diese normalerweise innerhalb weniger Sekunden oder Minuten in die Antworten einbezogen

Für Fortgeschrittene:
Automatische Anbindungen an SharePoint, Google Drive, Dropbox oder einen Fileserver sind mit LlamaIndex oder Haystack problemlos möglich.

Daten bleiben sicher und intern

Ob Sie sich für eigene Modelle oder große Cloud-Modelle entscheiden:

• Sie bestimmen selbst, was nach außen geht und was nicht
• Integration mit Single Sign-On und Zugriffsverwaltung ist standardmäßig möglich
• Prüfprotokolle: wer hat was konsultiert?

Bei sensiblen Informationen ist es ratsam, KI-Modelle On-Premises oder innerhalb einer privaten Cloud einzusetzen. Aber selbst wenn Sie GPT-4 oder Gemini nutzen, können Sie einstellen, dass Ihre Dokumente niemals als Trainingsdaten verwendet oder vom Anbieter dauerhaft gespeichert werden.

Beispiel für ein modernes Setup

Mit OpenWebUI Erstellen Sie ganz einfach ein sicheres, internes Wissenssystem, in dem Mitarbeiter Fragen an spezialisierte Chatbots stellen können. Sie können Dokumente hochladen, nach Kategorien ordnen und verschiedene Chatbots als Experten auf ihrem jeweiligen Fachgebiet agieren lassen. Hier erfahren Sie, wie das geht!

1. Inhalte hinzufügen und kategorisieren

Hochladen von Dokumenten

• Melden Sie sich über Ihren Browser bei OpenWebUI an.
• Gehen Sie zum Abschnitt Dokumente oder Wissensdatenbank.
• Klicken Sie auf Hochladen und wählen Sie Ihre Dateien aus (PDF, Word, Text usw.).
• Tipp: Fügen Sie beim Hochladen eine Kategorie oder ein Etikett hinzu, wie z. B. „HR“, „Technik“, „Vertrieb“, „Richtlinie“ usw.

Vorteil: Durch die Kategorisierung kann sich der richtige Chatbot (Experte) auf relevante Quellen konzentrieren und Sie erhalten stets eine passende Antwort.

2. Chatbots mit eigenen Spezialisierungen (Rollen)

OpenWebUI ermöglicht die Erstellung mehrerer Chatbots, jeder mit seiner eigenen Spezialisierung oder Rolle. Beispiele:

• HR-Bot: Fragen zu Urlaub, Verträgen, Arbeitsbedingungen.
• IT-Support: Hilfe bei Passwörtern, Anwendungen, Hardware.
• RichtlinienBot: Antworten zu Unternehmensrichtlinien und Compliance.
• VertriebsCoach: Informationen zu Produkten, Preisen und Angeboten.

Direkt loslegen oder lieber Hilfe?

Möchten Sie schnell einen Proof-of-Concept durchführen? Mit zum Beispiel OpenWebUI und LlamaIndex haben Sie oft an einem Nachmittag eine Demo online!
Möchten Sie es professionell einrichten, an Ihre bestehende IT anbinden oder muss es wirklich sicher sein?
Fortis AI hilft bei jedem Schritt: von der Entscheidungshilfe bis zur Implementierung, Integration und Schulung.

Nehmen Sie Kontakt für ein unverbindliches Beratungsgespräch oder eine Demo.

Fortis AI – Ihr Leitfaden für KI, Wissen und digitale Sicherheit