Zum Hauptinhalt springen

RAG in LoyJoy

Retrieval Augmented Generation (RAG) verankert KI-Agenten in Ihren eigenen Inhalten, statt sich nur auf die Trainingsdaten des Modells zu verlassen. LoyJoy verwendet dieses Muster seit 2023.

Wie es funktioniert​

  1. Indexierung: Sie pflegen eine Wissensdatenbank, indem Sie Websites hinzufügen, Dokumente hochladen (PDF, DOCX, PPTX) oder Daten per API übertragen. LoyJoy erzeugt für jeden Chunk Vektor-Embeddings und speichert sie zusammen mit dem Quelltext.
  2. Abruf (Retrieval): Wenn ein Kunde eine Nachricht sendet, wird sie eingebettet und über die semantische Suche gegen die Wissensdatenbank abgeglichen.
  3. Beantwortung: Die besten übereinstimmenden Chunks werden zusammen mit Prompt und Gesprächsverlauf als Kontext an das LLM übergeben. Das LLM antwortet anhand dieses Kontexts.

Konfigurationspunkte​

  • Wissensquellen: Fügen Sie Quellen im Bereich Quellen hinzu und verwalten Sie sie.
  • Kuratierte Inhalte: Verwalten Sie Kataloge und Artikel für manuell gepflegtes Antwortmaterial.
  • Modulebene: Das AI-Knowledge-Modul enthält Einstellungen wie Chunk-Anzahl, Re-Ranking und den Question-Splitter.

Empfohlener Aufbau​

Verwenden Sie für neue Anwendungsfälle das KI-Agent-Modul mit dem Tool Wissenssuche. Es ruft die Wissensdatenbank im Rahmen einer Tool-Schleife auf und kombiniert sie mit Websuche, Dateizugriff und Produktsuche. Das AI-Knowledge-Modul bleibt für einfachere Einzelsuch-Aufbauten verfügbar.

Für eine tiefere praktische Einführung siehe den RAG-Guide.