Service Chatbot mit RAG
für Bedienungsanleitungen und Datenblätter
Kontakt aufnehmen
Service Chatbot mit RAG
Customer Service automatisiert
Für einen langjährigen Kunden, haben wir einen Service Chatbot mit RAG implementiert.
Ziel war, den Kunden unseres Kunden eine automatisierte Möglichkeit zu bieten, auf Basis von Bedienungsanleitungen und Datenblättern detaillierte Fragen zu den Produkten und deren Konfiguration zu stellen. Der Kunde bekommt so direkt Antworten auf seine Fragen. Unser Kunde kann diese Fragen analysieren und so herausfinden, was Kunden bewegt und entsprechend reagieren.
Wie kann ich Einstellung X in Produkt Y vornehmen?
Welche Möglicheiten habe ich, Funktion X herzustellen?
Wie verhält sich Produkt A in Verbindung mit Produkt B?
Anforderungen
Der Service Chatbot musste folgende Anforderungen erfüllen:
Die produktbezogenen Dokumente des Kunden stehen im Content Management System zur Verfügung und bilden die Datenbasis des Chatbots. Der Chatbot ist vollständig in die bestehende Website des Kunden eingebunden und fügt sich nahtlos in das Erscheinungsbild und die Nutzerführung ein.
Obwohl die zugrunde liegenden Informationen ausschließlich auf Englisch vorliegen, können Nutzer ihre Fragen in beliebiger Sprache stellen. Die KI erkennt die Sprache automatisch, verarbeitet die Anfrage inhaltlich korrekt und liefert die Antwort in der Sprache des Fragestellers zurück – mehrsprachige Nutzerführung ohne zusätzlichen Übersetzungsaufwand.
Der Systemprompt, also die zentrale Steuerung des Verhaltens und Tonfalls der KI, ist dabei durch unseren Kunden selbst bearbeitbar. So lässt sich der Chatbot flexibel an neue Anforderungen, Zielgruppen oder Kommunikationsstile anpassen – ganz ohne technisches Eingreifen.
Implementierung
Die technische Umsetzung der Lösung erfolgt als individuell entwickelte TYPO3 Extensions, wodurch sich die Integration nahtlos in die bestehende Website-Struktur des Kunden einfügt – ohne externe Services oder sichtbare Brüche im Frontend.
Für die Realisierung wurden zwei separate Extensions entwickelt:
Die erste Extension kümmert sich um die Verbindung zum Large Language Model (LLM) sowie zur Vektordatenbank, übernimmt das Embedding neuer Inhalte und stellt sicher, dass das LLM Zugriff auf die jeweils aktuelle Datenbasis hat.
Die zweite Extension ist für die Benutzerschnittstelle zuständig – sie verarbeitet Nutzereingaben und gibt die generierten Antworten strukturiert an die Website zurück.
Die zugrunde liegenden Dokumente im Content Management System (z. B. PDFs oder strukturierte Inhalte) werden automatisch in die Vektordatenbank überführt. Das passiert immer dann, wenn neue Dateien hochgeladen oder bestehende geändert werden. Entfällt ein Dokument im CMS, wird es ebenfalls automatisiert aus der Vektordatenbank entfernt, um die Datenbasis konsistent zu halten. Dies erfolgt über Events, d.h. sobald im Backend des CMS etwas an den Daten geändert wird, reagiert die Extension und aktualisiert die Vektordatenbank.
Für Redakteure ändert sich dadurch nichts am gewohnten Handling der Inhalte im TYPO3-System – alle redaktionellen Prozesse bleiben wie bisher bestehen.
Zusätzlich wurde ein TYPO3-Backend-Modul bereitgestellt, über das der Kunde den Systemprompt flexibel anpassen kann – ganz ohne technisches Wissen. Dadurch lässt sich das Antwortverhalten der KI jederzeit anpassen, z. B. für Tonalität, Rollenverhalten oder bestimmte Kommunikationsregeln.
Bereit für den nächsten Schritt?
Unternehmenswissen intern wie extern verfügbar und "befragbar" machen?
Projektanfrage starten
RAG
