Um große Sprachmodelle (LLMs) zur Beantwortung von Fragen zu nutzen, wird häufig das RAG-Konzept (Retrieval Augmented Generation) eingesetzt. Da LLMs nicht alle Dokumente als Datenbasis verwenden können, wird über eine Suche nur ein Teil der Basisdaten für die Antwortgenerierung herangezogen. Dies führt zu Herausforderungen in der Antwortqualität, da RAG-Modelle eine nicht deterministische Suche mit einer unvorhersehbaren Antwortgenerierung kombinieren.

Harald Huber, Managing Director bei USU, erklärt: „RAG-Modellbasierte Antworten können in vielen Fällen falsche, unzureichende oder wenig verwertbare Antworten generieren. Eine KI ist nur so gut wie die Datenbasis und nur so schlau wie die gestellten Fragen.“

Eine gut strukturierte Wissensdatenbank (WDB) ist daher entscheidend für den Erfolg jeder KI-Anwendung. Ohne solide Daten bleibt die KI hinter ihren Möglichkeiten zurück. Relevante Details müssen korrekt in der WDB hinterlegt sein, um zum Beispiel Unterschiede zwischen privaten und geschäftlichen Kunden zuverlässig abzudecken.

Wie KAI diese Herausforderung meistert
Unsere Überarbeitung von KAI, dem virtuellen Assistenten in USU-Knowledge Management, zielt darauf ab, GenAI fit für den Kundenservice zu machen und dabei die Antwortqualität deutlich zu verbessern. Was bedeutet „Antwortqualität“?

• Korrektheit und Vollständigkeit: Fragen müssen korrekt und vollständig beantwortet werden, auch wenn nicht explizit nach relevanten Informationen gefragt wird.
• Sinnhaftigkeit und Nutzbarkeit: Antworten müssen klar strukturiert und effizient nutzbar sein, ohne überflüssige Informationen.
• Konsistenz: Wiederholte Anfragen müssen dieselben Antworten liefern, was bei herkömmlichen LLMs oft problematisch ist.

Um dies zu gewährleisten, haben wir „Promptflows“ implementiert, die sicherstellen, dass KAI die Fragen im richtigen Kontext versteht und korrekt beantwortet.

Fokus auf Datenqualität
Die Qualität der Daten ist entscheidend für den Erfolg von KAI. Damit relevante Informationen nicht als unwichtig eingestuft werden, müssen sie klar als Metadaten in der WDB hinterlegt sein. Dies ist essenziell für die korrekte Interpretation und Beantwortung von Anfragen.

Wir stellen sicher, dass die verwendeten Daten strukturiert, gepflegt und aktualisiert werden. Mit KAI setzen wir neue Maßstäbe im Kundenservice und bieten höchste Qualität und Effizienz.

Im nächsten Schritt werden wir CRM-Daten mit der WDB verknüpfen, um die Antwortqualität weiter zu verbessern und die Personalisierung zu erhöhen. Dadurch wird KAI in der Lage sein, noch individuellere und relevantere Antworten zu liefern, die besser auf die Bedürfnisse unserer Kunden abgestimmt sind.

Kontakt
Anke Kanwischer
USU Community Developer
Tel.: +49 241 92 78 70 - 36 73
anke.kanwischer@usu.com