Wie ChatGPT den Kund:innenservice verbessert

Wir entwickelten einen Proof of Concept (PoC), der die verschiedenen Wissensquellen des Kunden mithilfe von ChatGPT in einem sogenannten MRKL-Ansatz (Modular Reasoning, Knowledge and Language) durchsuchbar macht. Dabei fungiert ChatGPT selbst als eine Art Router, der je nach Fragestellung Informationen aus einer oder mehreren Wissensquellen abruft. Die Ausgabe des Systems enthält eine Zusammenfassung der Suchergebnisse, die die ursprüngliche Frage beantworten und zitiert dabei die zugrundeliegenden Informationsquellen.

Für die Mitarbeitenden kann das einen echten Zeitgewinn bedeuten. Denn: Für die Suche nach Informationen stehen ihnen mehrere interne Wissensdatenbanken zur Verfügung. Die Suche darin gestaltet sich während eines Telefonats oft umständlich und langwierig - und damit kostspielig.

Um die Lösung quantitativ zu evaluieren, haben wir ein Framework um die Lösung herum entwickelt. Dabei werden verschiede Parameter z.B. im Bereich des Word Embeddings und des Prompt Engineerings variiert. Die Antworten werden für jeden Parametersatz generiert und anschließend durch ChatGPT mit den zuvor als richtig markierten Antworten verglichen. Dieses Verfahren wird mehrfach iteriert, um die Parameter auf die optimale Antwortqualität zu trimmen.