Warum Sie bei uns mit Robotern sprechen
Unser Support-Chatbot Jamie vorgestellt
Jens
Die Digitalisierung schreitet in rasantem Tempo voran und wir bei JAM sind fest entschlossen, am Puls der Zeit zu bleiben. Deshalb experimentieren wir bereits seit einigen Monaten mit ChatGPT und Co. und können Ihnen nun zeigen, wie wir Ihre Wartezeit bei Supportanfragen drastisch verkürzen.
Wir präsentieren: Jamie!
Jamie ist ab sofort Ihre digitale Assistentin für alle Fragen rund um unsere Produkte. Jamie ist ein Chatbot, der im Hintergrund auf unsere umfangreichen FAQs zugreift und Ihre Supportanfragen praktisch ohne Wartezeit beantwortet.
Doch wie genau funktioniert unser KI-Chatbot? Werfen wir einen Blick in das innovative Innenleben des Systems!
Vektordatenbanken und die Kraft von Embeddings
Als erstes ist es notwendig, unser gesammeltes Produktwissen aus Online-Hilfen und FAQs in ein sogenanntes „Embedding“ umzuwandeln. Ein solches Embedding transformiert den Text in Vektoren, also Zahlenarrays, die sich in einem hochdimensionalen Raum widerspiegeln.
Die Vektoren repräsentieren schließlich die Bedeutung der Textinhalte und sind somit die entscheidende Schnittstelle zwischen menschlicher Sprache und maschinellem Verständnis.
Vereinfachte Graphische Darstellung des Vektorraums (erstellt mit Dall-E)
Embeddings bilden die Vielschichtigkeit und Nuancen des menschlichen Ausdrucks in einem maschinell interpretierbaren Format ab.
Dadurch kann der Kontext und die Intention hinter einer Anfrage erfasst werden, um in der Datenbank nach korrespondierenden Inhalten zu suchen. Im Vergleich zu einer Suche nach Stichwörtern ist die Wahrscheinlichkeit, die richtige Antwort zu erhalten, also deutlich höher.
Wie sieht es also in der Praxis aus?
Wenn eine Kundenanfrage eingeht, wird diese auch in Vektoren umgewandelt. Unsere Vektordatenbank gleicht die Anfrage mit den vorhandenen Informationen ab.
Als nächstes sucht die Vektordatenbank nach den ähnlichsten Vektoren zur Anfrage und kann anschließend innerhalb weniger Sekunden den passenden Inhalt liefern.
JAM-Chatbot auf dem neuesten Stand der KI-Technik
Um unseren KI-Chatbot kontinuierlich zu verbessern, nutzen wir die neuesten Technologien und Erkenntnisse aus dem Bereich der künstlichen Intelligenz:
Bereits in der Woche der Veröffentlichung haben wir die neuesten Embeddings von OpenAI implementiert. Diese werden uns dabei helfen, die Qualität und Vielfalt unserer Datenbank zu erhöhen, welche die Grundlage für die KI-gestützte Beantwortung der Fragen unserer Kund:innen bildet.
Die neuen Embeddings von OpenAI basieren auf dem Modell „text-embedding-3-large“, das über 175 Milliarden Parameter verfügt und mehr als 45 Sprachen abdeckt. Damit ist es das bisher größte und leistungsstärkste Modell seiner Art.
Zum Vergleich: Die vorherigen Embeddings, die auf text-embedding-ada-002 basierten, hatte nur 10 Milliarden Parameter und verfügte über weniger sprachübergreifende Fähigkeiten.
Mit text-embedding-3-large können wir sowohl monolinguale als auch multilinguale Anfragen verarbeiten und Inhalte aus verschiedenen Quellen und Sprachen kombinieren.
Das Modell ist zudem in der Lage neben semantischen Ähnlichkeiten, auch die stilistische und pragmatische Ähnlichkeit zwischen Texten zu erfassen.
Da die Embeddings ständig aktualisiert werden, ist unser Chatbot immer auf dem neuesten Stand und kann Fragen zu den aktuellen Versionen unserer Produkte beantworten.
Da wir immer nur für die aktuelle Version unserer Software Support leisten können und der Chatbot immer auf dem neuesten Stand ist, ist es auch für Sie als Kund:in empfehlenswert, immer die aktuelle Version Ihrer Software installiert zu haben.
ChatGPT-4 übernimmt und formuliert eine Antwort
Die Vektoren sind nun abgeglichen und der beste Inhalt wurde von unserer Datenbank gefunden, wie geht es nun weiter? ChatGPT tritt auf den Plan!
Die gefundenen Inhalte werden aus der Datenbank nun in Deutsch oder Englisch an OpenAI geschickt und von ChatGPT-4-Turbo weiterverarbeitet.
ChatGPT erstellt daraufhin eine präzise Antwort auf Ihre Support-Anfrage. Dazu kombiniert es die verschiedenen Informationen aus der Datenbank zu einer zusammenhängenden Antwort.
Symbolische Interaktion zwischen Mensch und Maschine (erstellt mit Dall-E)
Schnellere Antworten dank Caching
Um die Antwortzeit unseres KI-Chatbots noch weiter zu verkürzen, haben wir ein Caching-System implementiert, das häufig gestellte Fragen und Antworten speichert.
Dadurch muss ChatGPT nicht jedes Mal die Datenbank abfragen und eine neue Antwort formulieren, sondern kann auf das Cache zurückgreifen und sofort eine passende Antwort liefern.
Das Caching-System basiert auf einem Language Model, das die Ähnlichkeit zwischen neuen Fragen und den gespeicherten Fragen im Cache misst. Wenn dann eine hohe Ähnlichkeit festgestellt wird, wird die entsprechende Antwort aus dem Cache geholt, ansonsten wird eine neue Antwort generiert.
Das Caching-System ist dynamisch und wird von uns ständig aktualisiert, damit wir die Qualität und Relevanz unserer Antworten gewährleisten und weiter verbessern können.
Auf den Punkt gebracht
Schauen wir zum Abschluss nochmal auf die wichtigsten Punkte:
Jamie, unser KI-basiertes Assistenzsystems, hält für Sie als Kund:in einige Vorteile bereit!
Nicht nur erhalten Sie ab jetzt noch schneller Unterstützung, sondern unser Kundensupport erhält auch neuen zeitlichen Raum für persönliche Beratung, wo sie am meisten benötigt wird.
Konnten wir Sie neugierig machen? Probieren Sie JAMie einmal aus und behalten Sie die weitere KI-Entwicklungen bei JAM im Auge. In unserer neuen Reihe „KI bei JAM“ halten wir Sie auf dem Laufenden!
Haben Sie abschließend noch Fragen? Dann melden Sie sich gern direkt bei uns!