In diesem Dokument wird eine allgemeine Architektur für eine Anwendung beschrieben, die mit KI Lösungen für Supportanfragen von Kunden generiert.
Die Zielgruppe für dieses Dokument umfasst Architekten, Entwickler und Administratoren, die generative KI-Anwendungen in der Cloud erstellen und verwalten. Es wird davon ausgegangen, dass Sie grundlegende Kenntnisse im Bereich generative KIhaben.
Im Abschnitt Bereitstellung dieses Dokuments finden Sie Codebeispiele für Anwendungsfälle im Kundensupport mit KI-Unterstützung.
Architektur
Das folgende Diagramm zeigt eine Architektur für eine Support-Desk-Anwendung mit KI-Unterstützung in Google Cloud. Die Anwendung empfängt Fragen von Kunden, ruft relevante Ressourcen aus einer Wissensdatenbank ab und generiert dann Lösungen für die Fragen. Die Architektur ist eine Implementierung des Retrieval Augmented Generation-Ansatzes (RAG).
Die Anwendung in dieser Architektur besteht aus containerisierten Diensten, die in einem Google Kubernetes Engine-Cluster (GKE) bereitgestellt werden. Die Architektur zeigt den folgenden Ablauf:
- Ein Kunde sendet eine Frage an die Support-Desk-Anwendung.
- Die Support-Desk-Anwendung leitet die Frage des Kunden an den Wissensabrufdienst weiter.
- Der Wissensabrufdienst erstellt einen Prompt und sendet ihn an die Gemini API in Vertex AI, um Ressourcen abzurufen, die für die Frage des Kunden relevant sind.
- Gemini identifiziert relevante Ressourcen aus einer Support-Wissensdatenbank, die in Cloud Storage gespeichert ist.
- Gemini gibt die IDs der relevanten Ressourcen an den Wissensabrufdienst zurück.
- Der Wissensabrufdienst ruft die relevanten Ressourcen aus Cloud Storage ab.
- Der Wissensabrufdienst sendet die Frage des Kunden und die relevanten Ressourcen an den Lösungsgeneratordienst.
- Der Lösungsgeneratordienst sendet die Ressourcen mit einem Prompt an die Gemini API in Vertex AI, um eine detaillierte Lösung für die Frage des Kunden zu generieren.
- Gemini generiert eine Lösung, z. B. eine Schritt-für-Schritt-Anleitung oder eine Videoanleitung.
- Der Lösungsgeneratordienst stellt dem Kunden die Lösung über die Support-Desk-Anwendung zur Verfügung.
Verwendete Produkte
In dieser Beispielarchitektur werden die folgenden Google Cloud Produkte verwendet:
- Google Kubernetes Engine (GKE): Ein Kubernetes-Dienst, mit dem Sie Containeranwendungen in großem Maßstab mithilfe der Infrastruktur von Google bereitstellen und betreiben können.
- Vertex AI: Eine ML-Plattform, mit der Sie ML-Modelle und KI-Anwendungen trainieren und bereitstellen und LLMs für die Verwendung in KI-basierten Anwendungen anpassen können.
- Cloud Storage: Ein kostengünstiger, unbegrenzter Objektspeicher für verschiedene Datentypen. Auf Daten kann von innerhalb und außerhalb zugegriffen werden Google Cloud. Sie werden zu Redundanzzwecken über Standorte hinweg repliziert.
Bereitstellung
Wenn Sie mit KI-gestützten Kundensupportanwendungen in Google Cloudexperimentieren möchten, verwenden Sie die folgenden Codebeispiele:
- Kundensupportanwendung mit generativer KI erstellen.
- Beispielprompt für Anwendungsfälle im Kundenservice mit KI-Unterstützung.
Nächste Schritte
- Kundensupportagent mit Gemini erstellen.
- KI-Agents für Anwendungsfälle im Kundensupport mit Playbooks, Abläufen, und Datenspeichern in Dialogflow CX erstellen
- Weitere Architekturleitfäden für generative KI ansehen
- Eine Übersicht über Architekturprinzipien und Empfehlungen speziell für KI und ML-Arbeitslasten in Google Cloudfinden Sie in der KI- und ML-Perspektive im Well-Architected Framework.
- Weitere Referenzarchitekturen, Diagramme und Best Practices finden Sie im Cloud-Architekturcenter.
Beitragende
Autor: Kumar Dhanagopal | Cross-product Solution Developer
Weitere Beitragende:
- Amina Mansour | Head of Cloud Platform Evaluations Team
- Megan O'Keefe | Developer Advocate
- Samantha He | Technical Writer
- Shir Meir Lador | Developer Relations Engineering Manager