Caso de uso de la IA generativa: Genera soluciones para preguntas de asistencia al cliente

En este documento, se proporciona una arquitectura de alto nivel para una aplicación que usa IA para generar soluciones a las preguntas de asistencia al cliente.

El público objetivo de este documento incluye arquitectos, desarrolladores y administradores que compilan y administran aplicaciones de IA generativa en la nube. En este documento, se supone que tienes una comprensión básica de la IA generativa.

En la sección Implementación de este documento, se proporcionan muestras de código para casos de uso de asistencia al cliente asistida por IA.

Arquitectura

En el siguiente diagrama, se muestra una arquitectura para una aplicación de mesa de ayuda asistida por IA en Google Cloud. La aplicación recibe preguntas de los clientes, recupera recursos pertinentes de una base de conocimiento y, luego, genera soluciones para las preguntas. La arquitectura es una implementación del enfoque de generación mejorada por recuperación (RAG).

Arquitectura de una aplicación que usa IA para generar respuestas a las solicitudes de asistencia al cliente. Arquitectura de una aplicación que usa IA para generar respuestas a las solicitudes de asistencia al cliente.

La aplicación en esta arquitectura consta de servicios en contenedores que se implementan en un clúster de Google Kubernetes Engine (GKE). La arquitectura muestra el siguiente flujo:

  1. Un cliente envía una pregunta a la aplicación de la mesa de ayuda.
  2. La aplicación de la mesa de ayuda pasa la pregunta del cliente al servicio de recuperación de conocimiento.
  3. El servicio de recuperación de conocimiento crea y envía una instrucción a la API de Gemini en Vertex AI para recuperar recursos pertinentes para la pregunta del cliente.
  4. Gemini identifica los recursos pertinentes de una base de conocimiento de asistencia almacenada en Cloud Storage.
  5. Gemini devuelve los IDs de los recursos pertinentes al servicio de recuperación de conocimiento.
  6. El servicio de recuperación de conocimiento recupera los recursos pertinentes de Cloud Storage.
  7. El servicio de recuperación de conocimiento envía la pregunta del cliente y los recursos pertinentes al servicio de generación de soluciones.
  8. El servicio de generador de soluciones envía los recursos a la API de Gemini en Vertex AI, con una instrucción para generar una solución detallada para la pregunta del cliente.
  9. Gemini genera una solución, como instrucciones paso a paso o un video explicativo.
  10. El servicio de generación de soluciones proporciona la solución al cliente a través de la aplicación de la mesa de ayuda.

Productos usados

En esta arquitectura de ejemplo, se usan los siguientes Google Cloud productos:

  • Google Kubernetes Engine (GKE): Un servicio de Kubernetes que puedes usar para implementar y operar aplicaciones en contenedores a gran escala con la infraestructura de Google.
  • Vertex AI: Es una plataforma de AA que te permite entrenar y, también, implementar modelos de AA y aplicaciones de IA, y personalizar LLM para usarlos en aplicaciones impulsadas por IA.
  • Cloud Storage: Un depósito de objetos de bajo costo y sin límites para varios tipos de datos. Se puede acceder a los datos desde y hacia Google Cloud, y estos se replican en las ubicaciones para aumentar la redundancia.

Implementación

Para experimentar con aplicaciones de asistencia al cliente asistida por IA enGoogle Cloud, usa las siguientes muestras de código:

¿Qué sigue?

Colaboradores

Autor: Kumar Dhanagopal | Desarrollador de soluciones entre productos

Otros colaboradores: