La plantilla IA generativa con RAG y Cloud SQL en Application Design Center te permite implementar una aplicación de chat de IA generativa que usa la generación mejorada por recuperación (RAG) para fundamentar las respuestas en los datos de tu organización. Puedes personalizar los componentes preconfigurados de Cloud Run, Vertex AI y la base de datos de vectores de Cloud SQL para que se adapten a tu carga de trabajo y, luego, implementarlos como una aplicación.
Por ejemplo, puedes implementar esta plantilla para abordar las siguientes necesidades empresariales:
| Ejemplo | Necesidad empresarial | Implementación |
|---|---|---|
| Chatbot de asistencia al cliente | Las empresas deben brindar asistencia al cliente de forma instantánea. | Alojar la interfaz de chat en Cloud Run Vertex AI procesa los embeddings y genera respuestas basadas en la documentación técnica almacenada como vectores en Cloud SQL. |
| Asistente interno de RR.HH. | Los empleados necesitan encontrar información sobre los beneficios, las políticas de la empresa y los procedimientos internos. | Alojar el asistente de RR.HH. en Cloud Run Cuando los empleados consultan la herramienta, Vertex AI recupera la información pertinente de la política de Cloud SQL para generar respuestas precisas y fundamentadas en la fuente. |
| Investigador de documentos legales | Los equipos legales necesitan encontrar rápidamente jurisprudencia o cláusulas contractuales pertinentes en grandes repositorios de documentos. | Alojar el portal de investigación en Cloud Run Vertex AI resume los precedentes pertinentes y, con los documentos legales almacenados como vectores en Cloud SQL, identifica el lenguaje específico de los contratos. |
| Búsqueda semántica de productos | Las empresas de comercio electrónico quieren facilitar las búsquedas de productos con descripciones en lenguaje natural en lugar de palabras clave exactas. | Alojar la interfaz de búsqueda en Cloud Run Vertex AI procesa las descripciones de los usuarios para mostrar los productos más relevantes desde el punto de vista semántico de los catálogos de productos almacenados como vectores en Cloud SQL. |
Arquitectura
En la siguiente imagen, se muestran los componentes y las conexiones de la aplicación:
A continuación, se muestra el flujo de procesamiento de solicitudes de la aplicación:
- Carga datos en una base de datos de PostgreSQL en Cloud SQL.
- Vertex AI crea embeddings de campos de texto y los almacena como vectores en la base de datos.
- Un frontend de Cloud Load Balancing recibe solicitudes externas y distribuye el tráfico al backend de Cloud Load Balancing.
- El backend de Cloud Load Balancing distribuye el tráfico al servicio de frontend de Cloud Run.
- El servicio de frontend se comunica con un servicio de recuperación para una llamada de IA generativa.
- El servicio de recuperación usa Secret Manager para acceder de forma segura a las claves de API y las credenciales que se necesitan para acceder a Vertex AI y Cloud SQL.
- El servicio de recuperación convierte la solicitud en un embedding y busca vectores similares en la base de datos de Cloud SQL.
- El servicio de recuperación envía los resultados de la búsqueda, junto con la instrucción original, a Vertex AI para crear una respuesta.
¿Qué sigue?
- Para aprender a duplicar y personalizar esta plantilla, consulta la Guía de inicio rápido: Personaliza e implementa una plantilla de Google.
- Define tus propios parámetros de configuración diseñando plantillas de aplicaciones.
- Identificar las prácticas recomendadas generales sobre arquitectura con el framework de arquitectura deGoogle Cloud