En este documento, se describe una arquitectura de alto nivel para usar la IA con el objetivo de generar recomendaciones de productos personalizadas para una aplicación de venta minorista en Google Cloud.
El público objetivo de este documento incluye arquitectos, desarrolladores y administradores que compilan y administran aplicaciones de IA generativa en la nube para el sector de venta minorista. En el documento, se supone que tienes conocimientos básicos sobre la IA generativa.
Arquitectura
En el siguiente diagrama, se muestra una arquitectura que usa un modelo de IA para generar recomendaciones de productos personalizadas basadas en las estadísticas de las métricas de flujo de clics.
En la arquitectura, se muestran los siguientes flujos:
- Transferir y procesar datos del usuario:
- Los datos de flujo de clics, como las vistas de página, los clics y las compras, se suben a una canalización de Dataflow.
- Dataflow procesa los datos y obtiene información, como perfiles de usuario y preferencias. Luego, Dataflow almacena los datos, las estadísticas y los embeddings de vectores en BigQuery.
- Genera y publica recomendaciones de productos:
- Un cliente visita la tienda de la empresa, que es un servicio de Cloud Run en esta arquitectura.
- El servicio de la tienda envía los datos del visitante a un servicio de recomendación que se ejecuta en Cloud Run.
- El servicio de recomendación realiza una búsqueda de similitud de vectores en BigQuery y recupera datos sobre el perfil y las preferencias del visitante.
- El servicio de recomendación envía los datos del perfil y las preferencias del visitante a Gemini Enterprise Agent Platform, con una instrucción para generar recomendaciones de productos. En Agent Platform, un modelo de Gemini genera recomendaciones de productos personalizadas para el visitante.
- El servicio de recomendador envía las recomendaciones de productos al servicio de tienda, que luego muestra las recomendaciones.
Para optimizar el costo y el rendimiento, agrega una caché entre el servicio de la tienda y el servicio de recomendador. El servicio de recomendador verifica la caché en busca de datos de visitantes. Si la caché no contiene datos relevantes, el servicio realiza una búsqueda de similitud de vectores en BigQuery. Para configurar la caché, puedes usar Memorystore o configurar un balanceador de cargas con Cloud CDN.
Productos usados
En esta arquitectura de ejemplo, se usan los siguientes productos de Google Cloud :
- Cloud Run: Es una plataforma de computación sin servidores que te permite ejecutar contenedores directamente sobre la infraestructura escalable de Google.
- Gemini Enterprise Agent Platform: Es una plataforma integral que te permite crear, escalar, administrar y optimizar agentes de IA de nivel empresarial.
- BigQuery: Es un almacén de datos empresarial que te ayuda a administrar y analizar tus datos con funciones integradas, como el análisis geoespacial, el aprendizaje automático y la inteligencia empresarial.
- Dataflow: Es un servicio que proporciona procesamiento unificado de datos por lotes y de transmisión a gran escala.
Consideraciones del diseño
En esta sección, se describen los factores de diseño, las prácticas recomendadas y las recomendaciones de acuerdo con el Framework de buena arquitectura deGoogle Cloud . Ten en cuenta esta información cuando uses esta arquitectura de referencia para desarrollar una topología que cumpla con tus requisitos específicos de seguridad, confiabilidad, optimización de costos, eficiencia operativa y rendimiento.
Security, privacy, and compliance
Para proteger los datos de los clientes y cumplir con tus requisitos de seguridad, privacidad y cumplimiento en Google Cloud, ten en cuenta las siguientes recomendaciones:
- Para analizar las instrucciones y las respuestas de recomendación en busca de inyección de instrucciones, intentos de jailbreak y contenido dañino, usa Model Armor.
- Para inspeccionar y desidentificar la información de identificación personal (PII) en los datos de flujo de clics, los perfiles de usuario y las instrucciones, usa Sensitive Data Protection.
Confiabilidad
Para almacenar en búfer el tráfico de flujo de clics con ráfagas y desvincular los productores de eventos de la tienda de tu canalización de Dataflow, transfiere los eventos de usuario a través de Pub/Sub. Almacenar eventos en el búfer de Pub/Sub ayuda a evitar la pérdida de datos durante los aumentos repentinos de tráfico o las actualizaciones de canalizaciones.
Optimización de costos
Para reducir los costos de los tokens de entrada cuando las instrucciones comparten instrucciones del sistema repetidas o el contexto del catálogo de productos, usa el almacenamiento en caché de contexto en Agent Platform.
Eficiencia operativa
Para reducir la sobrecarga operativa cuando compilas y mantienes tu canalización de recomendaciones en Google Cloud, considera las siguientes opciones:
- Si prefieres un servicio de recomendaciones de venta minorista administrado en lugar de una canalización personalizada, considera AI Commerce Search en Gemini Enterprise for Customer Experience. AI Commerce Search entrena y ofrece modelos de recomendaciones personalizadas directamente desde tu catálogo de productos y eventos de flujo de clics.
- Para generar y actualizar embeddings de forma automática en BigQuery cuando cambian los datos de origen, usa la generación de embeddings autónoma.
Optimización del rendimiento
Para ayudar a cumplir con los requisitos de entrega de baja latencia para los visitantes de la tienda en Google Cloud, ten en cuenta las siguientes recomendaciones:
- Para acelerar las consultas de similitud en tablas grandes en BigQuery, crea un índice de vectores para la búsqueda de vecino más cercano aproximado (ANN).
- Para la entrega de similitudes en línea de baja latencia con una alta simultaneidad de la tienda, considera Vector Search.
- Cuando implementes Memorystore para el almacenamiento en caché, usa Memorystore para Valkey o Memorystore para Redis Cluster en lugar del motor de Memcached obsoleto. Para entregar consultas semánticas con una latencia inferior a un milisegundo, también puedes usar la búsqueda de vectores en Memorystore para Valkey.
Implementación
Para experimentar con aplicaciones de IA generativa en Google Cloud para cargas de trabajo de venta minorista, usa las siguientes muestras de código:
- Recomendaciones de venta minorista multimodal.
- Muestras de código de IA generativa para casos de uso de venta minorista.
¿Qué sigue?
- Explora más guías de arquitectura de IA generativa.
- Para obtener una descripción general de los principios y las recomendaciones de arquitectura específicos de las cargas de trabajo de IA y AA en Google Cloud, consulta la perspectiva de IA y AA en el Well-Architected Framework.
- Para obtener más información sobre las arquitecturas de referencia, los diagramas y las prácticas recomendadas, explora Cloud Architecture Center.
Colaboradores
Autor: Kumar Dhanagopal | Desarrollador de soluciones entre productos
Otros colaboradores:
- Amina Mansour | Líder técnica, Relaciones con desarrolladores globales y contenido estratégico
- Megan O'Keefe | Developers Advocate
- Samantha He | Escritora técnica
- Shir Meir Lador | Gerente de Ingeniería de Relaciones con Desarrolladores