Sistema de IA de un solo agente que usa ADK y Cloud Run

Last reviewed 2025-12-09 UTC

En este documento, se proporciona una arquitectura de referencia para ayudarte a diseñar un sistema de IA de agente único en Google Cloud. El sistema de un solo agente en esta arquitectura se compila con el Kit de desarrollo de agentes (ADK) y se implementa en Cloud Run. También puedes implementar el agente en Agent Runtime en Gemini Enterprise Agent Platform o Google Kubernetes Engine (GKE). La arquitectura usa el Protocolo de contexto del modelo (MCP), que permite que el agente acceda a información de varias fuentes y la procese para que pueda proporcionar estadísticas ricas en contexto.

Este documento está dirigido a arquitectos, desarrolladores y administradores de aplicaciones basadas en IA. Se supone que tienes conocimientos básicos sobre IA, aprendizaje automático (AA) y conceptos del modelo de lenguaje grande (LLM). En el documento, también se supone que tienes conocimientos básicos sobre los agentes y modelos de IA. No proporciona orientación específica para diseñar y programar agentes de IA.

En la sección Implementación de este documento, se enumeran muestras de código que puedes usar para aprender a compilar e implementar sistemas de IA de agente único.

Arquitectura

En el siguiente diagrama, se muestra una arquitectura para un sistema de IA de agente único que se implementa en Cloud Run:

Una arquitectura de agente único que se implementa en Cloud Run Arquitectura para un sistema de IA de agentes múltiples en Google Cloud.

Componentes de la arquitectura

La arquitectura de ejemplo consta de los siguientes componentes:

Componente Descripción
Frontend Los usuarios interactúan con el agente a través de un frontend, como una interfaz de chat, que se ejecuta como un servicio de Cloud Run sin servidores.
Agente El agente recibe las solicitudes de los usuarios, interpreta la intención del usuario, selecciona las herramientas adecuadas y, luego, sintetiza la información para responder las consultas.
Agent Runtime El agente se compila con el ADK y se implementa como un servicio de Cloud Run sin servidores. También puedes implementar el agente en Agent Runtime en Gemini Enterprise Agent Platform o como una app en contenedores en GKE. Para obtener información sobre cómo elegir un Agent Runtime, consulta Elige los componentes de la arquitectura de tu IA de agentes.
ADK El ADK proporciona herramientas y un framework para desarrollar, probar y, luego, implementar agentes. El ADK abstrae la complejidad de la creación de agentes y permite que los desarrolladores de IA se concentren en la lógica y las capacidades del agente. Cuando desarrollas agentes con el ADK, puedes configurarlos para que accedan a las herramientas integradas, como la Búsqueda de Google, y las usen.
Modelo de IA y tiempo de ejecución del modelo Para la publicación de inferencias, el agente de esta arquitectura de ejemplo usa el modelo de IA de Gemini en Gemini Enterprise Agent Platform.
MCP Toolbox MCP Toolbox para bases de datos proporciona herramientas específicas de la base de datos para el agente. Puede controlar complejidades, como la agrupación de conexiones y la autenticación.
Clientes, servidores y herramientas de MCP El MCP facilita el acceso a las herramientas estandarizando la interacción entre agentes y herramientas. Para cada par agente-herramienta, un cliente de MCP envía solicitudes a un servidor de MCP a través del cual el agente accede a una herramienta como un sistema de archivos o una API. Por ejemplo, las herramientas externas, como la herramienta de LangChain de StackOverflow y la herramienta de Búsqueda de Google, pueden proporcionar datos y fundamentación.
Observabilidad El agente se supervisa con Google Cloud Observability para el registro, la supervisión y el seguimiento.

Flujo de agentes

El sistema de agente único de ejemplo de la arquitectura anterior tiene el siguiente flujo:

  1. Un usuario ingresa una instrucción a través de un frontend, como una interfaz de chat, que se ejecuta como un servicio de Cloud Run sin servidores.
  2. El frontend reenvía la instrucción al agente.
  3. El agente usa el modelo de IA para razonar sobre la instrucción del usuario y sintetizar una respuesta:
    • El modelo de IA determina qué herramientas usar para recopilar información contextual o realizar una tarea.
    • El agente realiza llamadas a herramientas y agrega la respuesta a su contexto.
    • El agente realiza la fundamentación y la validación intermedia.

Productos usados

En esta arquitectura de referencia, se usan los siguientes productos y herramientas de código abierto y de Google Cloud :

Casos de uso

En esta sección, se describen los posibles casos de uso de la arquitectura que se describe en este documento.

Clasificación automatizada de informe de errores

Puedes adaptar esta arquitectura de referencia para automatizar la clasificación de los informes de errores entrantes: comprender el problema, buscar duplicados, recopilar contexto técnico pertinente y, luego, crear un error en el sistema. Un agente potenciado por IA puede actuar como un asistente inteligente que puede realizar la investigación inicial, lo que permite que los expertos humanos se enfoquen en la resolución de problemas más complejos.

Para este caso de uso, la arquitectura proporciona los siguientes beneficios:

  • Tiempos de resolución más rápidos: El agente automatiza la investigación inicial y la recopilación de contexto, lo que puede reducir significativamente el tiempo que lleva asignar y resolver tickets de errores.
  • Precisión y coherencia mejoradas: El agente puede buscar de forma sistemática en varias fuentes de datos (bases de datos internas, repositorios de código y la Web pública). Esta capacidad proporciona un análisis más completo y coherente que el que podría permitir la clasificación manual.
  • Reducción de la carga de trabajo manual: El agente puede descargar las tareas de clasificación repetitivas de los equipos de ingeniería y asistencia de TI, lo que les permite enfocarse en el trabajo de mayor valor.

Esta arquitectura es ideal para cualquier organización que desarrolle software y que quiera mejorar la eficiencia y eficacia de su proceso de resolución de errores. Para obtener más información y opciones de implementación, consulta Software Bug Assistant - ADK Python Sample Agent y Tools Make an Agent: From Zero to Assistant with ADK.

Atención al cliente

Puedes adaptar esta arquitectura de referencia para brindar una experiencia de compra personalizada y sin interrupciones a los clientes. Un agente potenciado por IA puede proporcionar atención al cliente, recomendar productos, administrar pedidos y programar servicios, lo que permite que los representantes humanos se enfoquen en otras tareas.

Para este caso de uso, la arquitectura proporciona los siguientes beneficios:

  • Venta incremental y promociones: El agente puede ayudar a aumentar las ventas sugiriendo productos, servicios y promociones. Las sugerencias del agente se basan en el pedido actual del cliente y las ventas relevantes, el historial de pedidos del cliente y los artículos que están en su carrito.

  • Administración y programación de pedidos: El agente puede aumentar la eficiencia y reducir la fricción de los clientes administrando el contenido del carrito de compras de un cliente y facilitando la autoprogramación de los servicios.

  • Reducción de la carga de trabajo manual: El agente maneja consultas generales, pedidos y programación, lo que permite que los agentes del servicio de atención al cliente se enfoquen en problemas más complejos de los clientes.

Esta arquitectura es ideal para cualquier organización de venta minorista que desee mejorar la experiencia del cliente, aumentar las ventas y simplificar la administración y la programación de pedidos. Para obtener más información y opciones de implementación, consulta Agente del servicio de atención al cliente de Cymbal Home & Garden.

Previsión de series temporales

Puedes adaptar esta arquitectura de referencia para ayudar a predecir resultados, como la previsión de la demanda, la predicción de patrones de tráfico o el análisis y la predicción de fallas de las máquinas. Un agente potenciado por IA puede analizar datos en tiempo real, tendencias históricas y próximos eventos. El agente puede usar estos análisis para predecir resultados durante un período específico. Estas previsiones pueden ayudarte a planificar y reducir el tiempo que dedican los analistas de datos humanos.

Este caso de uso puede beneficiar a las organizaciones en muchas situaciones, como las siguientes:

  • Administración del inventario: Con el uso de estadísticas avanzadas combinadas con datos históricos de ventas y tendencias del mercado, el agente puede ayudarte a planificar los pedidos de reposición para que puedas prepararte para los aumentos o las disminuciones en la demanda de los clientes.
  • Rutas de viaje: El agente puede ayudar a ahorrar tiempo y reducir los costos de viaje para los proveedores de servicios y entregas, ya que analiza los patrones de tráfico históricos y en tiempo real, junto con eventos como obras o rutas cerradas.
  • Evita interrupciones: El agente puede ayudarte a evitar posibles interrupciones del servicio, ya que te ayuda a identificar la causa raíz de las interrupciones históricas. También puede ayudar a predecir posibles estados de falla futuros para que puedas mitigar un problema antes de que se convierta en un problema.

Esta arquitectura es ideal para cualquier organización que necesite adaptarse a patrones cambiantes en función de las tendencias establecidas. También es ideal para las organizaciones cuyos clientes pueden beneficiarse de las estadísticas proactivas que los ayudan a planificar el futuro. Para obtener más información y opciones de implementación, consulta Agente de previsión de series temporales con el ADK y la MCP Toolbox de Google.

Recuperación de documentos

Puedes adaptar esta arquitectura de referencia para usar RAG Engine en Gemini Enterprise Agent Platform y crear un agente para administrar la recuperación de datos contextuales. Un agente de recuperación de documentos puede obtener datos pertinentes de un conjunto seleccionado de documentos para proporcionar respuestas fácticas con citas del material de referencia.

Con un agente de recuperación de documentos, puedes ayudar a garantizar que los clientes y los usuarios internos obtengan respuestas fundamentadas y adaptadas al contexto para sus consultas. Esta implementación puede ayudar a reducir los errores y las imprecisiones, ya que ayuda a garantizar que las respuestas se basen en la información que validaste.

Una arquitectura de recuperación de documentos es ideal para bases de conocimiento sobre políticas y procesos, infraestructura técnica, aptitud para el uso de productos y otra documentación basada en hechos. Para obtener información sobre cómo desarrollar un agente de recuperación de documentos potenciado por la generación mejorada por recuperación (RAG), consulta Agente de recuperación de documentación.

Alternativas de diseño

En esta sección, se presentan enfoques de diseño alternativos que puedes considerar para la implementación de tu agente de IA en Google Cloud.

Agent Runtime

En la arquitectura que se describe en este documento, el agente y sus herramientas se implementan en Cloud Run. También puedes usar GKE o Agent Runtime como entorno de ejecución alternativo. Para obtener información sobre cómo elegir un Agent Runtime, consulta Agent Runtime en "Elige los componentes de la arquitectura de tu IA de agentes".

Tiempo de ejecución del modelo de IA

En la arquitectura que se describe en este documento, el entorno de ejecución del modelo de IA es Agent Platform. También puedes usar Cloud Run o GKE como entorno de ejecución alternativo. Para obtener información sobre cómo elegir un tiempo de ejecución del modelo, consulta Tiempo de ejecución del modelo en "Elige los componentes de la arquitectura de tu IA de agentes".

Consideraciones del diseño

En esta sección, se proporciona orientación para ayudarte a usar esta arquitectura de referencia para desarrollar una arquitectura que cumpla con tus requisitos específicos de seguridad, confiabilidad, costo, eficiencia operativa y rendimiento.

Diseño de sistemas

En esta sección, se proporciona orientación para que puedas elegir las regiones de Google Cloud para tu implementación y seleccionar los productos y las herramientas de Google Cloud adecuados.

Selección de región

Cuando selecciones Google Cloud regiones para tus aplicaciones de IA, ten en cuenta los siguientes factores:

Para seleccionar ubicaciones Google Cloud adecuadas para tus aplicaciones, usa las siguientes herramientas:

  • Selector de regiones deGoogle Cloud : Es una herramienta interactiva basada en la Web para seleccionar la región de Google Cloud óptima para tus aplicaciones y datos en función de factores como la huella de carbono, el costo y la latencia.
  • API de Cloud Location Finder: Es una API pública que proporciona una forma programática de encontrar ubicaciones de implementación en Google Cloud, Google Distributed Cloud y otros proveedores de servicios en la nube.

Diseño de agentes

En esta sección, se proporcionan recomendaciones generales para diseñar agentes de IA. La orientación detallada sobre cómo escribir el código y la lógica del agente está fuera del alcance de este documento.

  • Definición y diseño del agente:
    • Define claramente el objetivo comercial del sistema de IA de agentes y la tarea que realiza cada agente.
    • Elige un patrón de diseño de agente que mejor se adapte a tus requisitos.
    • Usa el ADK para crear, implementar y administrar de manera eficiente tu arquitectura de agentes.
  • Interacciones con el agente:
    • Diseña los agentes orientados al usuario en la arquitectura para admitir interacciones en lenguaje natural.
    • Asegúrate de que cada agente comunique con claridad sus acciones y estado a sus clientes dependientes.
    • Diseña los agentes para que detecten y manejen consultas ambiguas e interacciones matizadas.
  • Contexto, herramientas y datos:
    • Asegúrate de que los agentes tengan suficiente contexto para hacer un seguimiento de las interacciones de varios turnos y los parámetros de la sesión.
    • Describe con claridad el propósito, los argumentos y el uso de las herramientas que pueden usar los agentes.
    • Garantizar que las respuestas de los agentes se fundamenten en fuentes de datos confiables para reducir las alucinaciones
    • Implementa lógica para controlar situaciones sin coincidencias, como cuando una instrucción está fuera de tema.

Memoria y almacenamiento de sesión

La arquitectura de ejemplo que se muestra en este documento no incluye almacenamiento en memoria ni de sesión. En un entorno de producción, puedes mejorar las respuestas y agregar personalización integrando el estado y la memoria en tu agente.

  • Sesión: Una sesión es el hilo conversacional entre un usuario y el agente, desde la interacción inicial hasta el final del diálogo.
  • Estado: El estado son los datos que el agente usa y recopila dentro de una sesión específica. Los datos de estado que se recopilan incluyen el historial de mensajes que intercambiaron el usuario y el agente, los resultados de las llamadas a herramientas y otras variables que el agente necesita para comprender el contexto de la conversación.

El ADK puede hacer un seguimiento de las sesiones en la memoria a corto plazo con el objeto Session y los atributos state. El ADK también admite la memoria a largo plazo en todas las sesiones con el mismo usuario, incluso a través de Memory Bank. Para almacenar el estado de la sesión, también puedes usar servicios como Memorystore para Redis.

Para obtener información sobre las opciones de memoria del agente, consulta Elige los componentes de la arquitectura de IA de agentes.

Seguridad

En esta sección, se describen las consideraciones y recomendaciones de diseño para crear una topología en Google Cloud que cumpla con los requisitos de seguridad de tu carga de trabajo.

Consideraciones de seguridad para los agentes

Los agentes de IA presentan ciertos riesgos de seguridad únicos y críticos que las prácticas de seguridad convencionales y determinísticas podrían no mitigar de forma adecuada. Google recomienda un enfoque que combine las fortalezas de los controles de seguridad determinísticos con las defensas dinámicas basadas en el razonamiento. Este enfoque se basa en tres principios fundamentales: supervisión humana, autonomía del agente definida con cuidado y observabilidad. A continuación, se presentan recomendaciones específicas que se alinean con estos principios fundamentales.

  • Supervisión humana: En ocasiones, un sistema de IA de agentes puede fallar o no funcionar según lo previsto. Por ejemplo, el modelo podría generar contenido impreciso o un agente podría seleccionar herramientas inapropiadas. En los sistemas de IA de agentes que son fundamentales para la empresa, incorpora un flujo con intervención humana para permitir que los supervisores humanos monitoreen, anulen y pausen a los agentes. Por ejemplo, los usuarios humanos pueden revisar el resultado de los agentes, aprobarlo o rechazarlo, y brindar más orientación para corregir errores o tomar decisiones estratégicas. Este enfoque combina la eficiencia de los sistemas de IA de agentes con el pensamiento crítico y la experiencia en el dominio de los usuarios humanos.
  • Identidad del agente y acceso con privilegio mínimo:
  • Administración del tráfico de entrada y salida: Enruta el tráfico de agentes a través de Agent Gateway para aplicar políticas de seguridad del entorno de ejecución en los límites de entrada y salida. Para obtener información sobre las plataformas de Agent Runtime que admiten Agent Gateway, consulta Agent Runtimes compatibles.
    • De cliente a agente (entrada): Implementa Agent Gateway frente a tu Agent Runtime. La puerta de enlace ayuda a autenticar a los llamadores y a inspeccionar las instrucciones entrantes en tiempo real con Model Armor.
    • De agente a cualquier lugar (salida):
      • Enruta las solicitudes salientes de agente a agente (A2A) y de agente a herramienta (MCP) a través de Agent Gateway en modo de salida.
      • Aplica políticas de acceso de denegación predeterminada con políticas de acceso de IAM y Identity-Aware Proxy (IAP).
      • Verifica que los agentes y las herramientas de destino estén registrados en el Registro de agentes.
      • Inspeccionar las invocaciones y respuestas de herramientas salientes con Model Armor para ayudar a evitar el robo de datos, la inyección indirecta de instrucciones y el uso inadecuado de herramientas
  • Supervisión: Supervisa el comportamiento de los agentes con capacidades de seguimiento integrales que te brindan visibilidad de cada acción que realiza un agente, incluidos su proceso de razonamiento, la selección de herramientas y las rutas de ejecución. Para obtener más información, consulta Registra un agente en Agent Runtime y Registra en el ADK.

Para obtener más información sobre cómo proteger los agentes de IA, consulta Seguridad para agentes de IA.

Consideraciones de seguridad de Agent Platform

Para asegurarte de que la configuración y el uso de tu Plataforma de agentes cumplan con tus requisitos de seguridad, ten en cuenta las siguientes recomendaciones:

  • Responsabilidad compartida: La seguridad es una responsabilidad compartida. Agent Platform protege la infraestructura subyacente y proporciona herramientas y controles de seguridad para ayudarte a proteger tus datos, código y modelos. Eres responsable de configurar correctamente tus servicios, administrar los controles de acceso y proteger tus aplicaciones. Para obtener más información, consulta Responsabilidad compartida de la plataforma de agentes.
  • Controles de seguridad: Agent Platform admite controles de seguridad de Google Cloud que puedes usar para cumplir con tus requisitos de residencia de datos, claves de encriptación administradas por el cliente (CMEK), seguridad de redes con Controles del servicio de VPC y Transparencia de acceso. Para obtener más información, consulta la siguiente documentación:
  • Seguridad: Los modelos de IA pueden producir respuestas dañinas, a veces en respuesta a instrucciones maliciosas.
    • Para mejorar la seguridad y mitigar el posible uso inadecuado del sistema de IA de agentes, puedes configurar filtros de contenido para que actúen como barreras contra las entradas y respuestas dañinas. Para obtener más información, consulta Filtros de seguridad y contenido.
    • Para inspeccionar y limpiar las solicitudes de inferencia, las instrucciones del agente, las llamadas a herramientas y las respuestas en busca de amenazas como la inyección de instrucciones y el contenido dañino, puedes usar Model Armor para las llamadas directas a la API del modelo y para las solicitudes que se enrutan a través de Agent Gateway. Model Armor te ayuda a evitar entradas maliciosas, verificar la seguridad del contenido, proteger datos sensibles, mantener el cumplimiento y aplicar políticas de seguridad de manera coherente.
  • Acceso a modelos: Puedes configurar políticas de la organización para limitar el tipo y las versiones de los modelos de IA que se pueden usar en un proyecto de Google Cloud . Para obtener más información, consulta Controla el acceso a los modelos de Model Garden.
  • Protección de datos: Para descubrir y desidentificar datos sensibles en las instrucciones y respuestas, y en los datos de registro, usa la API de Cloud Data Loss Prevention. Para obtener más información, mira este video: Cómo proteger los datos sensibles en las apps de IA.

Consideraciones de seguridad del MCP

Para garantizar que tu implementación de MCP cumpla con tus requisitos de seguridad, ten en cuenta las siguientes recomendaciones:

  • Registro y descubrimiento de herramientas: Registra servidores de MCP y herramientas en el Agent Registry para que los agentes solo se conecten a extremos de MCP inventariados y aprobados por el administrador.
  • Control de acceso y supervisión del tráfico: Dirige el tráfico del agente al MCP a través de Agent Gateway en el modo Agente a cualquier lugar (salida) y protege los servidores del MCP (como los servidores del MCP alojados en Cloud Run) con IAP y políticas de acceso de IAM. Configura Model Armor o políticas de administración semántica en Agent Gateway para inspeccionar las entradas y salidas de las herramientas de MCP en busca de exposición de datos sensibles y de inyección indirecta de instrucciones.
  • Seguridad general del MCP: Cuando configures tus agentes para que usen el MCP, asegúrate de que se autorice el acceso a datos y herramientas externos, implementa controles de privacidad, como la encriptación, aplica filtros para proteger los datos sensibles y supervisa las interacciones de los agentes. Para obtener más información, consulta MCP y seguridad.

Consideraciones de seguridad de A2A

Para asegurarte de que tu implementación de A2A cumpla con tus requisitos de seguridad, ten en cuenta las siguientes recomendaciones:

  • Seguridad del transporte: El protocolo A2A exige HTTPS para todas las comunicaciones A2A en entornos de producción y recomienda las versiones 1.2 o superiores de la seguridad de la capa de transporte (TLS).
  • Autenticación: El protocolo A2A delega la autenticación a mecanismos web estándar, como encabezados HTTP, y a estándares como OAuth2 y OpenID Connect. Cada agente anuncia los requisitos de autenticación en su tarjeta de agente. Para obtener más información, consulta Autenticación de A2A.
  • Administración entre agentes: Registra agentes A2A en Agent Registry y enruta las solicitudes entre agentes a través de Agent Gateway. Si combinas Agent Gateway con Agent Identity, IAP y políticas de acceso de IAM, puedes verificar de forma criptográfica la identidad del agente que llama, aplicar una autorización detallada entre los agentes coordinadores y los subagentes, y, además, inspeccionar las cargas útiles entre agentes con Model Armor.

Consideraciones de seguridad de Cloud Run

Para asegurarte de que tu implementación de Cloud Run cumpla con tus requisitos de seguridad, ten en cuenta las siguientes recomendaciones:

  • Seguridad de entrada (para el servicio de frontend): Para controlar el acceso a la aplicación, inhabilita la URL predeterminada de run.app del servicio de Cloud Run de frontend y configura un balanceador de cargas de aplicaciones externo regional. Además de balancear las cargas del tráfico entrante a la aplicación, el balanceador de cargas controla la administración de certificados SSL. Para obtener protección adicional, puedes usar políticas de seguridad de Google Cloud Armor para proporcionar filtrado de solicitudes, protección DSD y límite de frecuencia para el servicio.

  • Autenticación de usuarios:

    • Usuarios dentro de tu organización: Para autenticar el acceso de los usuarios internos al servicio de Cloud Run de frontend, usa IAP. Cuando un usuario intenta acceder a un recurso protegido por IAP, IAP realiza verificaciones de autenticación y autorización.
    • Usuarios fuera de tu organización: Para autenticar el acceso de usuarios externos al servicio de frontend, usa Identity Platform o Firebase Authentication. Para administrar el acceso de los usuarios externos, configura tu aplicación para que controle un flujo de acceso y realice llamadas a la API autenticadas al servicio de Cloud Run.

    Para obtener más información, consulta Autentica usuarios.

  • Seguridad del agente y del servidor de MCP: Cuando alojas agentes o servidores de MCP en Cloud Run, configura las funciones de Agent Platform para Cloud Run para asignar una identidad de agente administrada al servicio y usa IAP con Agent Gateway para autenticar y autorizar las solicitudes entrantes de agentes y herramientas.

  • Seguridad de las imágenes de contenedor: Para garantizar que solo se implementen imágenes de contenedor autorizadas en Cloud Run, puedes usar la Autorización Binaria. Para identificar y mitigar los riesgos de seguridad en las imágenes de contenedor, usa Artifact Analysis para ejecutar análisis de vulnerabilidades de forma automática. Para obtener más información, consulta Descripción general del análisis de contenedores.

  • Residencia de datos: Cloud Run te ayuda a cumplir con los requisitos de residencia de datos. Tus servicios de Cloud Run se ejecutan dentro de la región seleccionada.

Para obtener más orientación sobre la seguridad de los contenedores, consulta Sugerencias generales para el desarrollo de Cloud Run.

Consideraciones de seguridad para todos los productos de Google Cloud en la arquitectura

Para asegurarte de que tu arquitectura cumpla con tus requisitos de seguridad, ten en cuenta las siguientes recomendaciones generales:

  • Encriptación de datos: De forma predeterminada, Google Cloud encripta los datos en reposo con Google-owned and Google-managed encryption keys. Para proteger los datos de tus agentes con claves de encriptación que controlas, puedes usar las CMEK que creas y administras en Cloud KMS. Para obtener información sobre los servicios de Google Cloud que son compatibles con Cloud KMS, consulta Servicios compatibles.
  • Mitiga el riesgo de robo de datos: Para reducir el riesgo de robo de datos, crea un perímetro de Controles del servicio de VPC alrededor de la infraestructura. Los Controles del servicio de VPC admiten todos los servicios deGoogle Cloud que usa esta arquitectura de referencia.
  • Control de acceso: Cuando configures los permisos para los recursos de tu topología, sigue el principio de privilegio mínimo.
  • Seguridad del entorno de nube: Usa las herramientas de Security Command Center para detectar vulnerabilidades, identificar y mitigar amenazas, definir e implementar una postura de seguridad y exportar datos para un análisis más detallado.
  • Optimización posterior a la implementación: Después de implementar tu aplicación en Google Cloud, obtén recomendaciones para optimizar aún más la seguridad con Active Assist. Revisa las recomendaciones y aplícalas según corresponda a tu entorno. Para obtener más información, consulta Busca recomendaciones en Active Assist.

Más recomendaciones de seguridad

Confiabilidad

En esta sección, se describen las consideraciones y recomendaciones de diseño para compilar y operar una infraestructura confiable para tu implementación en Google Cloud.

Componente Consideraciones y recomendaciones de diseño
Agente

Simula fallas: Antes de implementar el sistema de IA de agentes en producción, valídalo simulando un entorno de producción. Identificar y corregir problemas y comportamientos inesperados

Escala horizontalmente: Para garantizar la alta disponibilidad y la tolerancia a errores, ejecuta varias instancias de tu aplicación de agente detrás de un balanceador de cargas. Este enfoque también puede ayudar a reducir la latencia y los tiempos de espera distribuyendo las solicitudes entre las instancias. Algunos tiempos de ejecución de agentes controlan el balanceo de cargas automáticamente, como con el ajuste de escala automático de instancias en los servicios de Cloud Run.

Recupérate de las interrupciones: Para garantizar que el agente pueda controlar los reinicios de forma correcta y mantener el contexto, desvincula el estado del entorno de ejecución. Para implementar una aplicación de agente sin estado de este tipo, usa un almacén de datos externo, como una base de datos o una caché distribuida. Por ejemplo, puedes usar Memory Bank, Memorystore for Redis o un servicio de base de datos como Cloud SQL.

Controla los errores: Para habilitar el diagnóstico y la solución de problemas, implementa mecanismos de registro, manejo de excepciones y reintentos.

Agent Platform

Planificación de la capacidad: Si la cantidad de solicitudes supera la capacidad asignada, se muestra el código de error 429. Para las cargas de trabajo que son fundamentales para la empresa y requieren de forma constante una capacidad de procesamiento alta, puedes reservar capacidad de procesamiento con la capacidad de procesamiento aprovisionada.

Disponibilidad del extremo del modelo: Si los datos se pueden compartir en varias regiones o países, puedes usar un extremo global para el modelo.

Cloud Run

Robustez ante interrupciones de la infraestructura: Cloud Run es un servicio regional. Almacena datos de forma síncrona en varias zonas dentro de una región y balancea automáticamente la carga del tráfico entre las zonas. Si se produce una interrupción zonal, Cloud Run seguirá ejecutándose y no se perderán datos. Si se produce una interrupción regional, el servicio deja de ejecutarse hasta que Google resuelve la interrupción.

Escalamiento horizontal: Los servicios de Cloud Run controlan el ajuste de escala automático de instancias por ti. El ajuste de escala automático ayuda a garantizar que las instancias puedan controlar todas las solicitudes entrantes, los eventos y el uso de CPU que se necesitan para garantizar una alta disponibilidad.

Todos los productos de la arquitectura

Optimización posterior a la implementación: Después de implementar tu aplicación en Google Cloud, obtén recomendaciones para optimizar aún más la seguridad con Active Assist. Revisa las recomendaciones y aplícalas según corresponda a tu entorno. Para obtener más información, consulta Busca recomendaciones en Active Assist.

Para conocer los principios y las recomendaciones de confiabilidad específicos de las cargas de trabajo de IA y AA, consulta Perspectiva de IA y AA: Confiabilidad en el Well-Architected Framework.

Operaciones

En esta sección, se describen los factores que debes tener en cuenta cuando usas esta arquitectura de referencia para diseñar una topología de Google Cloud que puedas operar de manera eficiente.

Componente Consideraciones y recomendaciones de diseño
Agente

Depuración y análisis: Implementa registros estructurados en tu aplicación del agente. El registro y el seguimiento te permiten capturar información clave en un formato estructurado, como las herramientas que se llamaron, las entradas y salidas del agente, y la latencia de cada paso.

Agent Platform

Supervisión con registros: De forma predeterminada, los registros de agentes que se escriben en las transmisiones stdout y stderr se enrutan a Cloud Logging. Para el registro avanzado, puedes integrar el registrador de Python con Logging. Si necesitas un control total sobre los registros y los registros estructurados, usa el cliente de Logging. Para obtener más información, consulta Registra un agente y Registra en ADK.

Evaluación continua: Realiza periódicamente una evaluación cualitativa del resultado de los agentes y de la trayectoria o los pasos que siguieron los agentes para producir el resultado. Para implementar la evaluación de agentes, puedes usar el servicio de evaluación de IA generativa o los métodos de evaluación que admite el ADK.

Cloud Run

Estado y rendimiento: Supervisa tus servicios de Cloud Run con Google Cloud Observability. Configura alertas en Cloud Monitoring para que te notifiquen sobre posibles problemas, como un aumento en las tasas de error, latencia alta o uso anormal de recursos.

Bases de datos

Estado y rendimiento: Supervisa tu base de datos con Google Cloud Observability. Configura alertas en Monitoring para que se te notifique sobre posibles problemas, como un aumento en las tasas de error, una latencia alta o un uso anormal de recursos.

MCP

Herramientas de bases de datos: Para administrar de forma eficiente las herramientas de bases de datos para tus agentes de IA y garantizar que los agentes manejen de forma segura complejidades como la agrupación de conexiones y la autenticación, usa MCP Toolbox para bases de datos. Proporciona una ubicación centralizada para almacenar y actualizar las herramientas de la base de datos. Puedes compartir las herramientas entre los agentes y actualizar las herramientas sin volver a implementar los agentes. La caja de herramientas incluye una amplia variedad de herramientas para Google Cloud bases de datos como AlloyDB para PostgreSQL y para bases de datos de terceros, como MongoDB.

Modelos de IA generativa: Para permitir que los agentes de IA usen modelos de IA generativa de Google, como Imagen y Veo, puedes usar servidores de MCP para Google Cloud APIs de contenido multimedia generativo.

Productos y herramientas de seguridad de Google: Para permitir que tus agentes de IA accedan a los productos y herramientas de seguridad de Google, como Google Security Operations, Google Threat Intelligence y Security Command Center, usa servidores de MCP para los productos de seguridad de Google.

Todos los productos de Google Cloud en la arquitectura

Seguimiento: Recopila y analiza datos de seguimiento de forma continua con Trace. Los datos de seguimiento te permiten identificar y diagnosticar rápidamente problemas de latencia en flujos de trabajo complejos de agentes. Puedes realizar análisis detallados a través de visualizaciones en la página Explorador de seguimiento de la consola de Google Cloud . Para obtener más información, consulta Traza un agente.

Para conocer los principios y las recomendaciones de excelencia operativa específicos de las cargas de trabajo de IA y AA, consulta Perspectiva de IA y AA: Excelencia operativa en el Well-Architected Framework.

Optimización de costos

En esta sección, se proporciona orientación para optimizar el costo de configurar y operar una topología de Google Cloud que compilas con esta arquitectura de referencia.

Consideraciones sobre los costos de Agent Platform

Para asegurarte de que la configuración y el uso de Agent Platform cumplan con tus requisitos de costos, ten en cuenta las siguientes recomendaciones:

  • Análisis y administración de costos: Para analizar y administrar los costos de Agent Platform, te recomendamos que crees métricas de referencia para las consultas por segundo (QPS) y los tokens por segundo (TPS). Luego, supervisa estas métricas después de la implementación. La referencia también ayuda con la planificación de la capacidad. Por ejemplo, el modelo de referencia te ayuda a determinar cuándo podría ser necesario el capacidad de procesamiento aprovisionada.
  • Selección del modelo: El modelo que seleccionas para tu aplicación de IA afecta directamente los costos y el rendimiento. Para identificar el modelo que proporciona un equilibrio óptimo entre el rendimiento y el costo para tu caso de uso específico, prueba los modelos de forma iterativa. Te recomendamos que comiences con el modelo más rentable y avances de forma gradual hacia opciones más potentes.
  • Instrucciones rentables: La longitud de tus instrucciones (entrada) y las respuestas generadas (salida) afectan directamente el rendimiento y el costo. Escribe instrucciones que sean breves, directas y que proporcionen suficiente contexto. Diseña tus instrucciones para obtener respuestas concisas del modelo. Por ejemplo, incluye frases como "resume en 2 oraciones" o "enumera 3 puntos clave". Para obtener más información, consulta las prácticas recomendadas para el diseño de instrucciones.
  • Caché de contexto: Para reducir el costo de las solicitudes que contienen contenido repetido con altos recuentos de tokens de entrada, usa el caché de contexto.
  • Solicitudes por lotes: Cuando sea pertinente, considera la predicción por lotes. Las solicitudes por lotes generan un costo menor que las solicitudes estándar.

Consideraciones de costos de Cloud Run

Para asegurarte de que tu implementación de Cloud Run cumpla con tus requisitos de costos, ten en cuenta las siguientes recomendaciones:

Consideraciones de costos para todos los productos de Google Cloud en la arquitectura

Después de implementar tu aplicación en Google Cloud, obtén recomendaciones para optimizar aún más los costos con Active Assist. Revisa las recomendaciones y aplícalas según corresponda para tu entorno. Para obtener más información, consulta Cómo encontrar recomendaciones en Active Assist.

Para estimar el costo de tus recursos de Google Cloud , usa la calculadora de precios deGoogle Cloud .

Para conocer los principios y las recomendaciones de optimización de costos específicos de las cargas de trabajo de IA y AA, consulta Perspectiva de IA y AA: Optimización de costos en el Well-Architected Framework.

Optimización del rendimiento

En esta sección, se describen las consideraciones y recomendaciones de diseño para crear una topología en Google Cloud que cumpla con los requisitos de rendimiento de tus cargas de trabajo.

Consideraciones de rendimiento para los agentes

Para asegurarte de que la configuración de tu agente cumpla con tus requisitos de rendimiento, ten en cuenta las siguientes recomendaciones:

  • Selección de modelos: Cuando selecciones modelos para tu sistema de IA de agentes, ten en cuenta las capacidades que se requieren para las tareas que los agentes deben realizar.
  • Optimización de instrucciones: Para mejorar y optimizar con rapidez el rendimiento de las instrucciones a gran escala y eliminar la necesidad de reescribirlas de forma manual, usa el optimizador de instrucciones de Agent Platform. El optimizador te ayuda a adaptar las instrucciones de manera eficiente en diferentes modelos.

Consideraciones de rendimiento de Agent Platform

Para garantizar que la configuración y el uso de la plataforma de agentes cumplan con tus requisitos de rendimiento, ten en cuenta las siguientes recomendaciones:

  • Selección del modelo: El modelo que seleccionas para tu aplicación de IA afecta directamente los costos y el rendimiento. Para identificar el modelo que proporciona un equilibrio óptimo entre el rendimiento y el costo para tu caso de uso específico, prueba los modelos de forma iterativa. Te recomendamos que comiences con el modelo más rentable y avances de forma gradual hacia opciones más potentes.
  • Ingeniería de instrucciones: La longitud de tus instrucciones (entrada) y las respuestas generadas (salida) afectan directamente el rendimiento y el costo. Escribe instrucciones que sean breves, directas y proporcionen suficiente contexto. Diseña tus instrucciones para obtener respuestas concisas del modelo. Por ejemplo, incluye frases como "resume en 2 oraciones" o "enumera 3 puntos clave". Para obtener más información, consulta las prácticas recomendadas para el diseño de instrucciones.
  • Caché de contexto: Para reducir la latencia de las solicitudes que contienen contenido repetido con altos recuentos de tokens de entrada, usa el caché de contexto.

Consideraciones de rendimiento de Cloud Run

Según tus requisitos de rendimiento, configura la memoria y la CPU que se asignarán al servicio de Cloud Run. Para obtener más información, consulta Configura límites de memoria para los servicios y Configura límites de CPU para los servicios.

Para obtener más orientación sobre la optimización del rendimiento, consulta Sugerencias generales para el desarrollo de Cloud Run.

Consideraciones de rendimiento para todos los productos de Google Cloud en la arquitectura

Después de implementar tu aplicación en Google Cloud, obtén recomendaciones para optimizar aún más el rendimiento con Active Assist. Revisa las recomendaciones y aplícalas según corresponda a tu entorno. Para obtener más información, consulta Busca recomendaciones en Active Assist.

Para conocer los principios y las recomendaciones de optimización del rendimiento específicos de las cargas de trabajo de IA y AA, consulta Perspectiva de IA y AA: Optimización del rendimiento en el Well-Architected Framework.

Implementación

La implementación automatizada para esta arquitectura de referencia no está disponible. Usa las siguientes muestras de código para compilar una arquitectura de agente único:

Para ver muestras de código que te ayudarán a comenzar a usar el ADK junto con los servidores de MCP, consulta Herramientas de MCP.

Para ver ejemplos de sistemas de IA de un solo agente adicionales, puedes usar las siguientes muestras de código. Estas muestras de código son puntos de partida completamente funcionales para el aprendizaje y la experimentación. Para un funcionamiento óptimo en entornos de producción, debes personalizar la base de código según tus requisitos técnicos y empresariales específicos.

  • Compras personalizadas: Proporciona recomendaciones de productos personalizadas para una marca, un comercio o un mercado en línea específicos.
  • Administración de incidentes: Valida el token y la identidad del usuario final por solicitud con la propagación de identidad dinámica.
  • Procesamiento de pedidos: Procesa y almacena pedidos, y coordina la confirmación por correo electrónico con una revisión humana condicional para cantidades de pedidos específicas.
  • Ingeniería de datos: Desarrolla canalizaciones de Dataform, soluciona problemas de canalizaciones y administra la ingeniería de datos, desde consultas complejas en SQL hasta transformaciones y dependencias de datos.
  • Recuperación de documentación: Usa la RAG para consultar los documentos que subas a RAG Engine en Gemini Enterprise Agent Platform y obtener respuestas con citas a la documentación y el código.

¿Qué sigue?

Colaboradores