En este documento, se proporciona orientación para ayudarte a elegir componentes de arquitectura para tus aplicaciones de IA agéntica en Google Cloud. En él, se describe cómo evaluar las características de tu aplicación y carga de trabajo para elegir un producto o servicio adecuado que se adapte mejor a tus necesidades. El proceso para diseñar una arquitectura de IA agéntica es iterativo. Debes volver a evaluar tu arquitectura de forma periódica a medida que cambien las características de tu carga de trabajo, evolucionen tus requisitos o estén disponibles nuevos productos y funciones de Google Cloud .
Los agentes de IA son eficaces para las aplicaciones que resuelven problemas abiertos, lo que puede requerir una toma de decisiones autónoma y una administración compleja de flujos de trabajo de varios pasos. Los agentes se destacan en la resolución de problemas en tiempo real con datos externos y en la automatización de tareas que requieren un uso intensivo de conocimientos. Estas capacidades permiten que los agentes proporcionen más valor empresarial que las capacidades de asistencia y generación de un modelo de IA.
Descripción general de la arquitectura de agentes
Un agente es una aplicación que logra un objetivo procesando entradas, realizando razonamientos con las herramientas disponibles y tomando medidas en función de sus decisiones. Un agente usa un modelo de IA como su motor de razonamiento principal para automatizar tareas complejas. El agente usa un conjunto de herramientas que permiten que el modelo de IA interactúe con sistemas externos y fuentes de datos. Un agente puede usar un sistema de memoria para mantener el contexto y aprender de las interacciones. El objetivo de una arquitectura de agentes es crear un sistema autónomo que pueda comprender la intención de un usuario, crear un plan de varios pasos y ejecutarlo con las herramientas disponibles.
En el siguiente diagrama, se muestra una descripción general de alto nivel de los componentes de la arquitectura de un sistema de agentes:
La arquitectura del sistema de agentes incluye los siguientes componentes:
- Framework de desarrollo de agentes: Son los frameworks y las bibliotecas que usas para compilar y estructurar la lógica de tu agente.
- Framework de frontend: Es una colección de componentes, bibliotecas y herramientas prediseñados que usas para compilar la interfaz de usuario (IU) de tu aplicación.
- Seguridad y administración de agentes: Son los controles y las políticas que protegen las identidades de los agentes, el tráfico de entrada y salida, las herramientas y las interacciones del modelo.
- Herramientas del agente: Es la colección de herramientas, como APIs, servicios y funciones, que recuperan datos y realizan acciones o transacciones.
- Memoria del agente: Es el sistema que usa tu agente para almacenar y recuperar información.
- Patrones de diseño de agentes: Enfoques arquitectónicos comunes para estructurar tu aplicación de agentes.
- Agent Runtime: Es el entorno de procesamiento en el que se ejecuta la lógica de la aplicación de tu agente.
- Modelos de IA: El motor de razonamiento principal que impulsa las capacidades de toma de decisiones de tu agente.
- Entorno de ejecución del modelo: Es la infraestructura que aloja y entrega tu modelo de IA.
En las siguientes secciones, se proporciona un análisis detallado de los componentes para ayudarte a tomar decisiones sobre cómo compilar tu arquitectura. Los componentes que elijas influirán en el rendimiento, la escalabilidad, el costo y la seguridad de tu agente.
Frameworks de desarrollo de agentes
Los frameworks de desarrollo de agentes son bibliotecas que simplifican el proceso de compilación, prueba e implementación de aplicaciones de IA agéntica. Estas herramientas de desarrollo proporcionan componentes y abstracciones prediseñados para las capacidades principales de los agentes, incluidos los bucles de razonamiento, la memoria y la integración de herramientas.
Para acelerar el desarrollo de agentes en Google Cloud, te recomendamos que uses ADK. El ADK es un framework de código abierto, estructurado y modular que proporciona un alto nivel de abstracción para compilar y organizar flujos de trabajo, desde tareas simples hasta sistemas multiagente complejos. El ADK está optimizado para los modelos de Gemini y Google Cloud, pero se creó para ser compatible con otros frameworks. ADK admite otros modelos y entornos de ejecución de IA, por lo que puedes usarlo con cualquier modelo o método de implementación.
Para ayudarte a comenzar rápidamente, el ADK proporciona muestras de código que ilustran una variedad de casos de uso en múltiples industrias. Aunque muchos de estos ejemplos destacan los flujos conversacionales, el ADK también es adecuado para crear agentes autónomos que realizan tareas de backend. Para estos casos de uso no interactivos, elige un patrón de diseño de agente que se destaque en el procesamiento de una sola solicitud independiente y que implemente un manejo de errores sólido.
Para compilar una arquitectura de agente personalizada, también puedes usar un framework de IA de uso general, como Genkit. Genkit proporciona primitivas que te permiten tener un control detallado sobre la lógica de tu agente sin la abstracción de alto nivel que ofrece ADK. Sin embargo, un framework de agentes dedicado, como el ADK, proporciona herramientas especializadas para desarrollar aplicaciones de agentes.
Framework de frontend
El framework de frontend es una colección de componentes, bibliotecas y herramientas precompilados que usas para compilar la IU de tu aplicación de agentes. El framework de frontend que elijas define los requisitos para tu backend. Una interfaz básica para una demostración interna solo puede requerir una API de HTTP síncrona, mientras que una aplicación de nivel de producción requiere un backend que admita protocolos de transmisión y una administración de estado sólida.
Considera las siguientes categorías de frameworks:
- Frameworks de creación de prototipos y herramientas internas: Para el desarrollo rápido, las demostraciones internas y las aplicaciones de prueba de concepto, elige frameworks que prioricen la experiencia y la velocidad de los desarrolladores. Por lo general, estos frameworks favorecen un modelo directo y síncrono que se denomina modelo de solicitud-respuesta. Un modelo de solicitud-respuesta te permite compilar una IU funcional con un código mínimo y menos complejidad de backend en comparación con un framework de producción. Este enfoque es ideal para probar rápidamente la lógica del agente y las integraciones de herramientas, pero puede no ser adecuado para aplicaciones altamente escalables y orientadas al público que requieren interacciones en tiempo real. Entre las opciones comunes de esta categoría, se incluyen la interfaz web integrada del Kit de desarrollo de agentes (ADK) y Gradio.
- Frameworks de producción: Para aplicaciones escalables, responsivas y con muchas funciones para usuarios externos, elige un framework que permita componentes personalizados. Estos frameworks requieren una arquitectura de backend que pueda admitir una experiencia del usuario moderna. Un framework de producción debe incluir compatibilidad con protocolos de transmisión, un diseño de API sin estado y un sistema de memoria externo sólido para administrar el estado de la conversación en varias sesiones de usuario. Entre los frameworks comunes para las aplicaciones de producción, se incluyen Streamlit, React y el kit de herramientas de IA de Flutter.
Para administrar la comunicación entre estos frameworks y tu agente de IA, puedes usar protocolos abiertos de agente-frontend:
- Protocolo de interacción entre el agente y el usuario (AG-UI): Es un protocolo abierto basado en eventos que permite que los agentes de IA de backend interactúen con tu framework de frontend. AG-UI le indica al framework de frontend cuándo renderizar la respuesta del agente, actualizar el estado de la aplicación o activar una acción del cliente. Para obtener más información, consulta AG-UI con ADK.
- De agente a IU (A2UI): Es un formato y protocolo abiertos que permiten que los agentes de backend transmitan componentes de IU declarativos y estructurados a la aplicación cliente. Para obtener más información, consulta A2UI en ADK.
Seguridad y administración de agentes
Los agentes de IA presentan ciertos riesgos de seguridad únicos y críticos que las prácticas de seguridad convencionales y deterministas podrían no mitigar de forma adecuada. Google recomienda un enfoque para proteger la IA que combine controles de seguridad determinísticos con defensas dinámicas basadas en el razonamiento en todos los límites de tu arquitectura.
Para aplicar la seguridad y la administración en tu carga de trabajo de IA agéntica en Google Cloud, usa los siguientes productos y servicios:
-
Agent Gateway: Es un servicio que proporciona una forma segura y escalable de conectar tus agentes a herramientas y servicios externos.
- En el modo de cliente a agente (entrada), implementas Agent Gateway frente a tu Agent Runtime para autenticar a los emisores, aplicar políticas de autorización y, además, inspeccionar las instrucciones entrantes en tiempo real.
- En el modo de agente a cualquier lugar (salida), enrutas las solicitudes salientes de agente a agente y de agente a herramienta a través de Agent Gateway. Agent Gateway ayuda a evitar el robo de datos, la inyección de instrucciones indirecta y el uso inadecuado de herramientas a través de la aplicación de políticas de acceso de denegación predeterminada.
- Agent Identity: Es un servicio administrado que proporciona una forma segura y escalable de administrar las identidades de tus agentes. Puedes usar la identidad del agente cuando implementas agentes para autenticar las llamadas de los agentes a las APIs, las herramientas y otros agentes de Google Cloud . Cuando los agentes necesitan autenticarse en herramientas externas o APIs de terceros, puedes usar el administrador de autenticación de Agent Identity para controlar de forma centralizada los tokens de OAuth y las claves de API en lugar de incorporar credenciales en el código o las instrucciones del agente.
- Agent Registry: Es un servicio que proporciona un inventario y un catálogo centralizados para los agentes de IA, los servidores de MCP, las habilidades de los agentes y las herramientas de tu organización, y ayuda a garantizar que solo se usen herramientas y agentes secundarios verificados. Cuando registras servidores de MCP y agentes A2A en Agent Registry y los combinas con Agent Gateway, restringes a los agentes para que descubran y se conecten solo a endpoints aprobados en lugar de URLs no administradas o públicas.
- Políticas de acceso de Identity and Access Management (IAM) y Identity-Aware Proxy (IAP): Servicios de control de acceso que aplican la autorización detallada de privilegio mínimo en agentes, herramientas y recursos. Usas políticas de acceso de IAM y IAP para otorgar a cada identidad de agente solo los permisos que necesita para realizar sus tareas y para invocar servidores de MCP o subagentes de A2A registrados. Para aislar aún más a cada agente y limitar el impacto potencial de una violación de la seguridad, puedes vincular las políticas de límite de acceso de la entidad (PAB) a la identidad del agente.
- Model Armor: Es un servicio que protege tus recursos de IA generativa y agéntica contra la inyección de instrucciones, las filtraciones de datos sensibles y el contenido dañino. Puedes usar Model Armor para realizar llamadas directas a la API del modelo y adjuntarlo a Agent Gateway para aplicar políticas de seguridad de forma coherente en el tráfico entrante y saliente del agente.
Herramientas para agentes
La capacidad de un agente para interactuar con sistemas externos a través de herramientas define su eficacia. Las herramientas de agente son funciones o APIs que están disponibles para el modelo de IA y que el agente usa para mejorar el resultado y permitir la automatización de tareas. Cuando conectas un agente de IA a sistemas externos, las herramientas transforman al agente de un generador de texto independiente en un sistema que puede automatizar tareas complejas de varios pasos.
Para habilitar las interacciones con herramientas, elige entre los siguientes patrones de uso de herramientas:
| Caso de uso | Patrón de uso de herramientas |
|---|---|
| Necesitas realizar una tarea común, como completar una búsqueda web, ejecutar un cálculo o ejecutar código, y quieres acelerar el desarrollo inicial. | Herramientas integradas |
| Quieres compilar un sistema modular o multiagente que requiera herramientas interoperables y reutilizables. | Protocolo de contexto del modelo (MCP) |
| Necesitas administrar, proteger y supervisar una gran cantidad de herramientas basadas en APIs a escala empresarial. | Plataforma de gestión de API |
| Necesitas integrarte con una API interna o de terceros específica que no tenga un servidor de MCP. | Herramientas de funciones personalizadas |
Cuando selecciones herramientas para tu agente, evalúalas en función de sus capacidades funcionales y su confiabilidad operativa. Prioriza las herramientas que sean observables, fáciles de depurar y que incluyan un manejo de errores sólido. Estas capacidades ayudan a garantizar que puedas rastrear acciones y resolver fallas con rapidez. Además, evalúa la capacidad del agente para seleccionar la herramienta adecuada para completar correctamente las tareas asignadas.
Herramientas integradas
El ADK proporciona varias herramientas integradas que se integran directamente en el entorno de ejecución del agente. Puedes llamar a estas herramientas como funciones sin configurar protocolos de comunicación externos. Estas herramientas proporcionan funcionalidades comunes, como acceder a información en tiempo real desde la Web, ejecutar código de forma programática en un entorno seguro, recuperar información de datos empresariales privados para implementar RAG y, además, interactuar con datos estructurados en bases de datos en la nube. Las herramientas integradas funcionan junto con las herramientas personalizadas que crees.
MCP
Para permitir que los componentes de tu sistema de agentes interactúen, debes establecer protocolos de comunicación claros. El MCP es un protocolo abierto que proporciona una interfaz estandarizada para que los agentes accedan a las herramientas, los datos y otros servicios necesarios, y los usen.
El MCP separa la lógica de razonamiento principal del agente de la implementación específica de sus herramientas, de manera similar a como un puerto de hardware estándar permite que diferentes periféricos se conecten a un dispositivo.
MCP ofrece los siguientes beneficios:
- Simplifica la integración de herramientas proporcionando conectores prediseñados. Cuando se agregan más herramientas a un servidor de MCP, el agente las descubre sin configuración adicional.
- Proporciona una forma coherente de compilar integraciones personalizadas.
- Proporciona flexibilidad y promueve la interoperabilidad entre diferentes modelos y herramientas.
Puedes implementar servidores de MCP en tu sistema de IA agéntica con los siguientes métodos:
- Servidores de MCP de Google Cloud: Para conectarte a los servicios de Google y Google Cloud , conéctate a servidores de MCP remotos que Google administra por completo. Estos servidores mejoran tu infraestructura existente, ya que proporcionan una capa unificada en todos los servicios de Google y Google Cloud que usas. Estos servidores proporcionan escalamiento sin estado y se integran en IAM y los Registros de auditoría de Cloud. Para obtener una lista de los servidores de MCP de Google Cloud, consulta Productos compatibles.
- Servidores de MCP remotos: Para conectarte a APIs externas, conéctate a un servidor de MCP remoto alojado y administrado por un tercero.
- Servidores de MCP alojados de forma independiente: Para implementar tu propia lógica de agente y herramientas personalizadas, aloja tu propio servidor de MCP. Tienes control total sobre cómo expones las APIs de terceros o de propiedad exclusiva a tus agentes. Para alojar tu propio servidor de MCP personalizado, impleméntalo como una aplicación alojada en contenedores en Cloud Run o Google Kubernetes Engine (GKE).
Plataforma de gestión de API
Una plataforma de gestión de API es un sistema centralizado que te permite proteger, supervisar y controlar servicios internos o externos a través de APIs. Una plataforma de gestión de API proporciona una ubicación centralizada para catalogar todas las APIs de tu organización, simplifica la forma en que expones los datos y proporciona observabilidad a través de la supervisión del uso.
Para administrar y controlar las herramientas basadas en APIs de tu agente a escala empresarial en Google Cloud, combina los siguientes servicios:
- Catálogo y descubrimiento: Para catalogar y administrar de forma centralizada las APIs, los servidores de MCP y las habilidades de agentes de tu organización, usa el centro de APIs de Apigee. El Centro de APIs expone un servidor de MCP para que los agentes y desarrolladores puedan descubrir las herramientas registradas, y sincroniza los metadatos de MCP con Agent Registry.
- Aplicación de políticas en el entorno de ejecución: Para aplicar la autenticación, la autorización detallada, la limitación de tokens y la limitación de frecuencia, el almacenamiento en caché semántico y la supervisión de los endpoints de API y los servidores de MCP, usa Apigee o Agent Gateway como puerta de enlace de API y de IA.
- Conectores de datos y empresariales prediseñados: Para conectar agentes a aplicaciones empresariales y fuentes de datos de Google Cloud sin compilar canalizaciones de integración personalizadas, usa Application Integration y conectores de integración o MCP Toolbox para bases de datos.
Una plataforma de gestión de API y un protocolo de comunicación como MCP resuelven diferentes problemas de arquitectura. Un protocolo de comunicación estandariza el formato de interacción entre el agente y la herramienta, lo que ayuda a garantizar que los componentes sean reutilizables y se puedan intercambiar. En cambio, una plataforma de gestión de API controla el ciclo de vida y la seguridad del extremo de API, y se encarga de tareas como la autenticación, la límite de frecuencia y la supervisión. Estos patrones son complementarios. Por ejemplo, un agente puede usar MCP para comunicarse con una herramienta, y esa herramienta, a su vez, puede ser un extremo de API seguro que el centro de APIs cataloga y que Apigee o Agent Gateway administran y protegen.
Herramienta de función personalizada
Una herramienta de función le otorga nuevas capacidades a un agente. Puedes escribir una herramienta de función personalizada para otorgarle a tu agente capacidades especializadas, como la integración con una API externa o un sistema empresarial propio. Escribir una herramienta de función personalizada es el patrón más común para extender las habilidades de un agente más allá de lo que pueden ofrecer las herramientas integradas.
Para crear una herramienta de función personalizada, escribe una función en tu lenguaje de programación preferido y, luego, proporciona una descripción clara y en lenguaje natural de su propósito, parámetros y valores devueltos. El modelo del agente usa esta descripción para razonar cuándo se necesita la herramienta, qué entradas proporcionar y cómo interpretar el resultado para completar la solicitud de un usuario.
También puedes crear una herramienta de función personalizada que implemente una función de agente como herramienta. Una función de agente como herramienta expone un agente como una función que se puede llamar y que otro agente puede invocar. Esta técnica te permite crear sistemas multiagente complejos en los que un agente puede coordinar y delegar tareas especializadas a otros agentes especializados. Para obtener más información sobre los patrones de diseño de agentes y la coordinación de la organización de varios agentes, consulta la sección sobre patrones de diseño de agentes más adelante en este documento.
Exceso de herramientas
La sobrecarga de herramientas se produce cuando proporcionas demasiadas definiciones de herramientas en la instrucción del sistema de un modelo de IA. Un modelo puede verse abrumado por una cantidad excesiva de herramientas, parámetros complejos o descripciones detalladas en la ventana de contexto del modelo.
Cuando un agente de IA se sobrecarga con un exceso de herramientas, pueden ocurrir los siguientes problemas:
- Disminución de la exactitud: Los tokens irrelevantes diluyen la atención del modelo en la ventana de contexto. Cuando la atención del modelo se diluye, es difícil para el modelo distinguir con precisión la herramienta correcta del ruido.
- Aumento de los costos y la latencia: Una sola solicitud de usuario puede activar varios bucles de razonamiento y ejecuciones de herramientas ocultos. Un aumento en la cantidad de bucles y ejecuciones provoca un aumento correspondiente en el costo y los tiempos de respuesta de la herramienta.
Para mitigar la sobrecarga de herramientas, puedes implementar las siguientes estrategias:
- Limita la complejidad de las herramientas: Las siguientes son recomendaciones para escribir definiciones de herramientas concisas:
- Usa tipos de datos primitivos en lugar de objetos anidados complejos.
- Limita las herramientas a menos de cinco parámetros.
- Restringe la ruta de decisión del modelo con
enumsen lugar de cadenas de texto libre.
- Proporciona conjuntos de herramientas detallados: Desglosa los servidores monolíticos en conjuntos de herramientas detallados y enfocados que se basen en recorridos del usuario específicos. Por ejemplo, un servidor de Cloud SQL masivo se puede segregar en un conjunto de herramientas de administrador para agentes de DevOps y un conjunto de herramientas de datos para agentes de apps.
- Implementa la divulgación progresiva: Diseña sistemas para desbloquear de forma dinámica el contexto y las capacidades pertinentes solo cuando sean necesarios, en lugar de cargar todo por adelantado. Para implementar un enfoque de divulgación progresiva, usa las siguientes estrategias:
- Patrón de herramienta de búsqueda: Para reducir el consumo de tokens, implementa un agente que use una sola herramienta de búsqueda para cargar de forma dinámica solo el esquema de herramienta pertinente.
- Habilidades de agentes: Las habilidades de agentes son un formato estándar abierto que permite el descubrimiento progresivo de instrucciones, secuencias de comandos y otros recursos. Para minimizar la sobrecarga de contexto, define habilidades en el ADK que indiquen al agente que cargue instrucciones y recursos especializados a pedido, o descubre y carga habilidades empresariales gobernadas desde el registro de habilidades.
- Delegación multiagente: Para reducir la ventana de contexto de un agente, implementa un sistema multiagente que use un agente coordinador para delegar una tarea específica a un subagente especializado. Este enfoque ayuda a garantizar que solo se carguen las herramientas pertinentes y mantiene concisa la ventana de contexto del agente coordinador.
Estas estrategias no son mutuamente excluyentes y deben combinarse según los requisitos de tu arquitectura y carga de trabajo.
Memoria del agente
La capacidad de un agente para recordar interacciones anteriores es fundamental para proporcionar una experiencia de conversación coherente y útil. Para crear agentes con estado y que tengan en cuenta el contexto, debes implementar mecanismos para la memoria a corto y largo plazo. En las siguientes secciones, se exploran las opciones de diseño y los servicios de Google Cloud que puedes usar para implementar la memoria a corto y largo plazo de tu agente.
Memoria a corto plazo
La memoria a corto plazo permite que un agente mantenga el contexto dentro de una sola conversación en curso. Para implementar la memoria a corto plazo, debes administrar la sesión y su estado asociado.
- Sesión: Una sesión es el hilo conversacional entre un usuario y el agente, desde la interacción inicial hasta el final del diálogo.
- Estado: El estado son los datos que el agente usa y recopila dentro de una sesión específica. Los datos de estado que se recopilan incluyen el historial de mensajes que intercambiaron el usuario y el agente, los resultados de las llamadas a la herramienta y otras variables que el agente necesita para comprender el contexto de la conversación.
A continuación, se indican las opciones para implementar la memoria a corto plazo con el ADK:
- Almacenamiento en memoria: Para el desarrollo, las pruebas o las aplicaciones a pequeña escala que se ejecutan en una sola instancia, puedes almacenar el estado de la sesión directamente en la memoria de tu aplicación. El agente usa una estructura de datos, como un diccionario o un objeto, para almacenar una lista de pares clave-valor y actualiza estos valores durante la sesión. Sin embargo, cuando usas el almacenamiento en memoria, el estado de la sesión no es persistente. Si la aplicación se reinicia, se pierde todo el historial de conversaciones.
Administración de estado externa: Para las aplicaciones de producción que requieren escalabilidad y confiabilidad, te recomendamos que compiles una aplicación de agente sin estado y administres el estado de la sesión en un servicio de almacenamiento externo. En esta arquitectura, cada vez que la aplicación del agente recibe una solicitud, recupera el estado actual de la conversación del almacén externo, procesa el turno nuevo y, luego, guarda el estado actualizado en el almacén. Este diseño te permite escalar tu aplicación de forma horizontal, ya que cualquier instancia puede entregar la solicitud de cualquier usuario. Las opciones comunes para la administración de estados externos incluyen Memorystore para Redis, Firestore o sesiones de Gemini Enterprise Agent Platform.
Si usas ADK, el
DatabaseSessionServicerequiere una base de datos relacional, como Cloud SQL.
Memoria a largo plazo
La memoria a largo plazo proporciona al agente una base de conocimiento persistente que existe en todas las conversaciones de los usuarios individuales. La memoria a largo plazo permite que el agente recupere y use información externa, aprenda de interacciones pasadas y proporcione respuestas más precisas y pertinentes.
Estas son algunas opciones para implementar la memoria a largo plazo con el ADK:
- Almacenamiento en memoria: Para el desarrollo y las pruebas, puedes almacenar
entradas de memoria a largo plazo directamente en la memoria de tu aplicación y realizar
una concordancia de palabras clave básica en las entradas almacenadas. Este enfoque requiere una configuración mínima, pero no es persistente. Si la aplicación se reinicia, pierde
todas las entradas de memoria almacenadas. Por lo general, implementas este patrón con
un proveedor en memoria dentro de un framework de desarrollo, como el
InMemoryMemoryServiceque se incluye en el ADK para la creación de prototipos y las pruebas. - Almacenamiento externo: Para las aplicaciones de producción, administra la base de conocimiento de tu agente en un servicio de almacenamiento externo y persistente. Un servicio de almacenamiento externo ayuda a garantizar que el conocimiento de tu agente sea duradero, escalable y accesible en varias instancias de la aplicación. Usa Memory Bank para el almacenamiento a largo plazo con cualquier Agent Runtime en Google Cloud.
Patrones de diseño de agentes
Los patrones de diseño de agentes son enfoques arquitectónicos comunes para compilar aplicaciones agénticas. Estos patrones ofrecen un framework distinto para organizar los componentes de un sistema, integrar el modelo de IA y organizar un solo agente o varios agentes para completar un flujo de trabajo. Para determinar qué enfoque es mejor para tu flujo de trabajo, debes tener en cuenta la complejidad y el flujo de trabajo de tus tareas, la latencia, el rendimiento y los requisitos de costo.
Un sistema de un solo agente depende de las capacidades de razonamiento de un modelo para interpretar la solicitud de un usuario, planificar una secuencia de pasos y decidir qué herramientas usar. Este enfoque es un punto de partida eficaz que te permite enfocarte en definir mejor la lógica principal, las instrucciones y las definiciones de herramientas antes de agregar complejidad arquitectónica. Sin embargo, el rendimiento de un solo agente puede disminuir a medida que las tareas y la cantidad de herramientas aumentan en complejidad.
Para problemas complejos, un sistema multiagente organiza varios agentes especializados para lograr un objetivo que un solo agente no puede administrar con facilidad. Este diseño modular puede mejorar la escalabilidad, la confiabilidad y la capacidad de mantenimiento del sistema. Sin embargo, también presenta consideraciones adicionales de evaluación, seguridad y costo en comparación con un sistema de un solo agente.
Para implementar patrones de un solo agente y de varios agentes, el ADK proporciona un entorno de ejecución de flujo de trabajo que admite los siguientes flujos de trabajo de organización:
- Flujos de trabajo basados en grafos: Define la lógica del agente como un grafo de nodos y bordes de ejecución que combina el razonamiento asistido por IA con código y herramientas deterministas. Los flujos de trabajo basados en grafos proporcionan rutas de ejecución predecibles con transiciones de estado explícitas, enrutamiento condicional, ramas paralelas y puntos de control con intervención humana.
- Flujos de trabajo dinámicos: Crea flujos de trabajo de manera programática en el lenguaje de programación que elijas en lugar de usar estructuras de grafos estáticas. Los flujos de trabajo dinámicos te permiten invocar nodos de flujo de trabajo como funciones, definir un flujo de control complejo con bucles, condicionales y recursividad, y crear puntos de control automáticamente para las ejecuciones de nodos, de modo que los flujos de trabajo sean duraderos y se puedan reanudar.
- Flujos de trabajo colaborativos: Coordina varios agentes especializados que delegan tareas y comparten contexto para resolver problemas complejos.
Cuando desarrollas un sistema multiagente, debes implementar controles de acceso precisos para cada agente especializado, diseñar un sistema de organización sólido para garantizar una comunicación confiable entre agentes y administrar el aumento de los costos operativos debido a la sobrecarga de procesamiento que implica ejecutar varios agentes. Para facilitar la comunicación entre agentes, usa el protocolo Agent2Agent (A2A) con el ADK. A2A es un protocolo estándar abierto que permite que los agentes de IA se comuniquen y colaboren en diferentes plataformas y frameworks, independientemente de sus tecnologías subyacentes.
Para obtener más información sobre los patrones de diseño de agentes comunes y cómo seleccionar un patrón según los requisitos de tu carga de trabajo, consulta Elige un patrón de diseño para tu sistema de IA agéntica.
Modelos de IA
Las aplicaciones de agentes dependen de las capacidades de razonamiento y comprensión de un modelo para actuar como el organizador principal de tareas. Para este rol de agente principal, te recomendamos que uses Gemini Pro.
Los modelos de Google, como Gemini, proporcionan acceso a los modelos propietarios más recientes y más capaces a través de una API administrada. Este enfoque es ideal para minimizar la sobrecarga operativa. En cambio, un modelo abierto y autohospedado proporciona el control profundo que se requiere cuando se ajustan los datos propios. Las cargas de trabajo con requisitos estrictos de seguridad y residencia de datos también requieren un modelo alojado de forma automática, ya que te permite ejecutar el modelo dentro de tu propia red.
Para mejorar el rendimiento del agente, puedes ajustar las capacidades de razonamiento del modelo. Los modelos, como los modelos de Gemini más recientes, cuentan con un proceso de pensamiento integrado que mejora el razonamiento y la planificación de varios pasos. Para depurar y definir mejor el modelo, puedes revisar sus resúmenes de pensamientos o las versiones sintetizadas de sus pensamientos internos para comprender su ruta de razonamiento. Puedes controlar el razonamiento del modelo según la complejidad de la tarea y la versión del modelo. Un nivel de razonamiento o un presupuesto de razonamiento más altos permiten que el modelo realice un razonamiento y una planificación más detallados antes de proporcionar una respuesta, lo que puede mejorar la calidad de la respuesta, pero también puede aumentar la latencia y el costo.
Para optimizar el rendimiento y el costo, implementa el enrutamiento a modelos para seleccionar de forma dinámica el modelo más adecuado para cada tarea según los requisitos de complejidad, costo o latencia de la tarea. Por ejemplo, puedes enrutar solicitudes simples a un modelo de lenguaje pequeño (SLM) para tareas estructuradas, como la generación de código o la clasificación de texto, y reservar un modelo más potente y costoso para el razonamiento complejo. Si implementas el enrutamiento a modelos en tu aplicación de agentes, puedes crear un sistema rentable que mantenga un alto rendimiento.
Google Cloud proporciona acceso a una amplia selección de modelos de Google, de socios y abiertos que puedes usar en tu arquitectura de agentes. Para obtener más información sobre los modelos disponibles y cómo elegir un modelo que se adapte a tus necesidades, consulta Model Garden en Gemini Enterprise Agent Platform.
Entorno de ejecución del modelo
Un entorno de ejecución de modelos es el entorno que aloja y entrega tu modelo de IA y que pone sus capacidades de razonamiento a disposición de tu agente.
Elige un entorno de ejecución del modelo
Para seleccionar el entorno de ejecución adecuado para tu modelo de IA, usa la siguiente guía:
| Caso de uso | Entorno de ejecución del modelo |
|---|---|
| Necesitas una API completamente administrada para entregar modelos de Gemini, modelos de socios, modelos abiertos o modelos personalizados con herramientas de IA generativa, escalamiento y seguridad de nivel empresarial. | Agent Platform |
| Debes implementar un modelo en contenedores abierto o personalizado, y priorizar la sobrecarga operativa mínima y la rentabilidad para el tráfico variable. | Cloud Run |
| Necesitas el máximo control sobre la infraestructura para ejecutar un modelo abierto o personalizado alojado en contenedores en hardware especializado o para cumplir con requisitos complejos de seguridad y redes. | GKE |
En las siguientes secciones, se proporciona una descripción general de los entornos de ejecución de modelos anteriores, incluidas las funciones clave y las consideraciones de diseño.
Agent Platform
Agent Platform proporciona un entorno sin servidores completamente administrado que aloja tus modelos de IA. Puedes publicar y ajustar modelos de Google, de socios y abiertos a través de una API segura y escalable. Este enfoque abstrae la administración de la infraestructura y te permite enfocarte en integrar la inteligencia del modelo en tus aplicaciones.
Cuando usas Agent Platform como entorno de ejecución de modelos, las funciones y consideraciones clave incluyen lo siguiente:
- Control de la infraestructura: Es una API completamente administrada para tus modelos. Google administra la infraestructura subyacente.
- Seguridad: La configuración de seguridad predeterminada administrada y las certificaciones de cumplimiento estándar son suficientes para tus necesidades. Para proporcionar protección de instrucciones y respuestas, y garantizar prácticas de IA responsable, puedes integrar Model Armor en Agent Platform.
- Disponibilidad de modelos: Accede a una amplia selección de modelos, incluidos los modelos de Gemini más recientes, a través de una API administrada.
- Costo: Modelo de precios de pago por uso que escala con el tráfico de tu aplicación. Para obtener más información, consulta Costo de crear y, luego, implementar modelos de IA en Agent Platform.
Cloud Run
Cloud Run proporciona un entorno de ejecución sin servidores que aloja tus modelos dentro de contenedores personalizados. Cloud Run ofrece un equilibrio entre la experiencia completamente administrada de Agent Platform y el control profundo de la infraestructura de GKE. Este enfoque es ideal cuando necesitas la flexibilidad de ejecutar tu modelo en un entorno alojado en contenedores sin administrar servidores ni clústeres.
Cuando usas Cloud Run como entorno de ejecución de modelos, las funciones y consideraciones clave incluyen lo siguiente:
- Control de la infraestructura: Ejecuta cualquier modelo en un contenedor personalizado, lo que proporciona un control total sobre el entorno de software, mientras que la plataforma administra la infraestructura sin servidores subyacente.
- Seguridad: Proporciona seguridad a través de instancias de procesamiento aisladas y efímeras, y permite conexiones seguras a recursos privados con la salida de VPC directa o un conector de Acceso a VPC sin servidores. Para obtener más información, consulta Herramientas de redes privadas y Cloud Run.
- Disponibilidad de modelos: Entrega modelos abiertos, como Gemma, o tus propios modelos personalizados. No puedes alojar ni entregar modelos de Gemini en Cloud Run.
- Costo: Cuenta con un modelo de precios de pago por uso basado en solicitudes que se reduce a cero, lo que lo hace muy rentable para modelos con tráfico esporádico o variable. Para obtener más información, consulta los precios de Cloud Run.
GKE
GKE proporciona el mayor control y flexibilidad para alojar tus modelos de IA. Para usar este enfoque, ejecuta tus modelos en contenedores en un clúster de GKE que configures y administres. GKE es la opción ideal cuando necesitas ejecutar modelos en hardware especializado, ubicarlos junto con tus aplicaciones para obtener una latencia mínima o requieres un control detallado sobre cada aspecto del entorno de entrega.
Cuando usas GKE como entorno de ejecución de modelos, las funciones y consideraciones clave incluyen las siguientes:
- Control de la infraestructura: Proporciona un control máximo y detallado sobre todo el entorno de entrega, incluidas las configuraciones de nodos, los aceleradores de máquinas especializados y el software de entrega de modelos específico.
- Seguridad: Proporciona un control detallado sobre la seguridad y el aislamiento de datos, ya que te permite ejecutar modelos por completo dentro de tu red y aplicar políticas de seguridad de Kubernetes detalladas. Para filtrar el tráfico que fluye desde y hacia un clúster de GKE y ayudar a proteger las interacciones con los modelos de IA, puedes integrar Model Armor con GKE.
- Disponibilidad de modelos: Entrega modelos abiertos, como Gemma, o tus propios modelos personalizados. No puedes alojar ni entregar modelos de Gemini en GKE.
- Costo: Cuenta con un modelo de costos que se basa en los recursos de procesamiento y de clúster subyacentes que consumes, lo que lo hace muy optimizado para cargas de trabajo predecibles y de gran volumen cuando usas descuentos por compromiso de uso (CUD). Para obtener más información, consulta los precios de GKE.
Este documento se enfoca en Agent Platform, Cloud Run y GKE. Si necesitas un entorno de ejecución de modelos que combine hardware optimizado para el rendimiento (GPUs y TPUs), software abierto y modelos de consumo flexibles para cargas de trabajo de entrenamiento de modelos, ajuste y, además, inferencia de modelos a gran escala, usa AI Hypercomputer.
Agent Runtime
Para alojar e implementar tu aplicación agéntica, debes elegir un Agent Runtime. Este servicio ejecuta el código de la aplicación, la lógica empresarial y la organización que escribes cuando usas un framework de desarrollo de agentes. Desde este entorno de ejecución, tu aplicación realiza llamadas a la API a los modelos que aloja y administra el entorno de ejecución del modelo que elegiste.
Elige un Agent Runtime
Google Cloud ofrece opciones de hosting de agentes que van desde entornos completamente administrados y con baja sobrecarga hasta infraestructura de control total. Agent Platform está diseñada para ser flexible, de modo que puedas elegir la capa de entorno de ejecución y la capa de servicio que se adapten a tus necesidades. Para seleccionar el entorno de ejecución de tus agentes de IA, usa la siguiente guía:
| Caso de uso | Agent Runtime |
|---|---|
| Necesitas un entorno de ejecución administrado y con opiniones que incluya integraciones para la memoria, la evaluación, la identidad, la administración y la observabilidad. | Agent Runtime en Gemini Enterprise Agent Platform |
| Necesitas una implementación y portabilidad de contenedores con un equilibrio de flexibilidad y control para ejecutar tus agentes alojados en contenedores como cualquier otro servicio. | Cloud Run |
| Necesitas un control total, con un control detallado de la infraestructura subyacente. Tu equipo de plataforma administra sus propios DevOps, APIs de Kubernetes o requisitos estrictos de cumplimiento y residencia de datos. | GKE |
Si ya administras aplicaciones en Cloud Run o en GKE, puedes acelerar el desarrollo y simplificar las operaciones a largo plazo usando la misma plataforma para tu carga de trabajo de agentes.
En las siguientes secciones, se proporciona una descripción general de cada Agent Runtime, incluidas las funciones clave y las consideraciones de diseño.
Agent Runtime
Agent Runtime es un entorno de ejecución completamente administrado y con opiniones que puedes usar para implementar, operar y escalar aplicaciones de agentes. Agent Runtime abstrae la infraestructura subyacente, lo que te permite enfocarte en la lógica del agente en lugar de las operaciones.
A continuación, se indican las funciones y consideraciones de Agent Runtime:
- Flexibilidad de lenguaje de programación y framework: Desarrolla agentes con cualquier framework compatible.
- Protocolos de comunicación: Organiza agentes y herramientas que usen MCP y A2A. Agent Runtime administra de manera eficiente el entorno de ejecución de estos componentes, pero no admite el hosting de servidores de MCP personalizados.
Memoria: Proporciona capacidades de memoria administrada integradas, lo que elimina la necesidad de configurar bases de datos externas para la memoria principal del agente.
- Para el almacenamiento de memoria a corto plazo, usa Agent Platform Sessions.
- Para el almacenamiento de memoria a largo plazo, usa Memory Bank.
- Para la búsqueda y la recuperación de bases de datos, usa Cloud SQL o AlloyDB para PostgreSQL.
- Escalabilidad: Se escala automáticamente para satisfacer las demandas de tu carga de trabajo de agentes, lo que elimina la necesidad de realizar una configuración manual.
- Observabilidad: Proporciona registro, supervisión y seguimiento integrados a través de los servicios de Google Cloud Observability.
- Seguridad: Proporciona las siguientes funciones de nivel empresarial:
- Identidad de servicio integrada y identidad de agente para llamadas seguras y autenticadas a las APIs de Google Cloud, otros agentes y herramientas.
- Ejecuta código en una zona de pruebas segura, aislada y administrada con Ejecución de código de Gemini Enterprise Agent Platform.
- Protege tus datos con tu propia clave de encriptación administrada por el cliente (CMEK) en Cloud Key Management Service.
- Restringe los permisos de IAM y usa reglas de firewall de VPC para ayudar a evitar llamadas de red no autorizadas.
Agent Runtime acelera la ruta hacia la producción, ya que proporciona un entorno administrado con integraciones para la memoria, las evaluaciones de agentes, la identidad de los agentes, la administración, la seguridad y la observabilidad. En el caso de las cargas de trabajo que tienen requisitos de seguridad estrictos para la administración de dependencias privadas, Cloud Run y GKE ofrecen una ruta de configuración basada en IAM.
Cloud Run
Cloud Run es una plataforma sin servidores completamente administrada que te permite ejecutar el código de la aplicación de tu agente en un contenedor sin estado. Cloud Run es ideal cuando deseas implementar toda la aplicación del agente, componentes individuales o herramientas personalizadas como extremos HTTP escalables sin necesidad de administrar la infraestructura subyacente.
A continuación, se indican las características y consideraciones de Cloud Run:
- Flexibilidad de lenguaje de programación y framework: Cuando empaquetas tu aplicación en un contenedor, puedes desarrollar e implementar servicios alojados en contenedores en cualquier lenguaje de programación y con cualquier framework de agente.
- Protocolos de comunicación: Admite gRPC, HTTPS, respuestas HTTP de transmisión y WebSockets, y organiza agentes y herramientas que usan MCP y A2A. Aloja clientes y servidores de MCP con transporte HTTP transmisible en Cloud Run.
- Memoria: Las instancias de Cloud Run no tienen estado, lo que significa que una instancia pierde los datos en memoria después de que finaliza. Para implementar la memoria persistente, conecta tu servicio a un
servicio de almacenamiento administrado de Google Cloud :
Para la memoria a corto plazo, considera los siguientes productos y servicios:
Para la memoria a largo plazo, considera los siguientes productos:
- Firestore
- Memory Bank con Cloud Run
Para la búsqueda y recuperación de bases de datos, considera los siguientes productos:
- Cloud SQL
- AlloyDB para PostgreSQL
- Escalabilidad: Escala automáticamente la cantidad de instancias según el tráfico entrante y también reduce la cantidad de instancias a cero. Esta función ayuda a que Cloud Run sea rentable para las aplicaciones que tienen cargas de trabajo variables.
- Observabilidad: Proporciona registro, supervisión y seguimiento integrados a través de los servicios de Google Cloud Observability. Para obtener más información, consulta Descripción general de la supervisión y el registro.
- Seguridad: Proporciona los siguientes controles de seguridad para
tus agentes:
- Identidad de servicio integrada y con Agent Identity y Agent Registry para la identidad de agente verificable de forma criptográfica, el descubrimiento y las llamadas autenticadas a las APIs de Google Cloud, otros agentes y herramientas.
- Ejecuta código no probado en un entorno seguro con zonas de pruebas de Cloud Run o con Ejecución de código de Agent Platform.
- Almacena los datos sensibles que usa Cloud Run configurando secretos en Secret Manager.
- Ayuda a evitar llamadas de red no autorizadas restringiendo los permisos de IAM y usando reglas de firewall de VPC.
Cloud Run reduce la sobrecarga operativa y mejora la rentabilidad, ya que elimina la necesidad de administrar la infraestructura subyacente. Sin embargo, la naturaleza sin estado de Cloud Run requiere que uses un servicio de almacenamiento para administrar el contexto en un flujo de trabajo de varios pasos. Además, el tiempo de espera máximo de las solicitudes para los servicios de Cloud Run es de hasta una hora, lo que podría limitar las tareas de agentes de larga duración.
GKE
GKE es un servicio de organización de contenedores administrado que proporciona un control detallado sobre la arquitectura y la infraestructura de tu aplicación de agentes. GKE es adecuado para sistemas de agentes complejos que requieren capacidades sólidas de nivel de producción o si ya eres cliente de GKE y quieres implementar un flujo de trabajo de agentes sobre tu aplicación existente.
A continuación, se indican las funciones y consideraciones que están disponibles en GKE:
- Flexibilidad de lenguaje de programación y framework: Cuando empaquetas tu aplicación en un contenedor, puedes desarrollar agentes en cualquier lenguaje de programación y con cualquier framework.
- Protocolos de comunicación: Organiza agentes y herramientas que usen MCP y A2A. Aloja clientes y servidores de MCP en GKE cuando los empaquetes como contenedores.
- Memoria: Los Pods de GKE son efímeros.
Sin embargo, puedes compilar agentes con estado con memoria persistente usando
recursos dentro del clúster o conectándote a servicios externos.
Para la memoria a corto plazo, considera los siguientes productos y servicios:
Para la memoria a largo plazo, considera los siguientes productos:
- Firestore
- Memory Bank con GKE
Para la búsqueda y recuperación de bases de datos, considera los siguientes productos:
- StatefulSets y volúmenes persistentes para el almacenamiento duradero dentro de tu clúster.
- Cloud SQL
- AlloyDB para PostgreSQL
- Escalabilidad: Los clústeres de GKE aprovisionan y escalan de forma automática tus grupos de nodos para cumplir con los requisitos de tu carga de trabajo.
- Observabilidad: Proporciona registro, supervisión y seguimiento integrados a nivel de clúster, nodo y Pod con Google Cloud Observability. Para recopilar métricas configuradas de terceros y definidas por el usuario y, luego, enviarlas a Cloud Monitoring, también puedes usar Google Cloud Managed Service para Prometheus. Para obtener más información, consulta Descripción general de la observabilidad de GKE.
- Seguridad: Proporciona controles de seguridad detallados
para tus agentes:
- Usa la federación de identidades para cargas de trabajo para GKE para la autenticación segura en las APIs de Google Cloud.
- Aísla código no confiable con GKE Sandbox.
- Almacena los datos sensibles que usan tus clústeres de GKE en Secret Manager.
- Restringe los permisos de IAM y usa reglas de firewall de VPC y políticas de red para evitar llamadas de red no autorizadas.
GKE proporciona el máximo control y flexibilidad, lo que te permite ejecutar agentes complejos con estado. Sin embargo, este control genera una sobrecarga y una complejidad operativas significativas. Debes configurar y administrar el clúster de Kubernetes, incluidos los grupos de nodos, las herramientas de redes y las políticas de escalamiento, lo que requiere más experiencia y esfuerzo de desarrollo que una plataforma sin servidores.
¿Qué sigue?
- Herramientas para agentes:
- Memoria del agente:
- Patrones de diseño de agentes:
- Agent Runtime:
- Otros recursos de IA agéntica en Google Cloud:
- Para obtener más información sobre las arquitecturas de referencia, los diagramas y las prácticas recomendadas, explora Cloud Architecture Center.
Colaboradores
Autor: Samantha He | Escritora técnica
Otros colaboradores:
- Amina Mansour | Líder técnica, Relaciones con desarrolladores globales y contenido estratégico
- Amit Maraj | Ingeniero de relaciones con desarrolladores
- Casey West | Architecture Advocate, Google Cloud
- Jack Wotherspoon | Developer Advocate
- Joe Fernandez | Escritor técnico del personal
- Joe Shirey | Gerente de Relaciones con Desarrolladores de Cloud
- Karl Weinmeister | Director de Relaciones con Desarrolladores de Productos de Cloud
- Autor: Kumar Dhanagopal | Desarrollador de soluciones entre productos
- Kurtis Van Gent | Ingeniero de software de personal
- Lisa Shen | Gerente de Productos Salientes sénior, Google Cloud
- Mandy Grover | Directora del Architecture Center
- Megan O'Keefe | Developers Advocate
- Olivier Bourgeois | Ingeniero de relaciones con desarrolladores
- Polong Lin | Gerente de Ingeniería de Relaciones con Desarrolladores
- Ryan Pei | Gerente de producto, Google Cloud
- Shir Meir Lador | Gerente de Ingeniería de Relaciones con Desarrolladores
- Vlad Kolesnikov | Ingeniero de relaciones con desarrolladores