Acerca de Agent Substrate en GKE

Agent Substrate en GKE ejecuta cargas de trabajo de agentes a gran escala en clústeres de Kubernetes. Aborda una ineficiencia común de los recursos: los agentes interactivos (como los asistentes personales y los agentes de programación) suelen pasar la mayor parte del tiempo esperando la entrada del usuario o activadores externos. Mantener estos agentes inactivos en ejecución continua consume CPU y memoria que, de lo contrario, podrían asignarse a cargas de trabajo activas.

Agent Substrate en GKE resuelve este problema permitiendo que tu aplicación suspenda los agentes inactivos. Cuando tu aplicación suspende un agente, el sistema toma una instantánea de la memoria activa (RAM) y los archivos locales del agente. Cuando el agente suspendido necesita volver a actuar, el sistema restablece su estado en una zona de pruebas disponible en menos de un segundo.

Agent Substrate en GKE se basa en las capacidades de Agent Sandbox en GKE y mejora Agent Sandbox en GKE, ya que evita los cuellos de botella del plano de control estándar de Kubernetes. Como resultado, Agent Substrate en GKE ejecuta más agentes simultáneos por máquina y los inicia más rápido que Agent Sandbox en GKE. Para comparar Agent Substrate en GKE con Agent Sandbox en GKE y elegir una arquitectura para tus cargas de trabajo de agentes de IA, consulta Planifica una arquitectura para cargas de trabajo de agentes de IA en GKE.

Las implementaciones estándar de Kubernetes (incluido Agent Sandbox en GKE) asocian cada carga de trabajo de agente con un Pod dedicado. Aunque Kubernetes es altamente escalable, está limitado por la capacidad de procesamiento de programación y la latencia de inicio de los Pods. Además, Kubernetes no admite la hibernación de Pods, y mantener millones de agentes inactivos en un clúster agotaría los límites de Pods y la memoria del plano de control. Para evitar pagar por el procesamiento inactivo, debes cerrar los Pods y administrar el estado del agente en el almacenamiento externo. Agent Substrate en GKE resuelve estas restricciones de escalamiento desvinculando el estado del agente de los Pods subyacentes: almacena millones de instantáneas de agentes suspendidos en el almacenamiento y las restablece on demand en un grupo compartido de trabajadores activos.

Agent Substrate en GKE es un sistema de código abierto que implementas directamente en tus propios clústeres de GKE Standard. Aunque el proyecto principal se desarrolla en el repositorio de Agent Substrate de código abierto, Google proporciona herramientas y secuencias de comandos de implementación optimizadas para GKE en el repositorio de substrate-gke para los clientes de Google Cloud que cumplen con los requisitos.

Beneficios de Agent Substrate en GKE

Puedes usar Agent Substrate en GKE para lograr los siguientes objetivos:

  • Ejecuta código no confiable de forma segura: Agent Substrate en GKE aplica el aislamiento del kernel y de la red para que puedas ejecutar código generado por IA sin poner en riesgo tu infraestructura más amplia.
  • Crea agentes con estado de larga duración: La memoria de trabajo y los archivos de un agente se conservan entre sesiones. El agente se reanuda desde el punto exacto en el que se pausó.
  • Responde a las solicitudes en tiempo real: Cuando una solicitud nueva activa un agente suspendido, el sistema restablece el estado del agente en una fracción de segundo.
  • Reduce los costos de procesamiento: Puedes ejecutar más agentes en menos máquinas si compartes un grupo de entornos de pruebas de trabajadores entre todos tus agentes. Debido a que los agentes inactivos se suspenden y no usan CPU ni memoria, solo pagas por el procesamiento cuando los agentes procesan tareas de forma activa.

Casos de uso

Agent Substrate en GKE está diseñado para ejecutar agentes a cualquier escala, desde decenas hasta millones de agentes simultáneos. Aquí hay tres cargas de trabajo de ejemplo:

  • Agentes de productividad: asistentes en segundo plano a largo plazo que mantienen el contexto durante semanas. Debido a que estos asistentes pasan la mayor parte del tiempo esperando activadores, suspender las cargas de trabajo cuando no están en uso reduce los costos de procesamiento.
  • Zonas de pruebas efímeras: Entornos aislados a pedido para ejecutar código generado por LLM no confiable, ejecutar llamadas a herramientas o analizar datos. Debido a que las zonas de pruebas se restablecen en menos de un segundo, el sistema puede proporcionar entornos desechables para tareas de corta duración y liberar recursos cuando finaliza la ejecución.
  • Agentes de programación: Son asistentes de IA que mantienen conversaciones en tiempo real con los desarrolladores para escribir, compilar y probar código. El agente ejecuta comandos de la terminal y modifica archivos dentro de una zona de pruebas. Cuando el agente está inactivo, tu aplicación lo suspende hasta que el desarrollador envía otra instrucción.

Cómo funciona Agent Substrate en GKE

Agent Substrate en GKE se basa en Kubernetes, pero no necesitas comprender Kubernetes para usarlo. Los conceptos básicos de Agent Substrate en GKE son los siguientes:

  • Actor: Es una sola instancia en ejecución de un agente.
  • ActorTemplate: Es un plano de configuración (que define imágenes de contenedor, variables de entorno y recursos de procesamiento) que se usa para crear instancias de actores.
  • Worker: Es una zona de pruebas en la que se ejecuta un Actor activo.
  • WorkerPool: Es un grupo de trabajadores inactivos que se iniciaron previamente y se mantienen listos para recibir un actor.

Debido a que un Actor no está vinculado a un Worker específico, el sistema puede reutilizar el procesamiento que un Actor libera cuando tu aplicación lo suspende. Esta arquitectura permite que el sistema ejecute millones de agentes en una cantidad limitada de máquinas.

Un ciclo de vida típico de un agente sigue estos pasos:

  1. Enrutamiento: Cada solicitud a la API entrante de tu aplicación especifica su Actor de destino. Por ejemplo, cuando un usuario escribe una instrucción nueva en una interfaz de chat, tu aplicación envía una solicitud dirigida al actor específico que administra la sesión del usuario.
  2. Reanudación: Si la solicitud es para un Actor suspendido, el sistema reclama un Worker activo del WorkerPool y restablece la instantánea del Actor en ese Worker.
  3. Ejecución: El sistema enruta la solicitud a este trabajador recién activado, y el actor procesa la tarea.
  4. Suspensión: Cuando tu aplicación suspende un Actor inactivo, el sistema toma una instantánea nueva de la memoria y los archivos del Actor, guarda la instantánea en el almacenamiento y libera el Worker vacío de vuelta al grupo.

Aislamiento de cargas de trabajo y GKE Sandbox

Agent Substrate en GKE usa gVisor o Cloud Hypervisor para ejecutar cada carga de trabajo en un entorno de pruebas que aísla el código de la aplicación del kernel del host. La instalación de Agent Substrate en GKE incluye su propio entorno de ejecución de gVisor para los trabajadores. No habilites GKE Sandbox en los grupos de nodos en los que se ejecuta Agent Substrate en GKE, ya que Agent Substrate en GKE no se puede ejecutar en esos nodos. Aún puedes usar GKE Sandbox para otras cargas de trabajo, incluido Agent Sandbox en GKE.

Limitaciones y requisitos

Agent Substrate en GKE tiene las siguientes limitaciones y requisitos:

  • Modo, versión y canal de versiones del clúster: Agent Substrate en GKE admite clústeres de GKE Standard cuyo plano de control y grupos de nodos ejecutan la versión 1.37 o posterior. No se admiten los clústeres de Autopilot ni las versiones anteriores a la 1.37. En la versión 1.37 y posteriores, GKE entrega las APIs de Kubernetes podcertificaterequests y clustertrustbundles, y permite que los nodos activen certificados de Pods y paquetes de confianza en los Pods, por lo que no necesitas activar las versiones beta de estas APIs por tu cuenta. Sin embargo, el instalador activa las versiones beta en cada clúster que crea o configura. Debido a que el canal de versiones extendido no admite APIs beta habilitadas de forma explícita, no puedes usar el instalador con clústeres que estén inscritos en el canal de versiones extendido.
  • Workload Identity Federation for GKE: Los clústeres de GKE deben tener habilitada la Workload Identity Federation for GKE. Agent Substrate en GKE usa Workload Identity Federation for GKE para autenticarse en las APIs de Google Cloud , como Cloud Storage, y guardar instantáneas de agentes. Para guardar y restablecer instantáneas, el sistema usa una cuenta de servicio dedicada llamada ate-snapshot-transfer. Las credenciales de cada operación de guardado o restablecimiento solo pueden acceder a las instantáneas de un Actor. Como resultado, no necesitas otorgar a tus nodos de GKE acceso al bucket de instantáneas. El instalador crea la cuenta de servicio ate-snapshot-transfer y le otorga acceso al bucket de instantáneas. Si, en cambio, configuras los permisos por tu cuenta, otorga los siguientes roles de IAM:

    • En el bucket de instantáneas, otorga a la cuenta de servicio de ate-snapshot-transfer y a la cuenta de servicio de Kubernetes de ate-api-server los roles de administrador de objetos de almacenamiento (roles/storage.objectAdmin) y visualizador de buckets de almacenamiento (roles/storage.bucketViewer).
    • En la cuenta de servicio de ate-snapshot-transfer, otorga a la cuenta de servicio de Kubernetes de ate-api-server el rol de creador de tokens de cuenta de servicio (roles/iam.serviceAccountTokenCreator). La cuenta de servicio de ate-api-server actúa en nombre de la cuenta de servicio de ate-snapshot-transfer para emitir las credenciales de cada actor.
    • Si usas el entorno de ejecución de microVM, otorga a la cuenta de servicio de Kubernetes atelet el rol de visualizador de objetos de Storage (roles/storage.objectViewer) en el bucket de recursos.

    Para obtener la lista completa de vinculaciones y los comandos gcloud equivalentes, consulta Qué otorga create iam en realidad en el archivo README de setup-gcp.

  • Familias de VMs:

    • Arquitecturas de CPU mixtas: Agent Substrate en GKE no admite series de máquinas de uso general que se ejecutan en arquitecturas de CPU mixtas (como los tipos de máquinas E2) debido a un problema conocido en gVisor.
    • Tipos de VM uniformes por plantilla de Actor: Todos los Actores que crees a partir de un ActorTemplate deben ejecutarse en el mismo tipo de VM. Un ActorTemplate no es un recurso de Kubernetes y no tiene un selector de nodos. En su lugar, el campo workerSelector de ActorTemplate selecciona recursos de WorkerPool por sus etiquetas. Cada WorkerPool puede seleccionar los nodos para sus trabajadores con el campo spec.template.nodeSelector. Por ejemplo, si tu clúster tiene grupos de nodos que usan VMs C4 y N2, configura cada WorkerPool para seleccionar nodos de un solo tipo de VM. Luego, configura el campo workerSelector de ActorTemplate para que coincida solo con los recursos WorkerPool que usan VMs C4.
    • Virtualización anidada o equipos físicos para entornos de ejecución de microVM: El entorno de ejecución de microVM ejecuta cada zona de pruebas en su propia máquina virtual, por lo que los trabajadores que usan este entorno de ejecución necesitan nodos que puedan ejecutar máquinas virtuales. Estos nodos deben usar la arquitectura de la CPU x86, no Arm. Cuando el instalador crea un clúster, el grupo de nodos que crea tiene habilitada la virtualización anidada. Si instalas Agent Substrate en GKE en un clúster existente o agregas tus propios grupos de nodos para trabajadores de microVM, usa un grupo de nodos que tenga habilitada la virtualización anidada o que use un tipo de máquina x86 de equipos físicos. Solo puedes habilitar la virtualización anidada cuando creas un grupo de nodos. Para verificar qué series de máquinas admiten la virtualización anidada, como C3, C4, N2 y N4, consulta Comparación de series de máquinas.
  • Compatibilidad con GPU: No se admite la transferencia de dispositivos GPU a contenedores de Actor. Especificar nvidia.com/gpu solo coloca Pods en nodos habilitados para GPU, pero no pasa el dispositivo de GPU al contenedor de Actor. Además, gVisor no puede tomar instantáneas de contextos de CUDA activos.

  • Conexiones de red abiertas: Las conexiones de red abiertas (como las sesiones de base de datos o las conexiones a servidores de MCP) no se conservan cuando se suspende un agente. El código de tu agente debe controlar la reconexión a los servicios externos cuando se reanude el agente.

  • Observabilidad y OpenTelemetry administrado: OpenTelemetry administrado para GKE tiene las siguientes limitaciones:

    • No se admiten los conectores de recopilador, lo que requiere usar un medidor de proxy externo para la comparativa de telemetría.
    • Las implementaciones de recopiladores generan una sobrecarga de la caché de la memoria que se escala de forma lineal con la cantidad de Pods en clústeres grandes.
    • TLS no es compatible con OpenTelemetry administrado para GKE.
  • Almacenamiento: Agent Substrate en GKE usa los siguientes buckets de Cloud Storage, que el instalador crea si no existen:

    • Bucket de instantáneas: Almacena las instantáneas de todos los agentes de tu clúster. Este bucket es obligatorio.
    • Bucket de recursos: Almacena los archivos que necesita el entorno de ejecución de microVM, como un kernel de Linux y un sistema de archivos raíz. El entorno de ejecución de microVM usa estos archivos para ejecutar cada zona de pruebas en su propia máquina virtual. El nombre de este bucket es el nombre del bucket de instantáneas seguido de -assets. Por ejemplo, si tu bucket de instantáneas se llama example-snapshots, el bucket de recursos se llama example-snapshots-assets. Si no usas el entorno de ejecución de microVM, este bucket permanecerá vacío.
  • Configuración del kernel para una alta densidad de la zona de pruebas: Ejecutar más de aproximadamente 800 zonas de pruebas simultáneas en un nodo supera los límites predeterminados en el kernel de Linux para la supervisión del sistema de archivos (inotify) y para la tabla de vecinos del protocolo de resolución de direcciones (ARP). Sin límites más altos, las zonas de pruebas pueden fallar al iniciarse y las redes pueden detenerse. El instalador aplica la configuración de kernel requerida a los clústeres que crea. Si instalas Agent Substrate en GKE en un clúster existente o agregas tus propios grupos de nodos, debes aplicar estos parámetros de configuración por tu cuenta. Para conocer los valores obligatorios, consulta Requisitos del clúster y Diseña tu infraestructura para Agent Substrate en GKE.

  • Entorno de instalación: No puedes instalar Agent Substrate en GKE en Cloud Shell. Cloud Shell tiene un límite de almacenamiento de disco persistente de 5 GB, que no proporciona suficiente espacio en el disco para la instalación. Debes instalar Agent Substrate en GKE desde una estación de trabajo local o una máquina virtual (VM) que tenga suficiente espacio en el disco.

¿Qué sigue?