Una ventaja clave de usar Cloud Run para alojar agentes de IA es que aísla el código con su entorno de ejecución seguro. Si compilas una herramienta de zona de pruebas de código en Cloud Run y la ejecutas en tu contenedor, puedes ejecutar código de la aplicación con cualquier lenguaje de programación que elijas.
Zona de pruebas segura de dos capas
Cloud Run aísla todas las instancias con una zona de pruebas de dos capas que consta de una capa respaldada por hardware equivalente a VMs individuales (virtualización x86) y una capa de kernel de software. Para obtener más información, consulta Descripción general del diseño de seguridad.
Cuando implementas tu código, Cloud Run lo limita al entorno de zona de pruebas. Este aislamiento te permite ejecutar código no confiable, como el que genera un modelo de lenguaje grande (LLM), con mayor seguridad. Cuando ejecutes código no confiable, restringe los permisos de IAM en tu servicio de Cloud Run y usa reglas de firewall de VPC para evitar que tu código realice llamadas a Internet.
Modos de ejecución de código
Cloud Run proporciona los siguientes modos para la ejecución de código:
Ejecución asíncrona: Para evitar interrumpir el flujo principal de la aplicación, ejecuta tareas de forma asíncrona con un trabajo de Cloud Run para tareas en segundo plano o de mayor duración. Por ejemplo, ejecuta un trabajo de Cloud Run que sube código a Cloud Storage, instala las dependencias requeridas y, luego, procesa y almacena los resultados en Cloud Storage.
Ejecución síncrona: Para los procesos que requieren una respuesta inmediata, usa un servicio de Cloud Run. Un servicio de Cloud Run tiene un tiempo de espera máximo de una hora, lo que proporciona una cantidad significativa de tiempo para que se ejecute tu código. Para limitar las instancias a procesar una solicitud a la vez, establece el valor de simultaneidad en
1. También puedes recuperar el código para ejecutarlo como parte del cuerpo de la solicitud, devolver el resultado en la respuesta y, luego, finalizar la instancia del contenedor.En la siguiente imagen, se muestran los dos modos de ejecución de código:
Figura 1. Modos de ejecución de código en Cloud Run
¿Qué sigue?
- Lee 50% faster merge and 50% fewer bugs: How CodeRabbit built its AI code review agent with Cloud Run (50% de fusiones más rápidas y un 50% menos de errores: Cómo CodeRabbit creó su agente de revisión de código con IA con Cloud Run).