Gemini Enterprise Agent Platform usa cuotas y límites del sistema para mantener una asignación justa de recursos, evitar sobrecargas de servicio y ayudarte a administrar el uso de recursos.
Las cuotas y los límites del sistema son similares, pero difieren de las siguientes maneras:
- Las cuotas tienen valores predeterminados, pero, por lo general, puedes solicitar ajustes.
- Los límites del sistema son valores fijos que no se pueden cambiar.
Google Cloud usa cuotas para mantener la equidad y reducir los aumentos repentinos en el uso y la disponibilidad de los recursos. Una cuota restringe la cantidad de un recurso deGoogle Cloud que puede usar tu proyecto de Google Cloud . Las cuotas se aplican a una variedad de tipos de recursos, incluidos los componentes de hardware, software y red. Por ejemplo, las cuotas pueden restringir la cantidad de llamadas a la API para un servicio, la cantidad de balanceadores de cargas que se usan en simultáneo en tu proyecto o la cantidad de proyectos que puedes crear. Las cuotas protegen a la comunidad de usuarios deGoogle Cloud evitando la sobrecarga de los servicios. También te ayudan a administrar tus propios recursos de Google Cloud .
El sistema de cuotas de Cloud lleva a cabo las siguientes acciones:
- Supervisa tu consumo de productos y servicios de Google Cloud
- Restringe el consumo de esos recursos
- Proporciona una forma de solicitar cambios en el valor de la cuota y automatizar los ajustes de la cuota
En la mayoría de los casos, cuando intentas consumir más de lo que permite la cuota de un recurso, el sistema bloquea el acceso al recurso y la tarea que intentas llevar a cabo falla.
Por lo general, las cuotas se aplican a nivel de proyecto de Google Cloud . El uso de un recurso en un proyecto no afecta tu cuota disponible en otro proyecto. En un proyecto de Google Cloud , las cuotas se comparten entre todas las aplicaciones y direcciones IP.
Para obtener más información, consulta la descripción general de cuotas de Cloud.
Cuotas
Las siguientes cuotas se aplican a los agentes implementados en Agent Platform para un proyecto determinado en cada región:
| Descripción | Cuota | Métrica |
|---|---|---|
| Crear, borrar o actualizar recursos de Agent Platform por minuto | 10 | aiplatform.googleapis.com/reasoning_engine_service_write_requests |
| Crea, borra o actualiza recursos no regionales (globales o multirregionales) de Agent Platform por minuto | 10 | aiplatform.googleapis.com/non_regional_reasoning_engine_service_write_requests |
| Crea, borra o actualiza sesiones de Agent Platform por minuto | 100 | aiplatform.googleapis.com/session_write_requests |
Query o StreamQuery de Agent Platform por minuto |
90 | aiplatform.googleapis.com/reasoning_engine_service_query_requests |
| Eventos agregados a las sesiones de Agent Platform por minuto | 300 | aiplatform.googleapis.com/session_event_append_requests |
| Crea, borra o actualiza sesiones no regionales (globales o multirregionales) de Agent Platform por minuto | 100 | aiplatform.googleapis.com/non_regional_session_write_requests |
| Agrega eventos a las sesiones no regionales (globales o multirregionales) de Agent Platform por minuto | 300 | aiplatform.googleapis.com/non_regional_session_event_append_requests |
| Cantidad máxima de recursos de Agent Platform | 100 | aiplatform.googleapis.com/reasoning_engine_service_entities |
| Cantidad máxima de recursos no regionales (globales o multirregionales) de Agent Platform | 100 | aiplatform.googleapis.com/non_regional_reasoning_engine_service_entities |
| Crea, borra o actualiza recursos de memoria de Agent Platform por minuto | 100 | aiplatform.googleapis.com/memory_bank_write_requests |
| Obtener, enumerar o recuperar de Agent Platform Memory Bank por minuto | 300 | aiplatform.googleapis.com/memory_bank_read_requests |
| Crea, borra o actualiza recursos de memoria no regionales (globales o multirregionales) de Agent Platform por minuto | 100 | aiplatform.googleapis.com/non_regional_memory_bank_write_requests |
| Obtener, enumerar o recuperar de Agent Platform Memory Bank no regional (global o multirregional) por minuto | 300 | aiplatform.googleapis.com/non_regional_memory_bank_read_requests |
| Solicitudes de ejecución por minuto del entorno de zona de pruebas (ejecución de código) | 1000 | aiplatform.googleapis.com/sandbox_environment_execute_requests |
| Entidades de entorno de zona de pruebas (ejecución de código) por región | 1000 | aiplatform.googleapis.com/sandbox_environment_entities |
| Solicitudes de escritura por minuto del entorno de zona de pruebas (ejecución de código) | 500 | aiplatform.googleapis.com/sandbox_environment_write_requests |
Solicitudes POST de agentes A2A, como sendMessage y cancelTask, por minuto |
60 | aiplatform.googleapis.com/a2a_agent_post_requests |
Solicitudes GET de agentes A2A, como getTask y getCard, por minuto |
600 | aiplatform.googleapis.com/a2a_agent_get_requests |
Conexiones bidireccionales en vivo simultáneas con la API de BidiStreamQuery por minuto |
10 | aiplatform.googleapis.com/reasoning_engine_service_concurrent_query_requests |
| Cantidad máxima de revisiones por proyecto y por región | 6,000 | aiplatform.googleapis.com/agent_engine_revisions_per_project_per_region |
| Cantidad máxima de revisiones por agente | 950 | aiplatform.googleapis.com/agent_engine_revisions_per_agent |
Administración de cuotas para cargas de producción
A medida que tu tráfico aumente, es probable que debas solicitar aumentos para cuotas específicas de la API de Agent Platform para evitar errores 429 Resource Exhausted. Puedes
configurar tu
entorno de ejecución de forma proactiva
y aumentar tus cuotas para que tu
instancia de Agent Runtime siga siendo responsiva, escalable y confiable con
la carga de producción.
Para obtener información sobre cómo optimizar y escalar el rendimiento de Agent Runtime, consulta Optimiza y escala el rendimiento de Agent Runtime.
Sigue estos pasos para estimar tus requisitos de cuota máxima:
Define tus variables:
U: Es el pico de usuarios en simultáneo (por ejemplo, 250).X: Es el promedio de solicitudes por usuario por minuto (por ejemplo, 2).Y: Es la cantidad promedio de eventos de sesión generados por solicitud (por ejemplo, 12 para una cadena compleja que involucra varias llamadas a herramientas).
Calcula tu carga máxima:
Calcula tu cantidad máxima de consultas por minuto (QPM): U * X
Calcula los eventos de sesión máxima por minuto: QPM máximo * Y
Solicita una cuota con un margen de seguridad: Cuando solicites un aumento de cuota, agrega un margen de seguridad (por ejemplo, del 50%) por encima del máximo calculado para controlar los aumentos repentinos inesperados.
En la siguiente tabla, se muestran los cálculos de las cuotas clave relacionadas con el rendimiento para
Agent Platform, con las variables de ejemplo de peak concurrent users=250,
average requests per user per minute=2 y average session events generated
per request=12:
| Nombre de la cuota | Descripción de la cuota | Cálculo base (punto máximo) | Valor recomendado (con un búfer del 50%) |
|---|---|---|---|
Consultar Agent Engine por minuto (aiplatform.googleapis.com/reasoning_engine_service_query_requests) |
Es la cantidad total de llamadas de query o stream_query que tu agente puede recibir por minuto. |
250 users * 2 req/min = 500 QPM |
500 * 1.5 = 750 |
Agrega eventos de sesión por minuto (aiplatform.googleapis.com/session_event_append_requests) |
Es la cantidad de turnos o eventos en todas las sesiones en curso. Una sola consulta puede generar varios eventos de sesión en una cadena, por ejemplo:
|
500 QPM * 12 events/req = 6,000 |
6,000 * 1.5 = 9,000 |
Escrituras de sesión por minuto (aiplatform.googleapis.com/session_write_requests) |
La tasa de creación o actualización de recursos de sesión. Por lo general, este valor es menor o igual que la tasa de consultas. | Por lo general, <= QPM máximo (500) |
Por lo general, <= cuota de consultas (750) |
Solicita un ajuste de cuota
Para ajustar la mayoría de las cuotas, usa la consola de Google Cloud . Para obtener más información, consulta Solicita un ajuste de cuota.
Cuotas del modo Express de Agent Platform
Los usuarios del modo exprés del nivel gratuito de Agent Platform tienen las siguientes cuotas para los servicios de Agent Platform sin costo. Consulta la descripción general de Agent Platform en modo Exprés para obtener más información sobre el nivel gratuito y el modo Exprés.
Las siguientes cuotas se aplican a los agentes implementados en Agent Platform para un proyecto en modo Exprés determinado en cada región:
| Descripción | Cuota | Métrica |
|---|---|---|
| Cantidad máxima de recursos de Agent Platform | 10 | aiplatform.googleapis.com/reasoning_engine_service_entities |
| Crear, borrar o actualizar recursos de Agent Platform por minuto | 10 | aiplatform.googleapis.com/reasoning_engine_service_write_requests |
Query o StreamQuery de Agent Platform por minuto |
10 | aiplatform.googleapis.com/reasoning_engine_service_query_requests |
Conexiones bidireccionales en vivo simultáneas con la API de BidiStreamQuery por minuto |
1 | aiplatform.googleapis.com/reasoning_engine_service_concurrent_query_requests |
| Crea, borra o actualiza sesiones de Agent Platform por minuto | 10 | aiplatform.googleapis.com/session_write_requests |
| Eventos agregados a las sesiones de Agent Platform por minuto | 30 | aiplatform.googleapis.com/session_event_append_requests |
| Crea, borra o actualiza recursos de memoria de Agent Platform por minuto | 10 | aiplatform.googleapis.com/memory_bank_write_requests |
| Obtener, enumerar o recuperar de Memory Bank por minuto | 10 | aiplatform.googleapis.com/memory_bank_read_requests |