PayGo estándar

El pago por uso estándar (PayGo estándar) es una opción de consumo para usar el conjunto de modelos de IA generativa de Gemini Enterprise Agent Platform, incluida la familia de modelos de Gemini.

El PayGo estándar te permite pagar solo por los recursos que consumes, sin necesidad de compromisos financieros por adelantado. Para ayudar a escalar las cargas de trabajo en la capacidad compartida, el PayGo estándar incorpora un sistema de niveles de uso. Agent Platform ajusta de forma dinámica el umbral de capacidad de procesamiento priorizada de tu organización en función de su inversión total en los servicios aptos de Agent Platform durante un período continuo de 30 días. A medida que aumenta la inversión de tu organización, se asciende automáticamente a niveles más altos con umbrales de capacidad de procesamiento priorizada más altos dentro del grupo de capacidad compartida. El PayGo estándar se ejecuta en recursos compartidos y no reserva capacidad dedicada ni proporciona capacidad de procesamiento garantizada durante períodos de alta contención. Para las cargas de trabajo que requieren un rendimiento más coherente que el PayGo estándar, considera el PayGo prioritario. Para obtener capacidad dedicada y garantizada, consulta Capacidad de procesamiento aprovisionada.

Niveles de uso y capacidad de procesamiento

Cada nivel de uso de PayGo estándar define un umbral de capacidad de procesamiento priorizada a nivel de la organización, medido en tokens por minuto (TPM). Las solicitudes hasta el umbral de TPM de tu nivel reciben acceso prioritario a la capacidad compartida antes del tráfico de ráfaga excesivo, aunque la capacidad de procesamiento y la disponibilidad aún dependen de la demanda en tiempo real en el grupo compartido y no están garantizadas. Los umbrales de capacidad de procesamiento se aplican a las solicitudes enviadas al extremo global. Usar el extremo global es una práctica recomendada porque proporciona acceso a un grupo mundial de capacidad de procesamiento y enruta de forma dinámica tus solicitudes a la ubicación con la mayor disponibilidad.

Los extremos multirregionales (como us y eu en aiplatform.us.rep.googleapis.com y aiplatform.eu.rep.googleapis.com) restringen el procesamiento de aprendizaje automático a límites jurisdiccionales específicos. Aunque los extremos multirregionales agrupan la capacidad en varios centros de datos dentro de esa geografía, operan desde grupos de capacidad regionales separados y no comparten la capacidad de procesamiento mundial del extremo global. Los extremos de una sola región (por ejemplo, us-central1 o us-east5) están restringidos a un solo clúster de centro de datos y tienen el margen de capacidad más bajo. Si tus cargas de trabajo no están sujetas a requisitos estrictos de residencia de datos, usa el extremo global para usar el umbral de capacidad de procesamiento priorizada completo de tu nivel y maximizar el margen. Para obtener más información sobre la configuración de extremos multirregionales, consulta Extremos multirregionales.

Tu tráfico no está estrictamente limitado al umbral de TPM de tu nivel. Cuando hay capacidad compartida disponible, Agent Platform entrega el tráfico que supera este umbral de forma oportunista. Durante los períodos de alta demanda en Agent Platform, el tráfico de ráfaga excesivo se limita antes del tráfico dentro de los umbrales de nivel, y todo el tráfico del grupo compartido puede experimentar una latencia más alta o errores 429. Para minimizar la limitación, suaviza el tráfico de la manera más uniforme posible durante cada minuto y evita enviar solicitudes en picos pronunciados de segundo nivel. El tráfico instantáneo alto puede provocar la limitación, incluso si tu uso promedio por minuto está dentro del umbral de TPM de tu nivel.

Los siguientes niveles están disponibles en el PayGo estándar:

Familia del modelo Nivel Inversión del cliente (30 días) TPM de tráfico (nivel de la organización)
Modelos de Gemini Pro y Argon
(incluye Gemini 4 Argon y Gemini 4 Argon Cyber Permissive)		 Nivel 1 $10 - $250 500,000
Nivel 2 $250 - $2,000 1,000,000
Nivel 3 $2,000 - $50,000 2,000,000
Nivel 4 > $50,000 10,000,000
Nivel personalizado Comunícate con tu equipo de ventas para obtener más información.
Modelos de Gemini Flash y Flash-Lite Nivel 1 $10 - $250 2,000,000
Nivel 2 $250 - $2,000 4,000,000
Nivel 3 $2,000 - $50,000 10,000,000
Nivel 4 > $50,000 50,000,000
Nivel personalizado Comunícate con tu equipo de ventas para obtener más información.

El umbral de capacidad de procesamiento que se muestra para una familia de modelos se aplica de forma independiente a cada modelo dentro de esa familia. Por ejemplo, una organización en el nivel 3 tiene un umbral de capacidad de procesamiento priorizada de 10,000,000 de TPM para Gemini 3.5 Flash. El uso en relación con el umbral de un modelo no afecta la capacidad de procesamiento de otros modelos. No hay un límite de solicitudes por minuto (RPM) independiente para cada nivel. Las solicitudes de Gemini con entradas multimodales están sujetas a los límites de frecuencia del sistema correspondientes.

Cómo funcionan los niveles de uso

Tu nivel de uso se determina automáticamente según la inversión total de tu organización en los servicios aptos de Agent Platform durante un período continuo de 30 días. A medida que aumenta la inversión de tu organización, el sistema te asciende a un nivel más alto con umbrales de capacidad de procesamiento priorizada más altos.

Cálculo de la inversión

Este cálculo incluye una amplia gama de servicios, desde predicciones en todas las familias de modelos de Gemini hasta instancias de CPU, GPU y TPU de Agent Platform, y también SKUs basados en compromisos, como la capacidad de procesamiento aprovisionada.

Haz clic para obtener más información sobre los SKUs incluidos en el cálculo de la inversión.

En la siguiente tabla, se enumeran las categorías de Google Cloud SKUs que se incluyen en el cálculo de la inversión total.

Categoría Descripción de los SKUs incluidos
Modelos de Gemini Todas las familias de modelos de Gemini (como 2.0, 2.5 y 3.0 en versiones Pro, Flash y Lite) para predicciones en todas las modalidades (texto, imagen, audio, video), incluidas las variaciones por lotes, de contexto largo, ajustadas y de "pensamiento"
Funciones del modelo de Gemini Todos los SKUs de Gemini relacionados con funciones como el almacenamiento en caché, el almacenamiento en caché y los niveles prioritarios, en todas las modalidades y versiones del modelo
CPU de Agent Platform Predicciones en línea y por lotes en todas las familias de instancias basadas en CPU (como C2, C3, E2, N1, N2 y sus variantes)
GPU de Agent Platform Predicciones en línea y por lotes en todas las instancias aceleradas por GPU NVIDIA (como las series A100, H100, H200, B200, L4, T4, V100 y RTX)
TPU de Agent Platform Predicciones en línea y por lotes en todas las instancias basadas en TPU (como TPU-v5e y v6e)
Administración y tarifas Todos los SKUs de "tarifa de administración" asociados con varias instancias de predicción de Agent Platform
Capacidad de procesamiento aprovisionada Todos los SKUs basados en compromisos para la capacidad de procesamiento aprovisionada
Otros Servicios Servicios especializados, como "LLM Grounding for Gemini... with herramienta de Búsqueda de Google"

Verifica el nivel de uso

Para verificar el nivel de uso de tu organización, ve al panel de Agent Platform en la Google Cloud consola de. Para ver el nivel de uso en el panel, necesitas el rol de visualizador de Agent Platform (roles/aiplatform.viewer) en el proyecto y el rol de visualizador de cuentas de facturación (roles/billing.viewer) en la cuenta de facturación.

Ir al panel de Agent Platform

Verifica la inversión

Para revisar tu inversión en Agent Platform, ve a Facturación de Cloud en la Google Cloud consola. La inversión se agrega a nivel de la organización.

Ir a Facturación de Cloud

Errores de recursos agotados (429)

Si recibes un error 429, no indica que alcanzaste una cuota fija. Indica una alta contención temporal para un recurso compartido específico. Implementa una estrategia de reintento de retirada exponencial para controlar estos errores, ya que la disponibilidad en este entorno dinámico puede cambiar rápidamente.

Además de una estrategia de reintento, evalúa la elección del extremo:

  • Extremo global (recomendado): El extremo global enruta de forma dinámica las solicitudes a través de la flota mundial de centros de datos de Google, agrupa la capacidad de procesamiento global y suaviza los picos localizados. Esto proporciona la mayor disponibilidad y reduce significativamente la probabilidad de errores 429.
  • Extremos multirregionales (como us y eu): Los extremos multirregionales agrupan la capacidad en varios centros de datos dentro de un límite geográfico específico. Aunque ofrecen una mayor capacidad que una sola región, no acceden a la capacidad mundial. Si tu aplicación usa un extremo multirregional y experimenta errores 429 durante los períodos de mayor actividad, evalúa si tus políticas de administración de datos permiten enrutar cargas de trabajo no sensibles o generales al extremo global, o considera el PayGo prioritario o la capacidad de procesamiento aprovisionada.
  • Extremos de una sola región (como us-central1): Los extremos de una sola región están restringidos a una ubicación de clúster específica y tienen la mayor probabilidad de experimentar errores 429 en la contención de carga. Evita fijar cargas de trabajo de PayGo estándar de alta capacidad de procesamiento a extremos de una sola región, a menos que sea necesario para la colocación conjunta con recursos de procesamiento sensibles a la latencia.

Para obtener mejores resultados, combina el uso del extremo global con el suavizado del tráfico. Evita enviar solicitudes en picos pronunciados de segundo nivel, ya que el tráfico instantáneo alto puede provocar la limitación, incluso si tu uso promedio por minuto está dentro del umbral de capacidad de procesamiento priorizada de tu nivel. Distribuir las llamadas a la API de manera más uniforme ayuda al sistema a administrar tu carga de manera predecible y mejora el rendimiento general. Para obtener más información sobre cómo controlar los errores de agotamiento de recursos, consulta Cómo compilar aplicaciones LLM resilientes y Cómo reducir los errores 429 y el código de error 429.

Modelos compatibles

Los siguientes modelos de Gemini disponibles de forma general (DG) y los modelos ajustados supervisados correspondientes admiten el PayGo estándar con niveles de uso:

Haz clic para expandir los modelos compatibles

Los siguientes modelos de Gemini GA también admiten el PayGo estándar, pero los niveles de uso no se aplican a estos modelos:

Estos niveles no se aplican a los modelos de versión preliminar. Consulta la documentación oficial específica de cada modelo para obtener la información más precisa y actualizada.

Supervisa la capacidad de procesamiento y el rendimiento

Para supervisar el consumo de tokens en tiempo real de tu organización, ve al Explorador de métricas en Cloud Monitoring.

Ir al Explorador de métricas

Para obtener más información sobre la supervisión del tráfico de extremos de modelos, consulta Supervisa modelos.

Los niveles de uso se aplican a nivel de la organización. Para obtener información sobre cómo configurar tu alcance de observabilidad para trazar la capacidad de procesamiento en varios proyectos de tu organización, consulta Configura alcances de observabilidad para consultas de varios proyectos queries.

¿Qué sigue?

Recurso

Cuotas y límites relacionados con Agent Platform, excluidas las limitaciones específicas del producto.

Descripción general

Obtén información sobre cómo Google Cloud restringe la cantidad de un recurso que puede usar tu Google Cloud proyecto y cómo se aplican las cuotas a una variedad de tipos de recursos, incluidos los componentes de hardware, software y red.