PayGo estándar

El pago por uso estándar (PayGo estándar) es una opción de consumo para usar el paquete de modelos de IA generativa de Gemini Enterprise Agent Platform, incluida la familia de modelos de Gemini.

El pago por uso estándar te permite pagar solo por los recursos que consumes, sin necesidad de compromisos financieros por adelantado. Para ayudar a escalar las cargas de trabajo en la capacidad compartida, el pago por uso estándar incorpora un sistema de niveles de uso. Agent Platform ajusta de forma dinámica el umbral de capacidad de procesamiento priorizada de tu organización en función de su inversión total en los servicios de Agent Platform aptos durante un período continuo de 30 días. A medida que aumenta el gasto de tu organización, se asciende automáticamente a niveles más altos con umbrales de capacidad de procesamiento priorizados más altos dentro del grupo de capacidad compartido. PayGo estándar se ejecuta en recursos compartidos y no reserva capacidad dedicada ni proporciona una capacidad de procesamiento garantizada durante períodos de alta contención. Para las cargas de trabajo que requieren un rendimiento más coherente que el de PayGo estándar, considera PayGo prioritario. Para obtener capacidad dedicada y garantizada, consulta Capacidad de procesamiento aprovisionada.

Niveles de uso y capacidad de procesamiento

Cada nivel de uso estándar de pago por uso define un umbral de capacidad de procesamiento priorizada a nivel de la organización, medido en tokens por minuto (TPM). Las solicitudes que alcanzan el umbral de TPM de tu nivel reciben acceso prioritario a la capacidad compartida antes del tráfico de ráfaga excedente, aunque la capacidad de procesamiento y la disponibilidad siguen dependiendo de la demanda en tiempo real en todo el grupo compartido y no están garantizadas. Los umbrales de capacidad de procesamiento se aplican a las solicitudes enviadas al extremo global. Usar el extremo global es una práctica recomendada, ya que proporciona acceso a un grupo mundial de capacidad de procesamiento y enruta de forma dinámica tus solicitudes a la ubicación con la mayor disponibilidad.

Los extremos multirregionales (como us y eu en aiplatform.us.rep.googleapis.com y aiplatform.eu.rep.googleapis.com) restringen el procesamiento del aprendizaje automático a límites jurisdiccionales específicos. Aunque los extremos multirregionales agrupan la capacidad en varios centros de datos dentro de esa ubicación geográfica, operan desde grupos de capacidad regionales independientes y no comparten la capacidad de procesamiento mundial del extremo global. Los extremos de una sola región (por ejemplo, us-central1 o us-east5) están restringidos a un solo clúster de centro de datos y tienen el margen de capacidad más bajo. Si tus cargas de trabajo no están sujetas a requisitos estrictos de residencia de datos, usa el extremo global para usar el umbral de capacidad de procesamiento priorizado completo de tu nivel y maximizar el margen de maniobra. Para obtener más información sobre cómo configurar extremos multirregionales, consulta Extremos multirregionales.

Tu tráfico no está limitado estrictamente al umbral de TPM de tu nivel. Cuando hay capacidad compartida disponible, Agent Platform entrega el tráfico que supera este umbral de forma oportunista. Durante los períodos de alta demanda en Agent Platform, el tráfico de ráfaga excedente se limita antes que el tráfico dentro de los umbrales de nivel, y todo el tráfico del grupo compartido puede experimentar una latencia más alta o errores 429. Para minimizar la limitación, suaviza el tráfico de la manera más uniforme posible durante cada minuto y evita enviar solicitudes en aumentos repentinos y pronunciados de segundo nivel. El tráfico instantáneo alto puede provocar una limitación, incluso si el uso promedio por minuto está dentro del umbral de TPM de tu nivel.

Los siguientes niveles están disponibles en el plan de pago por uso estándar:

Familia del modelo Nivel Inversión del cliente (30 días) TPM de tráfico (nivel de organización)
Modelos Gemini Pro y Argon
(incluye Gemini 4 Argon y Gemini 4 Argon Cyber Permissive)		 Nivel 1 Entre USD 10 y USD 250 500,000
Nivel 2 Entre USD 250 y USD 2,000 1,000,000
Nivel 3 USD 2,000-USD 50,000 2,000,000
Nivel 4 > USD 50,000 10,000,000
Nivel personalizado Comunícate con tu equipo de ventas para obtener más información
Modelos Gemini Flash y Flash-Lite Nivel 1 Entre USD 10 y USD 250 2,000,000
Nivel 2 Entre USD 250 y USD 2,000 4,000,000
Nivel 3 USD 2,000-USD 50,000 10,000,000
Nivel 4 > USD 50,000 50,000,000
Nivel personalizado Comunícate con tu equipo de ventas para obtener más información

El umbral de capacidad de procesamiento que se muestra para una familia de modelos se aplica de forma independiente a cada modelo de esa familia. Por ejemplo, una organización en el nivel 3 tiene un umbral de capacidad de procesamiento priorizado de 10,000,000 de TPM para Gemini 3.5 Flash. El uso en relación con el umbral de un modelo no afecta la capacidad de procesamiento de otros modelos. No hay un límite de solicitudes por minuto (RPM) independiente para cada nivel. Las solicitudes de Gemini con entradas multimodales están sujetas a los límites de frecuencia del sistema correspondientes.

Cómo funcionan los niveles de uso

Tu nivel de uso se determina automáticamente según la inversión total de tu organización en los servicios aptos de Agent Platform durante un período continuo de 30 días. A medida que aumenta el gasto de tu organización, el sistema te asciende a un nivel superior con umbrales de capacidad de procesamiento con mayor prioridad.

Cálculo de la inversión

Este cálculo incluye una amplia gama de servicios, desde predicciones en todas las familias de modelos de Gemini hasta instancias de CPU, GPU y TPU de Agent Platform, y también SKUs basados en compromisos, como la capacidad de procesamiento aprovisionada.

Haz clic para obtener más información sobre los SKU incluidos en el cálculo de la inversión.

En la siguiente tabla, se enumeran las categorías de SKU deGoogle Cloud que se incluyen en el cálculo de la inversión total.

Categoría Descripción de los SKU incluidos
Modelos de Gemini Todas las familias de modelos de Gemini (como 2.0, 2.5 y 3.0 en las versiones Pro, Flash y Lite) para predicciones en todas las modalidades (texto, imagen, audio y video), incluidas las variaciones por lotes, de contexto largo, ajustadas y de "pensamiento"
Funciones del modelo de Gemini Todos los SKUs de Gemini relacionados con funciones como el almacenamiento en caché, el almacenamiento en caché y los niveles de prioridad, en todas las modalidades y versiones de modelos
CPU de Agent Platform Predicciones en línea y por lotes en todas las familias de instancias basadas en CPU (como C2, C3, E2, N1, N2 y sus variantes)
GPU de Agent Platform Predicciones en línea y por lotes en todas las instancias aceleradas por GPU de NVIDIA (como las series A100, H100, H200, B200, L4, T4, V100 y RTX)
Agent Platform TPU Predicciones en línea y por lotes en todas las instancias basadas en TPU (como TPU-v5e y v6e)
Administración y tarifas Todos los SKU de "Tarifa de administración" asociados con varias instancias de predicción de Agent Platform
Capacidad de procesamiento aprovisionada Todos los SKU basados en compromisos para la capacidad de procesamiento aprovisionada
Otros Servicios Servicios especializados como "Fundamentación de LLM para Gemini... con la herramienta de Búsqueda de Google"

Verifica el nivel de uso

Para verificar el nivel de uso de tu organización, ve al panel de Agent Platform en la consola de Google Cloud . Para ver el nivel de uso en el panel, necesitas el rol de visualizador de Agent Platform (roles/aiplatform.viewer) en el proyecto y el rol de visualizador de cuentas de facturación (roles/billing.viewer) en la cuenta de facturación.

Ir al panel de Agent Platform

Verifica la inversión

Para revisar tu inversión en Agent Platform, ve a Facturación de Cloud en la consola deGoogle Cloud . La inversión se agrega a nivel de la organización.

Ir a Facturación de Cloud

Errores de recursos agotados (429)

Si recibes un error 429, no significa que hayas alcanzado una cuota fija. Indica una alta contención temporal para un recurso compartido específico. Implementa una estrategia de reintento con retirada exponencial para controlar estos errores, ya que la disponibilidad en este entorno dinámico puede cambiar con rapidez.

Además de una estrategia de reintentos, evalúa tu elección de extremo:

  • Extremo global (recomendado): El extremo global enruta de forma dinámica las solicitudes en toda la flota de centros de datos de Google en todo el mundo, lo que agrupa la capacidad de procesamiento global y suaviza los picos localizados. Esto proporciona la mayor disponibilidad y reduce de forma significativa la probabilidad de que se produzcan errores 429.
  • Extremos multirregionales (como us y eu): Los extremos multirregionales agrupan la capacidad en varios centros de datos dentro de un límite geográfico específico. Aunque ofrecen una mayor capacidad que una sola región, no acceden a la capacidad mundial. Si tu aplicación usa un extremo multirregional y experimenta errores 429 durante los períodos de mayor actividad, evalúa si tus políticas de administración de datos permiten enrutar cargas de trabajo generales o no sensibles al extremo global, o considera Priority PayGo o capacidad de procesamiento aprovisionada.
  • Endpoints de una sola región (como us-central1): Los endpoints de una sola región están restringidos a una ubicación de clúster específica y tienen la mayor probabilidad de experimentar errores 429 en la contención de carga. Evita fijar cargas de trabajo de pago por uso estándar de alta capacidad de procesamiento a extremos de una sola región, a menos que sea necesario para la coubicación con recursos de procesamiento sensibles a la latencia.

Para obtener mejores resultados, combina el uso del extremo global con la estabilización del tráfico. Evita enviar solicitudes en aumentos repentinos de actividad de segundo nivel, ya que el tráfico instantáneo alto puede provocar una limitación, incluso si el uso promedio por minuto está dentro del umbral de capacidad de procesamiento priorizado de tu nivel. Distribuir tus llamadas a la API de manera más uniforme ayuda al sistema a administrar tu carga de forma predecible y mejora el rendimiento general. Para obtener más información sobre cómo controlar los errores de agotamiento de recursos, consulta Compila aplicaciones de LLM resilientes y reduce los errores 429 y Código de error 429.

Modelos compatibles

Los siguientes modelos de Gemini con disponibilidad general (DG) y los modelos correspondientes con ajuste supervisado admiten el pago por uso estándar con niveles de uso:

Haz clic para expandir los modelos compatibles

Los siguientes modelos de Gemini con GA también admiten el pago por uso estándar, pero los niveles de uso no se aplican a estos modelos:

Estos niveles no se aplican a los modelos de versión preliminar. Consulta la documentación oficial específica de cada modelo para obtener la información más precisa y actualizada.

Supervisa la capacidad de procesamiento y el rendimiento

Para supervisar el consumo de tokens en tiempo real de tu organización, ve al Explorador de métricas en Cloud Monitoring.

Ir al Explorador de métricas

Para obtener más información sobre la supervisión del tráfico de extremos de modelos, consulta Supervisa modelos.

Los niveles de uso se aplican a nivel de la organización. Si deseas obtener información para configurar el permiso de observabilidad para graficar la capacidad de procesamiento en varios proyectos de tu organización, consulta Configura permisos de observabilidad para consultas en varios proyectos.

¿Qué sigue?

Recurso

Son las cuotas y los límites relacionados con Agent Platform, sin incluir las limitaciones específicas de los productos.

Descripción general

Obtén información sobre cómo Google Cloud restringe la cantidad de un recurso que puede usar tu proyecto de Google Cloud y cómo se aplican las cuotas a una variedad de tipos de recursos, incluidos los componentes de hardware, software y red.