PayGo estándar

El modelo estándar de pago por uso (Standard PayGo) es una opción de consumo para usar el paquete de modelos de IA generativa de Gemini Enterprise Agent Platform, incluida la familia de modelos de Gemini.

El PayGo estándar te permite pagar solo por los recursos que consumes, sin necesidad de compromisos financieros por adelantado. Para ayudar a escalar las cargas de trabajo en la capacidad compartida, el modelo de pago por uso estándar incorpora un sistema de niveles de uso. Agent Platform ajusta de forma dinámica el umbral de capacidad de procesamiento priorizada de tu organización en función de su inversión total en los servicios aptos de Agent Platform durante un período continuo de 30 días. A medida que aumenta la inversión de tu organización, esta se promueve automáticamente a niveles más altos con umbrales de capacidad priorizados más altos dentro del grupo de capacidad compartida. Standard PayGo se ejecuta en recursos compartidos y no reserva capacidad dedicada ni proporciona capacidad de procesamiento garantizada durante los períodos de alta contención. Para las cargas de trabajo que requieren un rendimiento más coherente que el PayGo estándar, considera el PayGo prioritario. Para obtener información sobre la capacidad dedicada y garantizada, consulta Capacidad de procesamiento aprovisionada.

Niveles de uso y capacidad de procesamiento

Cada nivel de uso estándar de pago por uso define un umbral de procesamiento prioritario a nivel de la organización, que se mide en tokens por minuto (TPM). Las solicitudes hasta el umbral de TPM de tu nivel reciben acceso prioritario a la capacidad compartida antes del tráfico de ráfaga excesivo, aunque el rendimiento y la disponibilidad siguen dependiendo de la demanda en tiempo real en todo el grupo compartido y no están garantizados. Los umbrales de procesamiento se aplican a las solicitudes enviadas al extremo global. Usar el endpoint global es una práctica recomendada porque proporciona acceso a un grupo mundial de capacidad de procesamiento y enruta tus solicitudes de forma dinámica a la ubicación con mayor disponibilidad.

Los endpoints multirregionales (como us y eu en aiplatform.us.rep.googleapis.com y aiplatform.eu.rep.googleapis.com) limitan el procesamiento del aprendizaje automático a límites jurisdiccionales específicos. Si bien los extremos multirregionales agrupan la capacidad en varios centros de datos dentro de esa ubicación geográfica, operan desde agrupaciones de capacidad regionales separadas y no comparten la capacidad de procesamiento mundial del extremo global. Los extremos de una sola región (por ejemplo, us-central1 o us-east5) están restringidos a un solo clúster de centro de datos y tienen el menor margen de capacidad. Si tus cargas de trabajo no están sujetas a requisitos estrictos de residencia de datos, usa el extremo global para utilizar el umbral de capacidad de procesamiento priorizada completo de tu nivel y maximizar el espacio libre. Para obtener más información sobre cómo configurar extremos multirregionales, consulta Extremos multirregionales.

Tu tráfico no está estrictamente limitado al umbral del TPM de tu nivel. Cuando hay capacidad compartida disponible, Agent Platform entrega el tráfico que supera este umbral de forma oportunista. Durante los períodos de alta demanda en la Plataforma de agentes, el tráfico de ráfaga excesivo se limita antes que el tráfico dentro de los umbrales de niveles, y todo el tráfico del grupo compartido puede experimentar una mayor latencia o errores de 429. Para minimizar la limitación, distribuye tu tráfico de la manera más uniforme posible a lo largo de cada minuto y evita enviar solicitudes en aumentos repentinos y pronunciados a nivel de segundos. El tráfico instantáneo alto puede provocar la limitación, incluso si tu uso promedio por minuto se encuentra dentro del umbral de TPM de tu nivel.

Los siguientes niveles están disponibles en la modalidad Estándar de Pago por uso:

Familia del modelo Nivel Inversión del cliente (30 días) TPM de tráfico (a nivel de la organización)
Modelos de Gemini Pro Nivel 1 Entre USD 10 y USD 250 500,000
Nivel 2 Entre USD 250 y USD 2,000 1,000,000
Nivel 3 Entre USD 2,000 y USD 50,000 2,000,000
Nivel 4 Más de USD 50,000 10,000,000
Nivel personalizado Comunícate con tu equipo de ventas para obtener más información
Modelos Gemini Flash y Flash-Lite Nivel 1 Entre USD 10 y USD 250 2,000,000
Nivel 2 Entre USD 250 y USD 2,000 4,000,000
Nivel 3 Entre USD 2,000 y USD 50,000 10,000,000
Nivel 4 Más de USD 50,000 50,000,000
Nivel personalizado Comunícate con tu equipo de ventas para obtener más información

El umbral de capacidad de procesamiento que se muestra para una familia de modelos se aplica de forma independiente a cada modelo dentro de esa familia. Por ejemplo, una organización del nivel 3 tiene un umbral de capacidad de procesamiento priorizado de 10,000,000 de TPM para Gemini 3.5 Flash. El uso en relación con el umbral de un modelo no afecta la capacidad de procesamiento de otros modelos. No hay un límite independiente de solicitudes por minuto (RPM) para cada nivel. Las solicitudes a Gemini con entradas multimodales están sujetas a los límites de frecuencia del sistema correspondientes.

Cómo funcionan los niveles de uso

Tu nivel de uso se determina automáticamente según la inversión total de tu organización en los servicios aptos de Agent Platform durante un período continuo de 30 días. A medida que aumenta la inversión de tu organización, el sistema te promueve a un nivel superior con límites de capacidad de procesamiento más altos y priorizados.

Cálculo de la inversión

Este cálculo incluye una amplia variedad de servicios, desde predicciones en todas las familias de modelos de Gemini hasta instancias de CPU, GPU y TPU de Agent Platform, y también SKU basados en compromisos, como la capacidad de procesamiento aprovisionada.

Haz clic para obtener más información sobre los SKU incluidos en el cálculo de la inversión.

En la siguiente tabla, se enumeran las categorías de SKU deGoogle Cloud que se incluyen en el cálculo de la inversión total.

Categoría Descripción de los SKU incluidos
Modelos de Gemini Todas las familias de modelos de Gemini (como 2.0, 2.5 y 3.0 en versiones Pro, Flash y Lite) para predicciones en todas las modalidades (texto, imagen, audio y video), incluidas las variaciones por lotes, de contexto extenso, ajustadas y de "pensamiento"
Funciones de los modelos de Gemini Todos los SKU relacionados con Gemini para funciones como almacenamiento en caché, almacenamiento en caché y niveles de prioridad, en todas las modalidades y versiones de modelos
CPU de Agent Platform Predicciones en línea y por lotes en todas las familias de instancias basadas en CPU (como C2, C3, E2, N1, N2 y sus variantes)
GPU de Agent Platform Predicciones en línea y por lotes en todas las instancias aceleradas por GPU de NVIDIA (como las series A100, H100, H200, B200, L4, T4, V100 y RTX)
TPU de Agent Platform Predicciones en línea y por lotes en todas las instancias basadas en TPU (como TPU-v5e y v6e)
Administración y comisiones Todos los SKU de "Tarifa de administración" asociados con varias instancias de predicción de Agent Platform
Capacidad de procesamiento aprovisionada Todos los SKU basados en compromisos para la capacidad de procesamiento aprovisionada
Otros Servicios Servicios especializados, como "Fundamentación de LLM para Gemini… con la herramienta de Búsqueda de Google"

Verifica el nivel de uso

Para verificar el nivel de uso de tu organización, ve al panel de Agent Platform en la consola de Google Cloud . Para ver el nivel de uso en el panel, necesitas el rol de visualizador de Agent Platform (roles/aiplatform.viewer) en el proyecto y el rol de visualizador de cuentas de facturación (roles/billing.viewer) en la cuenta de facturación.

Ir al panel de Agent Platform

Verifica la inversión

Para revisar tu inversión en Agent Platform, ve a Facturación de Cloud en la consola deGoogle Cloud . La inversión se agrega a nivel de la organización.

Ir a Facturación de Cloud

Errores de recurso agotado (429)

Si recibes un error de 429, no significa que hayas alcanzado una cuota fija. Indica una alta contención temporal para un recurso compartido específico. Implementa una estrategia de reintento con retirada exponencial para controlar estos errores, ya que la disponibilidad en este entorno dinámico puede cambiar rápidamente.

Además de una estrategia de reintentos, evalúa la elección del extremo:

  • Extremo global (recomendado): El extremo global enruta las solicitudes de forma dinámica a través de la flota mundial de centros de datos de Google, lo que agrupa la capacidad de procesamiento global y suaviza los picos localizados. Esto proporciona la mayor disponibilidad y reduce significativamente la probabilidad de errores de 429.
  • Endpoints multirregionales (como us y eu): Los endpoints multirregionales agrupan la capacidad en varios centros de datos dentro de un límite geográfico específico. Si bien ofrecen mayor capacidad que una sola región, no acceden a la capacidad mundial. Si tu aplicación usa un extremo multirregional y experimenta errores de 429 durante los períodos de mayor demanda, evalúa si tus políticas de administración de datos permiten enrutar cargas de trabajo generales o no sensibles al extremo global, o bien considera usar Priority PayGo o Capacidad de procesamiento aprovisionada.
  • Endpoints de una sola región (como us-central1): Los endpoints de una sola región están restringidos a una ubicación de clúster específica y tienen la mayor probabilidad de experimentar errores de 429 bajo contención de carga. Evita fijar cargas de trabajo de Standard PayGo de alta capacidad de procesamiento a extremos de una sola región, a menos que sea necesario para la coubicación con recursos de cómputo sensibles a la latencia.

Para obtener mejores resultados, combina el uso del extremo global con el suavizado del tráfico. Evita enviar solicitudes en picos pronunciados de segundo nivel, ya que el tráfico instantáneo alto puede provocar la regulación, incluso si tu uso promedio por minuto se encuentra dentro del umbral de procesamiento priorizado de tu nivel. Distribuir tus llamadas a la API de manera más uniforme ayuda al sistema a administrar tu carga de forma predecible y mejora el rendimiento general. Para obtener más información sobre cómo controlar los errores de agotamiento de recursos, consulta Cómo compilar aplicaciones de LLM resilientes y reducir los errores 429 y Código de error 429.

Modelos compatibles

Los siguientes modelos de Gemini disponibles de forma general (DG) y los modelos ajustados con supervisión correspondientes admiten PayGo estándar con niveles de uso:

Haz clic para expandir los modelos compatibles

Los siguientes modelos de Gemini en GA también admiten el modelo Estándar de pago por uso, pero los niveles de uso no se aplican a estos modelos:

Estos niveles no se aplican a los modelos de versión preliminar. Consulta la documentación oficial específica de cada modelo para obtener la información más precisa y actualizada.

Supervisa el rendimiento y la capacidad de procesamiento

Para supervisar el consumo de tokens en tiempo real de tu organización, ve al Explorador de métricas en Cloud Monitoring.

Ir al Explorador de métricas

Para obtener más información sobre cómo supervisar el tráfico de los extremos de los modelos, consulta Supervisa modelos.

Los niveles de uso se aplican a nivel de la organización. Si deseas obtener información para establecer tu permiso de observabilidad y registrar el rendimiento en varios proyectos de tu organización, consulta Configura permisos de observabilidad para consultas de varios proyectos.

¿Qué sigue?

Recurso

Son las cuotas y los límites relacionados con Agent Platform, sin incluir las limitaciones específicas del producto.

Descripción general

Obtén información sobre cómo Google Cloud restringe la cantidad de un recurso que puede usar tu proyecto de Google Cloud y cómo se aplican las cuotas a una variedad de tipos de recursos, incluidos los componentes de hardware, software y red.