PayGo standard

Le paiement à l'usage standard (Standard PayGo) est une option de consommation permettant d'utiliser la suite de modèles d'IA générative de Gemini Enterprise Agent Platform, y compris la famille de modèles Gemini.

Le paiement à l'usage standard vous permet de ne payer que les ressources que vous consommez, sans engagement financier initial. Pour faciliter la mise à l'échelle des charges de travail sur une capacité partagée, le paiement à l'usage standard intègre un système de niveaux d'utilisation. Agent Platform ajuste dynamiquement le seuil de débit priorisé de votre organisation en fonction de ses dépenses totales pour les services Agent Platform éligibles sur une période glissante de 30 jours. À mesure que les dépenses de votre organisation augmentent, elle passe automatiquement à des niveaux supérieurs avec des seuils de débit priorisé plus élevés dans le pool de capacité partagée. Le paiement à l'usage standard s'exécute sur des ressources partagées et ne réserve pas de capacité dédiée ni ne fournit de débit garanti en période de forte contention. Pour les charges de travail nécessitant des performances plus constantes que le paiement à l'usage standard, envisagez le paiement à l'usage prioritaire. Pour une capacité dédiée et garantie, consultez la section Débit provisionné.

Niveaux d'utilisation et débit

Chaque niveau d'utilisation du paiement à l'usage standard définit un seuil de débit priorisé au niveau de l'organisation, mesuré en jetons par minute (TPM). Les requêtes jusqu'au seuil de TPM de votre niveau bénéficient d'un accès prioritaire à la capacité partagée avant le trafic de rafale excédentaire, bien que le débit et la disponibilité dépendent toujours de la demande en temps réel dans le pool partagé et ne soient pas garantis. Les seuils de débit s'appliquent aux requêtes envoyées au point de terminaison global. L'utilisation du point de terminaison global est une bonne pratique, car elle permet d'accéder à un pool mondial de capacité de débit et de router dynamiquement vos requêtes vers l'emplacement le plus disponible.

Les points de terminaison multirégionaux (tels que us et eu sur aiplatform.us.rep.googleapis.com et aiplatform.eu.rep.googleapis.com) limitent le traitement du machine learning à des limites juridictionnelles spécifiques. Bien que les points de terminaison multirégionaux regroupent la capacité de plusieurs centres de données dans cette zone géographique, ils fonctionnent à partir de pools de capacité régionaux distincts et ne partagent pas la capacité de débit mondiale du point de terminaison global. Les points de terminaison à une seule région (par exemple, us-central1 ou us-east5) sont limités à un seul cluster de centre de données et disposent de la marge de capacité la plus faible. Si vos charges de travail ne sont pas soumises à des exigences strictes en matière de résidence des données, utilisez le point de terminaison global pour utiliser le seuil de débit priorisé complet de votre niveau et maximiser la marge. Pour en savoir plus sur la configuration des points de terminaison multirégionaux, consultez la section Points de terminaison multirégionaux.

Votre trafic n'est pas strictement limité au seuil de TPM de votre niveau. Lorsque de la capacité partagée est disponible, Agent Platform traite le trafic qui dépasse ce seuil de manière opportuniste. En période de forte demande sur Agent Platform, le trafic de rafale excédentaire est limité avant le trafic dans les seuils de niveau, et tout le trafic du pool partagé peut subir une latence plus élevée ou des erreurs 429. Pour minimiser la limitation, lissez votre trafic aussi uniformément que possible chaque minute et évitez d'envoyer des requêtes en pics nets de deuxième niveau. Un trafic instantané élevé peut entraîner une limitation, même si votre utilisation moyenne par minute se situe dans le seuil de TPM de votre niveau.

Les niveaux suivants sont disponibles dans le paiement à l'usage standard :

Famille de modèles Niveau Dépenses du client (30 jours) TPM de trafic (niveau de l'organisation)
Modèles Gemini Pro et Argon
(y compris Gemini 4 Argon et Gemini 4 Argon Cyber Permissive)
Niveau 1 10 $ à 250 $ 500 000
Niveau 2 250 $ à 2 000 $ 1 000 000
Niveau 3 2 000 $ à 50 000 $ 2 000 000
Niveau 4 > 50 000 $ 10 000 000
Niveau personnalisé Contactez votre équipe commerciale pour en savoir plus.
Modèles Gemini Flash et Flash-Lite Niveau 1 10 $ à 250 $ 2 000 000
Niveau 2 250 $ à 2 000 $ 4 000 000
Niveau 3 2 000 $ à 50 000 $ 10 000 000
Niveau 4 > 50 000 $ 50 000 000
Niveau personnalisé Contactez votre équipe commerciale pour en savoir plus.

Le seuil de débit affiché pour une famille de modèles s'applique indépendamment à chaque modèle de cette famille. Par exemple, une organisation de niveau 3 dispose d'un seuil de débit priorisé de 10 000 000 de TPM pour Gemini 3.5 Flash. L'utilisation par rapport au seuil d'un modèle n'affecte pas le débit des autres modèles. Il n'existe pas de limite distincte de requêtes par minute (RPM) pour chaque niveau. Les requêtes Gemini avec des entrées multimodales sont soumises aux limites de débit système correspondantes .

Fonctionnement des niveaux d'utilisation

Votre niveau d'utilisation est automatiquement déterminé par les dépenses totales de votre organisation pour les services Agent Platform éligibles sur une période glissante de 30 jours. À mesure que les dépenses de votre organisation augmentent, le système vous fait passer à un niveau supérieur avec des seuils de débit priorisé plus élevés.

Calcul des dépenses

Ce calcul inclut un large éventail de services, allant des prédictions sur toutes les familles de modèles Gemini aux instances de processeur, de GPU et de TPU Agent Platform, en passant par les SKU basés sur l'engagement, tels que le débit provisionné.

Cliquez pour en savoir plus sur les SKU inclus dans le calcul des dépenses.

Le tableau suivant répertorie les catégories de Google Cloud SKU incluses dans le calcul des dépenses totales.

Catégorie Description des SKU inclus
Modèles Gemini Toutes les familles de modèles Gemini (telles que 2.0, 2.5 et 3.0 dans les versions Pro, Flash et Lite) pour les prédictions dans toutes les modalités (texte, image, audio, vidéo), y compris les variantes par lot, de contexte long, réglées et "de réflexion"
Fonctionnalités des modèles Gemini Tous les SKU Gemini associés pour des fonctionnalités telles que la mise en cache, le stockage de la mise en cache et les niveaux de priorité, dans toutes les modalités et versions de modèle
Processeur Agent Platform Prédictions en ligne et par lot sur toutes les familles d'instances basées sur le processeur (telles que C2, C3, E2, N1, N2 et leurs variantes)
GPU Agent Platform Prédictions en ligne et par lot sur toutes les instances accélérées par GPU NVIDIA (telles que les séries A100, H100, H200, B200, L4, T4, V100 et RTX)
TPU Agent Platform Prédictions en ligne et par lot sur toutes les instances basées sur TPU (telles que TPU-v5e et v6e)
Gestion et frais Tous les SKU de "frais de gestion" associés à différentes instances de prédiction Agent Platform
Débit provisionné Tous les SKU basés sur l'engagement pour le débit provisionné
Autres services Services spécialisés tels que "LLM Grounding for Gemini... with Google Search tool"

Vérifier le niveau d'utilisation

Pour vérifier le niveau d'utilisation de votre organisation, accédez au tableau de bord Agent Platform dans la Google Cloud console. Pour afficher le niveau d'utilisation dans le tableau de bord, vous devez disposer du rôle Lecteur Agent Platform (roles/aiplatform.viewer) sur le projet et du rôle Lecteur de compte de facturation (roles/billing.viewer) sur le compte de facturation.

Accéder au tableau de bord Agent Platform

Vérifier les dépenses

Pour consulter vos dépenses Agent Platform, accédez à Cloud Billing dans la Google Cloud console. Les dépenses sont agrégées au niveau de l'organisation.

Accéder à Cloud Billing

Erreurs d'épuisement des ressources (429)

Si vous recevez une erreur 429, cela n'indique pas que vous avez atteint un quota fixe. Cela indique une forte contention temporaire pour une ressource partagée spécifique. Mettez en œuvre une stratégie de nouvelle tentative avec intervalle exponentiel pour gérer ces erreurs, car la disponibilité dans cet environnement dynamique peut changer rapidement.

En plus d'une stratégie de nouvelle tentative, évaluez votre choix de point de terminaison :

  • Point de terminaison global (recommandé) : le point de terminaison global route dynamiquement les requêtes sur l'ensemble des centres de données de Google dans le monde, en regroupant la capacité de débit mondiale et en lissant les pics localisés. Cela offre la plus haute disponibilité et réduit considérablement le risque d'erreurs 429.
  • Points de terminaison multirégionaux (tels que us et eu) : les points de terminaison multirégionaux regroupent la capacité de plusieurs centres de données dans une limite géographique spécifique. Bien qu'ils offrent une plus grande capacité qu'une seule région, ils n'accèdent pas à la capacité mondiale. Si votre application utilise un point de terminaison multirégional et rencontre des erreurs 429 en période de pointe, déterminez si vos règles de gouvernance des données autorisent le routage des charges de travail non sensibles ou générales vers le point de terminaison global ou envisagez le paiement à l'usage prioritaire ou le débit provisionné.
  • Points de terminaison à une seule région (tels que us-central1) : les points de terminaison à une seule région sont limités à un emplacement de cluster spécifique et sont plus susceptibles de rencontrer des erreurs 429 en cas de contention de charge. Évitez d'épingler des charges de travail à haut débit du paiement à l'usage standard à des points de terminaison à une seule région, sauf si cela est nécessaire pour la colocation avec des ressources de calcul sensibles à la latence.

Pour de meilleurs résultats, combinez l'utilisation du point de terminaison global avec le lissage du trafic. Évitez d'envoyer des requêtes en pics nets de deuxième niveau, car un trafic instantané élevé peut entraîner une limitation, même si votre utilisation moyenne par minute se situe dans le seuil de débit priorisé de votre niveau. Une répartition plus uniforme de vos appels d'API permet au système de gérer votre charge de manière prévisible et d'améliorer les performances globales. Pour en savoir plus sur la gestion des erreurs d'épuisement des ressources, consultez Créer des applications LLM résilientes et Réduire les erreurs 429 et le code d'erreur 429.

Modèles compatibles

Les modèles Gemini en disponibilité générale (DG) suivants et tous les modèles correspondants réglés de manière supervisée sont compatibles avec le paiement à l'usage standard avec niveaux d'utilisation :

Cliquez pour développer les modèles compatibles

Les modèles Gemini en GA suivants sont également compatibles avec le paiement à l'usage standard, mais les niveaux d'utilisation ne s'appliquent pas à ces modèles :

Ces niveaux ne s'appliquent pas aux modèles en version preview. Pour obtenir les informations les plus précises et à jour, consultez la documentation officielle spécifique de chaque modèle.

Surveiller le débit et les performances

Pour surveiller la consommation de jetons en temps réel de votre organisation, accédez à l'explorateur de métriques dans Cloud Monitoring.

Accéder à l'explorateur de métriques

Pour en savoir plus sur la surveillance du trafic des points de terminaison de modèle, consultez la section Surveiller les modèles.

Les niveaux d'utilisation s'appliquent au niveau de l'organisation. Pour savoir comment définir votre champ d'application d'observabilité afin de représenter graphiquement le débit sur plusieurs projets de votre organisation, consultez la section Configurer des champs d'application d'observabilité pour les requêtes multiprojets.

Étape suivante

Ressource

Quotas et limites liés à Agent Platform, à l'exclusion des limites spécifiques aux produits.

Présentation

Découvrez comment Google Cloud limite la quantité d'une ressource que votre Google Cloud projet peut utiliser, et comment les quotas s'appliquent à différents types de ressources, y compris les composants matériels, logiciels et réseau.