Modes de capacité des TPU

Les TPU proposent deux modes de capacité : le mode Capacité gérée et le mode Toute la capacité. Chaque mode définit la manière dont la maintenance matérielle et les erreurs d'hôte sont gérées, ainsi que votre niveau de visibilité et de contrôle sur la topologie matérielle des TPU.

Présentation des modes de capacité des TPU

Le tableau suivant récapitule les principales différences entre le mode Capacité gérée et le mode Toute la capacité :

Mode de capacité gérée Mode "Toute la capacité"
Accès à la capacité Google gère l'allocation de capacité et la récupération de l'hôte sur l'infrastructure disponible. 100% de la capacité réservée est accessible pour les charges de travail. Vous êtes responsable de la gestion de la capacité de réserve pour la récupération en cas d'échec. Vous pouvez cibler des blocs ou des sous-blocs spécifiques pour un placement précis des charges de travail, en tenant compte de la topologie.
Visibilité de la topologie matérielle Compute Engine fait abstraction de la topologie physique. Visibilité complète sur la topologie et l'utilisation des clusters, des blocs, des sous-blocs et des hôtes.
Reprise après sinistre Compute Engine détecte automatiquement les tranches TPU défectueuses et les redémarre sur du matériel opérationnel. Google détecte et répare automatiquement les composants défectueux. Vous êtes responsable de la surveillance de l'état des tranches TPU et de la reprogrammation des tranches non opérationnelles sur du matériel de secours opérationnel que vous avez mis de côté dans votre réservation.
Contrôle de la maintenance Compute Engine planifie et gère les événements de maintenance. Vous pouvez éventuellement démarrer la maintenance avant l'heure prévue. Vous pouvez planifier et lancer la maintenance de manière précise au niveau d'une réservation, d'un bloc ou d'un sous-bloc.
Versions de TPU compatibles Toutes les versions de TPU. TPU v6e (Trillium) et TPU7x (Ironwood)
Options de consommation compatibles Toutes les options de consommation. Vous devez disposer d'une réservation future d'une capacité minimale pour un an ou plus. Les réservations futures en mode Agenda ne sont pas acceptées. Contactez votre équipe chargée du compte Google Cloud pour en savoir plus et demander une réservation en mode "Toute capacité".

Mode de capacité gérée

Par défaut, la capacité TPU fonctionne en mode capacité gérée. Dans ce mode, Compute Engine détecte automatiquement les défaillances matérielles et remplace les instances TPU concernées pour s'assurer que vos charges de travail peuvent redémarrer sur du matériel en bon état.

Le mode de capacité gérée présente les caractéristiques suivantes :

  • Récupération automatique des instances : pour les options de consommation à la demande, à démarrage flexible et avec réservation, Compute Engine détecte automatiquement les défaillances matérielles et remplace les instances de TPU concernées.
  • Gestion simplifiée : aucune intervention manuelle n'est requise pour les opérations de maintenance ou de réparation de l'hôte.

Mode "Toute la capacité"

Le mode Capacité est conçu pour vous permettre de contrôler directement vos ressources TPU en fonction des réservations. En mode "Toute la capacité", vous avez accès à 100% de votre capacité réservée. Vous êtes responsable de la gestion de la récupération des tranche de TPU à l'aide d'une capacité de réserve saine suffisante et de la planification des événements de maintenance.

Le mode Toutes capacités présente les fonctionnalités suivantes :

  • Allocation de la capacité totale : accédez à l'intégralité de votre capacité réservée sans aucune retenue, y compris à la capacité de réserve allouée à la reprise après sinistre ou à l'augmentation de la charge de travail.
  • Placement tenant compte de la topologie : bénéficiez d'une visibilité totale sur la topologie des clusters, des blocs, des sous-blocs et des hôtes pour optimiser le placement des charges de travail.
  • Contrôle de maintenance avancé : planifiez et déclenchez des événements de maintenance au niveau de la réservation, du bloc ou du sous-bloc.
  • Signaler et réparer : signalez le matériel peu performant pour le faire réparer.

Contactez l'équipe chargée de votre compte Google Cloud pour demander une réservation en mode "Toute capacité". Pour en savoir plus, consultez Présentation du mode "Toute capacité".

Étapes suivantes