TPU-Kapazitätsmodi

TPUs bieten zwei Kapazitätsmodi: Modus für verwaltete Kapazität und Modus für die gesamte Kapazität. In jedem Modus wird festgelegt, wie Hardwarewartung und Hostfehler behandelt werden und wie viel Einblick und Kontrolle Sie über die TPU-Hardwaretopologie haben.

Übersicht über TPU-Kapazitätsmodi

In der folgenden Tabelle sind die wichtigsten Unterschiede zwischen dem Modus „Verwaltete Kapazität“ und dem Modus „Alle Kapazitäten“ zusammengefasst:

Modus „Verwaltete Kapazität“ Modus „Gesamte Kapazität“
Kapazitätszugriff Google verwaltet die Kapazitätszuweisung und die Hostwiederherstellung in der verfügbaren Infrastruktur. 100% der reservierten Kapazität sind für Arbeitslasten verfügbar. Sie sind für die Verwaltung der Reservekapazität für die Fehlerbehebung verantwortlich. Sie können bestimmte Blöcke oder Unterblöcke für eine präzise, topologiebewusste Platzierung von Arbeitslasten festlegen.
Sichtbarkeit der Hardwaretopologie Compute Engine abstrahiert die physische Topologie. Vollständige Transparenz der Cluster-, Block-, Unterblock- und Hosttopologie und -auslastung.
Fehlerbehebung Compute Engine erkennt automatisch fehlerhafte TPU-Slices und startet sie auf fehlerfreier Hardware neu. Google erkennt und repariert fehlerhafte Hardware automatisch. Sie sind dafür verantwortlich, den Zustand von TPU-Slices zu überwachen und fehlerhafte Slices auf fehlerfreie Ersatzhardware umzuplanen, die Sie in Ihrer Reservierung reserviert haben.
Wartungssteuerung Compute Engine plant und verwaltet Wartungsereignisse. Optional können Sie die Wartung vor dem geplanten Wartungszeitpunkt starten. Sie haben die Möglichkeit, die Wartung auf Reservierungs-, Block- oder Unterblockebene zu planen und zu starten.
Unterstützte TPU-Versionen Alle TPU-Versionen. TPU v6e (Trillium) und TPU7x (Ironwood)
Unterstützte Nutzungsoptionen Alle Nutzungsoptionen. Sie müssen eine vorausschauende Reservierung mit einer Mindestkapazität für ein Jahr oder länger haben. Vorausschauende Reservierungen im Kalendermodus werden nicht unterstützt. Wenden Sie sich an Ihr Google Cloud Account-Management-Team, um weitere Informationen zu erhalten und eine Reservierung im Modus „Alle Kapazitäten“ anzufordern.

Modus „Verwaltete Kapazität“

Standardmäßig wird TPU-Kapazität im Modus für verwaltete Kapazität bereitgestellt. In diesem Modus erkennt Compute Engine Hardwarefehler automatisch und ersetzt betroffene TPU-Instanzen, damit Ihre Arbeitslasten auf fehlerfreier Hardware neu gestartet werden können.

Der Modus „Verwaltete Kapazität“ bietet die folgenden Funktionen:

  • Automatisierte Instanzwiederherstellung: Bei den Optionen für On-Demand-, Flex-Start- und Reservierungsnutzung erkennt Compute Engine automatisch Hardwarefehler und ersetzt betroffene TPU-Instanzen.
  • Optimierte Verwaltung: Für die Wartung oder Reparatur von Hosts ist kein manuelles Eingreifen erforderlich.

Modus „Gesamte Kapazität“

Der Kapazitätsmodus wurde entwickelt, um Ihnen eine direkte, reservierungsbasierte Kontrolle über Ihre TPU-Ressourcen zu ermöglichen. Im Modus „Gesamte Kapazität“ haben Sie Zugriff auf 100% Ihrer reservierten Kapazität. Sie sind dafür verantwortlich, die Wiederherstellung von TPU-Slices mithilfe von ausreichend gesunder Reservekapazität zu verwalten und Wartungsereignisse zu planen.

Alle Capacity-Modi haben die folgenden Funktionen:

  • Zuweisung der vollen Kapazität: Sie haben ohne Einschränkungen Zugriff auf Ihre gesamte reservierte Kapazität, einschließlich der für die Fehlerbehebung oder das Bursting von Arbeitslasten zugewiesenen Reservekapazität.
  • Topologiebewusste Platzierung: Sie erhalten vollständigen Einblick in die Cluster-, Block-, Unterblock- und Hosttopologie, um die Arbeitslastplatzierung zu optimieren.
  • Erweiterte Wartungssteuerung: Sie können Wartungsereignisse auf Reservierungs-, Block- oder Unterblockebene planen und auslösen.
  • Melden und reparieren: Melden Sie Hardware mit geringer Leistung zur Reparatur.

Wenden Sie sich an Ihr Google Cloud Account-Management-Team, um eine Reservierung im Modus „Alle Kapazitäten“ anzufordern. Weitere Informationen finden Sie unter Übersicht über den Modus „Alle Kapazitäten“.

Nächste Schritte