Schnelleres Starten von Arbeitslasten mit Schnellstartknoten

Auf dieser Seite erfahren Sie, wie Sie Arbeitslasten in Google Kubernetes Engine (GKE)-Clustern mit schnell startenden Knoten schneller bereitstellen und skalieren können. Schnell startende Knoten werden in GKE im Autopilot-Modus nach dem Best-Effort-Prinzip verwendet, wenn Arbeitslasten kompatible Konfigurationen verwenden.

Schnell startende GKE-Knoten haben eine deutlich geringere Startzeit für kompatible Maschinenfamilien. Die beschleunigte Startzeit bietet Ihnen folgende Vorteile:

  • Schnellerer Kaltstart
  • Schnelleres Autoscaling
  • Verbesserte Longtail-Latenz bei der Pod-Planung
  • Verbesserte Kosteneffizienz der Infrastruktur

Bei schnell startenden Knoten initialisiert GKE Hardware-Ressourcen vorab, um die Startzeit zu verkürzen. Die vorab initialisierten Ressourcen sind nach dem Best-Effort-Prinzip verfügbar. Anfragen können möglicherweise nur teilweise verarbeitet werden. Ohne schnell startende Knoten werden Ressourcen bei Bedarf initialisiert und Knoten mit der normalen Startzeit bereitgestellt.

Voraussetzungen

Für schnell startende Knoten ist keine zusätzliche Konfiguration erforderlich. GKE verwendet automatisch schnell startende Knoten, wenn Ihre Arbeitslasten kompatible Konfigurationen verwenden. Sie müssen alle folgenden Voraussetzungen erfüllen, um schnell startende Knoten verwenden zu können:

Beschränkungen

Die folgenden Funktionen sind nicht mit schnell startenden GKE-Knoten kompatibel. Wenn Sie eine dieser Funktionen verwenden, stellt GKE Knoten mit der typischen Startzeit bereit:

Autopilot-GPU-Arbeitslasten

Wenn Sie kompatible GPUs im Autopilot-Modus anfordern, ist die Startzeit des Knotens bis zu viermal schneller und die Pod-Planungszeit bis zu zweimal schneller als bei ähnlichen Anfragen im GKE-Standardmodus, da die Autopilot-GPU-Arbeitslasten schnell startende Knoten verwenden können.

Hier ein paar Anwendungsbeispiele. Alle Pods, die die Bedingungen im Abschnitt Voraussetzungen erfüllen, sind jedoch mit schnell startenden Knoten kompatibel.

ComputeClass

Fordern Sie in einer ComputeClass einen kompatiblen Beschleunigertyp und eine kompatible Anzahl an, wie im folgenden Beispiel:

apiVersion: cloud.google.com/v1
kind: ComputeClass
metadata:
  name: ACCELERATOR_COMPUTE_CLASS_NAME
spec:
  priorities:
  - gpu:
      type: ACCELERATOR_TYPE
      count: ACCELERATOR_COUNT
  nodePoolAutoCreation:
    enabled: true

Wenn Sie diese ComputeClass in einem Pod auswählen, wie im folgenden Beispiel, verwendet GKE schnell startende Knoten:

apiVersion: v1
kind: Pod
metadata:
  name: POD_NAME
spec:
  nodeSelector:
    # Select a ComputeClass that requests compatible GPUs
    cloud.google.com/compute-class: ACCELERATOR_COMPUTE_CLASS_NAME
  containers:
  - name: my-container
    image: registry.k8s.io/pause
    resources:
      limits:
        nvidia.com/gpu: ACCELERATOR_COUNT

Ersetzen Sie die folgenden Werte:

  • ACCELERATOR_COMPUTE_CLASS_NAME: Der Name der ComputeClass, die die Beschleuniger anfordert.
  • ACCELERATOR_TYPE: Der Typ des Beschleunigers.
  • ACCELERATOR_COUNT: Die Anzahl der Beschleuniger, die vom Pod benötigt werden. Dieser Wert muss kleiner oder gleich dem Wert im Feld spec.priorities.gpu.count in der ComputeClass sein.
  • POD_NAME: Der Name Ihres Pods.

Weitere Informationen zu ComputeClass finden Sie unter Benutzerdefinierte Compute Klassen.

Pod-Spezifikation

Wählen Sie in Ihrer Pod-Spezifikation einen kompatiblen Beschleunigertyp und eine kompatible Anzahl aus, wie im folgenden Beispiel:

apiVersion: v1
kind: Pod
metadata:
  name: POD_NAME
spec:
  nodeSelector:
    cloud.google.com/gke-accelerator: ACCELERATOR_NAME
  containers:
  - name: my-container
    image: registry.k8s.io/pause
    resources:
      limits:
        nvidia.com/gpu: ACCELERATOR_COUNT

Ersetzen Sie die folgenden Werte:

  • POD_NAME: Der Name Ihres Pods.
  • ACCELERATOR_NAME: Der Name des Beschleunigers, der vom Pod benötigt wird.
  • ACCELERATOR_COUNT: Die Anzahl der Beschleuniger, die vom Pod benötigt werden.

Konfigurationsanforderungen für infrage kommende Computing-Ressourcen

In den Tabellen in den folgenden Abschnitten werden die spezifischen Anforderungen beschrieben, die GKE erfüllen muss, um die entsprechenden Computing-Ressourcen als schnell startende Knoten bereitzustellen.

Containeroptimierte Autopilot-Computing-Plattform

Beachten Sie die folgenden Anforderungen, damit GKE schnell startende Knoten mit der containeroptimierten Autopilot-Computing-Plattform bereitstellen kann.

Computing-Ressource Unterstützung für Release-Version und Version Unterstützte Laufwerke
Containeroptimierte Autopilot-Computing-Plattform
  • Rapid Channel
  • 1.33.0-gke.1696000 oder höher
  • pd-balanced-Bootlaufwerke mit bis zu 100 GiB
  • Keine lokalen SSDs.

G2-Maschinenserie

Beachten Sie die folgenden Anforderungen, damit GKE G2-Maschinen als schnell startende Knoten bereitstellen kann.

Computing-Ressource Unterstützung für Release-Version und Version Unterstützte Laufwerke
G2-Maschinenserie
  • Rapid und Regular Channel
  • 1.31 oder höher
  • pd-balanced-Bootlaufwerke mit bis zu 500 GiB
  • Keine lokalen SSDs.

A2-Maschinenserie

Beachten Sie die folgenden Anforderungen, damit GKE A2-Maschinen als schnell startende Knoten bereitstellen kann.

Computing-Ressource Unterstützung für Release-Version und Version Unterstützte Laufwerke
A2 Standard-Maschinentypen
  • Rapid und Regular Channel
  • 1.32.0-gke.1008000 oder höher
  • pd-balanced- oder pd-ssd-Bootlaufwerke mit bis zu 1.000 GiB.
  • Keine lokalen SSDs.
A2 Ultra-Maschinentypen
  • Rapid und Regular Channel
  • 1.32.0-gke.1008000 oder höher
  • pd-balanced- oder pd-ssd-Bootlaufwerke mit bis zu 1.000 GiB, mit höheren Limits für a2‑ultragpu‑4g (1.500 GiB) und a2‑ultragpu‑8g (3.000 GiB).
  • Mit automatisch angehängten lokalen SSDs.

A3 Mega-Maschinentyp

Beachten Sie die folgenden Anforderungen, damit GKE A3 Mega-Maschinen als schnell startende Knoten bereitstellen kann.

Computing-Ressource Unterstützung für Release-Version und Version Unterstützte Laufwerke
A3 Mega-Maschinentyp
  • Rapid Channel
  • 1.34.4-gke.1130000 oder höher
  • hyperdisk-balanced-, pd-ssd- oder pd-balanced-Bootlaufwerke.
  • Mit automatisch angehängten lokalen SSDs.

G4-Maschinenserie

Beachten Sie die folgenden Anforderungen, damit GKE G4-Maschinen als schnell startende Knoten bereitstellen kann.

Computing-Ressource Unterstützung für Release-Version und Version Unterstützte Laufwerke
G4-Maschinenserie
  • Rapid Channel
  • 1.34.4-gke.1130000 oder höher

Preise

Schnell startende Knoten sind in GKE Autopilot ohne Aufpreis verfügbar. Weitere Informationen zu den Preisen für GKE Autopilot finden Sie im Abschnitt Autopilot-Modus unter Preise für Google Kubernetes Engine.

Nächste Schritte