Flex-Start-VMs

In diesem Dokument finden Sie eine Übersicht über Flex-Start-VMs mit Details zu ihren wichtigsten Merkmalen sowie zu den Anforderungen und Einschränkungen, die beim Erstellen dieser VMs gelten.

Flex-Start-VMs sind VM-Instanzen, die mit dem Bereitstellungsmodell „Flex-Start“ erstellt werden. Bei diesem Modell werden mit dem Dynamic Workload Scheduler (DWS) Compute-Ressourcen aus einem sicheren Kapazitätspool bereitgestellt. So erhöhen Sie die Wahrscheinlichkeit, stark nachgefragte Ressourcen wie GPUs oder TPUs zu erhalten. Nachdem Sie Flex-Start-VMs erstellt haben, versucht Compute Engine, die angeforderten Ressourcen innerhalb eines bestimmten Zeitraums zuzuweisen. Wenn das gelingt, werden Ihre Flex-Start-VMs gestartet und laufen maximal sieben Tage lang.

Für Arbeitslasten, für die Ressourcen länger als sieben Tage oder mit einer höheren Kapazitätsgarantie benötigt werden, können Sie im Kalendermodus eine Anfrage für eine vorausschauende Reservierung erstellen.

Anwendungsfälle für Flex-Start-VMs

Flex-Start-VMs eignen sich ideal für die Ausführung von Arbeitslasten, die jederzeit gestartet werden können, z. B.:

  • Vortraining kleiner Modelle

  • Modellabstimmung

  • HPC-Simulation (Hochleistungs-Computing)

  • Batchinferenz

Wichtige Merkmale von Flex-Start-VMs

Im Vergleich zu anderen Arten von Compute Engine-Instanzen haben Flex-Start-VMs die folgenden Merkmale:

  • Wartezeit für die Zuweisung von Ressourcen: Sie können Flex-Start-VMs erstellen, bevor Compute Engine die angeforderten Ressourcen zuweisen kann. VMs werden jedoch nur gestartet, wenn Ressourcen innerhalb des angegebenen Zeitraums verfügbar werden. Wenn keine Ressourcen verfügbar sind, schlägt die Anfrage zum Erstellen der VM fehl.

    Weitere Informationen finden Sie in diesem Dokument unter Wartezeit für Flex-Start-VMs.

  • Begrenzte Laufzeit: Flex-Start-VMs werden bis zu sieben Tage lang ohne Unterbrechung ausgeführt. Danach beendet oder löscht Compute Engine die VMs automatisch, je nachdem, welche Beendigungsaktion in den VM-Eigenschaften angegeben ist.

    Weitere Informationen finden Sie in diesem Dokument unter Begrenzte Laufzeit von Flex-Start-VMs.

  • Zuweisung von VMs durch Compute Engine: Compute Engine versucht, Flex-Start-VMs möglichst nah beieinander zu erstellen, um die Netzwerklatenz zu minimieren. Wenn Sie die Platzierung Ihrer Flex-Start-VMs steuern möchten, können Sie optional Richtlinien für kompakte Platzierung oder Arbeitslastrichtlinien verwenden.

    Weitere Informationen finden Sie in diesem Dokument unter Zuweisung von Flex-Start-VMs.

  • Bereitstellungsmodell „Flex-Start“: Sie erstellen Flex-Start-VMs mit dem Bereitstellungsmodell „Flex-Start“. Dieses Bereitstellungsmodell bietet eine bessere Ressourcenverfügbarkeit als VMs, die mit dem Standardbereitstellungsmodell erstellt werden.

    Weitere Informationen zu den einzelnen Bereitstellungsmodellen finden Sie unter Bereitstellungsmodelle für Compute Engine-Instanzen.

Wartezeit für Flex-Start-VMs

Wenn Sie eine Flex-Start-VM erstellen, wird sie nicht sofort gestartet. Compute Engine versucht, die angeforderten Ressourcen zuzuweisen und die VM innerhalb eines bestimmten Zeitraums zu starten. Wenn Sie ein ausreichendes Kontingent für die angeforderten Ressourcen haben und Compute Engine sie bis zum Ende der Wartezeit zuweist, wird die Flex-Start-VM innerhalb von zwei Minuten nach Verfügbarkeit der Kapazität gestartet. Andernfalls schlägt die Anfrage zum Erstellen der VM fehl.

Die Wartezeit variiert je nach Methode, die Sie zum Erstellen von VMs verwenden:

Wartezeit für eigenständige Flex-Start-VMs

Wenn Sie eine eigenständige Flex-Start-VM erstellen möchten, müssen Sie mit dem Feld requestValidForDuration eine Wartezeit angeben. Sie können eine Wartezeit von 0 Sekunden oder zwischen 90 Sekunden und 7.200 Sekunden (zwei Stunden) festlegen.

Je nach den zonalen Anforderungen Ihrer Arbeitslast empfehlen wir die folgenden Wartezeiten, um die Wahrscheinlichkeit zu erhöhen, dass Ihre Anfrage zum Erstellen einer Flex-Start-VM erfolgreich ist:

  • Strenge zonale Anforderungen: Wenn Ihre Arbeitslast erfordert, dass Sie eine Flex-Start-VM in einer bestimmten Zone erstellen, empfehlen wir, das Feld requestValidForDuration auf 90 Sekunden oder mehr und bis zu zwei Stunden festzulegen. Längere Wartezeiten erhöhen die Wahrscheinlichkeit, Ressourcen zu erhalten. Die VM bleibt während dieser Zeit im PENDING Status.

  • Keine zonalen Anforderungen: Wenn die Flex-Start-VM in einer beliebigen Zone in der Region ausgeführt werden kann, empfehlen wir, das Feld requestValidForDuration auf 0 Sekunden festzulegen. Dieser Wert gibt an, dass Compute Engine Ressourcen nur zuweist, wenn sie sofort verfügbar sind. Wenn Ihre Anfrage fehlschlägt, weil keine Ressourcen verfügbar sind, versuchen Sie, die Flex-Start-VM in einer anderen Zone zu erstellen.

Wenn Sie eine Anfrage zum Erstellen einer VM beenden möchten, während Compute Engine versucht, Ressourcen zuzuweisen, löschen Sie die Flex-Start-VM.

Wartezeit für MIGs mit Flex-Start-VMs

Wenn Sie einer verwalteten Instanzgruppe (Managed Instance Group, MIG) Flex-Start-VMs hinzufügen, versucht Compute Engine weiterhin, die angeforderten Ressourcen bereitzustellen, bis der Vorgang erfolgreich ist oder Sie die Anfrage abbrechen. Die Art und Weise, wie Compute Engine VMs zu Ihrer MIG hinzufügt, hängt von der Erstellungsmethode ab:

  • Anfragen zur Größenänderung von MIGs: Compute Engine fügt die angeforderten VMs gleichzeitig zu der MIG hinzu, wenn alle Ressourcen verfügbar sind. Wenn Sie VMs nicht vor dem Ende ihrer Laufzeit löschen, löscht Compute Engine die VMs gleichzeitig. Weitere Informationen finden Sie unter Informationen zu Anfragen zur Größenänderung von MIGs.

  • MIGs mit einer Zielgröße: Compute Engine erstellt jede VM einzeln, wenn Kapazität verfügbar wird. Daher erstellt die MIG möglicherweise zunächst nur einen Teil der angeforderten VMs und fügt die restlichen VMs später hinzu, wenn Kapazität verfügbar ist. Wenn Sie die VMs nicht vor dem Ende ihrer Laufzeit löschen, löscht Compute Engine jede VM entsprechend ihrer Erstellungszeit. Weitere Informationen finden Sie unter MIG mit Flex-Start-VMs erstellen.

Begrenzte Laufzeit von Flex-Start-VMs

Wenn Sie eine Flex-Start-VM erstellen, müssen Sie Folgendes angeben:

  • Laufzeit der VM: Sie müssen angeben, wie lange die VMs ausgeführt werden können. Die Laufzeit kann bis zu sieben Tage betragen. Wenn Ihre Arbeitslast vor dem Ende der Laufzeit der VMs abgeschlossen ist, können Sie die eigenständigen VMs beenden oder löschen oder die VMs in einer MIG löschen, um unnötige Kosten zu vermeiden.

  • Beendigungsaktion für die VM: Sie müssen auswählen, ob Compute Engine die VMs am Ende ihrer Laufzeit automatisch beenden oder löschen soll. Für Flex-Start-VMs in einer MIG können Sie nur angeben, dass VMs am Ende ihrer Laufzeit gelöscht werden sollen.

Zuweisung von Flex-Start-VMs

Compute Engine versucht, Ihre Flex-Start-VMs basierend auf der Verfügbarkeit dicht zu erstellen. Diese dichte Platzierung minimiert die Anzahl der Netzwerk-Hops und optimiert die Latenz, was ideal für Arbeitslasten ist, die eine ständige VM-Kommunikation erfordern, z. B. KI- oder ML-Arbeitslasten. Wenn Sie die Platzierung Ihrer Flex-Start-VMs steuern möchten, um zu vermeiden, dass sie unerwartet weit voneinander entfernt erstellt werden, gehen Sie so vor:

Quota

Wenn Sie Flex-Start-VMs erstellen oder neu starten möchten, muss Ihr Projekt ein ausreichendes Kontingent für VMs auf Abruf für die angeforderten vCPUs, den Arbeitsspeicher und alle angehängten Beschleuniger oder lokalen SSD Laufwerke haben.

Wenn Sie versuchen, eine Flex-Start-VM ohne ausreichendes Kontingent zu erstellen oder neu zu starten, tritt eines der folgenden Szenarien ein:

  • Anfragen zum Erstellen von VMs: Die Anfrage bleibt ausstehend, bis Ihr Projekt ein ausreichendes Kontingent hat. Wenn Ihr Projekt nicht über das erforderliche Kontingent verfügt, wenn die Wartezeit abläuft, schlägt die Anfrage zum Erstellen fehl.

  • Anfragen zum Neustarten von VMs: Die Anfrage schlägt sofort fehl.

Preise

Für Flex-Start-VMs zahlen Sie nutzungsabhängig (Pay as you go, PAYG). Weitere Informationen finden Sie unter DWS-Preise.

Beschränkungen

In den folgenden Abschnitten werden die Beschränkungen für Flex-Start-VMs beschrieben.

Beschränkungen für alle Flex-Start-VMs

Für alle Flex-Start-VMs gelten die folgenden Beschränkungen:

Beschränkungen für MIGs mit Flex-Start-VMs

Für alle MIGs mit Flex-Start-VMs gelten die folgenden Beschränkungen:

Wenn Sie Flex-Start-VMs mit Anfragen zur Größenänderung von MIG erstellen möchten, finden Sie weitere Informationen unter Beschränkungen für Anfragen zur Größenänderung von MIGs.

Nächste Schritte

Überzeugen Sie sich selbst

Wenn Sie mit Google Cloud noch nicht vertraut sind, erstellen Sie einfach ein Konto, um die Leistungsfähigkeit von Compute Engine in der Praxis sehen und bewerten zu können. Neukunden erhalten außerdem ein Guthaben von 300 $, um Arbeitslasten auszuführen, zu testen und bereitzustellen.

Compute Engine kostenlos testen