Flex-Start-VMs

In diesem Dokument finden Sie eine Übersicht über Flex-Start-VMs mit Details zu ihren wichtigsten Merkmalen sowie zu den Anforderungen und Einschränkungen, die beim Erstellen dieser VMs gelten.

Flex-Start-VMs sind VM-Instanzen (Virtual Machine), die mit dem Bereitstellungsmodell „Flex-Start“ erstellt werden. Bei diesem Modell werden mit dem Dynamic Workload Scheduler (DWS) vergünstigte Compute-Ressourcen aus einem sicheren Kapazitätspool bereitgestellt, wodurch sich die Chancen erhöhen, stark nachgefragte Ressourcen wie GPUs zu erhalten. Nachdem Sie Flex-Start-VMs erstellt haben, versucht Compute Engine, die angeforderten Ressourcen innerhalb eines bestimmten Zeitraums zuzuweisen. Wenn dies gelingt, werden Ihre Flex-Start-VMs gestartet und bis zu sieben Tage lang ausgeführt.

Für Arbeitslasten, für die Ressourcen länger als sieben Tage oder mit einer höheren Kapazitätssicherheit erforderlich sind, können Sie im Kalendermodus eine Anfrage für eine vorausschauende Reservierung erstellen , um weiterhin von DWS-Rabatten zu profitieren.

Anwendungsfälle für Flex-Start-VMs

Flex-Start-VMs eignen sich ideal für die Ausführung von Arbeitslasten, die jederzeit gestartet werden können, z. B.:

  • Vortraining kleiner Modelle

  • Modellabstimmung

  • HPC-Simulation (Hochleistungs-Computing)

  • Batchinferenz

Wichtige Merkmale von Flex-Start-VMs

Im Vergleich zu anderen Arten von Compute Engine-Instanzen haben Flex-Start-VMs die folgenden Merkmale:

  • Wartezeit für die Zuweisung von Ressourcen: Sie können Flex-Start-VMs erstellen, bevor Compute Engine die angeforderten Ressourcen zuweisen kann. VMs werden jedoch nur gestartet, wenn Ressourcen innerhalb des angegebenen Zeitraums verfügbar werden. Wenn keine Ressourcen verfügbar sind, schlägt die Anfrage zum Erstellen der VM fehl.

    Weitere Informationen finden Sie in diesem Dokument unter Wartezeit für Flex-Start-VMs.

  • Begrenzte Laufzeit: Flex-Start-VMs werden bis zu sieben Tage lang ohne Unterbrechung ausgeführt. Danach beendet oder löscht Compute Engine die VMs automatisch, je nach der in den VM-Eigenschaften angegebenen Beendigungsaktion.

    Weitere Informationen finden Sie in diesem Dokument unter Begrenzte Laufzeit von Flex-Start-VMs.

  • Zuweisung von VMs durch Compute Engine: Compute Engine versucht, Flex-Start-VMs möglichst nah beieinander zu erstellen, um die Netzwerklatenz zu minimieren. Wenn Sie die Platzierung Ihrer Flex-Start-VMs steuern möchten, können Sie optional Richtlinien für kompakte Platzierung oder Arbeitslastrichtlinien verwenden.

    Weitere Informationen finden Sie in diesem Dokument unter Zuweisung von Flex-Start-VMs.

  • Bereitstellungsmodell „Flex-Start“: Sie erstellen Flex-Start-VMs mit dem Bereitstellungsmodell „Flex-Start“. Dieses Bereitstellungsmodell bietet eine bessere Ressourcenverfügbarkeit und vergünstigte Preise im Vergleich zu VMs, die mit dem Standardbereitstellungsmodell erstellt werden.

    Weitere Informationen zu den einzelnen Bereitstellungsmodellen finden Sie unter Bereitstellungsmodelle für Compute Engine-Instanzen.

Wartezeit für Flex-Start-VMs

Wenn Sie eine Flex-Start-VM erstellen, wird sie nicht sofort gestartet. Compute Engine versucht, die angeforderten Ressourcen zuzuweisen und die VM innerhalb eines bestimmten Zeitraums zu starten. Wenn Sie ein ausreichendes Kontingent für die angeforderten Ressourcen haben und Compute Engine sie bis zum Ende der Wartezeit zuweist, wird die Flex-Start-VM innerhalb von zwei Minuten nach Verfügbarkeit der Kapazität gestartet. Andernfalls schlägt die Anfrage zum Erstellen der VM fehl.

Die Wartezeit variiert je nach der Methode, die Sie zum Erstellen von VMs verwenden:

Wartezeit für eigenständige Flex-Start-VMs

Wenn Sie eine eigenständige Flex-Start-VM erstellen möchten, müssen Sie mit dem Feld requestValidForDuration eine Wartezeit angeben. Sie können eine Wartezeit von 0 Sekunden oder zwischen 90 und 7.200 Sekunden (2 Stunden) festlegen.

Je nach den zonalen Anforderungen Ihrer Arbeitslast empfehlen wir die folgenden Wartezeiten, um die Wahrscheinlichkeit zu erhöhen, dass Ihre Anfrage zum Erstellen einer Flex-Start-VM erfolgreich ist:

  • Strenge zonale Anforderungen: Wenn Sie eine Flex-Start-VM in einer bestimmten Zone erstellen müssen, empfehlen wir, das Feld requestValidForDuration auf mindestens 90 Sekunden und maximal 2 Stunden festzulegen. Längere Wartezeiten erhöhen die Wahrscheinlichkeit, dass Sie Ressourcen erhalten. Die VM bleibt während dieser Zeit im PENDING Status.

  • Keine zonalen Anforderungen: Wenn die Flex-Start-VM in einer beliebigen Zone in der Region ausgeführt werden kann, empfehlen wir, das Feld requestValidForDuration auf 0 Sekunden festzulegen. Dieser Wert gibt an, dass Compute Engine Ressourcen nur zuweist, wenn sie sofort verfügbar sind. Wenn Ihre Anfrage fehlschlägt, weil keine Ressourcen verfügbar sind, versuchen Sie, die Flex-Start-VM in einer anderen Zone zu erstellen.

Wenn Sie eine Anfrage zum Erstellen einer VM beenden möchten, während Compute Engine versucht, Ressourcen zuzuweisen, löschen Sie die Flex-Start-VM.

Wartezeit für MIGs mit Flex-Start-VMs

Wenn Sie einer verwalteten Instanzgruppe (Managed Instance Group, MIG) Flex-Start-VMs hinzufügen, versucht Compute Engine weiterhin, die angeforderten Ressourcen bereitzustellen, bis der Vorgang erfolgreich ist oder Sie die Anfrage abbrechen. Die Art und Weise, wie Compute Engine VMs zu Ihrer MIG hinzufügt, hängt von der Erstellungsmethode ab:

  • Anfragen zur Größenanpassung von MIGs: Compute Engine fügt die angeforderten VMs gleichzeitig zu r MIG hinzu, wenn alle Ressourcen verfügbar sind. Wenn Sie VMs nicht vor dem Ende ihrer Laufzeit löschen, löscht Compute Engine die VMs gleichzeitig. Weitere Informationen finden Sie unter Anfragen zur Größenanpassung von MIGs.

  • MIGs mit einer Zielgröße: Compute Engine erstellt jede VM einzeln, wenn Kapazität verfügbar wird. Daher erstellt die MIG möglicherweise zunächst nur einen Teil der angeforderten VMs und fügt die restlichen VMs später hinzu, wenn die Kapazität es zulässt. Wenn Sie die VMs nicht vor dem Ende ihrer Laufzeit löschen, löscht Compute Engine jede VM entsprechend ihrer Erstellungszeit. Weitere Informationen finden Sie unter MIG erstellen, die Flex-Start-VMs verwendet.

Begrenzte Laufzeit von Flex-Start-VMs

Wenn Sie eine Flex-Start-VM erstellen, müssen Sie Folgendes angeben:

  • Laufzeit der VM: Sie müssen angeben, wie lange die VMs ausgeführt werden können. Die Laufzeit kann bis zu sieben Tage betragen. Wenn Ihre Arbeitslast vor dem Ende der Laufzeit der VMs abgeschlossen ist, können Sie die eigenständigen VMs beenden oder löschen oder die VMs in einer MIG löschen, um unnötige Kosten zu vermeiden.

  • Beendigungsaktion für die VM: Sie müssen auswählen, ob Compute Engine die VMs am Ende ihrer Laufzeit automatisch beenden oder löschen soll. Für Flex-Start-VMs in einer MIG können Sie nur angeben, dass VMs am Ende ihrer Laufzeit gelöscht werden sollen.

Zuweisung von Flex-Start-VMs

Compute Engine versucht, Ihre Flex-Start-VMs basierend auf der Verfügbarkeit dicht zu erstellen. Diese dichte Platzierung minimiert die Anzahl der Netzwerk-Hops und optimiert die Latenz, was ideal für Arbeitslasten ist, die eine ständige VM-Kommunikation erfordern, z. B. KI- oder ML-Arbeitslasten. Wenn Sie die Platzierung Ihrer Flex-Start-VMs steuern möchten, um zu vermeiden, dass sie unerwartet weit voneinander entfernt erstellt werden, gehen Sie so vor:

Quota

Wenn Sie eine Flex-Start-VM erstellen oder neu starten möchten, müssen Sie ein ausreichendes Kontingent für VMs auf Abruf für die angeforderten vCPUs, den Arbeitsspeicher und alle angehängten GPUs oder lokalen SSD-Laufwerke haben.

Wenn Sie versuchen, eine Flex-Start-VM ohne ausreichendes Kontingent zu erstellen oder neu zu starten, geschieht Folgendes:

  • Anfragen zum Erstellen von VMs: Ihre Anfrage bleibt ausstehend, bis Sie ein ausreichendes Kontingent erworben haben. Wenn Sie das erforderliche Kontingent nicht vor Ablauf der Wartezeit erwerben, schlägt Ihre Anfrage fehl.

  • Anfragen zum Neustarten von VMs: Ihre Anfrage schlägt sofort fehl.

Preise

Für Flex-Start-VMs fallen folgende Kosten an:

  • Sie zahlen nach Nutzung (Pay as you go, PAYG). Weitere Informationen zu den Preisen für eine VM während ihres Lebenszyklus finden Sie unter Preise.

  • Für die Maschinentypen A4, A3, A2, G4 und H4D erhalten Sie vCPUs, Arbeitsspeicher und alle angehängten GPUs zu einem vergünstigten Preis. Für andere unterstützte beschleunigungsoptimierte Maschinentypen gelten keine Rabatte. Weitere Informationen finden Sie unter DWS-Preise.

Beschränkungen

In den folgenden Abschnitten werden die Beschränkungen für Flex-Start-VMs beschrieben.

Beschränkungen für alle Flex-Start-VMs

Für alle Flex-Start-VMs gelten die folgenden Beschränkungen:

Beschränkungen für MIGs mit Flex-Start-VMs

Für alle MIGs mit Flex-Start-VMs gelten die folgenden Beschränkungen:

Wenn Sie Flex-Start-VMs mit Anfragen zur Größenanpassung von MIG s erstellen möchten, finden Sie weitere Informationen unter Beschränkungen für Anfragen zur Größenanpassung von MIGs.

Nächste Schritte

Überzeugen Sie sich selbst

Wenn Sie mit Google Cloud noch nicht vertraut sind, erstellen Sie einfach ein Konto, um die Leistungsfähigkeit von Compute Engine in der Praxis sehen und bewerten zu können. Neukunden erhalten außerdem ein Guthaben von 300 $, um Arbeitslasten auszuführen, zu testen und bereitzustellen.

Compute Engine kostenlos testen