KI-optimierte G4-Instanz erstellen

In diesem Dokument wird beschrieben, wie Sie eigenständige VM-Instanzen erstellen, die die Maschinenserie G4 verwenden. Weitere Informationen zu diesen beschleunigungsoptimierten Maschinentypen finden Sie unter G4-Serie.

Weitere Informationen zum Erstellen von VMs oder Clustern finden Sie unter Übersicht über Bereitstellungsoptionen.

Beschränkungen

Beim Erstellen einer eigenständigen G4-VM gelten die folgenden Einschränkungen:

Wenn Sie eine Richtlinie für kompakte Platzierung verwenden möchten, lesen Sie die Einschränkungen für Platzierungsrichtlinien.

Hinweis

Führen Sie vor dem Erstellen von VMs die folgenden Schritte aus, falls Sie dies noch nicht getan haben:

  1. Nutzungsoption auswählen: Die von Ihnen gewählte Nutzungsoption bestimmt, wie Sie GPU-Ressourcen erhalten und verwenden. Weitere Informationen finden Sie unter Nutzungsoption auswählen.
  2. Kapazität abrufen: Der Vorgang zum Abrufen von Kapazität unterscheidet sich für jede Verbrauchsoption. Informationen zum Erhalten von Kapazität für die von Ihnen gewählte Verbrauchsoption finden Sie unter Kapazitätsübersicht.

Wählen Sie den Tab für die geplante Verwendung der Beispiele auf dieser Seite aus:

Console

Wenn Sie über die Google Cloud Console auf Google Cloud Dienste und APIs zugreifen, müssen Sie die Authentifizierung nicht einrichten.

gcloud

Aktivieren Sie Cloud Shell in der Google Cloud Console.

Cloud Shell aktivieren

Unten in der Google Cloud Console wird eine Cloud Shell-Sitzung gestartet und eine Eingabeaufforderung angezeigt. Cloud Shell ist eine Shell-Umgebung, in der das Google Cloud CLI bereits installiert ist und Werte für Ihr aktuelles Projekt bereits festgelegt sind. Das Initialisieren der Sitzung kann einige Sekunden dauern.

REST

Wenn Sie die REST API-Beispiele auf dieser Seite in einer lokalen Entwicklungsumgebung verwenden möchten, verwenden Sie die Anmeldedaten, die Sie der gcloud CLI bereitstellen.

    Installieren Sie die Google Cloud CLI.

    Wenn Sie einen externen Identitätsanbieter (IdP) verwenden, müssen Sie sich zuerst mit Ihrer föderierten Identität in der gcloud CLI anmelden.

Weitere Informationen finden Sie in der Dokumentation zur Google Cloud -Authentifizierung unter Für die Verwendung von REST authentifizieren.

Erforderliche Rollen

Bitten Sie Ihren Administrator, Ihnen die IAM-Rolle Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) für das Projekt zu gewähren, um die Berechtigungen zu erhalten, die Sie für die Erstellung von VMs benötigen. Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Diese vordefinierte Rolle enthält die Berechtigungen, die zum Erstellen von VMs erforderlich sind. Maximieren Sie den Abschnitt Erforderliche Berechtigungen, um die genau erforderlichen Berechtigungen anzuzeigen:

Erforderliche Berechtigungen

Folgende Berechtigungen sind zum Erstellen von VMs erforderlich:

  • compute.instances.create für das Projekt
  • Zum Erstellen der VM mit einem benutzerdefinierten Image: compute.images.useReadOnly für das Image
  • Zum Erstellen der VM mit einem Snapshot: compute.snapshots.useReadOnly für den Snapshot
  • Zum Erstellen der VM mit einer Instanzvorlage: compute.instanceTemplates.useReadOnly für die Instanzvorlage
  • Zum Angeben eines Subnetzes für Ihre VM: compute.subnetworks.use für das Projekt oder für das ausgewählte Subnetz
  • Zum Festlegen einer statischen IP-Adresse für die VM: compute.addresses.use für das Projekt
  • Zum Zuweisen einer externen IP-Adresse zur VM, wenn Sie ein VPC-Netzwerk verwenden: compute.subnetworks.useExternalIp für das Projekt oder für das ausgewählte Subnetz
  • Zum Zuweisen eines Legacy-Netzwerks zur VM: compute.networks.use für das Projekt
  • Zum Zuweisen einer externen IP-Adresse zur VM, wenn Sie ein Legacy-Netzwerk verwenden: compute.networks.useExternalIp für das Projekt
  • Zum Festlegen von Metadaten der VM-Instanz für die VM: compute.instances.setMetadata für das Projekt
  • Zum Festlegen von Tags für die VM: compute.instances.setTags für die VM
  • Zum Festlegen von Labels für die VM: compute.instances.setLabels für die VM
  • Zum Festlegen eines Dienstkontos für die VM: compute.instances.setServiceAccount für die VM
  • Zum Erstellen eines neuen Laufwerks für die VM: compute.disks.create für das Projekt
  • Zum Anhängen eines vorhandenen Laufwerks im Lese- oder Lese-/Schreibmodus: compute.disks.use für das Laufwerk
  • Zum Anhängen eines vorhandenen Laufwerks im Lesemodus: compute.disks.useReadOnly für das Laufwerk

Sie können diese Berechtigungen auch mit benutzerdefinierten Rollen oder anderen vordefinierten Rollen erhalten.

Übersicht

Das Erstellen einer Instanz mit dem Maschinentyp „G4“ umfasst die folgenden Schritte:

  1. Optional: Richtlinie für kompakte Platzierung erstellen
  2. Instanz erstellen
  3. GPU-Treiber installieren
  4. Optional: NVIDIA-GPU-Modus mit mehreren Instanzen aktivieren

Optional: Richtlinie für kompakte Platzierung erstellen

Sie können die VM-Platzierung festlegen, indem Sie eine Richtlinie für kompakte Platzierung erstellen. Wenn Sie eine Richtlinie für kompakte Platzierung auf Ihre VMs anwenden, versucht die Compute Engine, VMs zu erstellen, die so nah wie möglich beieinander liegen. Wenn Ihre Anwendung latenzempfindlich ist und maximale Kompaktheit erfordert, geben Sie beim Erstellen einer Richtlinie für kompakte Platzierungen das Feld maxDistance (Vorabversion) an. Ein niedrigerer Wert für maxDistance sorgt für eine engere VM-Platzierung, erhöht aber auch die Wahrscheinlichkeit, dass einige VMs nicht erstellt werden.

Wählen Sie eine der folgenden Optionen aus, um eine Richtlinie für kompakte Platzierung zu erstellen:

gcloud

Verwenden Sie zum Erstellen einer Richtlinie für kompakte Platzierung den Befehl gcloud beta compute resource-policies create group-placement:

gcloud beta compute resource-policies create group-placement POLICY_NAME \
    --collocation=collocated \
    --max-distance=MAX_DISTANCE \
    --region=REGION

Ersetzen Sie Folgendes:

  • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.
  • MAX_DISTANCE: die maximale Entfernung zwischen den VMs. Sie kann entweder angegeben (Vorschau, empfohlen) oder nicht angegeben werden (entfernen Sie das Flag --max-distance). Je nach Maschinentyp können Sie einen der folgenden Werte angeben:
    • So platzieren Sie VMs im selben Unterblock: 1
    • So platzieren Sie VMs im selben Block: 2
    • So platzieren Sie VMs in angrenzenden Blöcken: 3
    Achten Sie darauf, dass die Konfiguration für die maximale Entfernung die Maschinenserie und die Anzahl der VMs unterstützt, die Sie erstellen möchten. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Richtlinien für kompakte Platzierung.
  • REGION: Die Region, in der Sie die Richtlinie für kompakte Platzierungen erstellen möchten. Geben Sie die Region an, die die Zone enthält, in der Sie Instanzen erstellen möchten, und prüfen Sie, ob der Maschinentyp, den Sie verwenden möchten, in dieser Region verfügbar ist. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.

REST

Senden Sie zum Erstellen einer Richtlinie für kompakte Platzierung eine POST-Anfrage an die Betamethode resourcePolicies.insert. Geben Sie im Anfragetext das Feld collocation an, das auf COLLOCATED gesetzt ist, sowie das Feld maxDistance.

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "POLICY_NAME",
    "groupPlacementPolicy": {
      "collocation": "COLLOCATED",
      "maxDistance": MAX_DISTANCE
    }
  }

Ersetzen Sie Folgendes:

  • PROJECT_ID: Ihre Projekt-ID.
  • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.
  • MAX_DISTANCE: die maximale Entfernung zwischen den VMs. Sie kann entweder angegeben (Vorschau, empfohlen) oder nicht angegeben werden (entfernen Sie das Feld maxDistance). Je nach Maschinentyp können Sie einen der folgenden Werte angeben:
    • So platzieren Sie VMs im selben Unterblock: 1
    • So platzieren Sie VMs im selben Block: 2
    • So platzieren Sie VMs in angrenzenden Blöcken: 3
    Achten Sie darauf, dass die Konfiguration für die maximale Entfernung die Maschinenserie und die Anzahl der VMs unterstützt, die Sie erstellen möchten. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Richtlinien für kompakte Platzierung.
  • REGION: Die Region, in der Sie die Richtlinie für kompakte Platzierungen erstellen möchten. Geben Sie die Region an, die die Zone enthält, in der Sie Instanzen erstellen möchten, und prüfen Sie, ob der Maschinentyp, den Sie verwenden möchten, in dieser Region verfügbar ist. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.

G4-VM erstellen

Mit den folgenden Befehlen wird auch der Zugriffsbereich für Ihre Instanzen festgelegt. Um die Berechtigungsverwaltung zu vereinfachen, empfiehlt Google, den Zugriffsbereich für eine Instanz auf cloud-platform-Zugriff festzulegen und dann mit IAM-Rollen zu definieren, auf welche Dienste die Instanz zugreifen kann. Weitere Informationen finden Sie unter Best Practices für Bereiche.

Console

  1. Rufen Sie in der Google Cloud Console die Seite Instanz erstellen auf.

    Zu „Instanz erstellen“ wechseln

  2. Geben Sie einen Namen für Ihre VM an. Weitere Informationen finden Sie unter Konvention für Ressourcennamen.

  3. Wählen Sie die Region und Zone aus, in der Sie eine VM erstellen möchten. Eine Liste der verfügbaren GPU-Regionen und -Zonen finden Sie hier.

  4. Klicken Sie auf den Tab GPUs und führen Sie die folgenden Schritte aus:

    1. Wenn Sie die G4-Maschinenserie verwenden möchten, wählen Sie in der Liste GPU-Typ die Option NVIDIA RTX PRO 6000 aus.
    2. Wählen Sie in der Liste Anzahl der GPUs eine Anzahl von GPUs aus.
    3. Wählen Sie im Menü Maschinentyp einen Maschinentyp aus.

  5. Wählen Sie je nach gewünschter Nutzungsoption eine der folgenden Optionen aus und führen Sie die entsprechenden Schritte aus.

    Reservierung

    G4-Instanzen unterstützen die folgenden Reservierungstypen:

    • On-demand-Reservierungen
    • Standardmäßige vorausschauende Reservierungen

    Damit diese Reservierungstypen genutzt werden können, muss für eine Instanz das Standardbereitstellungsmodell verwendet werden. Verwenden Sie beispielsweise die folgenden Erstellungsparameter.

    1. Wählen Sie im Abschnitt Bereitstellungsmodell in der Liste VM-Bereitstellungsmodell die Option Standard aus. Diese Option ist standardmäßig ausgewählt.

    2. Führen Sie die folgenden Schritte aus, um zu konfigurieren, welche Reservierungen diese VM verwendet:

      1. Klicken Sie im Navigationsmenü auf Erweitert.

      2. Wählen Sie für Reservierungen eine der folgenden Optionen aus:

        • Wenn Sie die Reservierungskapazität optional verwenden möchten, wählen Sie Automatische Auswahl verwenden aus. Diese Option ist standardmäßig ausgewählt.

          Die Instanz versucht, Kapazität aus einer automatisch genutzten Reservierung zu verwenden. Dies geschieht nur, wenn entsprechende Reservierungskapazität verfügbar ist. Andernfalls wird On-Demand-Kapazität verwendet.

        • Wenn Sie eine Reservierungskapazität benötigen, wählen Sie Reservierung auswählen und dann Reservierung auswählen aus, um die zu verwendende Reservierung anzugeben.

          Die Instanz muss Kapazität aus einer Reservierung mit spezifischer Ausrichtung verwenden und darf keine On-Demand-Kapazität nutzen. Wenn die Reservierungskapazität nicht verfügbar ist, schlägt die Instanzerstellung fehl.

    On demand

    1. Wählen Sie im Abschnitt Bereitstellungsmodell in der Liste VM-Bereitstellungsmodell die Option Standard aus. Diese Option ist standardmäßig ausgewählt.

    2. Optional: So konfigurieren Sie, ob diese VM Reservierungen verwendet:

      1. Klicken Sie im Navigationsmenü auf Erweitert.

      2. Wählen Sie für Reservierungen eine der folgenden Optionen aus:

        • Wenn Sie die Reservierungskapazität optional verwenden möchten, wählen Sie Automatische Auswahl verwenden aus. Diese Option ist standardmäßig ausgewählt.

          Die Instanz versucht, Kapazität aus einer automatisch genutzten Reservierung zu verwenden. Dies geschieht nur, wenn entsprechende Reservierungskapazität verfügbar ist. Andernfalls wird On-Demand-Kapazität verwendet.

        • Wenn Sie On-Demand-Kapazität benötigen, wählen Sie Keine Reservierung verwenden aus.

          Die Instanz kann keine Reservierungskapazität nutzen.

    Flex-Start

    1. Wählen Sie im Abschnitt Bereitstellungsmodell in der Liste VM-Bereitstellungsmodell die Option Flexibler Start aus.

    2. Geben Sie im Feld Anzahl der Stunden eingeben die maximale Zeit ein, die die VM ausgeführt werden soll. Der Wert muss zwischen 46 Sekunden (0.01) und sieben Tagen (168 oder 168 Stunden) liegen.

    3. Wählen Sie Wartezeit für VM-Erstellung festlegen aus.

      Geben Sie basierend auf den zonalen Anforderungen für Ihre Arbeitslast eine der folgenden Zeitdauern an, um die Wahrscheinlichkeit zu erhöhen, dass Ihre VM-Erstellungsanfrage erfolgreich ist:

      • Arbeitslasten mit strengen zonalen Anforderungen: Wenn für Ihre Arbeitslast die VM in einer bestimmten Zone erstellt werden muss, geben Sie eine Dauer zwischen 90 Sekunden und 2 Stunden an. Je länger die Dauer, desto höher sind die Chancen, Ressourcen zu erhalten.
      • Arbeitslasten ohne strenge zonale Anforderungen: Wenn die VM in einer beliebigen Zone innerhalb der Region ausgeführt werden kann, geben Sie eine Dauer von 0 Sekunden an oder deaktivieren Sie das Kästchen Wartezeit für die VM-Erstellung festlegen. Mit dieser Aktion wird angegeben, dass Compute Engine Ressourcen nur zuweist, wenn sie sofort verfügbar sind. Wenn die Anfrage zum Erstellen der VM fehlschlägt, weil Ressourcen nicht verfügbar sind, wiederholen Sie die Anfrage in einer anderen Zone.

    4. Wählen Sie im Feld Bei VM-Beendigung aus, ob die VM am Ende ihrer Laufzeit beendet oder gelöscht werden soll:

      • Wenn Sie die VM löschen möchten, wählen Sie Löschen aus.
      • Wählen Sie Beenden aus, um die VM zu beenden.

    Spot

    1. Wählen Sie im Abschnitt Bereitstellungsmodell aus der Liste VM-Bereitstellungsmodell die Option Spot aus.

    2. Optional: So wählen Sie die Beendigungsaktion aus, die ausgeführt wird, wenn Compute Engine die VM vorzeitig beendet:

      1. Maximieren Sie den Abschnitt Erweiterte Einstellungen für das VM-Bereitstellungsmodell.
      2. Wählen Sie in der Liste Bei VM-Beendigung eine der folgenden Optionen aus:
        • Wählen Sie Beenden (Standardeinstellung) aus, um die VM während des vorzeitigen Beendens zu beenden.
        • Wählen Sie Löschen aus, um die VM während des vorzeitigen Beendens zu löschen.

  6. Klicken Sie im Navigationsmenü auf Betriebssystem und Speicher und führen Sie dann die folgenden Schritte aus:

    1. Klicken Sie auf Ändern. Der Bereich Konfiguration des Bootlaufwerks wird geöffnet.

    2. Wählen Sie auf dem Tab Öffentliche Images ein empfohlenes Image aus. Eine Liste der empfohlenen Images finden Sie unter Betriebssysteme.

    3. Optional: Informationen zum Konfigurieren der Bootlaufwerkgröße finden Sie je nach Laufwerkstyp unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.

    4. Klicken Sie auf Auswählen, um die Bootlaufwerksoptionen zu bestätigen.

    5. Optional: Wenn Sie lokale SSD-Laufwerke hinzufügen möchten, führen Sie die folgenden Schritte aus. G4-Maschinentypen verwenden Titanium-SSDs.

      1. Klicken Sie auf  Lokale SSD hinzufügen. Der Bereich Lokale SSD konfigurieren wird geöffnet.
      2. Konfigurieren Sie im Bereich Lokale SSD konfigurieren die Optionen für die lokalen SSD-Laufwerke. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Festplatte zur Compute-Instanz hinzufügen.
      3. Klicken Sie auf Speichern, um die Optionen für das Bootlaufwerk zu bestätigen.

      Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.

  7. Konfigurieren Sie das Dienstkonto und die Zugriffsbereiche so: Arbeitslasten, die auf der Instanz ausgeführt werden, verwenden das angehängte Dienstkonto, um Anfragen an andere Google Cloud -Dienste zu autorisieren.

    1. Klicken Sie im Navigationsmenü auf Sicherheit.
    2. Wählen Sie in der Liste Dienstkonto ein zu verwendendes Dienstkonto aus.
    3. Wählen Sie für Zugriffsbereiche die Option Uneingeschränkten Zugriff auf alle Cloud APIs zulassen aus. Mit dieser Best Practice können Sie den Zugriff verwalten, indem Sie dem Dienstkonto IAM-Rollen hinzufügen oder daraus entfernen. Weitere Informationen finden Sie unter Dienstkonto an eine Instanz anhängen.

  8. Klicken Sie zum Erstellen und Starten der VM auf Erstellen.

gcloud

Verwenden Sie zum Erstellen der VM den Befehl gcloud compute instances create.

Die Parameter, die Sie angeben müssen, hängen von der Verbrauchsoption ab, die Sie für diese Bereitstellung verwenden. Wählen Sie den Tab aus, der Ihrer Nutzungsoption entspricht.

Reservierung

G4-Instanzen unterstützen die folgenden Reservierungstypen:

  • On-demand-Reservierungen
  • Standardmäßige vorausschauende Reservierungen

Damit diese Reservierungstypen genutzt werden können, muss für eine Instanz das Standardbereitstellungsmodell verwendet werden. Verwenden Sie beispielsweise die folgenden Erstellungsparameter.

Bevor Sie den Befehl ausführen, sollten Sie alle folgenden Schritte durchgehen, um festzustellen, ob Sie zusätzliche Flags einfügen müssen.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

Gehen Sie folgendermaßen vor:

  1. Ersetzen Sie Folgendes:

    • INSTANCE_NAME: der Name der VM.
    • MACHINE_TYPE ist der für die VM zu verwendende Maschinentyp. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinentypen.
    • IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
    • IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
    • ZONE: die Zone, in der der Maschinentyp verfügbar ist, den Sie verwenden möchten. Wenn Sie eine Richtlinie für kompakte Platzierung angeben möchten, verwenden Sie eine Zone in derselben Region wie die Richtlinie für kompakte Platzierung. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
    • DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Art des Laufwerks unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.

    • RESERVATION_AFFINITY: Gibt an, welche Reservierungen die Instanz nach Möglichkeit nutzen darf. Wählen Sie eine der folgenden Optionen aus:

      • any (Reservierungskapazität ist optional): Dies ist die Standardoption. Die Instanz versucht, Kapazität aus einer automatisch genutzten-Reservierung zu verwenden. Dies geschieht nur, wenn entsprechende Reservierungskapazität verfügbar ist. Andernfalls wird On-Demand-Kapazität verwendet.

      • specific (Reservierungskapazität ist erforderlich): Erfordert, dass die Instanz Kapazität aus einer speziell ausgewählten Reservierung verwendet. Die Instanz darf keine On-Demand-Kapazität verwenden. Wenn die Reservierungskapazität nicht verfügbar ist, schlägt die Instanzerstellung fehl.

    • RESERVATION: Die zu verwendende Reservierung. Geben Sie je nach dem Wert, den Sie für RESERVATION_AFFINITY angegeben haben, einen der folgenden Werte an:

      • Wenn Sie any angegeben haben, ersetzen Sie RESERVATION durch einen leeren String (""). Alternativ können Sie das Flag --reservation vollständig entfernen.

      • Wenn Sie specific angegeben haben, ersetzen Sie RESERVATION durch Folgendes:

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        Ersetzen Sie Folgendes:

        • RESERVATION_OWNER_PROJECT_ID: die Projekt-ID des Projekts, in dem die Reservierung erstellt wurde.
        • RESERVATION_NAME: der Name der Reservierung.

  2. Standardmäßig wird die Instanz automatisch neu gestartet, wenn sie abstürzt oder von Compute Engine für einen geplanten Stopp beendet wird, z. B. bei einem Wartungsereignis. Wenn Sie den automatischen Neustart deaktivieren möchten, fügen Sie das folgende Flag hinzu:

    --no-restart-on-failure

  3. Optional: Wenn Sie eine Richtlinie für kompakte Platzierung verwenden möchten, fügen Sie das folgende Flag hinzu:

      --resource-policies=POLICY_NAME

    Ersetzen Sie Folgendes:

    • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.

  4. Optional: Wenn Sie lokale SSD-Laufwerke anhängen möchten, fügen Sie das folgende --local-ssd-Flag für jedes lokale SSD-Laufwerk hinzu.

    Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke. G4-Maschinentypen verwenden Titanium-SSD-Laufwerke.

    --local-ssd interface=INTERFACE_TYPE

    Ersetzen Sie Folgendes:

    • INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.

    Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.

  5. Optional: Wenn Sie NVIDIA RTX Virtual Workstation (vWS) verwenden möchten, fügen Sie das folgende Flag hinzu.

    Wenn Sie eine Instanz erstellen, die NVIDIA RTX Virtual Workstation verwendet, fügt Compute Engine automatisch eine vWS-Lizenz hinzu. Informationen zu Preisen für virtuelle Workstations finden Sie auf der Seite „GPU-Preise“.

    --accelerator=type=nvidia-rtx-pro-6000-vws,count=VWS_ACCELERATOR_COUNT

    Ersetzen Sie VWS_ACCELERATOR_COUNT durch die gewünschte Anzahl virtueller GPUs.

  6. Führen Sie den Befehl aus.

On demand

Bevor Sie den Befehl ausführen, sollten Sie alle folgenden Schritte durchgehen, um festzustellen, ob Sie zusätzliche Flags einfügen müssen.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

Gehen Sie folgendermaßen vor:

  1. Ersetzen Sie Folgendes:

    • INSTANCE_NAME: der Name der VM.
    • MACHINE_TYPE ist der für die VM zu verwendende Maschinentyp. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinentypen.
    • IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
    • IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
    • ZONE: die Zone, in der der Maschinentyp verfügbar ist, den Sie verwenden möchten. Wenn Sie eine Richtlinie für kompakte Platzierung angeben möchten, verwenden Sie eine Zone in derselben Region wie die Richtlinie für kompakte Platzierung. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
    • DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Art des Laufwerks unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.

    • RESERVATION_AFFINITY: Gibt an, welche Reservierungen die Instanz nach Möglichkeit nutzen darf. Wählen Sie eine der folgenden Optionen aus:

      • any (Reservierungskapazität ist optional): Dies ist die Standardoption. Die Instanz versucht, Kapazität aus einer automatisch genutzten-Reservierung zu verwenden. Dies geschieht nur, wenn entsprechende Reservierungskapazität verfügbar ist. Andernfalls wird On-Demand-Kapazität verwendet.

      • none (On-Demand-Kapazität erforderlich): Verhindert, dass die Instanz Reservierungskapazität verwendet.

  2. Standardmäßig wird die Instanz automatisch neu gestartet, wenn sie abstürzt oder von Compute Engine für einen geplanten Stopp beendet wird, z. B. bei einem Wartungsereignis. Wenn Sie den automatischen Neustart deaktivieren möchten, fügen Sie das folgende Flag hinzu:

    --no-restart-on-failure

  3. Optional: Wenn Sie eine Richtlinie für kompakte Platzierung verwenden möchten, fügen Sie das folgende Flag hinzu:

      --resource-policies=POLICY_NAME

    Ersetzen Sie Folgendes:

    • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.

  4. Optional: Wenn Sie lokale SSD-Laufwerke anhängen möchten, fügen Sie das folgende --local-ssd-Flag für jedes lokale SSD-Laufwerk hinzu.

    Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke. G4-Maschinentypen verwenden Titanium-SSD-Laufwerke.

    --local-ssd interface=INTERFACE_TYPE

    Ersetzen Sie Folgendes:

    • INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.

    Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.

  5. Optional: Wenn Sie NVIDIA RTX Virtual Workstation (vWS) verwenden möchten, fügen Sie das folgende Flag hinzu.

    Wenn Sie eine Instanz erstellen, die NVIDIA RTX Virtual Workstation verwendet, fügt Compute Engine automatisch eine vWS-Lizenz hinzu. Informationen zu Preisen für virtuelle Workstations finden Sie auf der Seite „GPU-Preise“.

    --accelerator=type=nvidia-rtx-pro-6000-vws,count=VWS_ACCELERATOR_COUNT

    Ersetzen Sie VWS_ACCELERATOR_COUNT durch die gewünschte Anzahl virtueller GPUs.

  6. Führen Sie den Befehl aus.

Flex-Start

Bevor Sie den Befehl ausführen, sollten Sie alle folgenden Schritte durchgehen, um festzustellen, ob Sie zusätzliche Flags einfügen müssen.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --reservation-affinity=none \
    --provisioning-model=FLEX_START \
    --request-valid-for-duration=REQUEST_VALID_FOR_DURATION \
    --max-run-duration=MAX_RUN_DURATION \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE

Gehen Sie folgendermaßen vor:

  1. Ersetzen Sie Folgendes:

    • INSTANCE_NAME: der Name der VM.
    • MACHINE_TYPE ist der für die VM zu verwendende Maschinentyp. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinentypen.
    • IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
    • IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
    • ZONE: die Zone, in der der Maschinentyp verfügbar ist, den Sie verwenden möchten. Wenn Sie eine Richtlinie für kompakte Platzierung angeben möchten, verwenden Sie eine Zone in derselben Region wie die Richtlinie für kompakte Platzierung. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
    • DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Art des Laufwerks unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.

    • REQUEST_VALID_FOR_DURATION: Wie lange die Anfrage zum Erstellen der VM gültig bleibt. Sie müssen den Wert als Anzahl der Tage, Stunden, Minuten oder Sekunden gefolgt von d, h, m bzw. s formatieren. Geben Sie beispielsweise 30m für 30 Minuten oder 1h2m3s für eine Stunde, zwei Minuten und drei Sekunden an.

      Geben Sie basierend auf den zonalen Anforderungen für Ihre Arbeitslast eine der folgenden Zeitdauern an, um die Wahrscheinlichkeit zu erhöhen, dass Ihre VM-Erstellungsanfrage erfolgreich ist:

      • Arbeitslasten mit strengen zonalen Anforderungen: Wenn für Ihre Arbeitslast die Erstellung der VM in einer bestimmten Zone erforderlich ist, geben Sie eine Dauer zwischen 90 Sekunden (90s) und zwei Stunden (2h) an. Bei längeren Zeiträumen ist die Wahrscheinlichkeit höher, dass Sie Ressourcen erhalten.
      • Arbeitslasten ohne strenge zonale Anforderungen: Wenn die VM in einer beliebigen Zone innerhalb der Region ausgeführt werden kann, geben Sie eine Dauer von null Sekunden (0s) an. Dadurch wird festgelegt, dass Compute Engine Ressourcen nur dann zuweist, wenn sie sofort verfügbar sind. Wenn die Anfrage zum Erstellen der VM fehlschlägt, weil Ressourcen nicht verfügbar sind, wiederholen Sie die Anfrage in einer anderen Zone.

    • MAX_RUN_DURATION: die Dauer, für die die angeforderten VMs ausgeführt werden sollen. Sie müssen den Wert als Anzahl der Tage, Stunden, Minuten oder Sekunden gefolgt von d, h, m bzw. s formatieren. Der Wert muss zwischen 10 Minuten und 7 Tagen liegen.

    • TERMINATION_ACTION: Gibt an, ob Compute Engine die VM am Ende ihrer Laufzeit beendet (STOP) oder löscht (DELETE).

  2. Optional: Wenn Sie eine Richtlinie für kompakte Platzierung verwenden möchten, fügen Sie das folgende Flag hinzu:

      --resource-policies=POLICY_NAME

    Ersetzen Sie Folgendes:

    • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.

  3. Optional: Wenn Sie lokale SSD-Laufwerke anhängen möchten, fügen Sie das folgende --local-ssd-Flag für jedes lokale SSD-Laufwerk hinzu.

    Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke. G4-Maschinentypen verwenden Titanium-SSD-Laufwerke.

    --local-ssd interface=INTERFACE_TYPE

    Ersetzen Sie Folgendes:

    • INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.

    Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.

  4. Optional: Wenn Sie NVIDIA RTX Virtual Workstation (vWS) verwenden möchten, fügen Sie das folgende Flag hinzu.

    Wenn Sie eine Instanz erstellen, die NVIDIA RTX Virtual Workstation verwendet, fügt Compute Engine automatisch eine vWS-Lizenz hinzu. Informationen zu Preisen für virtuelle Workstations finden Sie auf der Seite „GPU-Preise“.

    --accelerator=type=nvidia-rtx-pro-6000-vws,count=VWS_ACCELERATOR_COUNT

    Ersetzen Sie VWS_ACCELERATOR_COUNT durch die gewünschte Anzahl virtueller GPUs.

  5. Führen Sie den Befehl aus.

Spot

Bevor Sie den Befehl ausführen, sollten Sie alle folgenden Schritte durchgehen, um festzustellen, ob Sie zusätzliche Flags einfügen müssen.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

Gehen Sie folgendermaßen vor:

  1. Ersetzen Sie Folgendes:

    • INSTANCE_NAME: der Name der VM.
    • MACHINE_TYPE ist der für die VM zu verwendende Maschinentyp. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinentypen.
    • IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
    • IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
    • ZONE: die Zone, in der der Maschinentyp verfügbar ist, den Sie verwenden möchten. Wenn Sie eine Richtlinie für kompakte Platzierung angeben möchten, verwenden Sie eine Zone in derselben Region wie die Richtlinie für kompakte Platzierung. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
    • DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Art des Laufwerks unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.

    • TERMINATION_ACTION: Die Aktion, die ausgeführt werden soll, wenn Compute Engine die Instanz vorzeitig beendet, entweder STOP (Standard) oder DELETE.

  2. Optional: Wenn Sie eine Richtlinie für kompakte Platzierung verwenden möchten, fügen Sie das folgende Flag hinzu:

      --resource-policies=POLICY_NAME

    Ersetzen Sie Folgendes:

    • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.

  3. Optional: Wenn Sie lokale SSD-Laufwerke anhängen möchten, fügen Sie das folgende --local-ssd-Flag für jedes lokale SSD-Laufwerk hinzu.

    Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke. G4-Maschinentypen verwenden Titanium-SSD-Laufwerke.

    --local-ssd interface=INTERFACE_TYPE

    Ersetzen Sie Folgendes:

    • INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.

    Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.

  4. Optional: Wenn Sie NVIDIA RTX Virtual Workstation (vWS) verwenden möchten, fügen Sie das folgende Flag hinzu.

    Wenn Sie eine Instanz erstellen, die NVIDIA RTX Virtual Workstation verwendet, fügt Compute Engine automatisch eine vWS-Lizenz hinzu. Informationen zu Preisen für virtuelle Workstations finden Sie auf der Seite „GPU-Preise“.

    --accelerator=type=nvidia-rtx-pro-6000-vws,count=VWS_ACCELERATOR_COUNT

    Ersetzen Sie VWS_ACCELERATOR_COUNT durch die gewünschte Anzahl virtueller GPUs.

  5. Führen Sie den Befehl aus.

REST

Senden Sie zum Erstellen der VM eine POST-Anfrage an die Methode instances.insert.

Die Parameter, die Sie angeben müssen, hängen von der Verbrauchsoption ab, die Sie für diese Bereitstellung verwenden. Wählen Sie den Tab aus, der Ihrer Nutzungsoption entspricht.

Reservierung

G4-Instanzen unterstützen die folgenden Reservierungstypen:

  • On-demand-Reservierungen
  • Standardmäßige vorausschauende Reservierungen

Damit diese Reservierungstypen genutzt werden können, muss für eine Instanz das Standardbereitstellungsmodell verwendet werden. Verwenden Sie beispielsweise die folgenden Erstellungsparameter.

Bevor Sie den Antrag einreichen, sollten Sie alle folgenden Schritte durchgehen, um zu entscheiden, ob Sie zusätzliche Felder einfügen möchten.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks": [
    {
      "boot": true,
      "initializeParams": {
        "diskSizeGb": "DISK_SIZE",
        "diskType": "hyperdisk-balanced",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
}

Gehen Sie folgendermaßen vor:

  1. Ersetzen Sie Folgendes:

    • PROJECT_ID: die Projekt-ID des Projekts, in dem Sie die VM erstellen möchten.
    • ZONE: die Zone, in der der Maschinentyp verfügbar ist, den Sie verwenden möchten. Wenn Sie eine Richtlinie für kompakte Platzierungen angeben möchten, müssen Sie eine Zone in derselben Region wie die Richtlinie für kompakte Platzierungen verwenden. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
    • MACHINE_TYPE ist der für die VM zu verwendende Maschinentyp. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinentypen.
    • INSTANCE_NAME: der Name der VM.
    • DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Art des Laufwerks unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.
    • IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
    • IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.

    • AUTOMATIC_RESTART: Gibt an, ob Ihre Instanz automatisch neu gestartet wird, wenn sie abstürzt oder von Compute Engine aufgrund eines geplanten Stopps beendet wird, z. B. bei einem Wartungsereignis. Geben Sie entweder true an, um den automatischen Neustart zu aktivieren (Standard), oder false, um ihn zu deaktivieren.

    • RESERVATION_AFFINITY: Gibt an, welche Reservierungen die Instanz nach Möglichkeit nutzen darf. Wählen Sie eine der folgenden Optionen aus:

      • ANY_RESERVATION (Reservierungskapazität ist optional): Dies ist die Standardoption. Die Instanz versucht, Kapazität aus einer automatisch genutzten Reservierung zu verwenden. Dies geschieht nur, wenn entsprechende Reservierungskapazität verfügbar ist. Andernfalls wird On-Demand-Kapazität verwendet.

      • SPECIFIC_RESERVATION (Reservierungskapazität ist erforderlich): Erfordert, dass die Instanz Kapazität aus einer speziell ausgewählten Reservierung verwendet. Die Instanz darf keine On-Demand-Kapazität verwenden. Wenn die Reservierungskapazität nicht verfügbar ist, schlägt die Instanzerstellung fehl.

    • RESERVATION: Die zu verwendende Reservierung. Geben Sie je nach dem Wert, den Sie für RESERVATION_AFFINITY angegeben haben, einen der folgenden Werte an:

      • Wenn Sie ANY_RESERVATION angegeben haben, löschen Sie RESERVATION, sodass der Wert ein leerer String ("") ist. Alternativ können Sie die Felder key und values vollständig entfernen.

      • Wenn Sie SPECIFIC_RESERVATION angegeben haben, ersetzen Sie RESERVATION durch Folgendes:

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        Ersetzen Sie Folgendes:

        • RESERVATION_OWNER_PROJECT_ID: die Projekt-ID des Projekts, in dem die Reservierung erstellt wurde.
        • RESERVATION_NAME: der Name der Reservierung.

  2. Optional: Wenn Sie eine Richtlinie für kompakte Platzierung verwenden möchten, fügen Sie dem Anfragetext das folgende Feld hinzu:

      "resourcePolicies": [
    "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
  ]

    Ersetzen Sie Folgendes:

    • PROJECT_ID: die Projekt-ID der Richtlinie für kompakte Platzierung.
    • REGION: die Region der Richtlinie für kompakte Platzierung.
    • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.

  3. Optional: Wenn Sie lokale SSD-Laufwerke verwenden möchten, fügen Sie das folgende Feld dem Feld disks[] für jedes lokale SSD-Laufwerk hinzu. Trennen Sie die einzelnen disks[]-Unterfelder (einschließlich des Bootlaufwerks) durch ein Komma.

    Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke. G4-Maschinentypen verwenden Titanium-SSD-Laufwerke.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    Ersetzen Sie Folgendes:

    • ZONE: die von Ihnen angegebene Zone.
    • INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.

    Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.

  4. Optional: Wenn Sie NVIDIA RTX Virtual Workstation (vWS) verwenden möchten, fügen Sie das folgende Feld hinzu.

    Wenn Sie eine Instanz erstellen, die NVIDIA RTX Virtual Workstation verwendet, fügt Compute Engine automatisch eine vWS-Lizenz hinzu. Informationen zu Preisen für virtuelle Workstations finden Sie auf der Seite „GPU-Preise“.

    "guestAccelerators":
  [
    {
      "acceleratorCount": VWS_ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-rtx-pro-6000-vws"
    }
  ]

    Ersetzen Sie VWS_ACCELERATOR_COUNT durch die gewünschte Anzahl virtueller GPUs.

  5. Senden Sie die Anfrage.

On demand

Bevor Sie den Antrag einreichen, sollten Sie alle folgenden Schritte durchgehen, um zu entscheiden, ob Sie zusätzliche Felder einfügen möchten.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks": [
    {
      "boot": true,
      "initializeParams": {
        "diskSizeGb": "DISK_SIZE",
        "diskType": "hyperdisk-balanced",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
}

Gehen Sie folgendermaßen vor:

  1. Ersetzen Sie Folgendes:

    • PROJECT_ID: die Projekt-ID des Projekts, in dem Sie die VM erstellen möchten.
    • ZONE: die Zone, in der der Maschinentyp verfügbar ist, den Sie verwenden möchten. Wenn Sie eine Richtlinie für kompakte Platzierungen angeben möchten, müssen Sie eine Zone in derselben Region wie die Richtlinie für kompakte Platzierungen verwenden. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
    • MACHINE_TYPE ist der für die VM zu verwendende Maschinentyp. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinentypen.
    • INSTANCE_NAME: der Name der VM.
    • DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Art des Laufwerks unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.
    • IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
    • IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.

    • AUTOMATIC_RESTART: Gibt an, ob Ihre Instanz automatisch neu gestartet wird, wenn sie abstürzt oder von Compute Engine aufgrund eines geplanten Stopps beendet wird, z. B. bei einem Wartungsereignis. Geben Sie entweder true an, um den automatischen Neustart zu aktivieren (Standard), oder false, um ihn zu deaktivieren.

    • RESERVATION_AFFINITY: Gibt an, welche Reservierungen die Instanz nach Möglichkeit nutzen darf. Wählen Sie eine der folgenden Optionen aus:

      • ANY_RESERVATION (Reservierungskapazität ist optional): Dies ist die Standardoption. Die Instanz versucht, Kapazität aus einer automatisch genutzten Reservierung zu verwenden. Dies geschieht nur, wenn entsprechende Reservierungskapazität verfügbar ist. Andernfalls wird On-Demand-Kapazität verwendet.

      • NO_RESERVATION (On-Demand-Kapazität erforderlich): Verhindert, dass die Instanz Reservierungskapazität verwendet.

  2. Optional: Wenn Sie eine Richtlinie für kompakte Platzierung verwenden möchten, fügen Sie dem Anfragetext das folgende Feld hinzu:

      "resourcePolicies": [
    "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
  ]

    Ersetzen Sie Folgendes:

    • PROJECT_ID: die Projekt-ID der Richtlinie für kompakte Platzierung.
    • REGION: die Region der Richtlinie für kompakte Platzierung.
    • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.

  3. Optional: Wenn Sie lokale SSD-Laufwerke verwenden möchten, fügen Sie das folgende Feld dem Feld disks[] für jedes lokale SSD-Laufwerk hinzu. Trennen Sie die einzelnen disks[]-Unterfelder (einschließlich des Bootlaufwerks) durch ein Komma.

    Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke. G4-Maschinentypen verwenden Titanium-SSD-Laufwerke.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    Ersetzen Sie Folgendes:

    • ZONE: die von Ihnen angegebene Zone.
    • INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.

    Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.

  4. Optional: Wenn Sie NVIDIA RTX Virtual Workstation (vWS) verwenden möchten, fügen Sie das folgende Feld hinzu.

    Wenn Sie eine Instanz erstellen, die NVIDIA RTX Virtual Workstation verwendet, fügt Compute Engine automatisch eine vWS-Lizenz hinzu. Informationen zu Preisen für virtuelle Workstations finden Sie auf der Seite „GPU-Preise“.

    "guestAccelerators":
  [
    {
      "acceleratorCount": VWS_ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-rtx-pro-6000-vws"
    }
  ]

    Ersetzen Sie VWS_ACCELERATOR_COUNT durch die gewünschte Anzahl virtueller GPUs.

  5. Senden Sie die Anfrage.

Flex-Start

Bevor Sie den Antrag einreichen, sollten Sie alle folgenden Schritte durchgehen, um zu entscheiden, ob Sie zusätzliche Felder einfügen möchten.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks": [
    {
      "boot": true,
      "initializeParams": {
        "diskSizeGb": "DISK_SIZE",
        "diskType": "hyperdisk-balanced",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "reservationAffinity": {
    "consumeReservationType": "NO_RESERVATION",
  },
  "scheduling": {
    "provisioningModel": "FLEX_START",
    "requestValidForDuration": {
      "seconds": REQUEST_VALID_FOR_DURATION
    },
    "maxRunDuration": {
      "seconds": MAX_RUN_DURATION
    },
    "instanceTerminationAction": "TERMINATION_ACTION",
    "onHostMaintenance": "TERMINATE",
  }
}

Gehen Sie folgendermaßen vor:

  1. Ersetzen Sie Folgendes:

    • PROJECT_ID: die Projekt-ID des Projekts, in dem Sie die VM erstellen möchten.
    • ZONE: die Zone, in der der Maschinentyp verfügbar ist, den Sie verwenden möchten. Wenn Sie eine Richtlinie für kompakte Platzierungen angeben möchten, müssen Sie eine Zone in derselben Region wie die Richtlinie für kompakte Platzierungen verwenden. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
    • MACHINE_TYPE ist der für die VM zu verwendende Maschinentyp. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinentypen.
    • INSTANCE_NAME: der Name der VM.
    • DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Art des Laufwerks unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.
    • IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
    • IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.

    • REQUEST_VALID_FOR_DURATION: Die Dauer in Sekunden, für die die Anfrage zum Erstellen der VM gültig bleibt.

      Geben Sie basierend auf den zonalen Anforderungen für Ihre Arbeitslast eine der folgenden Zeitdauern an, um die Wahrscheinlichkeit zu erhöhen, dass Ihre VM-Erstellungsanfrage erfolgreich ist:

      • Arbeitslasten mit strengen zonalen Anforderungen: Wenn für Ihre Arbeitslast die Erstellung der VM in einer bestimmten Zone erforderlich ist, geben Sie eine Dauer zwischen 90 Sekunden (90) und zwei Stunden (7200) an. Bei längeren Zeiträumen ist die Wahrscheinlichkeit höher, dass Sie Ressourcen erhalten.
      • Arbeitslasten ohne strenge zonale Anforderungen: Wenn die VM in einer beliebigen Zone innerhalb der Region ausgeführt werden kann, geben Sie eine Dauer von null Sekunden (0) an. Dadurch wird festgelegt, dass Compute Engine Ressourcen nur dann zuweist, wenn sie sofort verfügbar sind. Wenn die Anfrage zum Erstellen der VM fehlschlägt, weil Ressourcen nicht verfügbar sind, wiederholen Sie die Anfrage in einer anderen Zone.

    • MAX_RUN_DURATION: die Dauer, für die die angeforderten VMs ausgeführt werden sollen. Sie müssen den Wert als Anzahl von Sekunden formatieren. Geben Sie beispielsweise 86400 für 86.400 Sekunden (24 Stunden) an. Der Wert muss zwischen 10 Minuten und 7 Tagen liegen.

    • TERMINATION_ACTION: Gibt an, ob Compute Engine die VM am Ende ihrer Laufzeit beendet (STOP) oder löscht (DELETE).

  2. Optional: Wenn Sie eine Richtlinie für kompakte Platzierung verwenden möchten, fügen Sie dem Anfragetext das folgende Feld hinzu:

      "resourcePolicies": [
    "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
  ]

    Ersetzen Sie Folgendes:

    • PROJECT_ID: die Projekt-ID der Richtlinie für kompakte Platzierung.
    • REGION: die Region der Richtlinie für kompakte Platzierung.
    • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.

  3. Optional: Wenn Sie lokale SSD-Laufwerke verwenden möchten, fügen Sie das folgende Feld dem Feld disks[] für jedes lokale SSD-Laufwerk hinzu. Trennen Sie die einzelnen disks[]-Unterfelder (einschließlich des Bootlaufwerks) durch ein Komma.

    Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke. G4-Maschinentypen verwenden Titanium-SSD-Laufwerke.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    Ersetzen Sie Folgendes:

    • ZONE: die von Ihnen angegebene Zone.
    • INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.

    Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.

  4. Optional: Wenn Sie NVIDIA RTX Virtual Workstation (vWS) verwenden möchten, fügen Sie das folgende Feld hinzu.

    Wenn Sie eine Instanz erstellen, die NVIDIA RTX Virtual Workstation verwendet, fügt Compute Engine automatisch eine vWS-Lizenz hinzu. Informationen zu Preisen für virtuelle Workstations finden Sie auf der Seite „GPU-Preise“.

    "guestAccelerators":
  [
    {
      "acceleratorCount": VWS_ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-rtx-pro-6000-vws"
    }
  ]

    Ersetzen Sie VWS_ACCELERATOR_COUNT durch die gewünschte Anzahl virtueller GPUs.

  5. Senden Sie die Anfrage.

Spot

Bevor Sie den Antrag einreichen, sollten Sie alle folgenden Schritte durchgehen, um zu entscheiden, ob Sie zusätzliche Felder einfügen möchten.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks": [
    {
      "boot": true,
      "initializeParams": {
        "diskSizeGb": "DISK_SIZE",
        "diskType": "hyperdisk-balanced",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "scheduling":
  {
    "provisioningModel": "SPOT",
    "instanceTerminationAction": "TERMINATION_ACTION",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": false
  }
}

Gehen Sie folgendermaßen vor:

  1. Ersetzen Sie Folgendes:

    • PROJECT_ID: die Projekt-ID des Projekts, in dem Sie die VM erstellen möchten.
    • ZONE: die Zone, in der der Maschinentyp verfügbar ist, den Sie verwenden möchten. Wenn Sie eine Richtlinie für kompakte Platzierungen angeben möchten, müssen Sie eine Zone in derselben Region wie die Richtlinie für kompakte Platzierungen verwenden. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
    • MACHINE_TYPE ist der für die VM zu verwendende Maschinentyp. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinentypen.
    • INSTANCE_NAME: der Name der VM.
    • DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Art des Laufwerks unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.
    • IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
    • IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.

    • TERMINATION_ACTION: Die Aktion, die ausgeführt werden soll, wenn Compute Engine die Instanz vorzeitig beendet, entweder STOP (Standard) oder DELETE.

  2. Optional: Wenn Sie eine Richtlinie für kompakte Platzierung verwenden möchten, fügen Sie dem Anfragetext das folgende Feld hinzu:

      "resourcePolicies": [
    "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
  ]

    Ersetzen Sie Folgendes:

    • PROJECT_ID: die Projekt-ID der Richtlinie für kompakte Platzierung.
    • REGION: die Region der Richtlinie für kompakte Platzierung.
    • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.

  3. Optional: Wenn Sie lokale SSD-Laufwerke verwenden möchten, fügen Sie das folgende Feld dem Feld disks[] für jedes lokale SSD-Laufwerk hinzu. Trennen Sie die einzelnen disks[]-Unterfelder (einschließlich des Bootlaufwerks) durch ein Komma.

    Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke. G4-Maschinentypen verwenden Titanium-SSD-Laufwerke.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    Ersetzen Sie Folgendes:

    • ZONE: die von Ihnen angegebene Zone.
    • INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.

    Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.

  4. Optional: Wenn Sie NVIDIA RTX Virtual Workstation (vWS) verwenden möchten, fügen Sie das folgende Feld hinzu.

    Wenn Sie eine Instanz erstellen, die NVIDIA RTX Virtual Workstation verwendet, fügt Compute Engine automatisch eine vWS-Lizenz hinzu. Informationen zu Preisen für virtuelle Workstations finden Sie auf der Seite „GPU-Preise“.

    "guestAccelerators":
  [
    {
      "acceleratorCount": VWS_ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-rtx-pro-6000-vws"
    }
  ]

    Ersetzen Sie VWS_ACCELERATOR_COUNT durch die gewünschte Anzahl virtueller GPUs.

  5. Senden Sie die Anfrage.

GPU-Treiber installieren

Nachdem Sie eine Instanz erstellt haben, können die GPUs der Instanz nur verwendet werden, wenn die richtigen GPU-Treiber bereits installiert sind. Welchen Treiber Sie installieren müssen, hängt davon ab, ob die Instanz Teil-GPUs oder NVIDIA RTX Virtual Workstation (vWS) aktiviert hat. Verwenden Sie eine der folgenden Optionen:

Optional: NVIDIA-GPU-Modus für mehrere Instanzen aktivieren

Der MIG-Modus (Multi-Instance GPU) ist eine Funktion, die Sie für eine unterstützte NVIDIA-GPU aktivieren können. Nachdem Sie eine Instanz erstellt haben, können Sie den MIG-Modus auf einer einzelnen GPU aktivieren, die an Ihren Computer angehängt ist. Wenn der MIG-Modus aktiviert ist, wird die einzelne GPU in bis zu sieben unabhängige GPU-Instanzen partitioniert. Jede Instanz wird gleichzeitig ausgeführt und verfügt über einen eigenen Arbeitsspeicher, Cache und eigene Streaming-Multiprozessoren. Anschließend können Sie verschiedene Arbeitslasten parallel auf diesen GPU-Instanzen ausführen. Der MIG-Modus unterscheidet sich von der Verwendung von G4-Maschinentypen mit angehängten fraktionierten GPUs, bei denen mehrere Arbeitslasten über die fraktionierte (vGPUs) Partitionierung auf eine einzelne physische GPU zugreifen. Weitere Informationen zur Verwendung des MIG-Modus finden Sie im Nutzerhandbuch für Multi-Instanz-GPUs (MIG) in der NVIDIA-Dokumentation.

Nächste Schritte