KI-optimierte A2-MIG erstellen

In diesem Dokument wird beschrieben, wie Sie eine verwaltete Instanzgruppe (MIG) erstellen, die die A2-Serie verwendet, die die Maschinentypen A2 Ultra und A2 Standard umfasst. Weitere Informationen zu diesen beschleunigungsoptimierten Maschinentypen finden Sie unter A2-Serie.

Durch Erstellen einer MIG können Sie mehrere virtuelle Maschinen (VMs) als eine einzige Entität verwalten. Jede VM in einer MIG basiert auf einer Instanzvorlage. Durch die automatische Verwaltung der VMs in der Gruppe bieten MIGs Hochverfügbarkeit und Skalierbarkeit. Weitere Informationen zu verwalteten Instanzgruppen finden Sie in der Compute Engine-Dokumentation unter Verwaltete Instanzgruppen.

Weitere Informationen zu anderen Möglichkeiten, VMs oder Cluster zu erstellen, finden Sie unter Bereitstellungsoptionen – Übersicht.

Beschränkungen

Wenn Sie eine MIG mit A2-VMs erstellen, beachten Sie die Einschränkungen für den Maschinentyp und die MIG.

Einschränkungen für A2-VMs

Wenn Sie A2 Ultra- oder A2 Standard-VMs im Bulk erstellen, gelten die folgenden Einschränkungen:

A2-Ultra

  • Sie erhalten weder Rabatte für kontinuierliche Nutzung noch flexible Rabatte für zugesicherte Nutzung für Instanzen, die einen A2-Ultra-Maschinentyp verwenden.
  • Sie können einen A2-Ultra-Maschinentyp nur in bestimmten Regionen und Zonen verwenden.
  • Die A2-Ultra-Maschinentypen sind nur auf der Cascade Lake-Plattform verfügbar.
  • Wenn Ihre Instanz einen A2-Ultra-Maschinentyp verwendet, können Sie den Maschinentyp nicht ändern. Wenn Sie einen anderen A2-Ultra-Maschinentyp oder einen anderen Maschinentyp verwenden müssen, müssen Sie eine neue Instanz erstellen.
  • Sie können keinen anderen Maschinentyp in einen A2-Ultra-Maschinentyp ändern. Wenn Sie eine Instanz benötigen, die einen A2-Ultra-Maschinentyp verwendet, müssen Sie eine neue Instanz erstellen.
  • Sie können die schnelle Formatierung der angehängten lokalen SSDs nicht auf Windows-Instanzen verwenden, die A2-Ultra-Maschinentypen verwenden. Um diese lokalen SSDs zu formatieren, müssen Sie eine vollständige Formatierung mit dem diskpart-Dienstprogramm durchführen und format fs=ntfs label=tmpfs angeben.

A2-Standard

  • Sie erhalten weder Rabatte für kontinuierliche Nutzung noch flexible Rabatte für zugesicherte Nutzung für Instanzen, die einen A2-Standardmaschinentyp verwenden.
  • Sie können einen A2-Standard-Maschinentyp nur in bestimmten Regionen und Zonen verwenden.
  • Die A2-Standardmaschinentypen sind nur auf der Cascade Lake-Plattform verfügbar.
  • Wenn Ihre Instanz einen A2-Standardmaschinentyp verwendet, können Sie nur von einem A2-Standardmaschinentyp zu einem anderen A2-Standardmaschinentyp wechseln. Sie können keinen anderen Maschinentyp ändern. Weitere Informationen finden Sie unter Beschleunigeroptimierte Instanzen ändern.
  • Sie können das Windows-Betriebssystem nicht mit dem Maschinentyp a2-megagpu-16g verwenden. Wählen Sie einen anderen A2-Standard-Maschinentyp aus, wenn Sie ein Windows-Betriebssystem verwenden.
  • Sie können die schnelle Formatierung der angehängten lokalen SSDs nicht auf Windows-Instanzen verwenden, die A2-Standardmaschinentypen verwenden. Um diese lokalen SSDs zu formatieren, müssen Sie eine vollständige Formatierung mit dem diskpart-Dienstprogramm durchführen und format fs=ntfs label=tmpfs angeben.

Beschränkungen für die MIG

Hinweis

Führen Sie vor dem Erstellen einer MIG die folgenden Schritte aus, falls Sie dies noch nicht getan haben:

  1. Nutzungsoption auswählen: Die gewählte Nutzungsoption bestimmt, wie Sie GPU-Ressourcen erhalten und verwenden. Weitere Informationen finden Sie unter Nutzungsoption auswählen.
  2. Kapazität erhalten: Der Prozess zum Erhalten von Kapazität unterscheidet sich je nach Verbrauchsoption. Informationen zum Erhalten von Kapazität für die von Ihnen ausgewählte Nutzungsoption finden Sie unter Kapazitätsübersicht.
  3. Berechtigungen des Google APIs-Dienst-Agents prüfen: Wenn Sie VMs in einer MIG erstellen, verwendet Compute Engine den Google APIs-Dienst-Agent (PROJECT_NUMBER@cloudservices.gserviceaccount.com) in Ihrem Projekt. Wenn Ihre Instanzvorlage Ressourcen aus einem anderen Projekt verwendet, prüfen Sie, ob dieser Dienst-Agent die erforderlichen Berechtigungen hat:

Erforderliche Rollen

Bitten Sie Ihren Administrator, Ihnen die IAM-Rolle Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) für das Projekt zu gewähren, um die Berechtigungen zu erhalten, die Sie zum Erstellen einer MIG benötigen. Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Diese vordefinierte Rolle enthält die Berechtigungen, die zum Erstellen einer MIG erforderlich sind. Maximieren Sie den Abschnitt Erforderliche Berechtigungen, um die notwendigen Berechtigungen anzuzeigen:

Erforderliche Berechtigungen

Die folgenden Berechtigungen sind zum Erstellen einer MIG erforderlich:

  • Zum Erstellen einer MIG: compute.instanceGroupManagers.create für das Projekt

Sie können diese Berechtigungen auch mit benutzerdefinierten Rollen oder anderen vordefinierten Rollen erhalten.

Übersicht

Das Erstellen einer MIG mit dem Maschinentyp A2 umfasst die folgenden Schritte:

  1. Optional: Richtlinie für kompakte Platzierung erstellen
  2. Instanzvorlage erstellen
  3. Eine MIG erstellen
  4. GPU-Treiber installieren
  5. Optional: NVIDIA-Multi-Instanz-GPU-Modus aktivieren

Für jede MIG müssen Sie auswählen, ob Sie eine Richtlinie für kompakte Platzierung oder Anfragen zur Größenanpassung verwenden möchten oder keines von beidem. Weitere Informationen dazu, wann die einzelnen Optionen verwendet werden sollten, finden Sie in diesem Dokument unter Einschränkungen für die MIG.

Optional: Richtlinie für kompakte Platzierung erstellen

Sie können die VM-Platzierung angeben, indem Sie eine Richtlinie für kompakte Platzierung erstellen. Wenn Sie eine Richtlinie für kompakte Platzierung auf Ihre VMs anwenden, versucht die Compute Engine, VMs so nah wie möglich beieinander zu erstellen. Wenn Ihre Anwendung latenzempfindlich ist und maximale Kompaktheit erfordert, geben Sie beim Erstellen einer Richtlinie für kompakte Platzierung das Feld maxDistance (Vorabversion) an. Ein niedrigerer maxDistance-Wert sorgt für eine engere VM-Platzierung, erhöht jedoch auch die Wahrscheinlichkeit, dass einige VMs nicht erstellt werden.

Wählen Sie eine der folgenden Optionen aus, um eine Richtlinie für kompakte Platzierung zu erstellen:

gcloud

Verwenden Sie zum Erstellen einer Richtlinie für kompakte Platzierung den Befehl gcloud compute resource-policies create group-placement:

gcloud compute resource-policies create group-placement POLICY_NAME \
    --collocation=collocated \
    --max-distance=MAX_DISTANCE \
    --region=REGION

Ersetzen Sie Folgendes:

  • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.
  • MAX_DISTANCE: die maximale Entfernung zwischen den VMs. Diese kann entweder angegeben (Vorschau, empfohlen) oder nicht angegeben werden (Flag --max-distance entfernen). Je nachdem, was Ihr Maschinentyp unterstützt, können Sie einen der folgenden Werte angeben:
    • So platzieren Sie VMs im selben Unterblock: 1
    • So platzieren Sie VMs im selben Block: 2
    • So platzieren Sie VMs in benachbarten Blöcken: 3
    Achten Sie darauf, dass die Konfiguration für die maximale Entfernung die Maschinenserie und die Anzahl der VMs unterstützt, die Sie erstellen möchten. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Richtlinien für kompakte Platzierung.
  • REGION: Die Region, in der Sie die Richtlinie für kompakte Platzierung erstellen möchten. Geben Sie die Region an, die die Zone enthält, in der Sie Instanzen erstellen möchten, und prüfen Sie, ob der gewünschte Maschinentyp in dieser Region verfügbar ist. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.

REST

Senden Sie zum Erstellen einer Richtlinie für kompakte Platzierung eine POST-Anfrage an die Methode resourcePolicies.insert. Geben Sie im Anfragetext das Feld collocation an, das auf COLLOCATED gesetzt ist, und das Feld maxDistance.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "POLICY_NAME",
    "groupPlacementPolicy": {
      "collocation": "COLLOCATED",
      "maxDistance": MAX_DISTANCE
    }
  }

Ersetzen Sie Folgendes:

  • PROJECT_ID: Ihre Projekt-ID.
  • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.
  • MAX_DISTANCE: die maximale Entfernung zwischen den VMs. Diese kann entweder angegeben (Vorschau, empfohlen) oder nicht angegeben werden (entfernen Sie das Feld maxDistance). Je nachdem, was Ihr Maschinentyp unterstützt, können Sie einen der folgenden Werte angeben:
    • So platzieren Sie VMs im selben Unterblock: 1
    • So platzieren Sie VMs im selben Block: 2
    • So platzieren Sie VMs in benachbarten Blöcken: 3
    Achten Sie darauf, dass die Konfiguration für die maximale Entfernung die Maschinenserie und die Anzahl der VMs unterstützt, die Sie erstellen möchten. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Richtlinien für kompakte Platzierung.
  • REGION: Die Region, in der Sie die Richtlinie für kompakte Platzierung erstellen möchten. Geben Sie die Region an, die die Zone enthält, in der Sie Instanzen erstellen möchten, und prüfen Sie, ob der gewünschte Maschinentyp in dieser Region verfügbar ist. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.

Instanzvorlage erstellen

Geben Sie die VM-Attribute für eine MIG an, indem Sie eine Instanzvorlage erstellen.

Wählen Sie eine der folgenden Optionen aus, um eine Instanzvorlage zu erstellen:

Mit den folgenden Befehlen wird auch der Zugriffsbereich für Ihre Instanzen festgelegt. Um die Berechtigungsverwaltung zu vereinfachen, empfiehlt Google, den Zugriffsbereich für eine Instanz auf cloud-platform-Zugriff festzulegen und dann mithilfe von IAM-Rollen zu definieren, auf welche Dienste die Instanz zugreifen kann. Weitere Informationen finden Sie unter Best Practices für Bereiche.

gcloud

Verwenden Sie zum Erstellen einer regionalen Instanzvorlage den Befehl gcloud compute instance-templates create.

Die Parameter, die Sie angeben müssen, hängen von der Verbrauchsoption ab, die Sie für diese Bereitstellung verwenden. Wählen Sie den Tab aus, der Ihrer Nutzungsoption entspricht.

Reservierung

A2-Instanzen unterstützen die folgenden Arten von Reservierungen:

  • On-demand-Reservierungen
  • Standardmäßige vorausschauende Reservierungen

Wenn Sie diese Arten von Reservierungen nutzen möchten, muss eine Instanz das Standardbereitstellungsmodell verwenden. Verwenden Sie beispielsweise die folgenden Erstellungsparameter.

Bevor Sie den Befehl ausführen, sollten Sie alle folgenden Schritte durchgehen, um festzustellen, ob zusätzliche Flags erforderlich sind.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

Gehen Sie folgendermaßen vor:

  1. Ersetzen Sie Folgendes:

    • INSTANCE_TEMPLATE_NAME ist der Name der Instanzvorlage.
    • MACHINE_TYPE: der für die A2-Instanz zu verwendende Maschinentyp. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinentypen.
    • IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
    • IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
    • REGION: die Region, in der Sie die Instanzvorlage erstellen möchten. Geben Sie eine Region an, in der der gewünschte Maschinentyp verfügbar ist. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
    • DISK_TYPE: der Typ des Bootlaufwerks. Weitere Informationen zu den unterstützten Laufwerkstypen für Ihren Maschinentyp finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinen in der beschleunigungsoptimierten Maschinenfamilie.
    • DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Laufwerkstyp unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.

    • RESERVATION_AFFINITY: Welche Reservierungen die Instanz nach Möglichkeit nutzen darf. Wählen Sie eine der folgenden Optionen aus:

      • any (Reservierungskapazität ist optional): Dies ist die Standardoption. Die Instanz versucht, Kapazität aus einer automatisch genutzten Reservierung zu verwenden. Dies geschieht nur, wenn entsprechende Reservierungskapazität verfügbar ist. Andernfalls verwendet die Instanz On-Demand-Kapazität.

      • specific (Reservierungskapazität ist erforderlich): Die Instanz muss Kapazität aus einer spezifisch ausgewählten Reservierung verwenden. Die Instanz darf keine On-Demand-Kapazität verwenden. Wenn keine Reservierungskapazität verfügbar ist, schlägt die Instanzerstellung fehl.

    • RESERVATION: die zu verwendende Reservierung. Geben Sie je nach dem für RESERVATION_AFFINITY angegebenen Wert einen der folgenden Werte an:

      • Wenn Sie any angegeben haben, ersetzen Sie RESERVATION durch einen leeren String (""). Alternativ können Sie das Flag --reservation vollständig entfernen.

      • Wenn Sie specific angegeben haben, ersetzen Sie RESERVATION durch Folgendes:

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        Ersetzen Sie Folgendes:

        • RESERVATION_OWNER_PROJECT_ID: die Projekt-ID des Projekts, in dem die Reservierung erstellt wurde.
        • RESERVATION_NAME: der Name der Reservierung.

  2. Standardmäßig wird die Instanz automatisch neu gestartet, wenn sie abstürzt oder von Compute Engine für einen programmierten Stopp, z. B. ein Wartungsereignis, beendet wird. Wenn Sie den automatischen Neustart deaktivieren möchten, fügen Sie das folgende Flag hinzu:

    --no-restart-on-failure

  3. Optional: Wenn Sie eine Richtlinie für kompakte Platzierung verwenden möchten, fügen Sie dem Befehl das folgende Flag hinzu:

    --resource-policies=POLICY_NAME

    Ersetzen Sie Folgendes:

    • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.

  4. Optional: Wenn Sie einen A2-Standard-Maschinentyp angegeben haben und lokale SSD-Laufwerke anhängen möchten, fügen Sie für jedes lokale SSD-Laufwerk das folgende --local-ssd-Flag hinzu.

    Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke.

    --local-ssd interface=INTERFACE_TYPE

    Ersetzen Sie Folgendes:

    • INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.

    Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.

  5. Führen Sie den Befehl aus.

On demand

Bevor Sie den Befehl ausführen, sollten Sie alle folgenden Schritte durchgehen, um festzustellen, ob zusätzliche Flags erforderlich sind.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

Gehen Sie folgendermaßen vor:

  1. Ersetzen Sie Folgendes:

    • INSTANCE_TEMPLATE_NAME ist der Name der Instanzvorlage.
    • MACHINE_TYPE: der für die A2-Instanz zu verwendende Maschinentyp. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinentypen.
    • IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
    • IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
    • REGION: die Region, in der Sie die Instanzvorlage erstellen möchten. Geben Sie eine Region an, in der der gewünschte Maschinentyp verfügbar ist. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
    • DISK_TYPE: der Typ des Bootlaufwerks. Weitere Informationen zu den unterstützten Laufwerkstypen für Ihren Maschinentyp finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinen in der beschleunigungsoptimierten Maschinenfamilie.
    • DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Laufwerkstyp unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.

    • RESERVATION_AFFINITY: Welche Reservierungen die Instanz nach Möglichkeit nutzen darf. Wählen Sie eine der folgenden Optionen aus:

      • any (Reservierungskapazität ist optional): Dies ist die Standardoption. Die Instanz versucht, Kapazität aus einer automatisch genutzten Reservierung zu verwenden. Dies geschieht nur, wenn entsprechende Reservierungskapazität verfügbar ist. Andernfalls verwendet die Instanz On-Demand-Kapazität.

      • none (On-Demand-Kapazität ist erforderlich): Verhindern, dass die Instanz Reservierungskapazität verwendet.

  2. Standardmäßig wird die Instanz automatisch neu gestartet, wenn sie abstürzt oder von Compute Engine für einen programmierten Stopp, z. B. ein Wartungsereignis, beendet wird. Wenn Sie den automatischen Neustart deaktivieren möchten, fügen Sie das folgende Flag hinzu:

    --no-restart-on-failure

  3. Optional: Wenn Sie eine Richtlinie für kompakte Platzierung verwenden möchten, fügen Sie dem Befehl das folgende Flag hinzu:

    --resource-policies=POLICY_NAME

    Ersetzen Sie Folgendes:

    • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.

  4. Optional: Wenn Sie einen A2-Standard-Maschinentyp angegeben haben und lokale SSD-Laufwerke anhängen möchten, fügen Sie für jedes lokale SSD-Laufwerk das folgende --local-ssd-Flag hinzu.

    Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke.

    --local-ssd interface=INTERFACE_TYPE

    Ersetzen Sie Folgendes:

    • INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.

    Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.

  5. Führen Sie den Befehl aus.

Flex-Start

Bevor Sie den Befehl ausführen, sollten Sie alle folgenden Schritte durchgehen, um festzustellen, ob zusätzliche Flags erforderlich sind.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --instance-termination-action=DELETE \
    --max-run-duration=RUN_DURATION \
    --maintenance-policy=TERMINATE \
    --provisioning-model=FLEX_START

Gehen Sie folgendermaßen vor:

  1. Ersetzen Sie Folgendes:

    • INSTANCE_TEMPLATE_NAME ist der Name der Instanzvorlage.
    • MACHINE_TYPE: der für die A2-Instanz zu verwendende Maschinentyp. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinentypen.
    • IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
    • IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
    • REGION: die Region, in der Sie die Instanzvorlage erstellen möchten. Geben Sie eine Region an, in der der gewünschte Maschinentyp verfügbar ist. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
    • DISK_TYPE: der Typ des Bootlaufwerks. Weitere Informationen zu den unterstützten Laufwerkstypen für Ihren Maschinentyp finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinen in der beschleunigungsoptimierten Maschinenfamilie.
    • DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Laufwerkstyp unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.
    • RUN_DURATION: die Dauer, für die die angeforderten VMs ausgeführt werden sollen. Sie müssen den Wert als Anzahl von Tagen, Stunden, Minuten oder Sekunden gefolgt von d, h, m bzw. s formatieren. Geben Sie beispielsweise 30m für 30 Minuten oder 1d2h3m4s für einen Tag, zwei Stunden, drei Minuten und vier Sekunden an. Der Wert muss zwischen 10 Minuten und 7 Tagen liegen.

  2. Optional: Wenn Sie einen A2-Standard-Maschinentyp angegeben haben und lokale SSD-Laufwerke anhängen möchten, fügen Sie für jedes lokale SSD-Laufwerk das folgende --local-ssd-Flag hinzu.

    Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke.

    --local-ssd interface=INTERFACE_TYPE

    Ersetzen Sie Folgendes:

    • INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.

    Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.

  3. Führen Sie den Befehl aus.

Spot

Bevor Sie den Befehl ausführen, sollten Sie alle folgenden Schritte durchgehen, um festzustellen, ob zusätzliche Flags erforderlich sind.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

Gehen Sie folgendermaßen vor:

  1. Ersetzen Sie Folgendes:

    • INSTANCE_TEMPLATE_NAME ist der Name der Instanzvorlage.
    • MACHINE_TYPE: der für die A2-Instanz zu verwendende Maschinentyp. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinentypen.
    • IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
    • IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
    • REGION: die Region, in der Sie die Instanzvorlage erstellen möchten. Geben Sie eine Region an, in der der gewünschte Maschinentyp verfügbar ist. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
    • DISK_TYPE: der Typ des Bootlaufwerks. Weitere Informationen zu den unterstützten Laufwerkstypen für Ihren Maschinentyp finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinen in der beschleunigungsoptimierten Maschinenfamilie.
    • DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Laufwerkstyp unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.

    • TERMINATION_ACTION: die Aktion, die ausgeführt werden soll, wenn Compute Engine die Instanz vorzeitig beendet, entweder STOP (Standard) oder DELETE.

  2. Optional: Wenn Sie eine Richtlinie für kompakte Platzierung verwenden möchten, fügen Sie dem Befehl das folgende Flag hinzu:

    --resource-policies=POLICY_NAME

    Ersetzen Sie Folgendes:

    • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.

  3. Optional: Wenn Sie einen A2-Standard-Maschinentyp angegeben haben und lokale SSD-Laufwerke anhängen möchten, fügen Sie für jedes lokale SSD-Laufwerk das folgende --local-ssd-Flag hinzu.

    Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke.

    --local-ssd interface=INTERFACE_TYPE

    Ersetzen Sie Folgendes:

    • INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.

    Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.

  4. Führen Sie den Befehl aus.

REST

Senden Sie zum Erstellen einer regionalen Instanzvorlage eine POST-Anfrage an die regionInstanceTemplates.insert-Methode.

Die Parameter, die Sie angeben müssen, hängen von der Verbrauchsoption ab, die Sie für diese Bereitstellung verwenden. Wählen Sie den Tab aus, der Ihrer Nutzungsoption entspricht.

Reservierung

A2-Instanzen unterstützen die folgenden Arten von Reservierungen:

  • On-demand-Reservierungen
  • Standardmäßige vorausschauende Reservierungen

Wenn Sie diese Arten von Reservierungen nutzen möchten, muss eine Instanz das Standardbereitstellungsmodell verwenden. Verwenden Sie beispielsweise die folgenden Erstellungsparameter.

Bevor Sie die Anfrage senden, gehen Sie alle folgenden Schritte durch, um festzustellen, ob Sie zusätzliche Felder angeben müssen.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

Gehen Sie folgendermaßen vor:

  1. Ersetzen Sie Folgendes:

    • INSTANCE_TEMPLATE_NAME ist der Name der Instanzvorlage.
    • MACHINE_TYPE: der für die A2-Instanz zu verwendende Maschinentyp. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinentypen.
    • IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
    • IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
    • REGION: die Region, in der Sie die Instanzvorlage erstellen möchten. Geben Sie eine Region an, in der der gewünschte Maschinentyp verfügbar ist. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
    • DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Laufwerkstyp unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.
    • DISK_TYPE: der Typ des Bootlaufwerks. Weitere Informationen zu den unterstützten Laufwerkstypen für Ihren Maschinentyp finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinen in der beschleunigungsoptimierten Maschinenfamilie.

    • AUTOMATIC_RESTART: Gibt an, ob Ihre Instanz automatisch neu gestartet wird, wenn sie abstürzt oder von Compute Engine für einen programmierten Stopp beendet wird, z. B. für ein Wartungsereignis. Geben Sie entweder true an, um den automatischen Neustart zu aktivieren (Standard), oder false, um den automatischen Neustart zu deaktivieren.

    • RESERVATION_AFFINITY: Welche Reservierungen die Instanz nach Möglichkeit nutzen darf. Wählen Sie eine der folgenden Optionen aus:

      • ANY_RESERVATION (Reservierungskapazität ist optional): Dies ist die Standardoption. Die Instanz versucht, Kapazität aus einer automatisch genutzten Reservierung zu verwenden. Dies geschieht nur, wenn eine entsprechende Reservierungskapazität verfügbar ist. Andernfalls verwendet die Instanz On-Demand-Kapazität.

      • SPECIFIC_RESERVATION (Reservierungskapazität ist erforderlich): Die Instanz muss Kapazität aus einer spezifisch ausgewählten Reservierung verwenden. Die Instanz darf keine On-Demand-Kapazität verwenden. Wenn keine Reservierungskapazität verfügbar ist, schlägt die Instanzerstellung fehl.

    • RESERVATION: die zu verwendende Reservierung. Geben Sie je nach dem für RESERVATION_AFFINITY angegebenen Wert einen der folgenden Werte an:

      • Wenn Sie ANY_RESERVATION angegeben haben, löschen Sie RESERVATION, sodass der Wert ein leerer String ("") ist. Alternativ können Sie die Felder key und values vollständig entfernen.

      • Wenn Sie SPECIFIC_RESERVATION angegeben haben, ersetzen Sie RESERVATION durch Folgendes:

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        Ersetzen Sie Folgendes:

        • RESERVATION_OWNER_PROJECT_ID: die Projekt-ID des Projekts, in dem die Reservierung erstellt wurde.
        • RESERVATION_NAME: der Name der Reservierung.

  2. Optional: Wenn Sie eine Richtlinie für kompakte Platzierung verwenden möchten, fügen Sie dem Anfragetext das folgende Unterfeld instanceProperties hinzu:

        "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]

    Ersetzen Sie Folgendes:

    • PROJECT_ID: die Projekt-ID der Richtlinie für kompakte Platzierung.
    • REGION: die Region der Richtlinie für kompakte Platzierungen.
    • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.

  3. Optional: Wenn Sie einen A2-Standard-Maschinentyp angegeben haben und lokale SSD-Laufwerke anhängen möchten, fügen Sie dem Feld disks[] für jedes lokale SSD-Laufwerk das folgende Feld hinzu. Trennen Sie die einzelnen disks[]-Unterfelder (einschließlich des Bootlaufwerks) durch ein Komma.

    Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    Ersetzen Sie Folgendes:

    • ZONE: die von Ihnen angegebene Zone.
    • INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.

    Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.

  4. Senden Sie die Anfrage.

On demand

Bevor Sie die Anfrage senden, gehen Sie alle folgenden Schritte durch, um festzustellen, ob Sie zusätzliche Felder angeben müssen.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

Gehen Sie folgendermaßen vor:

  1. Ersetzen Sie Folgendes:

    • INSTANCE_TEMPLATE_NAME ist der Name der Instanzvorlage.
    • MACHINE_TYPE: der für die A2-Instanz zu verwendende Maschinentyp. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinentypen.
    • IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
    • IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
    • REGION: die Region, in der Sie die Instanzvorlage erstellen möchten. Geben Sie eine Region an, in der der gewünschte Maschinentyp verfügbar ist. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
    • DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Laufwerkstyp unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.
    • DISK_TYPE: der Typ des Bootlaufwerks. Weitere Informationen zu den unterstützten Laufwerkstypen für Ihren Maschinentyp finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinen in der beschleunigungsoptimierten Maschinenfamilie.

    • AUTOMATIC_RESTART: Gibt an, ob Ihre Instanz automatisch neu gestartet wird, wenn sie abstürzt oder von Compute Engine für einen programmierten Stopp beendet wird, z. B. für ein Wartungsereignis. Geben Sie entweder true an, um den automatischen Neustart zu aktivieren (Standard), oder false, um den automatischen Neustart zu deaktivieren.

    • RESERVATION_AFFINITY: Welche Reservierungen die Instanz nach Möglichkeit nutzen darf. Wählen Sie eine der folgenden Optionen aus:

      • ANY_RESERVATION (Reservierungskapazität ist optional): Dies ist die Standardoption. Die Instanz versucht, Kapazität aus einer automatisch genutzten Reservierung zu verwenden. Dies geschieht nur, wenn eine entsprechende Reservierungskapazität verfügbar ist. Andernfalls verwendet die Instanz On-Demand-Kapazität.

      • NO_RESERVATION (On-Demand-Kapazität ist erforderlich): Verhindern, dass die Instanz Reservierungskapazität verwendet.

  2. Optional: Wenn Sie eine Richtlinie für kompakte Platzierung verwenden möchten, fügen Sie dem Anfragetext das folgende Unterfeld instanceProperties hinzu:

        "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]

    Ersetzen Sie Folgendes:

    • PROJECT_ID: die Projekt-ID der Richtlinie für kompakte Platzierung.
    • REGION: die Region der Richtlinie für kompakte Platzierungen.
    • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.

  3. Optional: Wenn Sie einen A2-Standard-Maschinentyp angegeben haben und lokale SSD-Laufwerke anhängen möchten, fügen Sie dem Feld disks[] für jedes lokale SSD-Laufwerk das folgende Feld hinzu. Trennen Sie die einzelnen disks[]-Unterfelder (einschließlich des Bootlaufwerks) durch ein Komma.

    Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    Ersetzen Sie Folgendes:

    • ZONE: die von Ihnen angegebene Zone.
    • INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.

    Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.

  4. Senden Sie die Anfrage.

Flex-Start

Bevor Sie die Anfrage senden, gehen Sie alle folgenden Schritte durch, um festzustellen, ob Sie zusätzliche Felder angeben müssen.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
        "instanceTerminationAction": "DELETE",
        "maxRunDuration": {
          "seconds": RUN_DURATION
        },
        "onHostMaintenance": "TERMINATE",
        "provisioningModel": "FLEX_START"
      }

  }
}

Gehen Sie folgendermaßen vor:

  1. Ersetzen Sie Folgendes:

    • INSTANCE_TEMPLATE_NAME ist der Name der Instanzvorlage.
    • MACHINE_TYPE: der für die A2-Instanz zu verwendende Maschinentyp. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinentypen.
    • IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
    • IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
    • REGION: die Region, in der Sie die Instanzvorlage erstellen möchten. Geben Sie eine Region an, in der der gewünschte Maschinentyp verfügbar ist. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
    • DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Laufwerkstyp unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.
    • DISK_TYPE: der Typ des Bootlaufwerks. Weitere Informationen zu den unterstützten Laufwerkstypen für Ihren Maschinentyp finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinen in der beschleunigungsoptimierten Maschinenfamilie.
    • RUN_DURATION: die Dauer in Sekunden, für die die angeforderten VMs ausgeführt werden sollen. Der Wert muss zwischen 600, d. h. 600 Sekunden (10 Minuten) und 604800, also 604.800 Sekunden (7 Tage) liegen.

  2. Optional: Wenn Sie einen A2-Standard-Maschinentyp angegeben haben und lokale SSD-Laufwerke anhängen möchten, fügen Sie dem Feld disks[] für jedes lokale SSD-Laufwerk das folgende Feld hinzu. Trennen Sie die einzelnen disks[]-Unterfelder (einschließlich des Bootlaufwerks) durch ein Komma.

    Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    Ersetzen Sie Folgendes:

    • ZONE: die von Ihnen angegebene Zone.
    • INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.

    Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.

  3. Senden Sie die Anfrage.

Spot

Bevor Sie die Anfrage senden, gehen Sie alle folgenden Schritte durch, um festzustellen, ob Sie zusätzliche Felder angeben müssen.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

Gehen Sie folgendermaßen vor:

  1. Ersetzen Sie Folgendes:

    • INSTANCE_TEMPLATE_NAME ist der Name der Instanzvorlage.
    • MACHINE_TYPE: der für die A2-Instanz zu verwendende Maschinentyp. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinentypen.
    • IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
    • IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
    • REGION: die Region, in der Sie die Instanzvorlage erstellen möchten. Geben Sie eine Region an, in der der gewünschte Maschinentyp verfügbar ist. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
    • DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Laufwerkstyp unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.
    • DISK_TYPE: der Typ des Bootlaufwerks. Weitere Informationen zu den unterstützten Laufwerkstypen für Ihren Maschinentyp finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinen in der beschleunigungsoptimierten Maschinenfamilie.

    • TERMINATION_ACTION: die Aktion, die ausgeführt werden soll, wenn Compute Engine die Instanz vorzeitig beendet, entweder STOP (Standard) oder DELETE.

  2. Optional: Wenn Sie eine Richtlinie für kompakte Platzierung verwenden möchten, fügen Sie dem Anfragetext das folgende Unterfeld instanceProperties hinzu:

        "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]

    Ersetzen Sie Folgendes:

    • PROJECT_ID: die Projekt-ID der Richtlinie für kompakte Platzierung.
    • REGION: die Region der Richtlinie für kompakte Platzierungen.
    • POLICY_NAME: der Name der Richtlinie für kompakte Platzierung.

  3. Optional: Wenn Sie einen A2-Standard-Maschinentyp angegeben haben und lokale SSD-Laufwerke anhängen möchten, fügen Sie dem Feld disks[] für jedes lokale SSD-Laufwerk das folgende Feld hinzu. Trennen Sie die einzelnen disks[]-Unterfelder (einschließlich des Bootlaufwerks) durch ein Komma.

    Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    Ersetzen Sie Folgendes:

    • ZONE: die von Ihnen angegebene Zone.
    • INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.

    Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.

  4. Senden Sie die Anfrage.

Nachdem Sie die Instanzvorlage erstellt haben, können Sie sie aufrufen, um ihre ID und ihre Instanzattribute zu sehen.

Eine MIG erstellen.

Nachdem Sie alle vorherigen Schritte ausgeführt haben, erstellen Sie eine MIG für Ihr Szenario:

Szenario Methode zum Erstellen einer MIG und von VMs darin Beispiel
Sie haben mehrere oder parallele Jobs, die mit einer beliebigen Anzahl von VMs gestartet werden können. Erstellen Sie eine MIG und geben Sie mit der Zielgröße die Anzahl der VMs an, die Sie in der Gruppe haben möchten.

Weitere Informationen finden Sie unter MIG mit einer Zielgröße erstellen.

 ML-Inferenzjobs
Sie haben einen Job, der auf eine genaue Anzahl von VMs verteilt werden muss. Erstellen Sie eine MIG ohne VMs und erstellen Sie dann eine Anfrage zur Größenanpassung in der MIG. Mit der Anfrage zur Größenanpassung können Sie alle VMs auf einmal erhalten.

Weitere Informationen finden Sie unter MIG und Anfrage zur Größenanpassung erstellen.

 Verteilte ML-Trainings- und Feinabstimmungsjobs

MIG mit einer Zielgröße erstellen

Wenn Sie Ihren Job starten können, ohne alle VMs auf einmal zu erstellen, erstellen Sie eine MIG mit einer Zielgröße. Die Zielgröße bestimmt die Anzahl der VMs in der verwalteten Instanzgruppe. Die MIG beginnt mit dem Erstellen von VMs basierend auf der aktuellen Ressourcenverfügbarkeit. Wenn Ressourcen vorübergehend nicht verfügbar sind, versucht die verwaltete Instanzgruppe kontinuierlich, VMs zu erstellen, um die Zielgröße zu erreichen.

Wählen Sie eine der folgenden Optionen aus, um eine MIG mit einer Zielgröße zu erstellen:

gcloud

Verwenden Sie den Befehl instance-groups managed create, um eine MIG mit einer bestimmten Zielgröße zu erstellen.

So erstellen Sie eine zonale oder regionale MIG:

  • Verwenden Sie den folgenden Befehl, um eine zonale MIG zu erstellen: 
    gcloud compute instance-groups managed create MIG_NAME \
  --template=INSTANCE_TEMPLATE_URL \
  --size=TARGET_SIZE \
  --zone=ZONE
  • Verwenden Sie zum Erstellen einer regionalen MIG den folgenden Befehl: 
    gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=TARGET_SIZE \
    --region=REGION
Ersetzen Sie Folgendes:
  • MIG_NAME: Name der MIG.
  • INSTANCE_TEMPLATE_URL: Die URL der Instanzvorlage, die Sie zum Erstellen von Instanzen in der MIG verwenden möchten. Die URL kann entweder die ID oder den Namen der Instanzvorlage enthalten. Geben Sie einen der folgenden Werte an:
    • Für eine regionale Instanzvorlage: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Für eine globale Instanzvorlage: INSTANCE_TEMPLATE_ID
  • TARGET_SIZE: die Anzahl der Instanzen, die Sie in der MIG haben möchten.
  • ZONE: die Zone, in der Sie die MIG erstellen möchten.
  • REGION: die Region, in der Sie die MIG erstellen möchten. Bei einer regionalen MIG können Sie anstelle einer Region die Zonen in dieser Region mit dem Flag --zones angeben.

REST

Wenn Sie eine MIG mit einer bestimmten Zielgröße erstellen möchten, senden Sie eine POST-Anfrage.

So erstellen Sie eine zonale oder regionale MIG:

  • Wenn Sie eine zonale MIG erstellen möchten, senden Sie eine POST-Anfrage an die Methode instanceGroupManagers.insert. 
    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": TARGET_SIZE
}
  • Wenn Sie eine regionale MIG erstellen möchten, senden Sie eine POST-Anfrage an die Methode regionInstanceGroupManagers.insert. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
  {
    "name": "MIG_NAME",
    "instanceTemplate": "INSTANCE_TEMPLATE_URL",
    "targetSize": TARGET_SIZE
  }
Ersetzen Sie Folgendes:
  • PROJECT_ID: Projekt-ID.
  • ZONE: die Zone, in der Sie die MIG erstellen möchten.
  • REGION: die Region, in der Sie die MIG erstellen möchten.
  • INSTANCE_TEMPLATE_URL: Die URL der Instanzvorlage, die Sie zum Erstellen von Instanzen in der MIG verwenden möchten. Die URL kann entweder die ID oder den Namen der Instanzvorlage enthalten. Geben Sie einen der folgenden Werte an:
    • Für eine regionale Instanzvorlage: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Für eine globale Instanzvorlage: INSTANCE_TEMPLATE_ID
  • MIG_NAME: Name der MIG.
  • TARGET_SIZE: die Anzahl der Instanzen, die Sie in der MIG haben möchten.

MIG und Anfrage zur Größenanpassung erstellen

Wenn Sie mehrere VMs gleichzeitig benötigen, um einen Job zu starten, erstellen Sie eine MIG und eine Anfrage zur Größenanpassung in der MIG, wie in diesem Abschnitt beschrieben.

Wählen Sie eine der folgenden Optionen aus, um eine Anfrage zur Größenanpassung in einer MIG zu erstellen:

gcloud

Die Parameter, die Sie angeben müssen, hängen von der Verbrauchsoption ab, die Sie für diese Bereitstellung verwenden. Wählen Sie den Tab aus, der dem Bereitstellungsmodell Ihrer Verbrauchsoption entspricht.

Reservierung

So erstellen Sie eine zonale oder regionale MIG und eine Anfrage zur Größenanpassung:

On demand

So erstellen Sie eine zonale oder regionale MIG und eine Anfrage zur Größenanpassung:

Flex-Start

So erstellen Sie eine zonale oder regionale MIG und eine Anfrage zur Größenanpassung:

Spot

So erstellen Sie eine zonale oder regionale MIG und eine Anfrage zur Größenanpassung:
Ersetzen Sie Folgendes:
  • MIG_NAME: Name der MIG.
  • INSTANCE_TEMPLATE_URL: Die URL der Instanzvorlage, die Sie zum Erstellen von Instanzen in der MIG verwenden möchten. Die URL kann entweder die ID oder den Namen der Instanzvorlage enthalten. Geben Sie einen der folgenden Werte an:
    • Für eine regionale Instanzvorlage: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Für eine globale Instanzvorlage: INSTANCE_TEMPLATE_ID
  • ZONE: die Zone, in der Sie die MIG erstellen möchten. Auch für eine regionale MIG müssen Sie eine Zone angeben. Diese Zone muss die Zone sein, die das Profil für Ihr VPC-Netzwerk enthält, und muss eine Zone sein, in der der Maschinentyp verfügbar ist. Weitere Informationen finden Sie unter Einschränkungen.
  • RESIZE_REQUEST_NAME ist der Name der Anfrage zur Größenänderung, der innerhalb der angegebenen MIG eindeutig sein muss. Andernfalls schlägt das Erstellen der Anfrage zur Größenanpassung fehl.
  • COUNT: die Anzahl der Instanzen, die gleichzeitig zur MIG hinzugefügt werden sollen.
  • REGION: die Region, in der Sie die MIG erstellen möchten.

Anfrage zur Größenanpassung durch Angabe einer Liste von VM-Namen erstellen

Wenn für Ihre Arbeitslast bestimmte VM-Namen erforderlich sind, geben Sie eine Liste mit Namen an, um die VMs zu erstellen. Die Anzahl der von Ihnen angegebenen Namen bestimmt die Anzahl der VMs, die die MIG auf einmal erstellt.

Verwenden Sie zum Erstellen einer Anfrage zur Größenanpassung mit bestimmten VM-Namen in einer MIG den Betabefehl gcloud compute instance-groups managed resize-requests create mit dem Flag --instances:

  • Führen Sie in einer zonalen MIG den folgenden Befehl aus:

    gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --instances=INSTANCE_NAMES \
    --zone=ZONE

  • Führen Sie in einer regionalen MIG den folgenden Befehl aus:

    gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --instances=INSTANCE_NAMES \
    --region=REGION
Ersetzen Sie INSTANCE_NAMES durch eine durch Kommas getrennte Liste von Namen für die VMs. Beispiel: instance-1,instance-2,instance-3.

REST

Die Parameter, die Sie angeben müssen, hängen von der Verbrauchsoption ab, die Sie für diese Bereitstellung verwenden. Wählen Sie den Tab aus, der dem Bereitstellungsmodell Ihrer Verbrauchsoption entspricht.

Reservierung

So erstellen Sie eine zonale oder regionale MIG und eine Anfrage zur Größenanpassung:

  • So erstellen Sie eine zonale MIG und eine Anfrage zur Größenanpassung darin:
    1. Erstellen Sie eine zonale verwaltete Instanzgruppe, indem Sie eine POST-Anfrage an die Methode instanceGroupManagers.insert senden. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0
}
    2. Erstellen Sie eine Anfrage zur Größenanpassung in der zonalen MIG, indem Sie eine POST-Anfrage an die Methode instanceGroupManagerResizeRequests.insert senden. In dieser Anfrage wird die Anzahl der VMs angegeben, die Sie erstellen möchten. Wenn Ihre Arbeitslast bestimmte VM-Namen erfordert, erstellen Sie eine Anfrage zur Größenanpassung, indem Sie eine Liste von VM-Namen angeben. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
  • So erstellen Sie eine regionale MIG und eine Anfrage zur Größenanpassung darin:
    1. Erstellen Sie eine regionale MIG, indem Sie eine POST-Anfrage an die Methode regionInstanceGroupManagers.insert senden, wie im Folgenden beschrieben. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  }
}
    2. Erstellen Sie eine Anfrage zur Größenanpassung in der regionalen MIG. Senden Sie dazu eine POST-Anfrage an die Methode regionInstanceGroupManagerResizeRequests.insert: In dieser Anfrage wird die Anzahl der VMs angegeben, die Sie erstellen möchten. Wenn Ihre Arbeitslast bestimmte VM-Namen erfordert, erstellen Sie eine Anfrage zur Größenanpassung, indem Sie eine Liste von VM-Namen angeben. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}

On demand

So erstellen Sie eine zonale oder regionale MIG und eine Anfrage zur Größenanpassung:

  • So erstellen Sie eine zonale MIG und eine Anfrage zur Größenanpassung darin:
    1. Erstellen Sie eine zonale verwaltete Instanzgruppe, indem Sie eine POST-Anfrage an die Methode instanceGroupManagers.insert senden. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0
}
    2. Erstellen Sie eine Anfrage zur Größenanpassung in der zonalen MIG, indem Sie eine POST-Anfrage an die Methode instanceGroupManagerResizeRequests.insert senden. In dieser Anfrage wird die Anzahl der VMs angegeben, die Sie erstellen möchten. Wenn Ihre Arbeitslast bestimmte VM-Namen erfordert, erstellen Sie eine Anfrage zur Größenanpassung, indem Sie eine Liste von VM-Namen angeben. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
  • So erstellen Sie eine regionale MIG und eine Anfrage zur Größenanpassung darin:
    1. Erstellen Sie eine regionale MIG, indem Sie eine POST-Anfrage an die Methode regionInstanceGroupManagers.insert senden, wie im Folgenden beschrieben. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  }
}
    2. Erstellen Sie eine Anfrage zur Größenanpassung in der regionalen MIG. Senden Sie dazu eine POST-Anfrage an die Methode regionInstanceGroupManagerResizeRequests.insert: In dieser Anfrage wird die Anzahl der VMs angegeben, die Sie erstellen möchten. Wenn Ihre Arbeitslast bestimmte VM-Namen erfordert, erstellen Sie eine Anfrage zur Größenanpassung, indem Sie eine Liste von VM-Namen angeben. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}

Flex-Start

So erstellen Sie eine zonale oder regionale MIG und eine Anfrage zur Größenanpassung:

  • So erstellen Sie eine zonale MIG und eine Anfrage zur Größenanpassung darin:
    1. Erstellen Sie eine zonale verwaltete Instanzgruppe, indem Sie eine POST-Anfrage an die Methode instanceGroupManagers.insert senden. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "instanceLifecyclePolicy": {
    "defaultActionOnFailure": "DO_NOTHING"
  }
}
    2. Erstellen Sie eine Anfrage zur Größenanpassung in der zonalen MIG, indem Sie eine POST-Anfrage an die Methode instanceGroupManagerResizeRequests.insert senden. In dieser Anfrage wird die Anzahl der VMs angegeben, die Sie erstellen möchten. Wenn Ihre Arbeitslast bestimmte VM-Namen erfordert, erstellen Sie eine Anfrage zur Größenanpassung, indem Sie eine Liste von VM-Namen angeben. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
  • So erstellen Sie eine regionale MIG und eine Anfrage zur Größenanpassung darin:
    1. Erstellen Sie eine regionale MIG, indem Sie eine POST-Anfrage an die Methode regionInstanceGroupManagers.insert senden, wie im Folgenden beschrieben. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  },
  "instanceLifecyclePolicy": {
    "defaultActionOnFailure": "DO_NOTHING"
  }
}
    2. Erstellen Sie eine Anfrage zur Größenanpassung in der regionalen MIG. Senden Sie dazu eine POST-Anfrage an die Methode regionInstanceGroupManagerResizeRequests.insert: In dieser Anfrage wird die Anzahl der VMs angegeben, die Sie erstellen möchten. Wenn Ihre Arbeitslast bestimmte VM-Namen erfordert, erstellen Sie eine Anfrage zur Größenanpassung, indem Sie eine Liste von VM-Namen angeben. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}

Spot

So erstellen Sie eine zonale oder regionale MIG und eine Anfrage zur Größenanpassung:

  • So erstellen Sie eine zonale MIG und eine Anfrage zur Größenanpassung darin:
    1. Erstellen Sie eine zonale verwaltete Instanzgruppe, indem Sie eine POST-Anfrage an die Methode instanceGroupManagers.insert senden. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0
}
    2. Erstellen Sie eine Anfrage zur Größenanpassung in der zonalen MIG, indem Sie eine POST-Anfrage an die Methode instanceGroupManagerResizeRequests.insert senden. In dieser Anfrage wird die Anzahl der VMs angegeben, die Sie erstellen möchten. Wenn Ihre Arbeitslast bestimmte VM-Namen erfordert, erstellen Sie eine Anfrage zur Größenanpassung, indem Sie eine Liste von VM-Namen angeben. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
  • So erstellen Sie eine regionale MIG und eine Anfrage zur Größenanpassung darin:
    1. Erstellen Sie eine regionale MIG, indem Sie eine POST-Anfrage an die Methode regionInstanceGroupManagers.insert senden, wie im Folgenden beschrieben. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  }
}
    2. Erstellen Sie eine Anfrage zur Größenanpassung in der regionalen MIG. Senden Sie dazu eine POST-Anfrage an die Methode regionInstanceGroupManagerResizeRequests.insert: In dieser Anfrage wird die Anzahl der VMs angegeben, die Sie erstellen möchten. Wenn Ihre Arbeitslast bestimmte VM-Namen erfordert, erstellen Sie eine Anfrage zur Größenanpassung, indem Sie eine Liste von VM-Namen angeben. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
Ersetzen Sie Folgendes:
  • PROJECT_ID: Projekt-ID.
  • ZONE: die Zone, in der Sie die MIG erstellen möchten. Diese Zone muss mit der Zone übereinstimmen, die das Profil für Ihr VPC-Netzwerk enthält, und muss eine Zone sein, in der der ausgewählte Maschinentyp verfügbar ist. Weitere Informationen finden Sie unter Einschränkungen.
  • REGION: die Region, in der Sie die MIG erstellen möchten. Diese Region muss dieselbe Region sein, die das Profil für Ihr VPC-Netzwerk enthält, und muss eine Zone enthalten, in der der ausgewählte Maschinentyp verfügbar ist. Weitere Informationen finden Sie unter Einschränkungen.
  • INSTANCE_TEMPLATE_URL: Die URL der Instanzvorlage, die Sie zum Erstellen von Instanzen in der MIG verwenden möchten. Die URL kann entweder die ID oder den Namen der Instanzvorlage enthalten. Geben Sie einen der folgenden Werte an:
    • Für eine regionale Instanzvorlage: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Für eine globale Instanzvorlage: INSTANCE_TEMPLATE_ID
  • MIG_NAME: Name der MIG.
  • RESIZE_REQUEST_NAME ist der Name der Anfrage zur Größenänderung, der innerhalb der angegebenen MIG eindeutig sein muss. Andernfalls schlägt das Erstellen der Anfrage zur Größenanpassung fehl.
  • COUNT: die Anzahl der Instanzen, die gleichzeitig zur MIG hinzugefügt werden sollen

Anfrage zur Größenanpassung durch Angabe einer Liste von VM-Namen erstellen

Wenn für Ihre Arbeitslast bestimmte VM-Namen erforderlich sind, geben Sie eine Liste mit Namen an, um die VMs zu erstellen. Die Anzahl der von Ihnen angegebenen Namen bestimmt die Anzahl der VMs, die die MIG auf einmal erstellt.

Wenn Sie eine Anfrage zur Größenanpassung mit bestimmten VM-Namen in einer MIG erstellen möchten, verwenden Sie eine der folgenden Methoden:

Wenn Sie beispielsweise zwei VM-Namen angeben möchten, fügen Sie Folgendes in den Anfragetext ein:

{
  "name": "RESIZE_REQUEST_NAME",
  "instances": [
    {
      "name": "INSTANCE_NAME_1"
    },
    {
      "name": "INSTANCE_NAME_2"
    }
  ]
}

Ersetzen Sie INSTANCE_NAME_1, INSTANCE_NAME_2 durch die Namen der VMs.

GPU-Treiber installieren

Nachdem Sie eine Instanz erstellt haben, kann die Instanz ihre GPUs nur verwenden, wenn die richtigen GPU-Treiber bereits installiert sind. Wenn Sie kein Betriebssystem-Image mit GPU-Treibern angegeben haben, finden Sie weitere Informationen unter GPU-Treiber installieren in der Compute Engine-Dokumentation.

Optional: NVIDIA-Multi-Instanz-GPU-Modus aktivieren

Der MIG-Modus (Multi-Instance GPU) ist eine Funktion, die Sie für eine unterstützte NVIDIA-GPU aktivieren können. Nachdem Sie eine Instanz erstellt haben, können Sie den MIG-Modus auf einer einzelnen GPU aktivieren, die an Ihre Maschine angehängt ist. Wenn der MIG-Modus aktiviert ist, wird die einzelne GPU in bis zu sieben unabhängige GPU-Instanzen partitioniert. Jede Instanz wird gleichzeitig ausgeführt, wobei jede Instanz über eigenen Arbeitsspeicher, Cache und eigene Streaming-Multiprozessoren verfügt. Anschließend können Sie verschiedene Arbeitslasten parallel auf diesen GPU-Instanzen ausführen. Weitere Informationen zur Verwendung des MIG-Modus finden Sie im Nutzerhandbuch für Multi-Instanz-GPUs (MIG) in der NVIDIA-Dokumentation.

Nächste Schritte