Google verwendet KI-Technologie, um Inhalte in Ihre bevorzugte Sprache zu übersetzen. KI-Übersetzungen können Fehler enthalten.

KI-optimierte N1-VMs mit GPUs im Bulk erstellen

Allgemeine GPUs

In diesem Dokument wird beschrieben, wie Sie VM-Instanzen (virtuelle Maschinen) in großen Mengen erstellen, die die Maschinenserie N1 mit angehängten GPUs verwenden. Weitere Informationen zu diesen beschleunigungsoptimierten Maschinentypen finden Sie unter N1-Serie mit GPUs.

Weitere Informationen zum Erstellen von VMs im Bulk finden Sie in der Compute Engine-Dokumentation unter Informationen zur Bulk-Erstellung von VMs.

Weitere Informationen zum Erstellen von VMs oder Clustern finden Sie unter Übersicht über Bereitstellungsoptionen.

Beschränkungen

Informationen zu den Einschränkungen, die für N1-Maschinentypen mit GPUs gelten, finden Sie in den folgenden Abschnitten:

Hinweis

Bevor Sie VMs im Bulk erstellen, führen Sie die folgenden Schritte aus, falls Sie dies noch nicht getan haben:

Nutzungsoption auswählen: Die von Ihnen gewählte Nutzungsoption bestimmt, wie Sie GPU-Ressourcen erhalten und verwenden. Weitere Informationen finden Sie unter Nutzungsoption auswählen.
Kapazität abrufen: Der Vorgang zum Abrufen von Kapazität unterscheidet sich für jede Verbrauchsoption. Informationen zum Erhalten von Kapazität für die von Ihnen gewählte Verbrauchsoption finden Sie unter Kapazitätsübersicht.

Wählen Sie den Tab für die geplante Verwendung der Beispiele auf dieser Seite aus:

Console

Wenn Sie über die Google Cloud Console auf Google Cloud Dienste und APIs zugreifen, müssen Sie die Authentifizierung nicht einrichten.

gcloud

Aktivieren Sie Cloud Shell in der Google Cloud Console.

Cloud Shell aktivieren

Unten in der Google Cloud Console wird eine Cloud Shell-Sitzung gestartet und eine Eingabeaufforderung angezeigt. Cloud Shell ist eine Shell-Umgebung, in der das Google Cloud CLI bereits installiert ist und Werte für Ihr aktuelles Projekt bereits festgelegt sind. Das Initialisieren der Sitzung kann einige Sekunden dauern.

REST

Wenn Sie die REST API-Beispiele auf dieser Seite in einer lokalen Entwicklungsumgebung verwenden möchten, verwenden Sie die Anmeldedaten, die Sie der gcloud CLI bereitstellen.

Installieren Sie die Google Cloud CLI.

Wenn Sie einen externen Identitätsanbieter (IdP) verwenden, müssen Sie sich zuerst mit Ihrer föderierten Identität in der gcloud CLI anmelden.

Weitere Informationen finden Sie in der Dokumentation zur Google Cloud -Authentifizierung unter Für die Verwendung von REST authentifizieren.

Erforderliche Rollen

Um die erforderlichen Berechtigungen zum Erstellen mehrerer VMs zu erhalten, bitten Sie Ihren Administrator, Ihnen die IAM-Rolle Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) für das Projekt zuzuweisen. Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Diese vordefinierte Rolle enthält die Berechtigungen, die zum Erstellen von VMs im Bulk erforderlich sind. Maximieren Sie den Abschnitt Erforderliche Berechtigungen, um die genau erforderlichen Berechtigungen anzuzeigen:

Erforderliche Berechtigungen

Die folgenden Berechtigungen sind erforderlich, um VMs im Bulk zu erstellen:

compute.instances.create für das Projekt
Zum Erstellen der VM mit einem benutzerdefinierten Image: compute.images.useReadOnly für das Image
Zum Erstellen der VM mit einem Snapshot: compute.snapshots.useReadOnly für den Snapshot
Zum Erstellen der VM mit einer Instanzvorlage: compute.instanceTemplates.useReadOnly für die Instanzvorlage
Zum Angeben eines Subnetzes für Ihre VM: compute.subnetworks.use für das Projekt oder für das ausgewählte Subnetz
Zum Festlegen einer statischen IP-Adresse für die VM: compute.addresses.use für das Projekt
Zum Zuweisen einer externen IP-Adresse zur VM, wenn Sie ein VPC-Netzwerk verwenden: compute.subnetworks.useExternalIp für das Projekt oder für das ausgewählte Subnetz
Zum Zuweisen eines Legacy-Netzwerks zur VM: compute.networks.use für das Projekt
Zum Zuweisen einer externen IP-Adresse zur VM, wenn Sie ein Legacy-Netzwerk verwenden: compute.networks.useExternalIp für das Projekt
Zum Festlegen von Metadaten der VM-Instanz für die VM: compute.instances.setMetadata für das Projekt
Zum Festlegen von Tags für die VM: compute.instances.setTags für die VM
Zum Festlegen von Labels für die VM: compute.instances.setLabels für die VM
Zum Festlegen eines Dienstkontos für die VM: compute.instances.setServiceAccount für die VM
Zum Erstellen eines neuen Laufwerks für die VM: compute.disks.create für das Projekt
Zum Anhängen eines vorhandenen Laufwerks im Lese- oder Lese-/Schreibmodus: compute.disks.use für das Laufwerk
Zum Anhängen eines vorhandenen Laufwerks im Lesemodus: compute.disks.useReadOnly für das Laufwerk

Sie können diese Berechtigungen auch mit benutzerdefinierten Rollen oder anderen vordefinierten Rollen erhalten.

Übersicht

Das Erstellen von Instanzen im Bulk mit dem Maschinentyp „N1 mit T4- oder V100-GPUs“ umfasst die folgenden Schritte:

Instanzen im Bulk erstellen
GPU-Treiber installieren

N1-VMs mit GPUs im Bulk erstellen

Verwenden Sie eine der folgenden Methoden, um N1-VMs mit GPUs im Bulk zu erstellen.

Mit den folgenden Befehlen wird auch der Zugriffsbereich für Ihre Instanzen festgelegt. Um die Berechtigungsverwaltung zu vereinfachen, empfiehlt Google, den Zugriffsbereich für eine Instanz auf cloud-platform-Zugriff festzulegen und dann mit IAM-Rollen zu definieren, auf welche Dienste die Instanz zugreifen kann. Weitere Informationen finden Sie unter Best Practices für Bereiche.

gcloud

Verwenden Sie den Befehl gcloud compute instances bulk create, um Instanzen im Bulk zu erstellen.

Die Parameter, die Sie angeben müssen, hängen von der Verbrauchsoption ab, die Sie für diese Bereitstellung verwenden. Wählen Sie den Tab aus, der Ihrer Nutzungsoption entspricht.

Reservierung

N1-Instanzen mit T4- oder V100-GPUs unterstützen die folgenden Reservierungstypen:

On-demand-Reservierungen
Standardmäßige vorausschauende Reservierungen

Damit diese Reservierungstypen genutzt werden können, muss für eine Instanz das Standardbereitstellungsmodell verwendet werden. Verwenden Sie beispielsweise die folgenden Erstellungsparameter.

Bevor Sie den Befehl ausführen, sollten Sie alle folgenden Schritte durchgehen, um festzustellen, ob Sie zusätzliche Flags einfügen müssen.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

Gehen Sie folgendermaßen vor:

Ersetzen Sie Folgendes:
- NAME_PATTERN: Das Namensmuster, das für die N1-Instanzen mit T4- oder V100-GPUs verwendet werden soll. Wenn Sie z. B. instance-# für das Namensmuster verwenden, werden N1-Instanzen mit T4- oder V100-GPUs mit Namen wie instance-1 und instance-2 bis zu der durch --count angegebenen Anzahl von N1-Instanzen mit T4- oder V100-GPUs erzeugt.
- COUNT: die Anzahl der zu erstellenden N1-Instanzen mit T4- oder V100-GPUs.
- MACHINE_TYPE: der für die N1-Instanz mit T4- oder V100-GPUs zu verwendende Maschinentyp. Weitere Informationen finden Sie unter GPU-Maschinentypen in der Compute Engine-Dokumentation.
- ACCELERATOR_COUNT: Die Anzahl der GPUs, die Sie an Ihre N1-VM anhängen möchten. Eine Liste der GPU-Limits je nach Maschinentyp Ihrer VM finden Sie in der Compute Engine-Dokumentation unter N1-GPUs.
- ACCELERATOR_TYPE: der Beschleunigertyp für N1-VMs, den Sie verwenden möchten. Für KI-Arbeitslasten empfehlen wir die Verwendung von T4- oder V100-GPUs.
  Tipp:Wenn Sie grafikintensive Arbeitslasten auf dieser VM ausführen möchten, empfehlen wir, den Beschleunigertyp nvidia-tesla-t4-vws zu verwenden, da er NVIDIA RTX Virtual Workstation (vWS) unterstützt.
  Wenn Sie eine Instanz erstellen, die NVIDIA RTX Virtual Workstation verwendet, fügt Compute Engine automatisch eine vWS-Lizenz hinzu. Informationen zu Preisen für virtuelle Workstations finden Sie auf der Seite „GPU-Preise“.
- IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
- IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
- REGION: Geben Sie eine Region an, in der der Maschinentyp, den Sie verwenden möchten, verfügbar ist. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
- DISK_TYPE: der Typ des Bootlaufwerks. Weitere Informationen zu den unterstützten Laufwerkstypen für Ihren Maschinentyp finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinen in der beschleunigungsoptimierten Maschinenfamilie.
- DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Art des Laufwerks unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.
- RESERVATION_AFFINITY: Gibt an, welche Reservierungen die Instanz nach Möglichkeit nutzen darf. Wählen Sie eine der folgenden Optionen aus:
  - any (Reservierungskapazität ist optional): Dies ist die Standardoption. Die Instanz versucht, Kapazität aus einer automatisch genutzten-Reservierung zu verwenden. Dies geschieht nur, wenn entsprechende Reservierungskapazität verfügbar ist. Andernfalls wird On-Demand-Kapazität verwendet.
  - specific (Reservierungskapazität ist erforderlich): Erfordert, dass die Instanz Kapazität aus einer speziell ausgewählten Reservierung verwendet. Die Instanz darf keine On-Demand-Kapazität verwenden. Wenn die Reservierungskapazität nicht verfügbar ist, schlägt die Instanzerstellung fehl.
- RESERVATION: Die zu verwendende Reservierung. Geben Sie je nach dem Wert, den Sie für RESERVATION_AFFINITY angegeben haben, einen der folgenden Werte an:
  - Wenn Sie any angegeben haben, ersetzen Sie RESERVATION durch einen leeren String (""). Alternativ können Sie das Flag --reservation vollständig entfernen.
  - Wenn Sie specific angegeben haben, ersetzen Sie RESERVATION durch Folgendes:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    Ersetzen Sie Folgendes:
    - RESERVATION_OWNER_PROJECT_ID: die Projekt-ID des Projekts, in dem die Reservierung erstellt wurde.
    - RESERVATION_NAME: der Name der Reservierung.
Standardmäßig wird die Instanz automatisch neu gestartet, wenn sie abstürzt oder von Compute Engine für einen geplanten Stopp beendet wird, z. B. bei einem Wartungsereignis. Wenn Sie den automatischen Neustart deaktivieren möchten, fügen Sie das folgende Flag hinzu:
```
--no-restart-on-failure
```
Optional: Wenn Sie lokale SSD-Laufwerke anhängen möchten, fügen Sie das folgende --local-ssd-Flag für jedes lokale SSD-Laufwerk hinzu.

Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke.
```
--local-ssd interface=INTERFACE_TYPE
```
Ersetzen Sie Folgendes:
- INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.
Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.
Führen Sie den Befehl aus.

On demand

Bevor Sie den Befehl ausführen, sollten Sie alle folgenden Schritte durchgehen, um festzustellen, ob Sie zusätzliche Flags einfügen müssen.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

Gehen Sie folgendermaßen vor:

Ersetzen Sie Folgendes:
- NAME_PATTERN: Das Namensmuster, das für die N1-Instanzen mit T4- oder V100-GPUs verwendet werden soll. Wenn Sie z. B. instance-# für das Namensmuster verwenden, werden N1-Instanzen mit T4- oder V100-GPUs mit Namen wie instance-1 und instance-2 bis zu der durch --count angegebenen Anzahl von N1-Instanzen mit T4- oder V100-GPUs erzeugt.
- COUNT: die Anzahl der zu erstellenden N1-Instanzen mit T4- oder V100-GPUs.
- MACHINE_TYPE: der für die N1-Instanz mit T4- oder V100-GPUs zu verwendende Maschinentyp. Weitere Informationen finden Sie unter GPU-Maschinentypen in der Compute Engine-Dokumentation.
- ACCELERATOR_COUNT: Die Anzahl der GPUs, die Sie an Ihre N1-VM anhängen möchten. Eine Liste der GPU-Limits je nach Maschinentyp Ihrer VM finden Sie in der Compute Engine-Dokumentation unter N1-GPUs.
- ACCELERATOR_TYPE: der Beschleunigertyp für N1-VMs, den Sie verwenden möchten. Für KI-Arbeitslasten empfehlen wir die Verwendung von T4- oder V100-GPUs.
  Tipp:Wenn Sie grafikintensive Arbeitslasten auf dieser VM ausführen möchten, empfehlen wir, den Beschleunigertyp nvidia-tesla-t4-vws zu verwenden, da er NVIDIA RTX Virtual Workstation (vWS) unterstützt.
  Wenn Sie eine Instanz erstellen, die NVIDIA RTX Virtual Workstation verwendet, fügt Compute Engine automatisch eine vWS-Lizenz hinzu. Informationen zu Preisen für virtuelle Workstations finden Sie auf der Seite „GPU-Preise“.
- IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
- IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
- REGION: Geben Sie eine Region an, in der der Maschinentyp, den Sie verwenden möchten, verfügbar ist. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
- DISK_TYPE: der Typ des Bootlaufwerks. Weitere Informationen zu den unterstützten Laufwerkstypen für Ihren Maschinentyp finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinen in der beschleunigungsoptimierten Maschinenfamilie.
- DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Art des Laufwerks unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.
- RESERVATION_AFFINITY: Gibt an, welche Reservierungen die Instanz nach Möglichkeit nutzen darf. Wählen Sie eine der folgenden Optionen aus:
  - any (Reservierungskapazität ist optional): Dies ist die Standardoption. Die Instanz versucht, Kapazität aus einer automatisch genutzten-Reservierung zu verwenden. Dies geschieht nur, wenn entsprechende Reservierungskapazität verfügbar ist. Andernfalls wird On-Demand-Kapazität verwendet.
  - none (On-Demand-Kapazität erforderlich): Verhindert, dass die Instanz Reservierungskapazität verwendet.
Standardmäßig wird die Instanz automatisch neu gestartet, wenn sie abstürzt oder von Compute Engine für einen geplanten Stopp beendet wird, z. B. bei einem Wartungsereignis. Wenn Sie den automatischen Neustart deaktivieren möchten, fügen Sie das folgende Flag hinzu:
```
--no-restart-on-failure
```
Optional: Wenn Sie lokale SSD-Laufwerke anhängen möchten, fügen Sie das folgende --local-ssd-Flag für jedes lokale SSD-Laufwerk hinzu.

Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke.
```
--local-ssd interface=INTERFACE_TYPE
```
Ersetzen Sie Folgendes:
- INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.
Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.
Führen Sie den Befehl aus.

Spot

Bevor Sie den Befehl ausführen, sollten Sie alle folgenden Schritte durchgehen, um festzustellen, ob Sie zusätzliche Flags einfügen müssen.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

Gehen Sie folgendermaßen vor:

Ersetzen Sie Folgendes:
- NAME_PATTERN: Das Namensmuster, das für die N1-Instanzen mit T4- oder V100-GPUs verwendet werden soll. Wenn Sie z. B. instance-# für das Namensmuster verwenden, werden N1-Instanzen mit T4- oder V100-GPUs mit Namen wie instance-1 und instance-2 bis zu der durch --count angegebenen Anzahl von N1-Instanzen mit T4- oder V100-GPUs erzeugt.
- COUNT: die Anzahl der zu erstellenden N1-Instanzen mit T4- oder V100-GPUs.
- MACHINE_TYPE: der für die N1-Instanz mit T4- oder V100-GPUs zu verwendende Maschinentyp. Weitere Informationen finden Sie unter GPU-Maschinentypen in der Compute Engine-Dokumentation.
- ACCELERATOR_COUNT: Die Anzahl der GPUs, die Sie an Ihre N1-VM anhängen möchten. Eine Liste der GPU-Limits je nach Maschinentyp Ihrer VM finden Sie in der Compute Engine-Dokumentation unter N1-GPUs.
- ACCELERATOR_TYPE: der Beschleunigertyp für N1-VMs, den Sie verwenden möchten. Für KI-Arbeitslasten empfehlen wir die Verwendung von T4- oder V100-GPUs.
  Tipp:Wenn Sie grafikintensive Arbeitslasten auf dieser VM ausführen möchten, empfehlen wir, den Beschleunigertyp nvidia-tesla-t4-vws zu verwenden, da er NVIDIA RTX Virtual Workstation (vWS) unterstützt.
  Wenn Sie eine Instanz erstellen, die NVIDIA RTX Virtual Workstation verwendet, fügt Compute Engine automatisch eine vWS-Lizenz hinzu. Informationen zu Preisen für virtuelle Workstations finden Sie auf der Seite „GPU-Preise“.
- IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
- IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
- REGION: Geben Sie eine Region an, in der der Maschinentyp, den Sie verwenden möchten, verfügbar ist. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
- DISK_TYPE: der Typ des Bootlaufwerks. Weitere Informationen zu den unterstützten Laufwerkstypen für Ihren Maschinentyp finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinen in der beschleunigungsoptimierten Maschinenfamilie.
- DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Art des Laufwerks unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.
- TERMINATION_ACTION: Die Aktion, die ausgeführt werden soll, wenn Compute Engine die Instanz vorzeitig beendet, entweder STOP (Standard) oder DELETE.
  
  Wichtig:Ihre Anwendung muss Unterbrechungen verarbeiten können. Sie können beispielsweise ein Shutdown-Skript beim Erstellen einer Instanz angeben, um die Präemption zu verarbeiten. Informationen zum Verwalten des vorzeitigen Beendens mit einem Shutdown-Skript
Optional: Wenn Sie lokale SSD-Laufwerke anhängen möchten, fügen Sie das folgende --local-ssd-Flag für jedes lokale SSD-Laufwerk hinzu.

Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke.
```
--local-ssd interface=INTERFACE_TYPE
```
Ersetzen Sie Folgendes:
- INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.
Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.
Führen Sie den Befehl aus.

REST

Wenn Sie Instanzen im Bulk erstellen möchten, senden Sie eine POST-Anfrage an die Methode instances.bulkInsert.

Die Parameter, die Sie angeben müssen, hängen von der Verbrauchsoption ab, die Sie für diese Bereitstellung verwenden. Wählen Sie den Tab aus, der Ihrer Nutzungsoption entspricht.

Reservierung

N1-Instanzen mit T4- oder V100-GPUs unterstützen die folgenden Reservierungstypen:

On-demand-Reservierungen
Standardmäßige vorausschauende Reservierungen

Damit diese Reservierungstypen genutzt werden können, muss für eine Instanz das Standardbereitstellungsmodell verwendet werden. Verwenden Sie beispielsweise die folgenden Erstellungsparameter.

Bevor Sie den Antrag einreichen, sollten Sie alle folgenden Schritte durchgehen, um zu entscheiden, ob Sie zusätzliche Felder einfügen möchten.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "guestAccelerators":
    [
      {
        "acceleratorCount": ACCELERATOR_COUNT,
        "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
      }
    ],
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

Gehen Sie folgendermaßen vor:

Ersetzen Sie Folgendes:
- PROJECT_ID: die Projekt-ID des Projekts, in dem Sie die N1-Instanz mit T4- oder V100-GPUs erstellen möchten.
- ZONE: Geben Sie eine Zone an, in der der Maschinentyp verfügbar ist, den Sie verwenden möchten. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
- NAME_PATTERN: Das Namensmuster, das für die N1-Instanzen mit T4- oder V100-GPUs verwendet werden soll. Wenn Sie z. B. instance-# für das Namensmuster verwenden, werden N1-Instanzen mit T4- oder V100-GPUs mit Namen wie instance-1 und instance-2 bis zu der durch --count angegebenen Anzahl von N1-Instanzen mit T4- oder V100-GPUs erzeugt.
- COUNT: die Anzahl der zu erstellenden N1-Instanzen mit T4- oder V100-GPUs.
- MACHINE_TYPE: der für die N1-Instanz mit T4- oder V100-GPUs zu verwendende Maschinentyp. Weitere Informationen finden Sie unter GPU-Maschinentypen in der Compute Engine-Dokumentation.
- ACCELERATOR_COUNT: Die Anzahl der GPUs, die Sie an Ihre N1-VM anhängen möchten. Eine Liste der GPU-Limits je nach Maschinentyp Ihrer VM finden Sie in der Compute Engine-Dokumentation unter N1-GPUs.
- ACCELERATOR_TYPE: der Beschleunigertyp für N1-VMs, den Sie verwenden möchten. Für KI-Arbeitslasten empfehlen wir die Verwendung von T4- oder V100-GPUs.
  Tipp:Wenn Sie grafikintensive Arbeitslasten auf dieser VM ausführen möchten, empfehlen wir, den Beschleunigertyp nvidia-tesla-t4-vws zu verwenden, da er NVIDIA RTX Virtual Workstation (vWS) unterstützt.
  Wenn Sie eine Instanz erstellen, die NVIDIA RTX Virtual Workstation verwendet, fügt Compute Engine automatisch eine vWS-Lizenz hinzu. Informationen zu Preisen für virtuelle Workstations finden Sie auf der Seite „GPU-Preise“.
- DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Art des Laufwerks unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.
- DISK_TYPE: der Typ des Bootlaufwerks. Weitere Informationen zu den unterstützten Laufwerkstypen für Ihren Maschinentyp finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinen in der beschleunigungsoptimierten Maschinenfamilie.
- IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
- IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
- AUTOMATIC_RESTART: Gibt an, ob Ihre Instanz automatisch neu gestartet wird, wenn sie abstürzt oder von Compute Engine aufgrund eines geplanten Stopps beendet wird, z. B. bei einem Wartungsereignis. Geben Sie entweder true an, um den automatischen Neustart zu aktivieren (Standard), oder false, um ihn zu deaktivieren.
- RESERVATION_AFFINITY: Gibt an, welche Reservierungen die Instanz nach Möglichkeit nutzen darf. Wählen Sie eine der folgenden Optionen aus:
  - ANY_RESERVATION (Reservierungskapazität ist optional): Dies ist die Standardoption. Die Instanz versucht, Kapazität aus einer automatisch genutzten Reservierung zu verwenden. Dies geschieht nur, wenn entsprechende Reservierungskapazität verfügbar ist. Andernfalls wird On-Demand-Kapazität verwendet.
  - SPECIFIC_RESERVATION (Reservierungskapazität ist erforderlich): Erfordert, dass die Instanz Kapazität aus einer speziell ausgewählten Reservierung verwendet. Die Instanz darf keine On-Demand-Kapazität verwenden. Wenn die Reservierungskapazität nicht verfügbar ist, schlägt die Instanzerstellung fehl.
- RESERVATION: Die zu verwendende Reservierung. Geben Sie je nach dem Wert, den Sie für RESERVATION_AFFINITY angegeben haben, einen der folgenden Werte an:
  - Wenn Sie ANY_RESERVATION angegeben haben, löschen Sie RESERVATION, sodass der Wert ein leerer String ("") ist. Alternativ können Sie die Felder key und values vollständig entfernen.
  - Wenn Sie SPECIFIC_RESERVATION angegeben haben, ersetzen Sie RESERVATION durch Folgendes:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    Ersetzen Sie Folgendes:
    - RESERVATION_OWNER_PROJECT_ID: die Projekt-ID des Projekts, in dem die Reservierung erstellt wurde.
    - RESERVATION_NAME: der Name der Reservierung.
Optional: Wenn Sie lokale SSD-Laufwerke verwenden möchten, fügen Sie das folgende Feld dem Feld disks[] für jedes lokale SSD-Laufwerk hinzu. Trennen Sie die einzelnen disks[]-Unterfelder (einschließlich des Bootlaufwerks) durch ein Komma.

Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke.
```
    {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }
```
Ersetzen Sie Folgendes:
- ZONE: die von Ihnen angegebene Zone.
- INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.
Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.
Senden Sie die Anfrage.

On demand

Bevor Sie den Antrag einreichen, sollten Sie alle folgenden Schritte durchgehen, um zu entscheiden, ob Sie zusätzliche Felder einfügen möchten.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "guestAccelerators":
    [
      {
        "acceleratorCount": ACCELERATOR_COUNT,
        "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
      }
    ],
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

Gehen Sie folgendermaßen vor:

Ersetzen Sie Folgendes:
- PROJECT_ID: die Projekt-ID des Projekts, in dem Sie die N1-Instanz mit T4- oder V100-GPUs erstellen möchten.
- ZONE: Geben Sie eine Zone an, in der der Maschinentyp verfügbar ist, den Sie verwenden möchten. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
- NAME_PATTERN: Das Namensmuster, das für die N1-Instanzen mit T4- oder V100-GPUs verwendet werden soll. Wenn Sie z. B. instance-# für das Namensmuster verwenden, werden N1-Instanzen mit T4- oder V100-GPUs mit Namen wie instance-1 und instance-2 bis zu der durch --count angegebenen Anzahl von N1-Instanzen mit T4- oder V100-GPUs erzeugt.
- COUNT: die Anzahl der zu erstellenden N1-Instanzen mit T4- oder V100-GPUs.
- MACHINE_TYPE: der für die N1-Instanz mit T4- oder V100-GPUs zu verwendende Maschinentyp. Weitere Informationen finden Sie unter GPU-Maschinentypen in der Compute Engine-Dokumentation.
- ACCELERATOR_COUNT: Die Anzahl der GPUs, die Sie an Ihre N1-VM anhängen möchten. Eine Liste der GPU-Limits je nach Maschinentyp Ihrer VM finden Sie in der Compute Engine-Dokumentation unter N1-GPUs.
- ACCELERATOR_TYPE: der Beschleunigertyp für N1-VMs, den Sie verwenden möchten. Für KI-Arbeitslasten empfehlen wir die Verwendung von T4- oder V100-GPUs.
  Tipp:Wenn Sie grafikintensive Arbeitslasten auf dieser VM ausführen möchten, empfehlen wir, den Beschleunigertyp nvidia-tesla-t4-vws zu verwenden, da er NVIDIA RTX Virtual Workstation (vWS) unterstützt.
  Wenn Sie eine Instanz erstellen, die NVIDIA RTX Virtual Workstation verwendet, fügt Compute Engine automatisch eine vWS-Lizenz hinzu. Informationen zu Preisen für virtuelle Workstations finden Sie auf der Seite „GPU-Preise“.
- DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Art des Laufwerks unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.
- DISK_TYPE: der Typ des Bootlaufwerks. Weitere Informationen zu den unterstützten Laufwerkstypen für Ihren Maschinentyp finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinen in der beschleunigungsoptimierten Maschinenfamilie.
- IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
- IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
- AUTOMATIC_RESTART: Gibt an, ob Ihre Instanz automatisch neu gestartet wird, wenn sie abstürzt oder von Compute Engine aufgrund eines geplanten Stopps beendet wird, z. B. bei einem Wartungsereignis. Geben Sie entweder true an, um den automatischen Neustart zu aktivieren (Standard), oder false, um ihn zu deaktivieren.
- RESERVATION_AFFINITY: Gibt an, welche Reservierungen die Instanz nach Möglichkeit nutzen darf. Wählen Sie eine der folgenden Optionen aus:
  - ANY_RESERVATION (Reservierungskapazität ist optional): Dies ist die Standardoption. Die Instanz versucht, Kapazität aus einer automatisch genutzten Reservierung zu verwenden. Dies geschieht nur, wenn entsprechende Reservierungskapazität verfügbar ist. Andernfalls wird On-Demand-Kapazität verwendet.
  - NO_RESERVATION (On-Demand-Kapazität erforderlich): Verhindert, dass die Instanz Reservierungskapazität verwendet.
Optional: Wenn Sie lokale SSD-Laufwerke verwenden möchten, fügen Sie das folgende Feld dem Feld disks[] für jedes lokale SSD-Laufwerk hinzu. Trennen Sie die einzelnen disks[]-Unterfelder (einschließlich des Bootlaufwerks) durch ein Komma.

Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke.
```
    {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }
```
Ersetzen Sie Folgendes:
- ZONE: die von Ihnen angegebene Zone.
- INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.
Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.
Senden Sie die Anfrage.

Spot

Bevor Sie den Antrag einreichen, sollten Sie alle folgenden Schritte durchgehen, um zu entscheiden, ob Sie zusätzliche Felder einfügen möchten.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "guestAccelerators":
    [
      {
        "acceleratorCount": ACCELERATOR_COUNT,
        "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
      }
    ],
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

Gehen Sie folgendermaßen vor:

Ersetzen Sie Folgendes:
- PROJECT_ID: die Projekt-ID des Projekts, in dem Sie die N1-Instanz mit T4- oder V100-GPUs erstellen möchten.
- ZONE: Geben Sie eine Zone an, in der der Maschinentyp verfügbar ist, den Sie verwenden möchten. Informationen zu Regionen finden Sie unter GPU-Verfügbarkeit nach Regionen und Zonen.
- NAME_PATTERN: Das Namensmuster, das für die N1-Instanzen mit T4- oder V100-GPUs verwendet werden soll. Wenn Sie z. B. instance-# für das Namensmuster verwenden, werden N1-Instanzen mit T4- oder V100-GPUs mit Namen wie instance-1 und instance-2 bis zu der durch --count angegebenen Anzahl von N1-Instanzen mit T4- oder V100-GPUs erzeugt.
- COUNT: die Anzahl der zu erstellenden N1-Instanzen mit T4- oder V100-GPUs.
- MACHINE_TYPE: der für die N1-Instanz mit T4- oder V100-GPUs zu verwendende Maschinentyp. Weitere Informationen finden Sie unter GPU-Maschinentypen in der Compute Engine-Dokumentation.
- ACCELERATOR_COUNT: Die Anzahl der GPUs, die Sie an Ihre N1-VM anhängen möchten. Eine Liste der GPU-Limits je nach Maschinentyp Ihrer VM finden Sie in der Compute Engine-Dokumentation unter N1-GPUs.
- ACCELERATOR_TYPE: der Beschleunigertyp für N1-VMs, den Sie verwenden möchten. Für KI-Arbeitslasten empfehlen wir die Verwendung von T4- oder V100-GPUs.
  Tipp:Wenn Sie grafikintensive Arbeitslasten auf dieser VM ausführen möchten, empfehlen wir, den Beschleunigertyp nvidia-tesla-t4-vws zu verwenden, da er NVIDIA RTX Virtual Workstation (vWS) unterstützt.
  Wenn Sie eine Instanz erstellen, die NVIDIA RTX Virtual Workstation verwendet, fügt Compute Engine automatisch eine vWS-Lizenz hinzu. Informationen zu Preisen für virtuelle Workstations finden Sie auf der Seite „GPU-Preise“.
- DISK_SIZE: Die Größe des Bootlaufwerks in GB. Weitere Informationen finden Sie je nach Art des Laufwerks unter Größenbeschränkungen für Google Cloud Hyperdisk oder Größenbeschränkungen für Persistent Disk.
- DISK_TYPE: der Typ des Bootlaufwerks. Weitere Informationen zu den unterstützten Laufwerkstypen für Ihren Maschinentyp finden Sie in der Compute Engine-Dokumentation unter GPU-Maschinen in der beschleunigungsoptimierten Maschinenfamilie.
- IMAGE_PROJECT: die Projekt-ID des Betriebssystem-Images.
- IMAGE_FAMILY: die Image-Familie des Betriebssystem-Images, das Sie verwenden möchten. Eine Liste aller unterstützten Betriebssysteme finden Sie unter Unterstützte Betriebssysteme.
- TERMINATION_ACTION: Die Aktion, die ausgeführt werden soll, wenn Compute Engine die Instanz vorzeitig beendet, entweder STOP (Standard) oder DELETE.
  
  Wichtig:Ihre Anwendung muss Unterbrechungen verarbeiten können. Sie können beispielsweise ein Shutdown-Skript beim Erstellen einer Instanz angeben, um die Präemption zu verarbeiten. Informationen zum Verwalten des vorzeitigen Beendens mit einem Shutdown-Skript
Optional: Wenn Sie lokale SSD-Laufwerke verwenden möchten, fügen Sie das folgende Feld dem Feld disks[] für jedes lokale SSD-Laufwerk hinzu. Trennen Sie die einzelnen disks[]-Unterfelder (einschließlich des Bootlaufwerks) durch ein Komma.

Achten Sie darauf, dass die Anzahl der angehängten lokalen SSD-Laufwerke für Ihren Maschinentyp zulässig ist. Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Lokale SSD-Laufwerke.
```
    {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }
```
Ersetzen Sie Folgendes:
- ZONE: die von Ihnen angegebene Zone.
- INTERFACE_TYPE: der Laufwerkschnittstellentyp, den Sie für das lokale SSD-Laufwerk verwenden möchten. Wenn das Bootlaufwerk-Image optimierte NVMe-Treiber hat, geben Sie NVME an. Geben Sie für andere Bilder SCSI an.
Nachdem Sie eine VM mit lokalen SSD-Laufwerken erstellt haben, müssen Sie jedes Gerät formatieren und bereitstellen, bevor Sie es verwenden können.
Senden Sie die Anfrage.

Weitere Informationen zu den Konfigurationsoptionen beim Erstellen von VMs im Bulk finden Sie in der Compute Engine-Dokumentation unter VMs im Bulk erstellen.

GPU-Treiber installieren

Nachdem Sie eine Instanz erstellt haben, können die GPUs der Instanz nur verwendet werden, wenn die richtigen GPU-Treiber bereits installiert sind. Welchen Treiber Sie installieren müssen, hängt davon ab, ob für die Instanz die virtuelle NVIDIA RTX-Workstation (vWS) aktiviert ist. Verwenden Sie eine der folgenden Optionen:

Wenn Sie vWS aktiviert haben, lesen Sie in der Compute Engine-Dokumentation den Abschnitt Treiber für virtuelle NVIDIA RTX-Workstations (vWS) installieren.
Verwenden Sie andernfalls die Standard-GPU-Treiber:
- Wenn Sie ein Betriebssystem-Image mit GPU-Treibern angegeben haben, ist keine Aktion erforderlich.
- Wenn das Betriebssystem-Image keine GPU-Treiber enthält, lesen Sie den Abschnitt GPU-Treiber installieren in der Compute Engine-Dokumentation.

KI-optimierte N1-VMs mit GPUs im Bulk erstellen Mit Sammlungen den Überblick behalten Sie können Inhalte basierend auf Ihren Einstellungen speichern und kategorisieren.

Beschränkungen

Hinweis

Console

gcloud

REST

Erforderliche Rollen

Erforderliche Berechtigungen

Übersicht

N1-VMs mit GPUs im Bulk erstellen

gcloud

Reservierung

On demand

Spot

REST

Reservierung

On demand

Spot

GPU-Treiber installieren

Nächste Schritte

KI-optimierte N1-VMs mit GPUs im Bulk erstellen