In diesem Dokument werden die wichtigsten Compute-Optionen in Google Cloud verglichen, damit Sie die beste Lösung oder das beste Tool für die Architektur, Skalierung und andere Anforderungen Ihrer Anwendung auswählen können.
Wenn Sie Arbeitslasten auf Google Cloudbereitstellen möchten, können Sie aus einer Reihe von Lösungen oder Tools auswählen, die ein Gleichgewicht zwischen Ihrer Kontrolle über die Infrastruktur und der automatischen Verwaltung durch Google schaffen. Die von Ihnen ausgewählte Compute-Option kann sich erheblich auf Leistung, Kosten und täglichen Wartungsaufwand auswirken. Weitere Informationen zu diesen Optionen finden Sie unter Google Compute-Übersicht.
Compute-Option auswählen
Die beste Compute-Lösung oder das beste Tool für Ihre Arbeitslast hängt von mehreren Faktoren ab. Wenn Sie beispielsweise Ihre VMware-Umgebung zuGoogle Cloudmigrieren möchten, verwenden Sie VMware Engine.
Das folgende Flussdiagramm soll Ihnen helfen, die Vor- und Nachteile von Infrastrukturverwaltung, Containern und Compute Engine-Instanzen abzuwägen. Wenn Sie die Funktionen der verschiedenen Compute-Optionen schnell vergleichen möchten, finden Sie hier eine Vergleichstabelle.
Die Fragen im obigen Flussdiagramm lauten:
Soll Google die gesamte Infrastruktur verwalten?
Ja: Cloud Run verwenden.
Nein: Fahren Sie mit Frage 2 fort.
Möchten Sie eine Clusterorchestrierung für Ihre Arbeitslasten (z. B. Kubernetes oder Slurm)?
Ja: Fahren Sie mit Frage 4 fort.
Nein: Fahren Sie mit Frage 3 fort.
Möchten Sie VMs oder Bare-Metal-Instanzen selbst verwalten?
Nein: Batch verwenden.
Möchten Sie standardmäßige containerisierte Anwendungen wie Microservices oder APIs ausführen?
Ja: GKE verwenden.
Nein: Fahren Sie mit Frage 5 fort.
Soll Google den Clusterlebenszyklus verwalten?
Batch verwenden
Wählen Sie „Batch“ für Arbeitslasten wie asynchrone Datenanalyse, Videokonvertierungsaufgaben oder wissenschaftliche Simulationen aus. Mit Batch verwaltet Google die Infrastruktur, sodass Sie Batch-Computing-Jobs auf Google Cloudplanen, in die Warteschlange stellen und ausführen können. Sie müssen keine Server bereitstellen oder verwalten. Stattdessen senden Sie ausführbare Skripts oder containerisierte Arbeitslasten an eine Jobwarteschlange.
Batch bietet die folgenden Funktionen:
Unterstützung von Beschleunigern: Batch unterstützt NVIDIA-GPUs bis zu RTX PRO 6000 für Batch- und HPC-Arbeitslasten (High Performance Computing), die einen hohen Durchsatz erfordern. Batch unterstützt keine Google-TPUs.
Betriebssystem- und Kernelsteuerung: Google verwaltet das Betriebssystem und die Ausführungsumgebung für Ihre Jobs.
Orchestrierung: Die Jobwarteschlange plant Aufgaben und versucht es noch einmal, wenn ein Fehler auftritt. Um die Kapazität zu skalieren, stellt der Dienst VMs basierend auf der Anzahl der in der Warteschlange befindlichen Jobs bereit und startet sie. Wenn diese Jobs abgeschlossen sind, werden die VMs beendet.
Weitere Informationen finden Sie unter Einstieg in Batch.
Cloud Run verwenden
Wählen Sie Cloud Run aus, um containerisierte Webanwendungen oder Jobs ohne Serververwaltung bereitzustellen. Cloud Run ist eine serverlose Plattform, mit der Sie containerisierte Anwendungen ohne Server- oder Clustermanagement ausführen können. Google übernimmt die gesamte Infrastrukturverwaltung für Sie, einschließlich des Betriebssystems, des Kernels, der Netzwerkeinrichtung und der Kapazitätsverwaltung.
Cloud Run bietet die folgenden Funktionen:
Unterstützung von Beschleunigern: Cloud Run unterstützt NVIDIA RTX PRO 6000 Blackwell- und L4-GPUs. Cloud Run unterstützt keine anderen GPU-Modelle oder Google-TPUs.
Betriebssystem- und Kernelsteuerung: Sie verpacken Ihre Arbeitslasten als Container und führen sie als Webservices, asynchrone Aufgaben oder Batchjobs aus.
Orchestrierung: Als serverlose Plattform startet, führt und skaliert Google Ihre Containerinstanzen ohne manuellen Eingriff. Bei Webservices fügt Cloud Run Containerinstanzen basierend auf eingehenden Anfragen oder der CPU-Auslastung hinzu oder entfernt sie.
Weitere Informationen finden Sie unter Was ist Cloud Run?
Cluster Director verwenden
Wählen Sie Cluster Director aus, wenn Sie KI-Modelle trainieren oder von Slurm geplante Simulationsjobs ausführen möchten, ohne dass Sie Netzwerkeinrichtungen oder Konfigurationsaufgaben für das Cluster-Betriebssystem durchführen müssen. Cluster Director ist ein verwalteter Dienst, der die Bereitstellung und das Lebenszyklusmanagement für KI-, ML- und HPC-Cluster automatisiert.
Cluster Director bietet die folgenden Funktionen:
Unterstützung von Beschleunigern: Cluster Director unterstützt NVIDIA-GPUs, einschließlich GB300 Ultra-Superchips, GB200-Superchips, B200, H200 und H100, für KI-, ML- und HPC-Arbeitslasten. Google-TPUs werden von Cluster Director nicht unterstützt.
Betriebssystem- und Kernelsteuerung: Google verwaltet den Clusterlebenszyklus und richtet ein benutzerdefiniertes Ubuntu-Betriebssystem ein, das für ML entwickelt wurde. Der Dienst bietet eine sofort einsatzbereite Umgebung mit Anmeldeknoten, Rechenknotensätzen und Bereitstellungsvorlagen, die für KI-Arbeitslasten entwickelt wurden.
Orchestration: Um die Kapazität zu skalieren, erstellt Slurm Knoten, wenn der CPU-Verbrauch steigt, und löscht Knoten, wenn sie für einen bestimmten Zeitraum inaktiv bleiben, um unnötige Gebühren zu vermeiden.
Weitere Informationen finden Sie unter Cluster Director – Übersicht.
Cluster Toolkit verwenden
Wählen Sie Cluster Toolkit aus, wenn Sie automatische Bereitstellungsvorlagen verwenden und gleichzeitig die administrative Kontrolle über Ihr Betriebssystem und Ihren Software-Stack behalten möchten. Das Cluster Toolkit ist ein Open-Source-Tool, mit dem KI-, ML- und HPC-Cluster in Google Cloudbereitgestellt und konfiguriert werden.
Das Cluster-Toolkit bietet die folgenden Funktionen:
Unterstützung von Beschleunigern: Das Cluster Toolkit unterstützt NVIDIA-GPUs und Google-TPUs, die Sie mit Bereitstellungsvorlagen, sogenannten Blueprints, bereitstellen und konfigurieren. Mit diesen automatisierten Konfigurationsdateien stellen Sie eine standardisierte, wiederholbare Clusterinfrastruktur auf Grundlage von Infrastructure as Code (IaC) bereit.
Betriebssystem- und Kernelsteuerung: Das Cluster Toolkit stellt Compute-Instanzen oder GKE-Ressourcen in Ihrem Google Cloud-Projekt bereit. Nach der Bereitstellung dieser Ressourcen behalten Sie die administrative Kontrolle über das Betriebssystem, die Softwareeinstellungen und den Clusterlebenszyklus.
Orchestrierung: Um die Kapazität zu skalieren, konfigurieren Sie verwaltete Instanzgruppen (MIGs) oder GKE-Tools, um Knoten basierend auf Ihren Vorlageneinstellungen hinzuzufügen oder zu entfernen.
Weitere Informationen finden Sie unter Cluster Toolkit – Übersicht.
Compute Engine verwenden
Wählen Sie Compute Engine aus, wenn Ihre Anwendungen benutzerdefinierte Architekturkonfigurationen, spezielle Kerneleinstellungen oder administrative Kontrolle über virtuelle Server erfordern. Compute Engine ist die zentrale Infrastructure as a Service (IaaS)-Plattform (IaaS) von Google Cloud, mit der Sie VM- und Bare-Metal-Instanzen auf der physischen Hardware von Google erstellen und ausführen können.
Compute Engine bietet die folgenden Funktionen:
Unterstützung von Beschleunigern: Compute Engine unterstützt NVIDIA-GPUs und Google-TPUs, die Sie an Ihre Compute-Instanzen anhängen können.
Betriebssystem- und Kernelsteuerung: Sie behalten die vollständige Kontrolle über das Betriebssystem, die Kerneleinstellungen und die Bootdateien. Außerdem wählen Sie CPU-Prozessoren, Speicherkonfigurationen, Speichertypen und das Gastbetriebssystem aus.
Orchestrierung: Da die Orchestrierung manuell erfolgt, müssen Sie Ihre eigenen Compute-Instanzen, Netzwerkregeln, Traffic-Routen und Back-up-Systeme für die Zuverlässigkeit einrichten und verwalten. Um die Kapazität zu skalieren, fügen Sie nach Bedarf Compute-Instanzen hinzu oder entfernen Sie sie, verwenden Sie benutzerdefinierte Tools oder konfigurieren Sie MIGs, um die Clusterkapazität anzupassen.
Weitere Informationen finden Sie in der Compute Engine-Übersicht.
GKE verwenden
Wählen Sie Google Kubernetes Engine (GKE) aus, wenn Sie eine robuste, containerbasierte Orchestrierungsplattform für verteilte Anwendungen oder Allzweck-Mikrodienste benötigen. GKE ist eine branchenübliche verwaltete Kubernetes-Plattform zum Bereitstellen, Skalieren und Orchestrieren von Containeranwendungen. Google verwaltet die Kubernetes-Steuerungsebene in Bezug auf Sicherheit und Systemverfügbarkeit.
GKE bietet die folgenden Funktionen:
Unterstützung von Beschleunigern: GKE unterstützt NVIDIA-GPUs und Google-TPUs für containerisierte Arbeitslasten.
Betriebssystem- und Kernelsteuerung: Google verwaltet das Betriebssystem sowohl im Autopilot- als auch im Standardmodus. Im Autopilot-Modus verwaltet Google Clusterknoten und Kapazitätsanpassungen ohne manuellen Eingriff. Im Standardmodus verwalten Sie Clusterknotenpools.
Orchestrierung: Um die Kapazität an die sich ändernde Nachfrage anzupassen, fügt GKE mit dem horizontalen und vertikalen Pod-Autoscaler (HPA und VPA) Container hinzu oder entfernt sie und fügt mit dem Cluster-Autoscaler Knoten hinzu oder entfernt sie. GKE orchestriert Batchjobs auch über Kueue.
Weitere Informationen finden Sie in der GKE-Übersicht.
VMware Engine verwenden
Wählen Sie VMware Engine aus, um Ihre lokalen VMware-Arbeitslasten mit minimalen betrieblichen Änderungen zur Google Cloud -Infrastruktur zu migrieren. VMware Engine ist ein verwalteter Dienst, mit dem Sie virtuelle VMware-Maschinen auf Google-Hardware ausführen können, ohne dass Sie Anwendungen ändern müssen.
VMware Engine bietet die folgenden Funktionen:
Unterstützung für Beschleuniger: VMware Engine unterstützt keine GPUs oder TPUs.
Betriebssystem- und Kernelsteuerung: Sie können VMware-Anwendungen auf Google Cloudausführen, da sie in Ihrer vorhandenen Einrichtung ausgeführt werden. Google verwaltet die physische Hardware, die Netzwerkinfrastruktur und die VMware-Softwareplattform, z. B. vSphere, vCenter, vSAN und NSX-T. Sie behalten die administrative Kontrolle über Ihre VMs, das Gastbetriebssystem und die VMware-Verwaltungstools.
Orchestration: Um die Größe Ihrer privaten Cloud anzupassen, fügen Sie dedizierte ESXi-Knoten hinzu oder entfernen Sie sie.
Weitere Informationen finden Sie in der Übersicht über Google Cloud VMware Engine.
Compute-Optionen vergleichen
In der folgenden Tabelle finden Sie einen Vergleich der technischen Funktionen der verschiedenen Compute-Optionen, damit Sie die Compute-Lösung oder das Tool auswählen können, das am besten zu Ihrer Arbeitslast passt:
| Compute-Option | GPUs | TPUs | Betriebssystem- und Kernel-Steuerung | Orchestrierung | Skalierung |
|---|---|---|---|---|---|
| Batch | Bis zu NVIDIA RTX PRO 6000 | Nein | Von Google verwaltet | Jobwarteschlange | Automatisch je nach Jobs in der Warteschlange |
| Cloud Run | NVIDIA RTX PRO 6000 Blackwell und L4 | Nein | Von Google verwaltet | Serverlos | Automatisch anhand von Anfragen oder CPU-Verbrauch |
| Cluster Director | NVIDIA GB300 Ultra-Superchips, GB200-Superchips, B200, H200 und H100 | Nein | Von Google verwaltet (benutzerdefiniertes Ubuntu) | Slurm | Automatisch anhand des CPU-Verbrauchs |
| Cluster Toolkit | Alle verfügbaren NVIDIA-GPUs | Alle verfügbaren Google-TPUs | Selbstverwaltet | Automatisierte Konfigurationsdateien (IaC) | Anpassbar mit MIGs oder GKE-Tools |
| Compute Engine | Alle verfügbaren NVIDIA-GPUs | Alle verfügbaren Google-TPUs | Selbstverwaltet | Manuell | Manuell oder automatisch mit MIGs |
| Google Kubernetes Engine (GKE) | Alle verfügbaren NVIDIA-GPUs | Alle verfügbaren Google-TPUs | Von Google verwaltet (Autopilot) oder teilweise verwaltet (Standard) | Kubernetes | Automatisches Skalieren von Pods und Knoten |
| VMware Engine | Nein | Nein | Von Google verwaltet | VMware-Plattform | Manuell mit ESXi-Knoten |