In diesem Dokument finden Sie einen Überblick und einen Vergleich von Richtlinien für kompakte Platzierung und Arbeitslastrichtlinien. Mit beiden Richtlinien können Sie die Platzierung von Compute Engine-Instanzen konfigurieren, um die Netzwerklatenz zu minimieren.
Standardmäßig verwalten Sie den Standort Ihrer Compute-Instanzen, indem Sie nur ihre Zonen angeben. Wenn Sie zukünftige Reservierungen oder Anfragen zum Ändern der Größe von verwalteten Instanzgruppen (Managed Instance Groups, MIGs) verwenden, um A4X-, A4-, A3 Ultra-, A3 Mega- und A3 High-Maschinen (8 GPUs) zu erhalten, werden die Compute-Instanzen, die Sie erhalten, dicht nebeneinander platziert. Möglicherweise möchten Sie jedoch bestimmte Compute-Instanzen näher beieinander platzieren, um die Leistung zwischen den Instanzen zu optimieren. Dazu können Sie Richtlinien für kompakte Platzierungen auf Compute-Instanzen oder Arbeitslastrichtlinien auf MIGs anwenden.
Richtlinien für kompakte Platzierung für Compute-Instanzen
Wenn Sie Richtlinien für kompakte Platzierung auf eigenständige Compute-Instanzen oder auf Compute-Instanzen anwenden, die im Bulk erstellt wurden, versucht Compute Engine, die Compute-Instanzen so nah wie möglich beieinander zu platzieren. Wenn für Ihre Anwendung eine minimale Netzwerklatenz erforderlich ist, geben Sie beim Erstellen einer Richtlinie für kompakte Platzierung das Feld maxDistance an (Vorabversion).
Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Richtlinien für kompakte Platzierung.
Arbeitslastrichtlinien für MIGs
Wenn Sie Arbeitslastrichtlinien auf MIGs anwenden, können Sie die Platzierung und die zugrunde liegende Infrastruktur für die Compute-Instanzen in Ihren MIGs angeben. Wenn Sie Arbeitslastrichtlinien mit A4X Max, A4X, A4, A3 Ultra, A3 Mega und A3 High (8 GPUs) verwenden, können Sie die Netzwerklatenz zwischen Ihren Compute-Instanzen minimieren und die Leistung optimieren.
Je nach den Maschinentypen, die die Compute-Instanzen in Ihrer MIG verwenden, sind Arbeitslastrichtlinien in den folgenden Situationen erforderlich oder optional:
Zum Bereitstellen von Unterblöcken von A4X Max- oder A4X-Instanzen sind Arbeitslastrichtlinien erforderlich.
Für die Verwendung von A4-, A3 Ultra-, A3 Mega- oder A3 High-Instanzen (8 GPUs) sind Arbeitslastrichtlinien optional.
Weitere Informationen finden Sie in der Compute Engine-Dokumentation unter Arbeitslastrichtlinien in MIGs.
Vergleich von Richtlinien für kompakte Platzierung und Arbeitslastrichtlinien
In der folgenden Tabelle sind die Unterschiede zwischen Richtlinien für die kompakte Platzierung und Arbeitslastrichtlinien zusammengefasst:
| Richtlinie für kompakte Platzierungen | Arbeitslastrichtlinie | |
|---|---|---|
| Richtliniennutzung |
|
Verwaltete Instanzgruppen (MIGs) |
| Unterstützte Maschinentypen | A4X Max, A4X, A4, A3 Ultra, A3 Mega, A3 High, A3 Edge, A2 und G2 |
|
| Semantik der Gruppierung | Compute Engine platziert Instanzen, die dieselbe Richtlinie für kompakte Platzierung verwenden, näher beieinander. Wir empfehlen, für jede Arbeitslast eine andere Platzierungsrichtlinie zu verwenden. Wenn Sie eine Platzierungsrichtlinie für Instanzen wiederverwenden, auf denen unterschiedliche Arbeitslasten ausgeführt werden, werden alle diese Instanzen zusammen platziert. Diese Colocation kann es erschweren, Instanzen zu erstellen, die nah beieinander liegen, wenn Sie eine bestimmte Arbeitslast horizontal skalieren. |
Compute Engine platziert die Instanzen in einer MIG, die eine Arbeitslastrichtlinie verwendet, näher beieinander. Wenn Sie eine Arbeitslastrichtlinie für mehrere MIGs wiederverwenden, in denen unterschiedliche Arbeitslasten ausgeführt werden, werden die Instanzen in den einzelnen MIGs zusammen platziert. Die Wiederverwendung ist ideal für große Trainingsmodelle, bei denen jede Gruppe von Instanzen voneinander isoliert werden muss. |
| Konfiguration der Colocation von Compute-Instanzen | Wenn Sie die Colocation von Best-Effort-Compute-Instanzen verwenden möchten, legen Sie das Feld |
Wenn Sie die Colocation von Best-Effort-Compute-Instanzen verwenden möchten, legen Sie das Feld |
| Zusätzliche Konfigurationen |
|
|
Vergleich der maximalen Entfernungswerte
Ein niedrigerer Wert für den maximalen Abstand sorgt für eine engere Platzierung von Compute-Instanzen, erhöht aber auch die Wahrscheinlichkeit, dass einige Compute-Instanzen nicht erstellt werden.
In der folgenden Tabelle sind die Maschinenserien und die Anzahl der Compute-Instanzen aufgeführt, die von jedem maximalen Abstandswert unterstützt werden:
maxDistance in einer Richtlinie für kompakte Platzierung |
maxTopologyDistance in einer Arbeitslastrichtlinie |
Beschreibung | Unterstützte Maschinenserien | Maximale Anzahl von Compute-Instanzen |
|---|---|---|---|---|
| Nicht angegeben (nicht empfohlen) | Nicht angegeben (nicht empfohlen) | Compute Engine versucht, die Compute-Instanzen so nah wie möglich beieinander zu platzieren, ohne dass es eine maximale Entfernung zwischen den Compute-Instanzen gibt. | A4X Max, A4X, A4, A3 Ultra, A3 Mega, A3 High (8 GPUs) | 1500 |
3 |
CLUSTER |
Compute Engine erstellt Compute-Instanzen in benachbarten Blöcken. | A4 | 1.500 |
2 |
BLOCK |
Compute Engine erstellt Compute-Instanzen im selben Block. | A4 und A3 Ultra |
|
1 |
SUBBLOCK |
Compute Engine erstellt Compute-Instanzen im selben Unterblock. | A4 und A3 Ultra | 22 |