Questo documento fornisce una panoramica e un confronto tra le policy di posizionamento compatto e le policy del workload. Entrambe le policy consentono di configurare il posizionamento delle istanze di Compute Engine per ridurre al minimo la latenza di rete.
Per impostazione predefinita, gestisci la località delle istanze di computing specificando solo le relative zone. Per creare istanze di computing più vicine tra loro, puoi utilizzare le seguenti opzioni. Per saperne di più, consulta anche Colocation delle risorse dell'infrastruttura AI.
Le seguenti risorse sono già collocate in modo denso tra loro:
- Risorse che utilizzano la stessa prenotazione futura per i blocchi di capacità.
- Risorse che utilizzano la stessa prenotazione futura in modalità calendario.
- Risorse che crei insieme tramite una richiesta di ridimensionamento del gruppo di istanze gestite (MIG).
Le risorse che crei insieme quando specifichi l'opzione di utilizzo avvio flessibile potrebbero essere collocate in modo denso in base alla disponibilità con il criterio del "best effort". Se invece hai bisogno di risorse collocate in modo denso, applica una policy di posizionamento compatto che specifichi una distanza massima o una policy del workload che specifichi una distanza massima.
In caso contrario, per posizionare le risorse vicine tra loro, applica una policy di posizionamento compatto o una policy del workload.
- Quando hai bisogno di risorse collocate in modo denso, specifica una distanza massima nella policy.
- Se vuoi risorse collocate in modo denso in base alla disponibilità con il criterio del "best effort", non specificare una distanza massima nella policy.
Per saperne di più su quando utilizzare una policy di posizionamento compatto rispetto a una policy del workload, consulta Confronto tra policy di posizionamento compatto e policy del workload in questo documento.
Confronto tra policy di posizionamento compatto e policy del workload
La tabella seguente riassume le differenze tra le policy di posizionamento compatto e le policy del workload:
| Policy di posizionamento compatto | Policy del workload | |
|---|---|---|
| Utilizzo della policy |
|
MIG con GPU in cluster |
| Tipi di macchine supportati | A4X Max, A4X, A4, A3 Ultra, A3 Mega, A3 High, A3 Edge, A2, G4 e G2 |
|
| Semantica di raggruppamento | Compute Engine posiziona le istanze che utilizzano la stessa policy di posizionamento compatto più vicine tra loro. Ti consigliamo di utilizzare una policy di posizionamento diversa per ogni workload. Il riutilizzo di una policy di posizionamento tra le istanze che eseguono workload diversi fa sì che tutte queste istanze vengano posizionate insieme. Questa colocation può rendere difficile la creazione di istanze vicine tra loro quando fai lo scale out di un workload specifico. |
Compute Engine posiziona le istanze in un MIG che utilizza una policy del workload più vicine tra loro. Il riutilizzo di una policy del workload in più MIG che eseguono workload diversi workload diversi posiziona le istanze in singoli MIG insieme. Il riutilizzo è ideale per i modelli di addestramento di grandi dimensioni in cui ogni gruppo di istanze deve essere isolato l'uno dall'altro. |
| Configurazione della colocation delle istanze di computing | Per la colocation delle istanze di computing con il criterio del "best effort", imposta il
|
Per la colocation delle istanze di computing con il criterio del "best effort", imposta il
|
| Configurazioni aggiuntive |
|
|
Per saperne di più, consulta le seguenti sezioni:
Policy di posizionamento compatto
Quando applichi le policy di posizionamento compatto alle istanze di computing autonome o alle istanze di computing create in blocco, Compute Engine tenta di creare istanze di computing il più vicine possibile tra loro. Se la tua
applicazione richiede una latenza di rete minima, specifica il maxDistance
campo (anteprima) quando
crei una policy di posizionamento compatto.
Per saperne di più, consulta Informazioni sulle policy di posizionamento compatto nella documentazione di Compute Engine.
Confronto dei valori di distanza massima per le policy di posizionamento compatto
Un valore di distanza massima inferiore garantisce un posizionamento più vicino delle istanze di computing, ma aumenta anche la probabilità che alcune istanze di computing non vengano create.
La tabella seguente mostra le serie di macchine e il numero di istanze di computing supportate da ogni valore di distanza massima:
maxDistance in una policy di posizionamento compatto |
maxTopologyDistance in una policy del workload |
Descrizione | Serie di macchine supportate | Numero massimo di istanze di computing |
|---|---|---|---|---|
| Non specificato (opzione sconsigliata) | Non specificato (opzione sconsigliata) | Compute Engine tenta di posizionare le istanze di computing il più vicino possibile tra loro, ma senza una distanza massima tra le istanze di computing. | A4X Max, A4X, A4, A3 Ultra, A3 Mega1, A3 High1, A3 Edge1, A2, G4 e G2 | 1500 |
3 |
CLUSTER |
Compute Engine crea istanze di computing in blocchi adiacenti. | A4, A3 Mega1, A3 High1, A3 Edge1, A2, G4 e G2 | 1500 |
2 |
BLOCK |
Compute Engine crea istanze di computing nello stesso blocco. | A4, A3 Ultra, A3 Mega1, A3 High1, A3 Edge1, A2, G4 e G2 |
|
1 |
SUBBLOCK |
Compute Engine crea istanze di computing nello stesso sottoblocco. | A3 Edge1, A2, G4 e G2 | 22 |
1 Se vuoi applicare una policy di posizionamento compatto a un'istanza A3 Mega, A3 High o A3 Edge creata prima del 1° ottobre 2025, contatta il team dedicato all'account o il team di vendita.
Policy workload
Le policy del workload consentono di specificare il posizionamento e l'infrastruttura sottostante per le istanze di computing in un MIG. L'utilizzo delle policy del workload con A4X Max, A4X, A4, A3 Ultra, A3 Mega e A3 High (8 GPU) consente di ridurre al minimo la latenza di rete tra le istanze di computing e ottimizzare le prestazioni.
A seconda dei tipi di macchine utilizzati dalle istanze di computing nel MIG, le policy del workload sono obbligatorie o facoltative nelle seguenti situazioni:
Per eseguire il deployment di sottoblocchi di istanze A4X Max o A4X, le policy del workload sono obbligatorie.
Per utilizzare le istanze A4, A3 Ultra, A3 Mega o A3 High (8 GPU), le policy del workload sono facoltative.
La policy del workload non è supportata per le serie di macchine A3 Edge, A2, G4, G2 e N1. Per i MIG che utilizzano queste serie di macchine, puoi utilizzare la policy di posizionamento compatto per la colocation delle VM.
Per saperne di più, consulta Informazioni sulle policy del workload nei MIG nella documentazione di Compute Engine.