En este documento, se proporciona una descripción general y una comparación de las políticas de posición compacta y las políticas de cargas de trabajo. Ambas políticas te permiten configurar la posición de las instancias de Compute Engine para minimizar la latencia de red.
De forma predeterminada, administras la ubicación de tus instancias de procesamiento especificando solo sus zonas. Cuando usas reservas futuras o solicitudes de cambio de tamaño de grupo de instancias administrado (MIG) para obtener máquinas A4X, A4, A3 Ultra, A3 Mega y A3 High (8 GPUs), las instancias de procesamiento que recibes se colocan de forma densa. Sin embargo, es posible que desees colocar instancias de procesamiento específicas más cerca para optimizar el rendimiento entre instancias. Para colocar instancias de procesamiento más cerca, puedes aplicar políticas de posición compacta a las instancias de procesamiento o políticas de cargas de trabajo a los MIG.
Políticas de posición compacta para instancias de procesamiento
Cuando aplicas políticas de posición compacta a instancias de procesamiento independientes o a instancias de procesamiento creadas de forma masiva, Compute Engine hace todo lo posible para crear instancias de procesamiento lo más cerca posible entre sí. Si tu
aplicación requiere una latencia de red mínima, especifica el maxDistance
campo (vista previa) cuando
crees una política de posición compacta.
Para obtener más información, consulta Acerca de las políticas de posición compacta en la documentación de Compute Engine.
Políticas de cargas de trabajo para MIG
Cuando aplicas políticas de cargas de trabajo a los MIG, puedes especificar la posición y la infraestructura subyacente para las instancias de procesamiento en tus MIG. Si usas políticas de cargas de trabajo con A4X Max, A4X, A4, A3 Ultra, A3 Mega y A3 High (8 GPUs), puedes minimizar la latencia de red entre tus instancias de procesamiento y optimizar el rendimiento.
Según los tipos de máquinas que usan las instancias de procesamiento en tu MIG, las políticas de cargas de trabajo son obligatorias o opcionales en las siguientes situaciones:
Para implementar subbloques de instancias A4X Max o A4X, se requieren políticas de cargas de trabajo.
Para usar instancias A4, A3 Ultra, A3 Mega o A3 High (8 GPUs), las políticas de cargas de trabajo son opcionales.
Para obtener más información, consulta Acerca de las políticas de cargas de trabajo en los MIG en la documentación de Compute Engine.
Comparación de la política de posición compacta y la política de cargas de trabajo
En la siguiente tabla, se resumen las diferencias entre las políticas de posición compacta y las políticas de cargas de trabajo:
| Política de posición compacta | Política de cargas de trabajo | |
|---|---|---|
| Uso de la política |
|
Grupos de instancias administrados (MIG) |
| Tipos de máquinas compatibles | A4X Max, A4X, A4, A3 Ultra, A3 Mega, A3 High, A3 Edge, A2 y G2 |
|
| Semántica de agrupación | Compute Engine coloca las instancias que usan la misma política de posición compacta más cerca. Te recomendamos que uses una política de posición diferente para cada carga de trabajo. Si vuelves a usar una política de posición en instancias que ejecutan diferentes cargas de trabajo, todas esas instancias se colocarán juntas. Esta colocación puede dificultar la creación de instancias que estén cerca juntas cuando escalas horizontalmente una carga de trabajo específica. |
Compute Engine coloca las instancias en un MIG que usa una política de cargas de trabajo más cerca. Si vuelves a usar una política de cargas de trabajo en varios MIG que ejecutan diferentes cargas de trabajo, las instancias se colocan juntas en MIG individuales. La reutilización es ideal para modelos de entrenamiento grandes en los que cada grupo de instancias debe estar aislado entre sí. |
| Configuración de colocación de instancias de procesamiento | Para la colocación de instancias de procesamiento de mejor esfuerzo, establece el
|
Para la colocación de instancias de procesamiento de mejor esfuerzo, establece el
|
| Configuraciones adicionales |
|
|
Comparación de valores de distancia máxima
Un valor de distancia máxima más bajo garantiza una colocación más cercana de las instancias de procesamiento, pero también aumenta la probabilidad de que no se creen algunas instancias de procesamiento.
En la siguiente tabla, se muestran la serie de máquinas y la cantidad de instancias de procesamiento que admite cada valor de distancia máxima:
maxDistance en una política de posición compacta |
maxTopologyDistance en una política de cargas de trabajo |
Descripción | Serie de máquinas compatible | Cantidad máxima de instancias de procesamiento |
|---|---|---|---|---|
| Sin especificar (no recomendado) | Sin especificar (no recomendado) | Compute Engine hace todo lo posible para colocar las instancias de procesamiento lo más cerca posible entre sí, pero sin una distancia máxima entre las instancias de procesamiento. | A4X Max, A4X, A4, A3 Ultra, A3 Mega, A3 High (8 GPUs) | 1500 |
3 |
CLUSTER |
Compute Engine crea instancias de procesamiento en bloques adyacentes. | A4 | 1,500 |
2 |
BLOCK |
Compute Engine crea instancias de procesamiento en el mismo bloque. | A4 y A3 Ultra |
|
1 |
SUBBLOCK |
Compute Engine crea instancias de procesamiento en el mismo subbloque. | A4 y A3 Ultra | 22 |