이 문서에서는 압축 배치 정책과 워크로드 정책을 간략하게 설명하고 비교합니다. 두 정책 모두 네트워크 지연 시간을 최소화하도록 가상 머신 (VM) 인스턴스의 배치를 구성할 수 있습니다. 개별적으로 또는 일괄적으로 생성된 인스턴스에는 압축 배치 정책을 사용하고 관리형 인스턴스 그룹 (MIG)에는 워크로드 정책을 사용합니다.
기본적으로 VM의 위치는 영역을 지정하는 방식으로만 관리할 수 있습니다. 미래용 예약 또는 MIG 크기 조절 요청과 함께 Flex-start를 사용하여 A4X, A4, A3 Ultra, A3 Mega, A3 High (GPU 8개) 머신을 확보하면 수신되는 VM 리소스가 기본적으로 밀집 공동 배치됩니다. 하지만 각 애플리케이션에서 VM 간 성능을 최적화하기 위해 특정 VM을 더 가깝게 배치할 수도 있습니다. VM을 더 가깝게 배치하려면 VM에 압축 배치 정책을 적용하거나 MIG에 높은 처리량 워크로드 정책을 적용하면 됩니다.
VM의 압축 배치 정책
VM에 압축 배치 정책을 적용하면 Compute Engine은 VM을 최대한 서로 가까운 위치에 만들기 위해 최선을 다합니다. 애플리케이션이 지연 시간에 민감하고 VM이 최대한 가까이 (최대 압축) 있어야 하는 경우 압축 배치 정책을 만들 때 maxDistance 필드(프리뷰)를 지정합니다.
자세한 내용은 Compute Engine 문서의 압축 배치 정책 정보를 참고하세요.
MIG의 워크로드 정책
워크로드 정책을 사용하면 인프라에서 실행할 워크로드의 유형을 지정할 수 있습니다. VM 배치와 같은 기본 인프라의 실제 속성을 지정하여 지정된 유형과 가장 잘 일치시킬 수도 있습니다.
워크로드 정책에 대해 다음 구성 설정을 지정합니다.
워크로드 유형 (
type): 높은 처리량 (high-throughput) 워크로드의 경우 Compute Engine은 VM을 최대한 서로 가까운 곳에 배치하려고 최선을 다합니다. VM 배치에 따라 VM의 머신 유형과 영역 가용성이 달라집니다.VM의 엄격한 공동 배치 또는 가속기 토폴로지를 사용하기 위한 추가 요구사항입니다. 다음 중 하나를 지정할 수 있습니다.
VM의 엄격한 공동 배치 (
maxTopologyDistance): 세부적인 저지연 시간 네트워크 성능을 달성합니다. 엄격한 공동 배치란 VM을 최대한 서로 가까운 위치에 배치하기 위해 최선을 다하는 것 외에도 VM 간 최대 거리를 추가로 지정할 수 있음을 의미합니다. 용량 제약으로 인해 엄격한 동일 위치 요구사항이 충족되지 않으면 MIG에서 VM을 만들지 않습니다.VM의 액셀러레이터 토폴로지(
acceleratorTopology): 특수 액셀러레이터 간 네트워크 구성을 사용하는 여러 VM에서 실행되는 분산 워크로드의 높은 성능을 달성합니다(예: GPU에 NVLink 도메인을 사용하는 A4X VM).
압축 배치 정책과 워크로드 정책 비교
다음 표에는 컴팩트 배치 정책과 워크로드 정책의 차이점이 요약되어 있습니다.
| 압축 배치 정책 | 워크로드 정책 | |
|---|---|---|
| 다음 리소스와 함께 사용 |
|
관리형 인스턴스 그룹(MIG) |
| 지원되는 머신 유형 | 모든 GPU 제품군 | A4X, A4, A3 Ultra, A3 Mega, A3 High (GPU 8개) |
| 그룹화 시맨틱스 | Compute Engine은 동일한 압축 배치 정책을 사용하는 인스턴스를 더 가깝게 배치합니다. 워크로드마다 다른 배치 정책을 사용하는 것이 좋습니다. 서로 다른 워크로드를 실행하는 인스턴스에서 배치 정책을 재사용하면 이러한 모든 인스턴스가 함께 배치됩니다. 이러한 공동 배치로 인해 특정 워크로드를 스케일 아웃할 때 서로 가까운 인스턴스를 만들기가 어려울 수 있습니다. |
Compute Engine은 워크로드 정책을 사용하는 MIG의 인스턴스를 더 가까운 위치에 배치합니다. 서로 다른 워크로드를 실행하는 여러 MIG에서 워크로드 정책을 재사용하면 인스턴스가 개별 MIG에 함께 배치됩니다. 재사용은 각 인스턴스 그룹이 서로 격리되어야 하는 대규모 학습 모델에 적합합니다. |
| VM 공동 배치 구성 | 최적의 VM 공동 배치를 위해 |
최적의 VM 공동 배치를 위해 |
| 추가 구성 |
|
|
최대 거리 값 비교
최대 거리 값이 낮을수록 VM이 더 가까운 위치에 배치되지만 일부 VM이 생성되지 않을 가능성도 높아집니다.
다음 표에서는 각 최대 거리 값에 지원되는 머신 시리즈와 VM 수를 보여줍니다.
압축 배치 정책의 maxDistance |
워크로드 정책의 maxTopologyDistance |
설명 | 지원되는 머신 시리즈 | 최대 VM 수 |
|---|---|---|---|---|
| 미지정(권장하지 않음) | 미지정(권장하지 않음) | Compute Engine은 VM을 최대한 서로 가까운 위치에 배치하기 위해 최선을 다하지만 VM 간 최대 거리는 없습니다. | A4, A3 Ultra, A3 Mega, A3 High (GPU 8개) | 1500 |
3 |
cluster |
Compute Engine은 인접한 블록에 VM을 만듭니다. | A4 | 1,500 |
2 |
block |
Compute Engine은 동일한 블록에 VM을 만듭니다. | A4 및 A3 Ultra |
|