AI에 최적화된 G2 MIG 만들기

이 문서에서는 G2 머신 유형을 사용하는 관리형 인스턴스 그룹 (MIG)을 만드는 방법을 설명합니다. 이러한 가속기 최적화 머신 유형에 대해 자세히 알아보려면 G2 시리즈를 참고하세요.

MIG를 만들면 여러 가상 머신(VM)을 단일 항목으로 관리할 수 있습니다. MIG의 각 VM은 인스턴스 템플릿을 기반으로 합니다. 그룹의 VM을 자동으로 관리함으로써 MIG는 고가용성과 확장성을 제공합니다. MIG에 대해 자세히 알아보려면 Compute Engine 문서의 관리형 인스턴스 그룹을 참고하세요.

VM 또는 클러스터를 만드는 다른 방법을 알아보려면 배포 옵션 개요를 참고하세요.

제한사항

G2 VM으로 MIG를 만들 때는 머신 유형과 MIG 모두의 제한사항을 고려하세요.

G2 VM 제한사항

G2 VM을 만들 때는 다음 제한사항이 적용됩니다.

  • G2 머신 유형을 사용하는 VM에는 지속 사용 할인가변형 약정 사용 할인이 적용되지 않습니다.
  • 특정 리전과 영역에서만 G2 머신 유형을 사용할 수 있습니다.
  • Cascade Lake 플랫폼에서만 G2 머신 유형을 사용할 수 있습니다.
  • G2 머신 유형을 사용하는 인스턴스에서는 표준 영구 디스크(pd-standard)가 지원되지 않습니다. 지원되는 디스크 유형은 G2에 지원되는 디스크 유형을 참조하세요.
  • G2 머신 유형을 사용하는 인스턴스에서는 멀티 인스턴스 GPU를 만들 수 없습니다.
  • G2 인스턴스 머신 유형을 변경해야 하는 경우에는 가속기 최적화 인스턴스 수정을 참조하세요.
  • Deep Learning VM Image를 G2 머신 유형을 사용하는 인스턴스의 부팅 디스크로 사용할 수 없습니다.
  • 현재 Container-Optimized OS의 기본 드라이버는 G2 머신 유형에서 실행되는 L4 GPU를 지원하지 않습니다. 또한 Container-Optimized OS는 일부 드라이버 세트만 지원합니다. G2 머신 유형에서 Container-Optimized OS를 사용하려면 다음 참고를 검토하세요.
    • 권장되는 최소 NVIDIA 드라이버 버전 525.60.13 이상을 지원하는 Container-Optimized OS 버전을 사용합니다. 자세한 내용은 Container-Optimized OS 출시 노트를 참조하세요.
    • 드라이버 설치 시 L4 GPU에서 작동하는 최신 버전을 지정합니다. 예를 들면 sudo cos-extensions install gpu -- -version=525.60.13입니다.
  • 다음 시나리오의 경우 G2 인스턴스를 만들려면 Google Cloud CLI 또는 REST를 사용해야 합니다.
    • 커스텀 메모리 값을 지정하려고 하는 경우
    • 표시되는 CPU 코어 수를 맞춤설정하려고 합니다.

MIG 제한사항

시작하기 전에

MIG를 만들기 전에 아직 완료하지 않았다면 다음 단계를 완료하세요.

  1. 소비 옵션 선택: 소비 옵션 선택에 따라 GPU 리소스를 획득하고 사용하는 방식이 결정됩니다. 자세한 내용은 사용 옵션 선택을 참고하세요.
  2. 용량 획득: 각 소비 옵션의 용량 획득 프로세스가 다릅니다. 선택한 소비 옵션의 용량을 확보하는 프로세스에 대해 알아보려면 용량 개요를 참고하세요.

필요한 역할

MIG를 만드는 데 필요한 권한을 얻으려면 관리자에게 프로젝트에 대한 Compute 인스턴스 관리자 (v1) (roles/compute.instanceAdmin.v1) IAM 역할을 부여해 달라고 요청하세요. 역할 부여에 대한 자세한 내용은 프로젝트, 폴더, 조직에 대한 액세스 관리를 참조하세요.

이 사전 정의된 역할에는 MIG를 만드는 데 필요한 권한이 포함되어 있습니다. 필요한 정확한 권한을 보려면 필수 권한 섹션을 펼치세요.

필수 권한

MIG를 만들려면 다음 권한이 필요합니다.

  • MIG를 만들려면 프로젝트에 대해 compute.instanceGroupManagers.create 권한이 필요합니다.

커스텀 역할이나 다른 사전 정의된 역할을 사용하여 이 권한을 부여받을 수도 있습니다.

개요

G2 머신 유형으로 MIG를 만드는 단계는 다음과 같습니다.

  1. 선택사항: 압축 배치 정책 만들기
  2. 인스턴스 템플릿 만들기
  3. MIG 만들기
  4. GPU 드라이버 설치

각 MIG에 대해 압축 배치 정책을 사용할지, 크기 조절 요청을 사용할지, 둘 다 사용하지 않을지 선택해야 합니다. 각 옵션을 사용하는 시기에 관한 자세한 내용은 이 문서의 MIG 제한사항을 참고하세요.

선택사항: 압축 배치 정책 만들기

압축 배치 정책을 만들어 VM 배치를 지정할 수 있습니다. VM에 압축 배치 정책을 적용하면 Compute Engine은 VM을 최대한 서로 가까운 위치에 만들기 위해 최선을 다합니다. 애플리케이션이 지연 시간에 민감하고 최대 압축이 필요한 경우 압축 배치 정책을 만들 때 maxDistance 필드(미리보기)를 지정합니다. maxDistance 값이 낮으면 VM이 더 가까운 위치에 배치되지만 일부 VM이 생성되지 않을 가능성도 높아집니다.

압축 배치 정책을 만들려면 다음 옵션 중 하나를 선택합니다.

gcloud

압축 배치 정책을 만들려면 gcloud beta compute resource-policies create group-placement 명령어를 사용합니다.

gcloud beta compute resource-policies create group-placement POLICY_NAME \
    --collocation=collocated \
    --max-distance=MAX_DISTANCE \
    --region=REGION

다음을 바꿉니다.

  • POLICY_NAME: 압축 배치 정책 이름
  • MAX_DISTANCE: VM의 최대 거리 구성입니다. 지정(미리보기, 권장)하거나 지정하지 않을 수 있습니다 (--max-distance 플래그 삭제). 머신 유형에서 지원하는 항목에 따라 다음 값 중 하나를 지정할 수 있습니다.
    • VM을 동일한 하위 블록에 배치하려면 1를 사용합니다.
    • VM을 동일한 블록에 배치하려면 2을 지정합니다.
    • VM을 인접한 블록에 배치하려면 3을 지정합니다.
    최대 거리 구성이 만들려는 머신 시리즈와 VM 수를 지원하는지 확인합니다. 자세한 내용은 Compute Engine 문서의 압축 배치 정책 정보를 참고하세요.
  • REGION: 압축 배치 정책을 만들려는 리전입니다. 인스턴스를 만들려는 영역이 포함된 리전을 지정하고 사용하려는 머신 유형이 해당 리전에서 사용 가능한지 확인합니다. 리전에 대한 자세한 내용은 리전 및 영역별 GPU 가용성을 참고하세요.

REST

압축 배치 정책을 만들려면 베타 resourcePolicies.insert 메서드POST 요청을 수행합니다. 요청 본문에 COLLOCATED로 설정된 collocation 필드와 maxDistance 필드를 포함합니다.

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "POLICY_NAME",
    "groupPlacementPolicy": {
      "collocation": "COLLOCATED",
      "maxDistance": MAX_DISTANCE
    }
  }

다음을 바꿉니다.

  • PROJECT_ID: 프로젝트 ID입니다.
  • POLICY_NAME: 압축 배치 정책 이름
  • MAX_DISTANCE: VM의 최대 거리 구성입니다. 지정(미리보기, 권장)하거나 지정하지 않을 수 있습니다 (maxDistance 필드 삭제). 머신 유형에서 지원하는 항목에 따라 다음 값 중 하나를 지정할 수 있습니다.
    • VM을 동일한 하위 블록에 배치하려면 1를 사용합니다.
    • VM을 동일한 블록에 배치하려면 2을 지정합니다.
    • VM을 인접한 블록에 배치하려면 3을 지정합니다.
    최대 거리 구성이 만들려는 머신 시리즈와 VM 수를 지원하는지 확인합니다. 자세한 내용은 Compute Engine 문서의 압축 배치 정책 정보를 참고하세요.
  • REGION: 압축 배치 정책을 만들려는 리전입니다. 인스턴스를 만들려는 영역이 포함된 리전을 지정하고 사용하려는 머신 유형이 해당 리전에서 사용 가능한지 확인합니다. 리전에 대한 자세한 내용은 리전 및 영역별 GPU 가용성을 참고하세요.

인스턴스 템플릿 만들기

인스턴스 템플릿을 만들어 MIG의 VM 속성을 지정합니다.

인스턴스 템플릿을 만들려면 다음 옵션 중 하나를 선택합니다.

다음 명령어는 인스턴스의 액세스 범위도 설정합니다. 권한 관리를 간소화하려면 인스턴스의 액세스 범위를 cloud-platform 액세스로 설정한 다음 IAM 역할을 사용하여 인스턴스에서 액세스할 수 있는 서비스를 정의하는 것이 좋습니다. 자세한 내용은 범위 권장사항을 참고하세요.

gcloud

리전 인스턴스 템플릿을 만들려면 gcloud compute instance-templates create 명령어를 사용합니다.

지정해야 하는 파라미터는 이번 배포에서 사용하는 소비 옵션에 따라 달라집니다. 해당 소비 옵션에 해당하는 탭을 선택합니다.

예약

G2 인스턴스는 다음 예약 유형을 지원합니다.

  • 온디맨드 예약
  • 표준 미래용 예약

이러한 유형의 예약을 사용하려면 인스턴스가 표준 프로비저닝 모델을 사용해야 합니다. 예를 들어 다음 생성 매개변수를 사용합니다.

명령어를 실행하기 전에 다음 단계를 모두 검토하여 추가 플래그를 포함할지 결정하세요.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

다음 단계를 완료합니다.

  1. 다음을 바꿉니다.

    • INSTANCE_TEMPLATE_NAME: 인스턴스 템플릿의 이름
    • MACHINE_TYPE: G2 인스턴스에 사용할 머신 유형입니다. 자세한 내용은 Compute Engine 문서의 GPU 머신 유형을 참고하세요.
    • IMAGE_FAMILY: 사용할 OS 이미지의 이미지 계열로 바꿉니다. 지원되는 모든 운영체제 목록은 지원되는 운영체제를 참고하세요.
    • IMAGE_PROJECT: OS 이미지의 프로젝트 ID로 바꿉니다.
    • REGION: 인스턴스 템플릿을 만들 리전입니다. 사용할 머신 유형이 제공되는 리전을 지정합니다. 리전에 대한 자세한 내용은 리전 및 영역별 GPU 가용성을 참고하세요.
    • DISK_TYPE: 부팅 디스크의 유형입니다. 머신 유형에 지원되는 디스크 유형에 대한 자세한 내용은 Compute Engine 문서의 가속기 최적화 머신 계열의 GPU 머신을 참고하세요.
    • DISK_SIZE: 부팅 디스크의 크기(GB 단위). 자세한 내용은 디스크 유형에 따라 Google Cloud Hyperdisk 크기 한도 또는 Persistent Disk 크기 한도를 참고하세요.
    • RESERVATION_AFFINITY: 인스턴스가 사용할 수 있는 예약입니다(가능한 경우). 다음 중 하나를 지정합니다.

      • any (예약 용량은 선택사항): 기본 옵션입니다. 인스턴스는 자동으로 사용되는 예약의 용량을 사용하려고 시도하며, 이는 일치하는 예약 용량이 있는 경우에만 발생합니다. 그렇지 않으면 인스턴스에서 주문형 용량을 사용합니다.

      • specific (예약 용량이 필요함): 인스턴스가 특별히 타겟팅된 예약의 용량을 사용해야 합니다. 인스턴스가 주문형 용량을 사용할 수 없습니다. 예약 용량을 사용할 수 없으면 인스턴스 생성이 실패합니다.

    • RESERVATION: 사용할 예약입니다. RESERVATION_AFFINITY에 지정한 값에 따라 다음 중 하나를 지정합니다.

      • any를 지정한 경우 RESERVATION를 빈 문자열 ("")로 바꿉니다. 또는 --reservation 플래그를 완전히 삭제할 수 있습니다.
      • specific를 지정한 경우 RESERVATION를 다음으로 바꿉니다.

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        다음을 바꿉니다.

        • RESERVATION_OWNER_PROJECT_ID: 예약이 생성된 프로젝트의 프로젝트 ID입니다.
        • RESERVATION_NAME: 예약 이름.
  2. 기본적으로 인스턴스가 비정상 종료되거나 Compute Engine에서 유지보수 이벤트와 같은 프로그래밍된 중지를 위해 인스턴스를 중지하는 경우 인스턴스가 자동으로 다시 시작됩니다. 자동 다시 시작을 사용 중지하려면 다음 플래그를 추가합니다.

    --no-restart-on-failure
  3. 선택사항: 압축 배치 정책을 사용하기로 한 경우 명령어에 다음 플래그를 추가합니다.

    --resource-policies=POLICY_NAME
    

    다음을 바꿉니다.

    • POLICY_NAME: 압축 배치 정책 이름
  4. 선택사항: 로컬 SSD 디스크를 연결하려면 로컬 SSD 디스크에 다음 --local-ssd 플래그를 추가합니다.

    연결하는 로컬 SSD 디스크 수가 머신 유형에 허용되는지 확인합니다. 자세한 내용은 Compute Engine 문서의 로컬 SSD 디스크 정보를 참고하세요.

    --local-ssd interface=INTERFACE_TYPE
    

    다음을 바꿉니다.

    • INTERFACE_TYPE: 로컬 SSD 디스크에 사용하려는 디스크 인터페이스 유형입니다. 부팅 디스크 이미지에 최적화된 NVMe 드라이버가 있는 경우 NVME를 지정합니다. 다른 이미지에는 SCSI를 지정합니다.

    로컬 SSD 디스크로 VM을 만든 후 이를 사용하려면 먼저 각 기기를 포맷하고 마운트해야 합니다.

  5. 명령어를 실행합니다.

주문형

명령어를 실행하기 전에 다음 단계를 모두 검토하여 추가 플래그를 포함할지 결정하세요.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

다음 단계를 완료합니다.

  1. 다음을 바꿉니다.

    • INSTANCE_TEMPLATE_NAME: 인스턴스 템플릿의 이름
    • MACHINE_TYPE: G2 인스턴스에 사용할 머신 유형입니다. 자세한 내용은 Compute Engine 문서의 GPU 머신 유형을 참고하세요.
    • IMAGE_FAMILY: 사용할 OS 이미지의 이미지 계열로 바꿉니다. 지원되는 모든 운영체제 목록은 지원되는 운영체제를 참고하세요.
    • IMAGE_PROJECT: OS 이미지의 프로젝트 ID로 바꿉니다.
    • REGION: 인스턴스 템플릿을 만들 리전입니다. 사용할 머신 유형이 제공되는 리전을 지정합니다. 리전에 대한 자세한 내용은 리전 및 영역별 GPU 가용성을 참고하세요.
    • DISK_TYPE: 부팅 디스크의 유형입니다. 머신 유형에 지원되는 디스크 유형에 대한 자세한 내용은 Compute Engine 문서의 가속기 최적화 머신 계열의 GPU 머신을 참고하세요.
    • DISK_SIZE: 부팅 디스크의 크기(GB 단위). 자세한 내용은 디스크 유형에 따라 Google Cloud Hyperdisk 크기 한도 또는 Persistent Disk 크기 한도를 참고하세요.
    • RESERVATION_AFFINITY: 인스턴스가 사용할 수 있는 예약입니다(가능한 경우). 다음 중 하나를 지정합니다.

      • any (예약 용량은 선택사항): 기본 옵션입니다. 인스턴스는 자동으로 사용되는 예약의 용량을 사용하려고 시도하며, 이는 일치하는 예약 용량이 있는 경우에만 발생합니다. 그렇지 않으면 인스턴스에서 주문형 용량을 사용합니다.

      • none (온디맨드 용량이 필요함): 인스턴스가 예약 용량을 사용하지 못하도록 차단합니다.

  2. 기본적으로 인스턴스가 비정상 종료되거나 Compute Engine에서 유지보수 이벤트와 같은 프로그래밍된 중지를 위해 인스턴스를 중지하는 경우 인스턴스가 자동으로 다시 시작됩니다. 자동 다시 시작을 사용 중지하려면 다음 플래그를 추가합니다.

    --no-restart-on-failure
  3. 선택사항: 압축 배치 정책을 사용하기로 한 경우 명령어에 다음 플래그를 추가합니다.

    --resource-policies=POLICY_NAME
    

    다음을 바꿉니다.

    • POLICY_NAME: 압축 배치 정책 이름
  4. 선택사항: 로컬 SSD 디스크를 연결하려면 로컬 SSD 디스크에 다음 --local-ssd 플래그를 추가합니다.

    연결하는 로컬 SSD 디스크 수가 머신 유형에 허용되는지 확인합니다. 자세한 내용은 Compute Engine 문서의 로컬 SSD 디스크 정보를 참고하세요.

    --local-ssd interface=INTERFACE_TYPE
    

    다음을 바꿉니다.

    • INTERFACE_TYPE: 로컬 SSD 디스크에 사용하려는 디스크 인터페이스 유형입니다. 부팅 디스크 이미지에 최적화된 NVMe 드라이버가 있는 경우 NVME를 지정합니다. 다른 이미지에는 SCSI를 지정합니다.

    로컬 SSD 디스크로 VM을 만든 후 이를 사용하려면 먼저 각 기기를 포맷하고 마운트해야 합니다.

  5. 명령어를 실행합니다.

유연한 시작

명령어를 실행하기 전에 다음 단계를 모두 검토하여 추가 플래그를 포함할지 결정하세요.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --reservation-affinity=none \
    --instance-termination-action=DELETE \
    --max-run-duration=RUN_DURATION \
    --maintenance-policy=TERMINATE \
    --provisioning-model=FLEX_START

다음 단계를 완료합니다.

  1. 다음을 바꿉니다.

    • INSTANCE_TEMPLATE_NAME: 인스턴스 템플릿의 이름
    • MACHINE_TYPE: G2 인스턴스에 사용할 머신 유형입니다. 자세한 내용은 Compute Engine 문서의 GPU 머신 유형을 참고하세요.
    • IMAGE_FAMILY: 사용할 OS 이미지의 이미지 계열로 바꿉니다. 지원되는 모든 운영체제 목록은 지원되는 운영체제를 참고하세요.
    • IMAGE_PROJECT: OS 이미지의 프로젝트 ID로 바꿉니다.
    • REGION: 인스턴스 템플릿을 만들 리전입니다. 사용할 머신 유형이 제공되는 리전을 지정합니다. 리전에 대한 자세한 내용은 리전 및 영역별 GPU 가용성을 참고하세요.
    • DISK_TYPE: 부팅 디스크의 유형입니다. 머신 유형에 지원되는 디스크 유형에 대한 자세한 내용은 Compute Engine 문서의 가속기 최적화 머신 계열의 GPU 머신을 참고하세요.
    • DISK_SIZE: 부팅 디스크의 크기(GB 단위). 자세한 내용은 디스크 유형에 따라 Google Cloud Hyperdisk 크기 한도 또는 Persistent Disk 크기 한도를 참고하세요.
    • RUN_DURATION: 요청된 VM을 실행할 기간입니다. 각각 d, h, m, s를 사용하여 일, 시, 분 또는 초 순서로 값 형식을 지정해야 합니다. 예를 들어 30m은 30분, 1d2h3m4s는 1일 2시간 3분 4초를 의미합니다. 값은 10분~7일 사이여야 합니다.
  2. 선택사항: 로컬 SSD 디스크를 연결하려면 로컬 SSD 디스크에 다음 --local-ssd 플래그를 추가합니다.

    연결하는 로컬 SSD 디스크 수가 머신 유형에 허용되는지 확인합니다. 자세한 내용은 Compute Engine 문서의 로컬 SSD 디스크 정보를 참고하세요.

    --local-ssd interface=INTERFACE_TYPE
    

    다음을 바꿉니다.

    • INTERFACE_TYPE: 로컬 SSD 디스크에 사용하려는 디스크 인터페이스 유형입니다. 부팅 디스크 이미지에 최적화된 NVMe 드라이버가 있는 경우 NVME를 지정합니다. 다른 이미지에는 SCSI를 지정합니다.

    로컬 SSD 디스크로 VM을 만든 후 이를 사용하려면 먼저 각 기기를 포맷하고 마운트해야 합니다.

  3. 명령어를 실행합니다.

스팟

명령어를 실행하기 전에 다음 단계를 모두 검토하여 추가 플래그를 포함할지 결정하세요.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

다음 단계를 완료합니다.

  1. 다음을 바꿉니다.

    • INSTANCE_TEMPLATE_NAME: 인스턴스 템플릿의 이름
    • MACHINE_TYPE: G2 인스턴스에 사용할 머신 유형입니다. 자세한 내용은 Compute Engine 문서의 GPU 머신 유형을 참고하세요.
    • IMAGE_FAMILY: 사용할 OS 이미지의 이미지 계열로 바꿉니다. 지원되는 모든 운영체제 목록은 지원되는 운영체제를 참고하세요.
    • IMAGE_PROJECT: OS 이미지의 프로젝트 ID로 바꿉니다.
    • REGION: 인스턴스 템플릿을 만들 리전입니다. 사용할 머신 유형이 제공되는 리전을 지정합니다. 리전에 대한 자세한 내용은 리전 및 영역별 GPU 가용성을 참고하세요.
    • DISK_TYPE: 부팅 디스크의 유형입니다. 머신 유형에 지원되는 디스크 유형에 대한 자세한 내용은 Compute Engine 문서의 가속기 최적화 머신 계열의 GPU 머신을 참고하세요.
    • DISK_SIZE: 부팅 디스크의 크기(GB 단위). 자세한 내용은 디스크 유형에 따라 Google Cloud Hyperdisk 크기 한도 또는 Persistent Disk 크기 한도를 참고하세요.
    • TERMINATION_ACTION: Compute Engine에서 인스턴스를 선점할 때 수행할 작업(STOP(기본값) 또는 DELETE)으로 바꿉니다.

  2. 선택사항: 압축 배치 정책을 사용하기로 한 경우 명령어에 다음 플래그를 추가합니다.

    --resource-policies=POLICY_NAME
    

    다음을 바꿉니다.

    • POLICY_NAME: 압축 배치 정책 이름
  3. 선택사항: 로컬 SSD 디스크를 연결하려면 로컬 SSD 디스크에 다음 --local-ssd 플래그를 추가합니다.

    연결하는 로컬 SSD 디스크 수가 머신 유형에 허용되는지 확인합니다. 자세한 내용은 Compute Engine 문서의 로컬 SSD 디스크 정보를 참고하세요.

    --local-ssd interface=INTERFACE_TYPE
    

    다음을 바꿉니다.

    • INTERFACE_TYPE: 로컬 SSD 디스크에 사용하려는 디스크 인터페이스 유형입니다. 부팅 디스크 이미지에 최적화된 NVMe 드라이버가 있는 경우 NVME를 지정합니다. 다른 이미지에는 SCSI를 지정합니다.

    로컬 SSD 디스크로 VM을 만든 후 이를 사용하려면 먼저 각 기기를 포맷하고 마운트해야 합니다.

  4. 선택사항: NVIDIA RTX 가상 워크스테이션 (vWS)을 사용하려면 다음 플래그를 추가합니다.

    NVIDIA RTX 가상 워크스테이션을 사용하는 인스턴스를 만들면 Compute Engine이 자동으로 vWS 라이선스를 추가합니다. 가상 워크스테이션 가격 책정에 대한 자세한 내용은 GPU 가격 책정 페이지를 참고하세요.

    --accelerator=type=nvidia-l4-vws,count=VWS_ACCELERATOR_COUNT
    

    VWS_ACCELERATOR_COUNT을 원하는 가상 GPU 수로 바꿉니다.

  5. 명령어를 실행합니다.

REST

리전 인스턴스 템플릿을 만들려면 regionInstanceTemplates.insert 메서드POST 요청을 보냅니다.

지정해야 하는 파라미터는 이번 배포에서 사용하는 소비 옵션에 따라 달라집니다. 해당 소비 옵션에 해당하는 탭을 선택합니다.

예약

G2 인스턴스는 다음 예약 유형을 지원합니다.

  • 온디맨드 예약
  • 표준 미래용 예약

이러한 유형의 예약을 사용하려면 인스턴스가 표준 프로비저닝 모델을 사용해야 합니다. 예를 들어 다음 생성 매개변수를 사용합니다.

요청을 제출하기 전에 다음 단계를 모두 검토하여 추가 필드를 포함할지 결정하세요.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

다음 단계를 완료합니다.

  1. 다음을 바꿉니다.

    • INSTANCE_TEMPLATE_NAME: 인스턴스 템플릿의 이름
    • MACHINE_TYPE: G2 인스턴스에 사용할 머신 유형입니다. 자세한 내용은 Compute Engine 문서의 GPU 머신 유형을 참고하세요.
    • IMAGE_FAMILY: 사용할 OS 이미지의 이미지 계열로 바꿉니다. 지원되는 모든 운영체제 목록은 지원되는 운영체제를 참고하세요.
    • IMAGE_PROJECT: OS 이미지의 프로젝트 ID로 바꿉니다.
    • REGION: 인스턴스 템플릿을 만들 리전입니다. 사용할 머신 유형이 제공되는 리전을 지정합니다. 리전에 대한 자세한 내용은 리전 및 영역별 GPU 가용성을 참조하세요.
    • DISK_SIZE: 부팅 디스크의 크기(GB 단위). 자세한 내용은 디스크 유형에 따라 Google Cloud Hyperdisk 크기 한도 또는 Persistent Disk 크기 한도를 참고하세요.
    • DISK_TYPE: 부팅 디스크의 유형입니다. 머신 유형에 지원되는 디스크 유형에 대한 자세한 내용은 Compute Engine 문서의 가속기 최적화 머신 계열의 GPU 머신을 참고하세요.
    • AUTOMATIC_RESTART: 인스턴스가 비정상 종료되거나 Compute Engine에서 유지보수 이벤트와 같은 프로그래밍된 중지를 위해 인스턴스를 중지하는 경우 인스턴스가 자동으로 다시 시작되는지 여부입니다. 자동 다시 시작을 사용 설정하려면 true을 지정하고 (기본값) 자동 다시 시작을 사용 중지하려면 false을 지정합니다.

    • RESERVATION_AFFINITY: 인스턴스가 사용할 수 있는 예약입니다(가능한 경우). 다음 중 하나를 지정합니다.

      • ANY_RESERVATION (예약 용량은 선택사항): 기본 옵션입니다. 인스턴스는 자동으로 사용되는 예약의 용량을 사용하려고 시도하며, 이는 일치하는 예약 용량이 있는 경우에만 발생합니다. 그렇지 않으면 인스턴스에서 주문형 용량을 사용합니다.

      • SPECIFIC_RESERVATION (예약 용량이 필요함): 인스턴스가 특별히 타겟팅된 예약의 용량을 사용해야 합니다. 인스턴스가 주문형 용량을 사용할 수 없습니다. 예약 용량을 사용할 수 없으면 인스턴스 생성이 실패합니다.

    • RESERVATION: 사용할 예약입니다. RESERVATION_AFFINITY에 지정한 값에 따라 다음 중 하나를 지정합니다.

      • ANY_RESERVATION를 지정한 경우 값이 빈 문자열 ("")이 되도록 RESERVATION를 삭제합니다. 또는 keyvalues 필드를 완전히 삭제할 수 있습니다.
      • SPECIFIC_RESERVATION를 지정한 경우 RESERVATION를 다음으로 바꿉니다.

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        다음을 바꿉니다.

        • RESERVATION_OWNER_PROJECT_ID: 예약이 생성된 프로젝트의 프로젝트 ID입니다.
        • RESERVATION_NAME: 예약 이름.
  2. 선택사항: 압축 배치 정책을 사용하기로 한 경우 요청 본문에 다음 instanceProperties 하위 필드를 추가합니다.

        "resourcePolicies": [
          "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
        ]
    

    다음을 바꿉니다.

    • PROJECT_ID: 압축 배치 정책의 프로젝트 ID입니다.
    • REGION: 압축 배치 정책 리전
    • POLICY_NAME: 압축 배치 정책 이름
  3. 선택사항: 로컬 SSD 디스크를 사용하려면 로컬 SSD 디스크의 disks[] 필드에 다음 필드를 추가합니다. 각 disks[] 하위 필드 (부팅 디스크 포함)를 쉼표로 구분합니다.

    연결하는 로컬 SSD 디스크 수가 머신 유형에 허용되는지 확인합니다. 자세한 내용은 Compute Engine 문서의 로컬 SSD 디스크 정보를 참고하세요.

        {
           "type": "SCRATCH",
           "initializeParams": {
              "diskType": "zones/ZONE/diskTypes/local-ssd"
           },
           "autoDelete": true,
           "interface": "INTERFACE_TYPE"
        }
    

    다음을 바꿉니다.

    • ZONE: 지정된 영역
    • INTERFACE_TYPE: 로컬 SSD 디스크에 사용하려는 디스크 인터페이스 유형입니다. 부팅 디스크 이미지에 최적화된 NVMe 드라이버가 있는 경우 NVME를 지정합니다. 다른 이미지에는 SCSI를 지정합니다.

    로컬 SSD 디스크로 VM을 만든 후 이를 사용하려면 먼저 각 기기를 포맷하고 마운트해야 합니다.

  4. 선택사항: NVIDIA RTX 가상 워크스테이션 (vWS)을 사용하려면 다음 필드를 추가합니다.

    NVIDIA RTX 가상 워크스테이션을 사용하는 인스턴스를 만들면 Compute Engine이 자동으로 vWS 라이선스를 추가합니다. 가상 워크스테이션 가격 책정에 대한 자세한 내용은 GPU 가격 책정 페이지를 참고하세요.

    "guestAccelerators":
      [
        {
          "acceleratorCount": VWS_ACCELERATOR_COUNT,
          "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-l4-vws"
        }
      ]
    

    VWS_ACCELERATOR_COUNT을 원하는 가상 GPU 수로 바꿉니다.

  5. 요청을 제출합니다.

주문형

요청을 제출하기 전에 다음 단계를 모두 검토하여 추가 필드를 포함할지 결정하세요.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

다음 단계를 완료합니다.

  1. 다음을 바꿉니다.

    • INSTANCE_TEMPLATE_NAME: 인스턴스 템플릿의 이름
    • MACHINE_TYPE: G2 인스턴스에 사용할 머신 유형입니다. 자세한 내용은 Compute Engine 문서의 GPU 머신 유형을 참고하세요.
    • IMAGE_FAMILY: 사용할 OS 이미지의 이미지 계열로 바꿉니다. 지원되는 모든 운영체제 목록은 지원되는 운영체제를 참고하세요.
    • IMAGE_PROJECT: OS 이미지의 프로젝트 ID로 바꿉니다.
    • REGION: 인스턴스 템플릿을 만들 리전입니다. 사용할 머신 유형이 제공되는 리전을 지정합니다. 리전에 대한 자세한 내용은 리전 및 영역별 GPU 가용성을 참조하세요.
    • DISK_SIZE: 부팅 디스크의 크기(GB 단위). 자세한 내용은 디스크 유형에 따라 Google Cloud Hyperdisk 크기 한도 또는 Persistent Disk 크기 한도를 참고하세요.
    • DISK_TYPE: 부팅 디스크의 유형입니다. 머신 유형에 지원되는 디스크 유형에 대한 자세한 내용은 Compute Engine 문서의 가속기 최적화 머신 계열의 GPU 머신을 참고하세요.
    • AUTOMATIC_RESTART: 인스턴스가 비정상 종료되거나 Compute Engine에서 유지보수 이벤트와 같은 프로그래밍된 중지를 위해 인스턴스를 중지하는 경우 인스턴스가 자동으로 다시 시작되는지 여부입니다. 자동 다시 시작을 사용 설정하려면 true을 지정하고 (기본값) 자동 다시 시작을 사용 중지하려면 false을 지정합니다.

    • RESERVATION_AFFINITY: 인스턴스가 사용할 수 있는 예약입니다(가능한 경우). 다음 중 하나를 지정합니다.

      • ANY_RESERVATION (예약 용량은 선택사항): 기본 옵션입니다. 인스턴스는 자동으로 사용되는 예약의 용량을 사용하려고 시도하며, 이는 일치하는 예약 용량이 있는 경우에만 발생합니다. 그렇지 않으면 인스턴스에서 주문형 용량을 사용합니다.

      • NO_RESERVATION (온디맨드 용량이 필요함): 인스턴스가 예약 용량을 사용하지 못하도록 차단합니다.

  2. 선택사항: 압축 배치 정책을 사용하기로 한 경우 요청 본문에 다음 instanceProperties 하위 필드를 추가합니다.

        "resourcePolicies": [
          "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
        ]
    

    다음을 바꿉니다.

    • PROJECT_ID: 압축 배치 정책의 프로젝트 ID입니다.
    • REGION: 압축 배치 정책 리전
    • POLICY_NAME: 압축 배치 정책 이름
  3. 선택사항: 로컬 SSD 디스크를 사용하려면 로컬 SSD 디스크의 disks[] 필드에 다음 필드를 추가합니다. 각 disks[] 하위 필드 (부팅 디스크 포함)를 쉼표로 구분합니다.

    연결하는 로컬 SSD 디스크 수가 머신 유형에 허용되는지 확인합니다. 자세한 내용은 Compute Engine 문서의 로컬 SSD 디스크 정보를 참고하세요.

        {
           "type": "SCRATCH",
           "initializeParams": {
              "diskType": "zones/ZONE/diskTypes/local-ssd"
           },
           "autoDelete": true,
           "interface": "INTERFACE_TYPE"
        }
    

    다음을 바꿉니다.

    • ZONE: 지정된 영역
    • INTERFACE_TYPE: 로컬 SSD 디스크에 사용하려는 디스크 인터페이스 유형입니다. 부팅 디스크 이미지에 최적화된 NVMe 드라이버가 있는 경우 NVME를 지정합니다. 다른 이미지에는 SCSI를 지정합니다.

    로컬 SSD 디스크로 VM을 만든 후 이를 사용하려면 먼저 각 기기를 포맷하고 마운트해야 합니다.

  4. 선택사항: NVIDIA RTX 가상 워크스테이션 (vWS)을 사용하려면 다음 필드를 추가합니다.

    NVIDIA RTX 가상 워크스테이션을 사용하는 인스턴스를 만들면 Compute Engine이 자동으로 vWS 라이선스를 추가합니다. 가상 워크스테이션 가격 책정에 대한 자세한 내용은 GPU 가격 책정 페이지를 참고하세요.

    "guestAccelerators":
      [
        {
          "acceleratorCount": VWS_ACCELERATOR_COUNT,
          "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-l4-vws"
        }
      ]
    

    VWS_ACCELERATOR_COUNT을 원하는 가상 GPU 수로 바꿉니다.

  5. 요청을 제출합니다.

유연한 시작

요청을 제출하기 전에 다음 단계를 모두 검토하여 추가 필드를 포함할지 결정하세요.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "reservationAffinity": {
        "consumeReservationType": "NO_RESERVATION"
      },
    "scheduling": {
        "instanceTerminationAction": "DELETE",
        "maxRunDuration": {
          "seconds": RUN_DURATION
        },
        "onHostMaintenance": "TERMINATE",
        "provisioningModel": "FLEX_START"
      }

  }
}

다음 단계를 완료합니다.

  1. 다음을 바꿉니다.

    • INSTANCE_TEMPLATE_NAME: 인스턴스 템플릿의 이름
    • MACHINE_TYPE: G2 인스턴스에 사용할 머신 유형입니다. 자세한 내용은 Compute Engine 문서의 GPU 머신 유형을 참고하세요.
    • IMAGE_FAMILY: 사용할 OS 이미지의 이미지 계열로 바꿉니다. 지원되는 모든 운영체제 목록은 지원되는 운영체제를 참고하세요.
    • IMAGE_PROJECT: OS 이미지의 프로젝트 ID로 바꿉니다.
    • REGION: 인스턴스 템플릿을 만들 리전입니다. 사용할 머신 유형이 제공되는 리전을 지정합니다. 리전에 대한 자세한 내용은 리전 및 영역별 GPU 가용성을 참조하세요.
    • DISK_SIZE: 부팅 디스크의 크기(GB 단위). 자세한 내용은 디스크 유형에 따라 Google Cloud Hyperdisk 크기 한도 또는 Persistent Disk 크기 한도를 참고하세요.
    • DISK_TYPE: 부팅 디스크의 유형입니다. 머신 유형에 지원되는 디스크 유형에 대한 자세한 내용은 Compute Engine 문서의 가속기 최적화 머신 계열의 GPU 머신을 참고하세요.
    • RUN_DURATION: 요청된 VM을 실행할 기간(초)입니다. 값은 600(600초(10분))~604800(604,800초(7일)) 사이여야 합니다.
  2. 선택사항: 로컬 SSD 디스크를 사용하려면 로컬 SSD 디스크의 disks[] 필드에 다음 필드를 추가합니다. 각 disks[] 하위 필드 (부팅 디스크 포함)를 쉼표로 구분합니다.

    연결하는 로컬 SSD 디스크 수가 머신 유형에 허용되는지 확인합니다. 자세한 내용은 Compute Engine 문서의 로컬 SSD 디스크 정보를 참고하세요.

        {
           "type": "SCRATCH",
           "initializeParams": {
              "diskType": "zones/ZONE/diskTypes/local-ssd"
           },
           "autoDelete": true,
           "interface": "INTERFACE_TYPE"
        }
    

    다음을 바꿉니다.

    • ZONE: 지정된 영역
    • INTERFACE_TYPE: 로컬 SSD 디스크에 사용하려는 디스크 인터페이스 유형입니다. 부팅 디스크 이미지에 최적화된 NVMe 드라이버가 있는 경우 NVME를 지정합니다. 다른 이미지에는 SCSI를 지정합니다.

    로컬 SSD 디스크로 VM을 만든 후 이를 사용하려면 먼저 각 기기를 포맷하고 마운트해야 합니다.

  3. 요청을 제출합니다.

스팟

요청을 제출하기 전에 다음 단계를 모두 검토하여 추가 필드를 포함할지 결정하세요.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

다음 단계를 완료합니다.

  1. 다음을 바꿉니다.

    • INSTANCE_TEMPLATE_NAME: 인스턴스 템플릿의 이름
    • MACHINE_TYPE: G2 인스턴스에 사용할 머신 유형입니다. 자세한 내용은 Compute Engine 문서의 GPU 머신 유형을 참고하세요.
    • IMAGE_FAMILY: 사용할 OS 이미지의 이미지 계열로 바꿉니다. 지원되는 모든 운영체제 목록은 지원되는 운영체제를 참고하세요.
    • IMAGE_PROJECT: OS 이미지의 프로젝트 ID로 바꿉니다.
    • REGION: 인스턴스 템플릿을 만들 리전입니다. 사용할 머신 유형이 제공되는 리전을 지정합니다. 리전에 대한 자세한 내용은 리전 및 영역별 GPU 가용성을 참조하세요.
    • DISK_SIZE: 부팅 디스크의 크기(GB 단위). 자세한 내용은 디스크 유형에 따라 Google Cloud Hyperdisk 크기 한도 또는 Persistent Disk 크기 한도를 참고하세요.
    • DISK_TYPE: 부팅 디스크의 유형입니다. 머신 유형에 지원되는 디스크 유형에 대한 자세한 내용은 Compute Engine 문서의 가속기 최적화 머신 계열의 GPU 머신을 참고하세요.
    • TERMINATION_ACTION: Compute Engine에서 인스턴스를 선점할 때 수행할 작업(STOP(기본값) 또는 DELETE)으로 바꿉니다.

  2. 선택사항: 압축 배치 정책을 사용하기로 한 경우 요청 본문에 다음 instanceProperties 하위 필드를 추가합니다.

        "resourcePolicies": [
          "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
        ]
    

    다음을 바꿉니다.

    • PROJECT_ID: 압축 배치 정책의 프로젝트 ID입니다.
    • REGION: 압축 배치 정책 리전
    • POLICY_NAME: 압축 배치 정책 이름
  3. 선택사항: 로컬 SSD 디스크를 사용하려면 로컬 SSD 디스크의 disks[] 필드에 다음 필드를 추가합니다. 각 disks[] 하위 필드 (부팅 디스크 포함)를 쉼표로 구분합니다.

    연결하는 로컬 SSD 디스크 수가 머신 유형에 허용되는지 확인합니다. 자세한 내용은 Compute Engine 문서의 로컬 SSD 디스크 정보를 참고하세요.

        {
           "type": "SCRATCH",
           "initializeParams": {
              "diskType": "zones/ZONE/diskTypes/local-ssd"
           },
           "autoDelete": true,
           "interface": "INTERFACE_TYPE"
        }
    

    다음을 바꿉니다.

    • ZONE: 지정된 영역
    • INTERFACE_TYPE: 로컬 SSD 디스크에 사용하려는 디스크 인터페이스 유형입니다. 부팅 디스크 이미지에 최적화된 NVMe 드라이버가 있는 경우 NVME를 지정합니다. 다른 이미지에는 SCSI를 지정합니다.

    로컬 SSD 디스크로 VM을 만든 후 이를 사용하려면 먼저 각 기기를 포맷하고 마운트해야 합니다.

  4. 선택사항: NVIDIA RTX 가상 워크스테이션 (vWS)을 사용하려면 다음 필드를 추가합니다.

    NVIDIA RTX 가상 워크스테이션을 사용하는 인스턴스를 만들면 Compute Engine이 자동으로 vWS 라이선스를 추가합니다. 가상 워크스테이션 가격 책정에 대한 자세한 내용은 GPU 가격 책정 페이지를 참고하세요.

    "guestAccelerators":
      [
        {
          "acceleratorCount": VWS_ACCELERATOR_COUNT,
          "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-l4-vws"
        }
      ]
    

    VWS_ACCELERATOR_COUNT을 원하는 가상 GPU 수로 바꿉니다.

  5. 요청을 제출합니다.

인스턴스 템플릿을 만든 후 확인하여 ID를 확인하고 인스턴스 속성을 검토할 수 있습니다.

MIG 만들기

이전 단계를 모두 완료한 후 시나리오에 따라 다음과 같이 MIG를 만듭니다.

시나리오 MIG 및 MIG 내 VM을 만드는 메서드
VM 수를 제한 없이 시작할 수 있는 여러 작업 또는 병렬 작업이 있습니다. MIG를 만들고 대상 크기를 사용하여 그룹에 포함할 VM 수를 지정합니다.

대상 크기로 MIG 만들기를 참고하세요.

ML 추론 작업
정확한 수의 VM에 분산해야 하는 작업이 있습니다. VM이 없는 MIG를 만든 다음 MIG에서 크기 조절 요청을 만듭니다. 크기 조절 요청을 사용하면 VM을 한 번에 가져올 수 있습니다.

MIG 및 크기 조절 요청 만들기를 참고하세요.

분산 ML 학습 및 미세 조정 작업

대상 크기로 MIG 만들기

VM을 한 번에 모두 만들지 않고 작업을 시작할 수 있는 경우 대상 크기로 MIG를 만드세요. 대상 크기에 따라 MIG의 VM 수가 결정됩니다. MIG는 현재 리소스 가용성을 기반으로 VM 생성을 시작합니다. 일시적으로 사용할 수 없는 리소스가 있으면 MIG는 대상 크기를 충족하기 위해 VM을 계속 만들려고 시도합니다.

대상 크기로 MIG를 만들려면 다음 옵션 중 하나를 선택합니다.

gcloud

지정된 대상 크기로 MIG를 만들려면 instance-groups managed create 명령어를 사용합니다.

다음과 같이 영역 또는 리전 MIG를 만듭니다.

  • 영역 MIG를 만들려면 다음 명령어를 사용합니다.
    gcloud compute instance-groups managed create MIG_NAME \
      --template=INSTANCE_TEMPLATE_URL \
      --size=TARGET_SIZE \
      --zone=ZONE
    
  • 리전 MIG를 만들려면 다음 명령어를 사용합니다.
    gcloud compute instance-groups managed create MIG_NAME \
        --template=INSTANCE_TEMPLATE_URL \
        --size=TARGET_SIZE \
        --region=REGION
    
다음을 바꿉니다.
  • MIG_NAME: MIG 이름
  • INSTANCE_TEMPLATE_URL: MIG에서 인스턴스를 만드는 데 사용할 인스턴스 템플릿의 URL. URL에는 인스턴스 템플릿의 ID 또는 이름이 포함될 수 있습니다. 다음 값 중 하나를 지정합니다.
    • 리전 인스턴스 템플릿의 경우: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • 전역 인스턴스 템플릿의 경우: INSTANCE_TEMPLATE_ID
  • TARGET_SIZE: MIG에 사용할 인스턴스 수입니다.
  • ZONE: MIG를 만들려는 영역입니다.
  • REGION: MIG를 만들려는 리전입니다. 리전 MIG의 경우 리전 대신 --zones 플래그를 사용하여 해당 리전의 영역을 지정할 수 있습니다.

REST

지정된 대상 크기로 MIG를 만들려면 POST 요청을 수행합니다.

다음과 같이 영역 또는 리전 MIG를 만듭니다.

  • 영역 MIG를 만들려면 instanceGroupManagers.insert 메서드POST 요청을 수행합니다.
    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
    {
      "versions": [
        {
          "instanceTemplate": "INSTANCE_TEMPLATE_URL"
        }
      ],
      "name": "MIG_NAME",
      "targetSize": TARGET_SIZE
    }
    
  • 리전 MIG를 만들려면 regionInstanceGroupManagers.insert 메서드POST 요청을 수행합니다.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
      {
        "name": "MIG_NAME",
        "instanceTemplate": "INSTANCE_TEMPLATE_URL",
        "targetSize": TARGET_SIZE
      }
    
다음을 바꿉니다.
  • PROJECT_ID: 프로젝트 ID입니다.
  • ZONE: MIG를 만들려는 영역입니다.
  • REGION: MIG를 만들려는 리전입니다.
  • INSTANCE_TEMPLATE_URL: MIG에서 인스턴스를 만드는 데 사용할 인스턴스 템플릿의 URL. URL에는 인스턴스 템플릿의 ID 또는 이름이 포함될 수 있습니다. 다음 값 중 하나를 지정합니다.
    • 리전 인스턴스 템플릿의 경우: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • 전역 인스턴스 템플릿의 경우: INSTANCE_TEMPLATE_ID
  • MIG_NAME: MIG 이름
  • TARGET_SIZE: MIG에 사용할 인스턴스 수입니다.

MIG 및 크기 조절 요청 만들기

작업을 시작하기 위해 여러 VM이 한 번에 필요한 경우 MIG를 만들고 이 섹션에 설명된 대로 MIG에서 크기 조절 요청을 만드세요.

MIG에서 크기 조절 요청을 만들려면 다음 옵션 중 하나를 선택합니다.

gcloud

지정해야 하는 파라미터는 이번 배포에서 사용하는 소비 옵션에 따라 달라집니다. 해당 소비 옵션의 프로비저닝 모델에 해당하는 탭을 선택하세요.

예약

다음과 같이 영역 또는 리전 MIG와 크기 조절 요청을 만듭니다.

  • 영역 MIG와 그 안에서 크기 조절 요청을 만들려면 다음을 수행합니다.

    1. 다음과 같이 instance-groups managed create 명령어를 사용하여 영역 MIG를 만듭니다.

      gcloud compute instance-groups managed create MIG_NAME \
          --template=INSTANCE_TEMPLATE_URL \
          --size=0 \
          --zone=ZONE
      
    2. 다음과 같이 instance-groups managed resize-requests create 명령어를 사용하여 영역 MIG에서 크기 조절 요청을 만듭니다. 이 명령어는 만들려는 VM 수를 지정합니다. 워크로드에 특정 VM 이름이 필요한 경우 VM 이름 목록을 지정하여 크기 조절 요청을 만듭니다.

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
          --resize-request=RESIZE_REQUEST_NAME \
          --resize-by=COUNT \
          --zone=ZONE
      
  • 리전 MIG를 만들고 그 안에서 크기 조절 요청을 만들려면 다음을 수행합니다.

    1. 다음과 같이 instance-groups managed create 명령어를 사용하여 리전 MIG를 만듭니다.

      gcloud compute instance-groups managed create MIG_NAME \
          --template=INSTANCE_TEMPLATE_URL \
          --size=0 \
          --zones=ZONE \
          --target-distribution-shape=any-single-zone \
          --instance-redistribution-type=none
        
    2. 다음과 같이 instance-groups managed resize-requests create 명령어를 사용하여 리전 MIG에서 크기 조절 요청을 만듭니다. 이 명령어는 만들려는 VM 수를 지정합니다. 워크로드에 특정 VM 이름이 필요한 경우 VM 이름 목록을 지정하여 크기 조절 요청을 만듭니다.

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
          --resize-request=RESIZE_REQUEST_NAME \
          --resize-by=COUNT \
          --region=REGION
      

주문형

다음과 같이 영역 또는 리전 MIG와 크기 조절 요청을 만듭니다.

  • 영역 MIG와 그 안에서 크기 조절 요청을 만들려면 다음을 수행합니다.

    1. 다음과 같이 instance-groups managed create 명령어를 사용하여 영역 MIG를 만듭니다.

      gcloud compute instance-groups managed create MIG_NAME \
          --template=INSTANCE_TEMPLATE_URL \
          --size=0 \
          --zone=ZONE
      
    2. 다음과 같이 instance-groups managed resize-requests create 명령어를 사용하여 영역 MIG에서 크기 조절 요청을 만듭니다. 이 명령어는 만들려는 VM 수를 지정합니다. 워크로드에 특정 VM 이름이 필요한 경우 VM 이름 목록을 지정하여 크기 조절 요청을 만듭니다.

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
          --resize-request=RESIZE_REQUEST_NAME \
          --resize-by=COUNT \
          --zone=ZONE
      
  • 리전 MIG를 만들고 그 안에서 크기 조절 요청을 만들려면 다음을 수행합니다.

    1. 다음과 같이 instance-groups managed create 명령어를 사용하여 리전 MIG를 만듭니다.

      gcloud compute instance-groups managed create MIG_NAME \
          --template=INSTANCE_TEMPLATE_URL \
          --size=0 \
          --zones=ZONE \
          --target-distribution-shape=any-single-zone \
          --instance-redistribution-type=none
        
    2. 다음과 같이 instance-groups managed resize-requests create 명령어를 사용하여 리전 MIG에서 크기 조절 요청을 만듭니다. 이 명령어는 만들려는 VM 수를 지정합니다. 워크로드에 특정 VM 이름이 필요한 경우 VM 이름 목록을 지정하여 크기 조절 요청을 만듭니다.

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
          --resize-request=RESIZE_REQUEST_NAME \
          --resize-by=COUNT \
          --region=REGION
      

유연한 시작

다음과 같이 영역 또는 리전 MIG와 크기 조절 요청을 만듭니다.

  • 영역 MIG와 그 안에서 크기 조절 요청을 만들려면 다음을 수행합니다.

    1. 다음과 같이 instance-groups managed create 명령어를 사용하여 영역 MIG를 만듭니다.

      gcloud compute instance-groups managed create MIG_NAME \
          --template=INSTANCE_TEMPLATE_URL \
          --size=0 \
          --default-action-on-vm-failure=do-nothing \
          --zone=ZONE
      
    2. 다음과 같이 instance-groups managed resize-requests create 명령어를 사용하여 영역 MIG에서 크기 조절 요청을 만듭니다. 이 명령어는 만들려는 VM 수를 지정합니다. 워크로드에 특정 VM 이름이 필요한 경우 VM 이름 목록을 지정하여 크기 조절 요청을 만듭니다.

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
          --resize-request=RESIZE_REQUEST_NAME \
          --resize-by=COUNT \
          --zone=ZONE
      
  • 리전 MIG를 만들고 그 안에서 크기 조절 요청을 만들려면 다음을 수행합니다.

    1. 다음과 같이 instance-groups managed create 명령어를 사용하여 리전 MIG를 만듭니다.

      gcloud compute instance-groups managed create MIG_NAME \
          --template=INSTANCE_TEMPLATE_URL \
          --size=0 \
          --default-action-on-vm-failure=do-nothing \
      
          --region=REGION \
          --target-distribution-shape=any-single-zone \
          --instance-redistribution-type=none
        
    2. 다음과 같이 instance-groups managed resize-requests create 명령어를 사용하여 리전 MIG에서 크기 조절 요청을 만듭니다. 이 명령어는 만들려는 VM 수를 지정합니다. 워크로드에 특정 VM 이름이 필요한 경우 VM 이름 목록을 지정하여 크기 조절 요청을 만듭니다.

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
          --resize-request=RESIZE_REQUEST_NAME \
          --resize-by=COUNT \
          --region=REGION
      

스팟

다음과 같이 영역 또는 리전 MIG와 크기 조절 요청을 만듭니다.

  • 영역 MIG와 그 안에서 크기 조절 요청을 만들려면 다음을 수행합니다.

    1. 다음과 같이 instance-groups managed create 명령어를 사용하여 영역 MIG를 만듭니다.

      gcloud compute instance-groups managed create MIG_NAME \
          --template=INSTANCE_TEMPLATE_URL \
          --size=0 \
          --zone=ZONE
      
    2. 다음과 같이 instance-groups managed resize-requests create 명령어를 사용하여 영역 MIG에서 크기 조절 요청을 만듭니다. 이 명령어는 만들려는 VM 수를 지정합니다. 워크로드에 특정 VM 이름이 필요한 경우 VM 이름 목록을 지정하여 크기 조절 요청을 만듭니다.

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
          --resize-request=RESIZE_REQUEST_NAME \
          --resize-by=COUNT \
          --zone=ZONE
      
  • 리전 MIG를 만들고 그 안에서 크기 조절 요청을 만들려면 다음을 수행합니다.

    1. 다음과 같이 instance-groups managed create 명령어를 사용하여 리전 MIG를 만듭니다.

      gcloud compute instance-groups managed create MIG_NAME \
          --template=INSTANCE_TEMPLATE_URL \
          --size=0 \
          --zones=ZONE \
          --target-distribution-shape=any-single-zone \
          --instance-redistribution-type=none
        
    2. 다음과 같이 instance-groups managed resize-requests create 명령어를 사용하여 리전 MIG에서 크기 조절 요청을 만듭니다. 이 명령어는 만들려는 VM 수를 지정합니다. 워크로드에 특정 VM 이름이 필요한 경우 VM 이름 목록을 지정하여 크기 조절 요청을 만듭니다.

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
          --resize-request=RESIZE_REQUEST_NAME \
          --resize-by=COUNT \
          --region=REGION
      
다음을 바꿉니다.
  • MIG_NAME: MIG 이름
  • INSTANCE_TEMPLATE_URL: MIG에서 인스턴스를 만드는 데 사용할 인스턴스 템플릿의 URL. URL에는 인스턴스 템플릿의 ID 또는 이름이 포함될 수 있습니다. 다음 값 중 하나를 지정합니다.
    • 리전 인스턴스 템플릿의 경우: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • 전역 인스턴스 템플릿의 경우: INSTANCE_TEMPLATE_ID
  • ZONE: MIG를 만들려는 영역입니다. 리전 MIG의 경우에도 영역을 지정해야 합니다. 이 영역은 VPC 네트워크의 프로필이 포함된 영역이어야 하며 머신 유형을 사용할 수 있는 영역이어야 합니다. 자세한 내용은 제한사항을 참조하세요.
  • RESIZE_REQUEST_NAME:지정된 MIG 내에서 고유해야 하는 크기 조절 요청의 이름입니다. 그렇지 않으면 크기 조절 요청 만들기가 실패합니다.
  • COUNT: MIG에 한 번에 모두 추가할 인스턴스 수입니다.
  • REGION: MIG를 만들려는 리전입니다.

VM 이름 목록을 지정하여 크기 조절 요청 만들기

워크로드에 특정 VM 이름이 필요한 경우 VM을 만들 이름 목록을 지정합니다. 지정한 이름의 수에 따라 MIG가 한 번에 만드는 VM 수가 결정됩니다.

MIG에서 특정 VM 이름으로 크기 조절 요청을 만들려면 --instances 플래그와 함께 베타 gcloud compute instance-groups managed resize-requests create 명령어를 사용합니다.

  • 영역 MIG에서는 다음 명령어를 실행합니다.

    gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
        --resize-request=RESIZE_REQUEST_NAME \
        --instances=INSTANCE_NAMES \
        --zone=ZONE
    
  • 리전 MIG에서 다음 명령어를 실행합니다.

    gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
        --resize-request=RESIZE_REQUEST_NAME \
        --instances=INSTANCE_NAMES \
        --region=REGION
    
INSTANCE_NAMES을 VM의 쉼표로 구분된 이름 목록으로 바꿉니다. 예를 들면 instance-1,instance-2,instance-3입니다.

REST

지정해야 하는 파라미터는 이번 배포에서 사용하는 소비 옵션에 따라 달라집니다. 해당 소비 옵션의 프로비저닝 모델에 해당하는 탭을 선택하세요.

예약

다음과 같이 영역 또는 리전 MIG와 크기 조절 요청을 만듭니다.

  • 영역 MIG를 만들고 그 안에서 크기 조절 요청을 만들려면 다음을 수행합니다.
    1. 다음과 같이 instanceGroupManagers.insert 메서드POST 요청을 수행하여 영역 MIG를 만듭니다.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
      {
        "versions": [
          {
            "instanceTemplate": "INSTANCE_TEMPLATE_URL"
          }
        ],
        "name": "MIG_NAME",
        "targetSize": 0
      }
      
    2. 다음과 같이 instanceGroupManagerResizeRequests.insert 메서드POST 요청을 수행하여 영역 MIG에서 크기 조절 요청을 만듭니다. 이 요청은 만들려는 VM 수를 지정합니다. 워크로드에 특정 VM 이름이 필요한 경우 VM 이름 목록을 지정하여 크기 조절 요청을 만듭니다.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
      {
        "name": "RESIZE_REQUEST_NAME",
        "resizeBy": COUNT
      }
      
  • 리전 MIG를 만들고 그 안에서 크기 조절 요청을 만들려면 다음을 수행합니다.
    1. 다음과 같이 regionInstanceGroupManagers.insert 메서드POST 요청을 수행하여 리전 MIG를 만듭니다.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
      {
        "versions": [
          {
            "instanceTemplate": "INSTANCE_TEMPLATE_URL"
          }
        ],
        "name": "MIG_NAME",
        "targetSize": 0,
        "distributionPolicy": {
          "targetShape": "ANY_SINGLE_ZONE",
          "zones": [
            {
              "zone": "projects/PROJECT_ID/zones/ZONE"
            }
          ]
        },
        "updatePolicy": {
          "instanceRedistributionType": "NONE"
        }
      }
      
    2. 다음과 같이 regionInstanceGroupManagerResizeRequests.insert 메서드POST 요청을 수행하여 리전 MIG에 크기 조절 요청을 만듭니다. 이 요청은 만들려는 VM 수를 지정합니다. 워크로드에 특정 VM 이름이 필요한 경우 VM 이름 목록을 지정하여 크기 조절 요청을 만듭니다.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
      {
        "name": "RESIZE_REQUEST_NAME",
        "resizeBy": COUNT
      }
      

주문형

다음과 같이 영역 또는 리전 MIG와 크기 조절 요청을 만듭니다.

  • 영역 MIG를 만들고 그 안에서 크기 조절 요청을 만들려면 다음을 수행합니다.
    1. 다음과 같이 instanceGroupManagers.insert 메서드POST 요청을 수행하여 영역 MIG를 만듭니다.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
      {
        "versions": [
          {
            "instanceTemplate": "INSTANCE_TEMPLATE_URL"
          }
        ],
        "name": "MIG_NAME",
        "targetSize": 0
      }
      
    2. 다음과 같이 instanceGroupManagerResizeRequests.insert 메서드POST 요청을 수행하여 영역 MIG에서 크기 조절 요청을 만듭니다. 이 요청은 만들려는 VM 수를 지정합니다. 워크로드에 특정 VM 이름이 필요한 경우 VM 이름 목록을 지정하여 크기 조절 요청을 만듭니다.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
      {
        "name": "RESIZE_REQUEST_NAME",
        "resizeBy": COUNT
      }
      
  • 리전 MIG를 만들고 그 안에서 크기 조절 요청을 만들려면 다음을 수행합니다.
    1. 다음과 같이 regionInstanceGroupManagers.insert 메서드POST 요청을 수행하여 리전 MIG를 만듭니다.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
      {
        "versions": [
          {
            "instanceTemplate": "INSTANCE_TEMPLATE_URL"
          }
        ],
        "name": "MIG_NAME",
        "targetSize": 0,
        "distributionPolicy": {
          "targetShape": "ANY_SINGLE_ZONE",
          "zones": [
            {
              "zone": "projects/PROJECT_ID/zones/ZONE"
            }
          ]
        },
        "updatePolicy": {
          "instanceRedistributionType": "NONE"
        }
      }
      
    2. 다음과 같이 regionInstanceGroupManagerResizeRequests.insert 메서드POST 요청을 수행하여 리전 MIG에 크기 조절 요청을 만듭니다. 이 요청은 만들려는 VM 수를 지정합니다. 워크로드에 특정 VM 이름이 필요한 경우 VM 이름 목록을 지정하여 크기 조절 요청을 만듭니다.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
      {
        "name": "RESIZE_REQUEST_NAME",
        "resizeBy": COUNT
      }
      

유연한 시작

다음과 같이 영역 또는 리전 MIG와 크기 조절 요청을 만듭니다.

  • 영역 MIG를 만들고 그 안에서 크기 조절 요청을 만들려면 다음을 수행합니다.
    1. 다음과 같이 instanceGroupManagers.insert 메서드POST 요청을 수행하여 영역 MIG를 만듭니다.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
      {
        "versions": [
          {
            "instanceTemplate": "INSTANCE_TEMPLATE_URL"
          }
        ],
        "name": "MIG_NAME",
        "targetSize": 0,
        "instanceLifecyclePolicy": {
          "defaultActionOnFailure": "DO_NOTHING"
        }
      }
      
    2. 다음과 같이 instanceGroupManagerResizeRequests.insert 메서드POST 요청을 수행하여 영역 MIG에서 크기 조절 요청을 만듭니다. 이 요청은 만들려는 VM 수를 지정합니다. 워크로드에 특정 VM 이름이 필요한 경우 VM 이름 목록을 지정하여 크기 조절 요청을 만듭니다.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
      {
        "name": "RESIZE_REQUEST_NAME",
        "resizeBy": COUNT
      }
      
  • 리전 MIG를 만들고 그 안에서 크기 조절 요청을 만들려면 다음을 수행합니다.
    1. 다음과 같이 regionInstanceGroupManagers.insert 메서드POST 요청을 수행하여 리전 MIG를 만듭니다.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
      {
        "versions": [
          {
            "instanceTemplate": "INSTANCE_TEMPLATE_URL"
          }
        ],
        "name": "MIG_NAME",
        "targetSize": 0,
        "distributionPolicy": {
          "targetShape": "ANY_SINGLE_ZONE",
          "zones": [
            {
              "zone": "projects/PROJECT_ID/zones/ZONE"
            }
          ]
        },
        "updatePolicy": {
          "instanceRedistributionType": "NONE"
        },
        "instanceLifecyclePolicy": {
          "defaultActionOnFailure": "DO_NOTHING"
        }
      }
      
    2. 다음과 같이 regionInstanceGroupManagerResizeRequests.insert 메서드POST 요청을 수행하여 리전 MIG에 크기 조절 요청을 만듭니다. 이 요청은 만들려는 VM 수를 지정합니다. 워크로드에 특정 VM 이름이 필요한 경우 VM 이름 목록을 지정하여 크기 조절 요청을 만듭니다.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
      {
        "name": "RESIZE_REQUEST_NAME",
        "resizeBy": COUNT
      }
      

스팟

다음과 같이 영역 또는 리전 MIG와 크기 조절 요청을 만듭니다.

  • 영역 MIG를 만들고 그 안에서 크기 조절 요청을 만들려면 다음을 수행합니다.
    1. 다음과 같이 instanceGroupManagers.insert 메서드POST 요청을 수행하여 영역 MIG를 만듭니다.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
      {
        "versions": [
          {
            "instanceTemplate": "INSTANCE_TEMPLATE_URL"
          }
        ],
        "name": "MIG_NAME",
        "targetSize": 0
      }
      
    2. 다음과 같이 instanceGroupManagerResizeRequests.insert 메서드POST 요청을 수행하여 영역 MIG에서 크기 조절 요청을 만듭니다. 이 요청은 만들려는 VM 수를 지정합니다. 워크로드에 특정 VM 이름이 필요한 경우 VM 이름 목록을 지정하여 크기 조절 요청을 만듭니다.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
      {
        "name": "RESIZE_REQUEST_NAME",
        "resizeBy": COUNT
      }
      
  • 리전 MIG를 만들고 그 안에서 크기 조절 요청을 만들려면 다음을 수행합니다.
    1. 다음과 같이 regionInstanceGroupManagers.insert 메서드POST 요청을 수행하여 리전 MIG를 만듭니다.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
      {
        "versions": [
          {
            "instanceTemplate": "INSTANCE_TEMPLATE_URL"
          }
        ],
        "name": "MIG_NAME",
        "targetSize": 0,
        "distributionPolicy": {
          "targetShape": "ANY_SINGLE_ZONE",
          "zones": [
            {
              "zone": "projects/PROJECT_ID/zones/ZONE"
            }
          ]
        },
        "updatePolicy": {
          "instanceRedistributionType": "NONE"
        }
      }
      
    2. 다음과 같이 regionInstanceGroupManagerResizeRequests.insert 메서드POST 요청을 수행하여 리전 MIG에 크기 조절 요청을 만듭니다. 이 요청은 만들려는 VM 수를 지정합니다. 워크로드에 특정 VM 이름이 필요한 경우 VM 이름 목록을 지정하여 크기 조절 요청을 만듭니다.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
      {
        "name": "RESIZE_REQUEST_NAME",
        "resizeBy": COUNT
      }
      
다음을 바꿉니다.
  • PROJECT_ID: 프로젝트 ID입니다.
  • ZONE: MIG를 만들려는 영역입니다. 이 영역은 VPC 네트워크의 프로필이 포함된 영역과 동일해야 하며 선택한 머신 유형을 사용할 수 있는 영역이어야 합니다. 자세한 내용은 제한사항을 참조하세요.
  • REGION: MIG를 만들려는 리전입니다. 이 리전은 VPC 네트워크의 프로필이 포함된 리전이어야 하며 선택한 머신 유형을 사용할 수 있는 영역이 포함되어야 합니다. 자세한 내용은 제한사항을 참조하세요.
  • INSTANCE_TEMPLATE_URL: MIG에서 인스턴스를 만드는 데 사용할 인스턴스 템플릿의 URL. URL에는 인스턴스 템플릿의 ID 또는 이름이 포함될 수 있습니다. 다음 값 중 하나를 지정합니다.
    • 리전 인스턴스 템플릿의 경우: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • 전역 인스턴스 템플릿의 경우: INSTANCE_TEMPLATE_ID
  • MIG_NAME: MIG 이름
  • RESIZE_REQUEST_NAME:지정된 MIG 내에서 고유해야 하는 크기 조절 요청의 이름입니다. 그렇지 않으면 크기 조절 요청 만들기가 실패합니다.
  • COUNT: MIG에 한 번에 모두 추가할 인스턴스 수

VM 이름 목록을 지정하여 크기 조절 요청 만들기

워크로드에 특정 VM 이름이 필요한 경우 VM을 만들 이름 목록을 지정합니다. 지정한 이름의 수에 따라 MIG가 한 번에 만드는 VM 수가 결정됩니다.

MIG에서 특정 VM 이름으로 크기 조절 요청을 만들려면 다음 방법 중 하나를 사용하세요.

예를 들어 VM 이름 두 개를 지정하려면 요청 본문에 다음을 포함합니다.

{
  "name": "RESIZE_REQUEST_NAME",
  "instances": [
    {
      "name": "INSTANCE_NAME_1"
    },
    {
      "name": "INSTANCE_NAME_2"
    }
  ]
}

INSTANCE_NAME_1, INSTANCE_NAME_2을 VM 이름으로 바꿉니다.

GPU 드라이버 설치

인스턴스를 만든 후 올바른 GPU 드라이버가 이미 설치되어 있지 않으면 인스턴스에서 GPU를 사용할 수 없습니다. 설치해야 하는 드라이버는 인스턴스에서 NVIDIA RTX 가상 워크스테이션 (vWS)을 사용 설정했는지에 따라 다릅니다. 다음 옵션 중 하나를 사용합니다.

다음 단계