Google은 AI 기술을 사용하여 콘텐츠를 사용자의 기본 언어로 번역합니다. AI 번역에는 오류가 있을 수 있습니다.

GPU가 있는 AI 최적화 N1 VM 일괄 생성

일반 GPU

이 문서에서는 연결된 GPU가 있는 N1 머신 시리즈를 사용하는 가상 머신 (VM) 인스턴스를 일괄적으로 만드는 방법을 설명합니다. 이러한 가속기 최적화 머신 유형에 대해 자세히 알아보려면 N1+GPU 시리즈를 참고하세요.

VM을 일괄로 만드는 방법에 대한 자세한 내용은 Compute Engine 문서의 VM 일괄 생성 정보를 참고하세요.

VM 또는 클러스터를 만드는 다른 방법을 알아보려면 배포 옵션 개요를 참고하세요.

제한사항

GPU가 있는 N1 머신 유형에 적용되는 제한사항은 다음을 모두 참고하세요.

시작하기 전에

아직 완료하지 않았다면 VM을 일괄 생성하기 전에 다음 단계를 완료하세요.

소비 옵션 선택: 소비 옵션 선택에 따라 GPU 리소스를 획득하고 사용하는 방식이 결정됩니다. 자세한 내용은 사용 옵션 선택을 참고하세요.
용량 획득: 각 소비 옵션의 용량 획득 프로세스가 다릅니다. 선택한 소비 옵션의 용량을 확보하는 프로세스에 대해 알아보려면 용량 개요를 참고하세요.

이 페이지의 샘플 사용 방법에 대한 탭을 선택하세요.

콘솔

Google Cloud 콘솔을 사용하여 Google Cloud 서비스 및 API에 액세스하는 경우 인증을 설정할 필요가 없습니다.

gcloud

Google Cloud 콘솔에서 Cloud Shell을 활성화합니다.

Cloud Shell 활성화

Google Cloud 콘솔 하단에 Cloud Shell 세션이 시작되고 명령줄 프롬프트가 표시됩니다. Cloud Shell은 Google Cloud CLI가 사전 설치된 셸 환경으로, 현재 프로젝트의 값이 이미 설정되어 있습니다. 세션이 초기화되는 데 몇 초 정도 걸릴 수 있습니다.

REST

로컬 개발 환경에서 이 페이지의 REST API 샘플을 사용하려면 gcloud CLI에 제공한 사용자 인증 정보를 사용합니다.

Google Cloud CLI를 설치합니다.

외부 ID 공급업체(IdP)를 사용하는 경우 먼저 제휴 ID로 gcloud CLI에 로그인해야 합니다.

자세한 내용은 Google Cloud 인증 문서의 REST 사용을 위한 인증을 참조하세요.

필요한 역할

VM 일괄 생성에 필요한 권한을 얻으려면 관리자에게 프로젝트에 대한 Compute 인스턴스 관리자 (v1) (roles/compute.instanceAdmin.v1) IAM 역할을 부여해 달라고 요청하세요. 역할 부여에 대한 자세한 내용은 프로젝트, 폴더, 조직에 대한 액세스 관리를 참조하세요.

이 사전 정의된 역할에는 VM을 일괄로 만드는 데 필요한 권한이 포함되어 있습니다. 필요한 정확한 권한을 보려면 필수 권한 섹션을 펼치세요.

필수 권한

VM을 일괄로 만들려면 다음 권한이 필요합니다.

프로젝트에 대한 compute.instances.create 권한
커스텀 이미지를 사용하여 VM 만들기: 이미지에 대한 compute.images.useReadOnly 권한
스냅샷을 사용하여 VM 만들기: 스냅샷에 대한 compute.snapshots.useReadOnly 권한
인스턴스 템플릿을 사용하여 VM 만들기: 인스턴스 템플릿에 대한 compute.instanceTemplates.useReadOnly 권한
VM의 서브넷 지정: 프로젝트 또는 선택한 서브넷에 대한 compute.subnetworks.use 권한
VM의 고정 IP 주소 지정: 프로젝트에 대한 compute.addresses.use 권한
VPC 네트워크를 사용할 때 VM에 외부 IP 주소 할당: 프로젝트 또는 선택한 서브넷에 대한 compute.subnetworks.useExternalIp 권한
VM에 레거시 네트워크 할당: 프로젝트에 대한 compute.networks.use 권한
레거시 네트워크 사용 시 VM에 외부 IP 주소 할당: 프로젝트에 대한 compute.networks.useExternalIp 권한
VM에 VM 인스턴스 메타데이터 설정: 프로젝트에 대한 compute.instances.setMetadata 권한
VM에 태그 설정: VM에 대한 compute.instances.setTags 권한
VM에 라벨 설정: VM에 대한 compute.instances.setLabels 권한
VM에 사용할 서비스 계정 설정: VM에 대한 compute.instances.setServiceAccount 권한
VM의 새 디스크 만들기: 프로젝트에 대한 compute.disks.create 권한
기존 디스크를 읽기 전용 또는 읽기-쓰기 모드로 연결: 디스크에 대한 compute.disks.use 권한
기존 디스크를 읽기 전용 모드로 연결: 디스크에 대한 compute.disks.useReadOnly 권한

커스텀 역할이나 다른 사전 정의된 역할을 사용하여 이 권한을 부여받을 수도 있습니다.

개요

T4 또는 V100 GPU가 있는 N1 머신 유형으로 인스턴스를 대량으로 만드는 단계는 다음과 같습니다.

인스턴스 일괄 생성
GPU 드라이버 설치

GPU가 있는 N1 VM 일괄 생성

GPU가 있는 N1 VM을 일괄 생성하려면 다음 방법 중 하나를 사용하세요.

다음 명령어는 인스턴스의 액세스 범위도 설정합니다. 권한 관리를 간소화하려면 인스턴스의 액세스 범위를 cloud-platform 액세스로 설정한 다음 IAM 역할을 사용하여 인스턴스에서 액세스할 수 있는 서비스를 정의하는 것이 좋습니다. 자세한 내용은 범위 권장사항을 참고하세요.

gcloud

인스턴스를 일괄적으로 만들려면 gcloud compute instances bulk create 명령어를 사용합니다.

지정해야 하는 파라미터는 이번 배포에서 사용하는 소비 옵션에 따라 달라집니다. 해당 소비 옵션에 해당하는 탭을 선택합니다.

예약

T4 또는 V100 GPU가 있는 N1 인스턴스는 다음 예약 유형을 지원합니다.

온디맨드 예약
표준 미래용 예약

이러한 유형의 예약을 사용하려면 인스턴스가 표준 프로비저닝 모델을 사용해야 합니다. 예를 들어 다음 생성 매개변수를 사용합니다.

명령어를 실행하기 전에 다음 단계를 모두 검토하여 추가 플래그를 포함할지 결정하세요.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

다음 단계를 완료합니다.

다음을 바꿉니다.
- NAME_PATTERN: T4 또는 V100 GPU가 있는 N1 인스턴스에 사용할 이름 패턴입니다. 예를 들어 이름 패턴에 instance-#을 사용하면 instance-1 및 instance-2와 같은 이름으로 T4 또는 V100 GPU가 있는 N1 인스턴스가 생성되므로 --count로 지정하는 최대 T4 또는 V100 GPU가 있는 N1 인스턴스 수는 이름 패턴에서 허용하는 인스턴스 수보다 작거나 같아야 합니다.
- COUNT: 생성할 T4 또는 V100 GPU가 있는 N1 인스턴스 수입니다.
- MACHINE_TYPE: T4 또는 V100 GPU가 있는 N1 인스턴스에 사용할 머신 유형입니다. 자세한 내용은 Compute Engine 문서의 GPU 머신 유형을 참고하세요.
- ACCELERATOR_COUNT: N1 VM에 연결할 GPU 수입니다. VM의 머신 유형을 기준으로 한 GPU 한도 목록은 Compute Engine 문서의 N1 GPU 정보를 참고하세요.
- ACCELERATOR_TYPE: 사용할 N1 VM의 가속기 유형입니다. AI 워크로드의 경우 T4 또는 V100 GPU를 사용하는 것이 좋습니다.
  팁: 이 VM에서 그래픽 집약적인 워크로드를 실행할 계획이라면 nvidia-tesla-t4-vws 액셀러레이터 유형을 사용하는 것이 좋습니다. 이 유형은 NVIDIA RTX 가상 워크스테이션 (vWS)을 지원하기 때문입니다.
  NVIDIA RTX 가상 워크스테이션을 사용하는 인스턴스를 만들면 Compute Engine이 자동으로 vWS 라이선스를 추가합니다. 가상 워크스테이션 가격 책정에 대한 자세한 내용은 GPU 가격 책정 페이지를 참고하세요.
- IMAGE_FAMILY: 사용할 OS 이미지의 이미지 계열로 바꿉니다. 지원되는 모든 운영체제 목록은 지원되는 운영체제를 참고하세요.
- IMAGE_PROJECT: OS 이미지의 프로젝트 ID로 바꿉니다.
- REGION: 사용할 머신 유형이 제공되는 리전을 지정합니다. 리전에 대한 자세한 내용은 리전 및 영역별 GPU 가용성을 참고하세요.
- DISK_TYPE: 부팅 디스크의 유형입니다. 머신 유형에 지원되는 디스크 유형에 대한 자세한 내용은 Compute Engine 문서의 가속기 최적화 머신 계열의 GPU 머신을 참고하세요.
- DISK_SIZE: 부팅 디스크의 크기(GB 단위). 자세한 내용은 디스크 유형에 따라 Google Cloud Hyperdisk 크기 한도 또는 Persistent Disk 크기 한도를 참고하세요.
- RESERVATION_AFFINITY: 인스턴스가 사용할 수 있는 예약입니다(가능한 경우). 다음 중 하나를 지정합니다.
  - any (예약 용량은 선택사항): 기본 옵션입니다. 인스턴스는 자동으로 사용되는 예약의 용량을 사용하려고 시도하며, 이는 일치하는 예약 용량이 있는 경우에만 발생합니다. 그렇지 않으면 인스턴스에서 주문형 용량을 사용합니다.
  - specific (예약 용량이 필요함): 인스턴스가 특별히 타겟팅된 예약의 용량을 사용해야 합니다. 인스턴스가 주문형 용량을 사용할 수 없습니다. 예약 용량을 사용할 수 없으면 인스턴스 생성이 실패합니다.
- RESERVATION: 사용할 예약입니다. RESERVATION_AFFINITY에 지정한 값에 따라 다음 중 하나를 지정합니다.
  - any를 지정한 경우 RESERVATION를 빈 문자열 ("")로 바꿉니다. 또는 --reservation 플래그를 완전히 삭제할 수 있습니다.
  - specific를 지정한 경우 RESERVATION를 다음으로 바꿉니다.
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    다음을 바꿉니다.
    - RESERVATION_OWNER_PROJECT_ID: 예약이 생성된 프로젝트의 프로젝트 ID입니다.
    - RESERVATION_NAME: 예약 이름.
기본적으로 인스턴스가 비정상 종료되거나 Compute Engine에서 유지보수 이벤트와 같은 프로그래밍된 중지를 위해 인스턴스를 중지하는 경우 인스턴스가 자동으로 다시 시작됩니다. 자동 다시 시작을 사용 중지하려면 다음 플래그를 추가합니다.
```
--no-restart-on-failure
```
선택사항: 로컬 SSD 디스크를 연결하려면 각 로컬 SSD 디스크에 다음 --local-ssd 플래그를 추가합니다.

연결하는 로컬 SSD 디스크 수가 머신 유형에 허용되는지 확인합니다. 자세한 내용은 Compute Engine 문서의 로컬 SSD 디스크 정보를 참고하세요.
```
--local-ssd interface=INTERFACE_TYPE
```
다음을 바꿉니다.
- INTERFACE_TYPE: 로컬 SSD 디스크에 사용하려는 디스크 인터페이스 유형입니다. 부팅 디스크 이미지에 최적화된 NVMe 드라이버가 있는 경우 NVME를 지정합니다. 다른 이미지에는 SCSI를 지정합니다.
로컬 SSD 디스크로 VM을 만든 후 이를 사용하려면 먼저 각 기기를 포맷하고 마운트해야 합니다.
명령어를 실행합니다.

주문형

명령어를 실행하기 전에 다음 단계를 모두 검토하여 추가 플래그를 포함할지 결정하세요.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

다음 단계를 완료합니다.

다음을 바꿉니다.
- NAME_PATTERN: T4 또는 V100 GPU가 있는 N1 인스턴스에 사용할 이름 패턴입니다. 예를 들어 이름 패턴에 instance-#을 사용하면 instance-1 및 instance-2와 같은 이름으로 T4 또는 V100 GPU가 있는 N1 인스턴스가 생성되므로 --count로 지정하는 최대 T4 또는 V100 GPU가 있는 N1 인스턴스 수는 이름 패턴에서 허용하는 인스턴스 수보다 작거나 같아야 합니다.
- COUNT: 생성할 T4 또는 V100 GPU가 있는 N1 인스턴스 수입니다.
- MACHINE_TYPE: T4 또는 V100 GPU가 있는 N1 인스턴스에 사용할 머신 유형입니다. 자세한 내용은 Compute Engine 문서의 GPU 머신 유형을 참고하세요.
- ACCELERATOR_COUNT: N1 VM에 연결할 GPU 수입니다. VM의 머신 유형을 기준으로 한 GPU 한도 목록은 Compute Engine 문서의 N1 GPU 정보를 참고하세요.
- ACCELERATOR_TYPE: 사용할 N1 VM의 가속기 유형입니다. AI 워크로드의 경우 T4 또는 V100 GPU를 사용하는 것이 좋습니다.
  팁: 이 VM에서 그래픽 집약적인 워크로드를 실행할 계획이라면 nvidia-tesla-t4-vws 액셀러레이터 유형을 사용하는 것이 좋습니다. 이 유형은 NVIDIA RTX 가상 워크스테이션 (vWS)을 지원하기 때문입니다.
  NVIDIA RTX 가상 워크스테이션을 사용하는 인스턴스를 만들면 Compute Engine이 자동으로 vWS 라이선스를 추가합니다. 가상 워크스테이션 가격 책정에 대한 자세한 내용은 GPU 가격 책정 페이지를 참고하세요.
- IMAGE_FAMILY: 사용할 OS 이미지의 이미지 계열로 바꿉니다. 지원되는 모든 운영체제 목록은 지원되는 운영체제를 참고하세요.
- IMAGE_PROJECT: OS 이미지의 프로젝트 ID로 바꿉니다.
- REGION: 사용할 머신 유형이 제공되는 리전을 지정합니다. 리전에 대한 자세한 내용은 리전 및 영역별 GPU 가용성을 참고하세요.
- DISK_TYPE: 부팅 디스크의 유형입니다. 머신 유형에 지원되는 디스크 유형에 대한 자세한 내용은 Compute Engine 문서의 가속기 최적화 머신 계열의 GPU 머신을 참고하세요.
- DISK_SIZE: 부팅 디스크의 크기(GB 단위). 자세한 내용은 디스크 유형에 따라 Google Cloud Hyperdisk 크기 한도 또는 Persistent Disk 크기 한도를 참고하세요.
- RESERVATION_AFFINITY: 인스턴스가 사용할 수 있는 예약입니다(가능한 경우). 다음 중 하나를 지정합니다.
  - any (예약 용량은 선택사항): 기본 옵션입니다. 인스턴스는 자동으로 사용되는 예약의 용량을 사용하려고 시도하며, 이는 일치하는 예약 용량이 있는 경우에만 발생합니다. 그렇지 않으면 인스턴스에서 주문형 용량을 사용합니다.
  - none (온디맨드 용량이 필요함): 인스턴스가 예약 용량을 사용하지 못하도록 차단합니다.
기본적으로 인스턴스가 비정상 종료되거나 Compute Engine에서 유지보수 이벤트와 같은 프로그래밍된 중지를 위해 인스턴스를 중지하는 경우 인스턴스가 자동으로 다시 시작됩니다. 자동 다시 시작을 사용 중지하려면 다음 플래그를 추가합니다.
```
--no-restart-on-failure
```
선택사항: 로컬 SSD 디스크를 연결하려면 각 로컬 SSD 디스크에 다음 --local-ssd 플래그를 추가합니다.

연결하는 로컬 SSD 디스크 수가 머신 유형에 허용되는지 확인합니다. 자세한 내용은 Compute Engine 문서의 로컬 SSD 디스크 정보를 참고하세요.
```
--local-ssd interface=INTERFACE_TYPE
```
다음을 바꿉니다.
- INTERFACE_TYPE: 로컬 SSD 디스크에 사용하려는 디스크 인터페이스 유형입니다. 부팅 디스크 이미지에 최적화된 NVMe 드라이버가 있는 경우 NVME를 지정합니다. 다른 이미지에는 SCSI를 지정합니다.
로컬 SSD 디스크로 VM을 만든 후 이를 사용하려면 먼저 각 기기를 포맷하고 마운트해야 합니다.
명령어를 실행합니다.

스팟

명령어를 실행하기 전에 다음 단계를 모두 검토하여 추가 플래그를 포함할지 결정하세요.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

다음 단계를 완료합니다.

다음을 바꿉니다.
- NAME_PATTERN: T4 또는 V100 GPU가 있는 N1 인스턴스에 사용할 이름 패턴입니다. 예를 들어 이름 패턴에 instance-#을 사용하면 instance-1 및 instance-2와 같은 이름으로 T4 또는 V100 GPU가 있는 N1 인스턴스가 생성되므로 --count로 지정하는 최대 T4 또는 V100 GPU가 있는 N1 인스턴스 수는 이름 패턴에서 허용하는 인스턴스 수보다 작거나 같아야 합니다.
- COUNT: 생성할 T4 또는 V100 GPU가 있는 N1 인스턴스 수입니다.
- MACHINE_TYPE: T4 또는 V100 GPU가 있는 N1 인스턴스에 사용할 머신 유형입니다. 자세한 내용은 Compute Engine 문서의 GPU 머신 유형을 참고하세요.
- ACCELERATOR_COUNT: N1 VM에 연결할 GPU 수입니다. VM의 머신 유형을 기준으로 한 GPU 한도 목록은 Compute Engine 문서의 N1 GPU 정보를 참고하세요.
- ACCELERATOR_TYPE: 사용할 N1 VM의 가속기 유형입니다. AI 워크로드의 경우 T4 또는 V100 GPU를 사용하는 것이 좋습니다.
  팁: 이 VM에서 그래픽 집약적인 워크로드를 실행할 계획이라면 nvidia-tesla-t4-vws 액셀러레이터 유형을 사용하는 것이 좋습니다. 이 유형은 NVIDIA RTX 가상 워크스테이션 (vWS)을 지원하기 때문입니다.
  NVIDIA RTX 가상 워크스테이션을 사용하는 인스턴스를 만들면 Compute Engine이 자동으로 vWS 라이선스를 추가합니다. 가상 워크스테이션 가격 책정에 대한 자세한 내용은 GPU 가격 책정 페이지를 참고하세요.
- IMAGE_FAMILY: 사용할 OS 이미지의 이미지 계열로 바꿉니다. 지원되는 모든 운영체제 목록은 지원되는 운영체제를 참고하세요.
- IMAGE_PROJECT: OS 이미지의 프로젝트 ID로 바꿉니다.
- REGION: 사용할 머신 유형이 제공되는 리전을 지정합니다. 리전에 대한 자세한 내용은 리전 및 영역별 GPU 가용성을 참고하세요.
- DISK_TYPE: 부팅 디스크의 유형입니다. 머신 유형에 지원되는 디스크 유형에 대한 자세한 내용은 Compute Engine 문서의 가속기 최적화 머신 계열의 GPU 머신을 참고하세요.
- DISK_SIZE: 부팅 디스크의 크기(GB 단위). 자세한 내용은 디스크 유형에 따라 Google Cloud Hyperdisk 크기 한도 또는 Persistent Disk 크기 한도를 참고하세요.
- TERMINATION_ACTION: Compute Engine에서 인스턴스를 선점할 때 수행할 작업(STOP(기본값) 또는 DELETE)으로 바꿉니다.
  
  중요: 애플리케이션에서 선점을 처리할 수 있는지 확인하세요. 예를 들어 인스턴스를 만드는 중에 종료 스크립트를 지정하여 선점을 처리합니다. 종료 스크립트로 선점을 처리하는 방법을 알아보세요.
선택사항: 로컬 SSD 디스크를 연결하려면 각 로컬 SSD 디스크에 다음 --local-ssd 플래그를 추가합니다.

연결하는 로컬 SSD 디스크 수가 머신 유형에 허용되는지 확인합니다. 자세한 내용은 Compute Engine 문서의 로컬 SSD 디스크 정보를 참고하세요.
```
--local-ssd interface=INTERFACE_TYPE
```
다음을 바꿉니다.
- INTERFACE_TYPE: 로컬 SSD 디스크에 사용하려는 디스크 인터페이스 유형입니다. 부팅 디스크 이미지에 최적화된 NVMe 드라이버가 있는 경우 NVME를 지정합니다. 다른 이미지에는 SCSI를 지정합니다.
로컬 SSD 디스크로 VM을 만든 후 이를 사용하려면 먼저 각 기기를 포맷하고 마운트해야 합니다.
명령어를 실행합니다.

REST

인스턴스를 일괄적으로 만들려면 instances.bulkInsert 메서드에 POST 요청을 보냅니다.

지정해야 하는 파라미터는 이번 배포에서 사용하는 소비 옵션에 따라 달라집니다. 해당 소비 옵션에 해당하는 탭을 선택합니다.

예약

T4 또는 V100 GPU가 있는 N1 인스턴스는 다음 예약 유형을 지원합니다.

온디맨드 예약
표준 미래용 예약

이러한 유형의 예약을 사용하려면 인스턴스가 표준 프로비저닝 모델을 사용해야 합니다. 예를 들어 다음 생성 매개변수를 사용합니다.

요청을 제출하기 전에 다음 단계를 모두 검토하여 추가 필드를 포함할지 결정하세요.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "guestAccelerators":
    [
      {
        "acceleratorCount": ACCELERATOR_COUNT,
        "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
      }
    ],
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

다음 단계를 완료합니다.

다음을 바꿉니다.
- PROJECT_ID: T4 또는 V100 GPU가 있는 N1 인스턴스를 만들 프로젝트의 프로젝트 ID입니다.
- ZONE: 사용할 머신 유형이 제공되는 영역을 지정합니다. 리전에 대한 자세한 내용은 리전 및 영역별 GPU 가용성을 참고하세요.
- NAME_PATTERN: T4 또는 V100 GPU가 있는 N1 인스턴스에 사용할 이름 패턴입니다. 예를 들어 이름 패턴에 instance-#을 사용하면 instance-1 및 instance-2와 같은 이름으로 T4 또는 V100 GPU가 있는 N1 인스턴스가 생성되므로 --count로 지정하는 최대 T4 또는 V100 GPU가 있는 N1 인스턴스 수는 이름 패턴에서 허용하는 인스턴스 수보다 작거나 같아야 합니다.
- COUNT: 생성할 T4 또는 V100 GPU가 있는 N1 인스턴스 수입니다.
- MACHINE_TYPE: T4 또는 V100 GPU가 있는 N1 인스턴스에 사용할 머신 유형입니다. 자세한 내용은 Compute Engine 문서의 GPU 머신 유형을 참고하세요.
- ACCELERATOR_COUNT: N1 VM에 연결할 GPU 수입니다. VM의 머신 유형을 기준으로 한 GPU 한도 목록은 Compute Engine 문서의 N1 GPU 정보를 참고하세요.
- ACCELERATOR_TYPE: 사용할 N1 VM의 가속기 유형입니다. AI 워크로드의 경우 T4 또는 V100 GPU를 사용하는 것이 좋습니다.
  팁: 이 VM에서 그래픽 집약적인 워크로드를 실행할 계획이라면 nvidia-tesla-t4-vws 액셀러레이터 유형을 사용하는 것이 좋습니다. 이 유형은 NVIDIA RTX 가상 워크스테이션 (vWS)을 지원하기 때문입니다.
  NVIDIA RTX 가상 워크스테이션을 사용하는 인스턴스를 만들면 Compute Engine이 자동으로 vWS 라이선스를 추가합니다. 가상 워크스테이션 가격 책정에 대한 자세한 내용은 GPU 가격 책정 페이지를 참고하세요.
- DISK_SIZE: 부팅 디스크의 크기(GB 단위). 자세한 내용은 디스크 유형에 따라 Google Cloud Hyperdisk 크기 한도 또는 Persistent Disk 크기 한도를 참고하세요.
- DISK_TYPE: 부팅 디스크의 유형입니다. 머신 유형에 지원되는 디스크 유형에 대한 자세한 내용은 Compute Engine 문서의 가속기 최적화 머신 계열의 GPU 머신을 참고하세요.
- IMAGE_PROJECT: OS 이미지의 프로젝트 ID로 바꿉니다.
- IMAGE_FAMILY: 사용할 OS 이미지의 이미지 계열로 바꿉니다. 지원되는 모든 운영체제 목록은 지원되는 운영체제를 참고하세요.
- AUTOMATIC_RESTART: 인스턴스가 비정상 종료되거나 Compute Engine에서 유지보수 이벤트와 같은 프로그래밍된 중지를 위해 인스턴스를 중지하는 경우 인스턴스가 자동으로 다시 시작되는지 여부입니다. 자동 다시 시작을 사용 설정하려면 true을 지정하고 (기본값) 자동 다시 시작을 사용 중지하려면 false을 지정합니다.
- RESERVATION_AFFINITY: 인스턴스가 사용할 수 있는 예약입니다(가능한 경우). 다음 중 하나를 지정합니다.
  - ANY_RESERVATION (예약 용량은 선택사항): 기본 옵션입니다. 인스턴스는 자동으로 사용되는 예약의 용량을 사용하려고 시도하며, 이는 일치하는 예약 용량이 있는 경우에만 발생합니다. 그렇지 않으면 인스턴스에서 주문형 용량을 사용합니다.
  - SPECIFIC_RESERVATION (예약 용량이 필요함): 인스턴스가 특별히 타겟팅된 예약의 용량을 사용해야 합니다. 인스턴스가 주문형 용량을 사용할 수 없습니다. 예약 용량을 사용할 수 없으면 인스턴스 생성이 실패합니다.
- RESERVATION: 사용할 예약입니다. RESERVATION_AFFINITY에 지정한 값에 따라 다음 중 하나를 지정합니다.
  - ANY_RESERVATION를 지정한 경우 값이 빈 문자열 ("")이 되도록 RESERVATION를 삭제합니다. 또는 key 및 values 필드를 완전히 삭제할 수 있습니다.
  - SPECIFIC_RESERVATION를 지정한 경우 RESERVATION를 다음으로 바꿉니다.
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    다음을 바꿉니다.
    - RESERVATION_OWNER_PROJECT_ID: 예약이 생성된 프로젝트의 프로젝트 ID입니다.
    - RESERVATION_NAME: 예약 이름.
선택사항: 로컬 SSD 디스크를 사용하려면 각 로컬 SSD 디스크의 disks[] 필드에 다음 필드를 추가합니다. 각 disks[] 하위 필드 (부팅 디스크 포함)를 쉼표로 구분합니다.

연결하는 로컬 SSD 디스크 수가 머신 유형에 허용되는지 확인합니다. 자세한 내용은 Compute Engine 문서의 로컬 SSD 디스크 정보를 참고하세요.
```
    {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }
```
다음을 바꿉니다.
- ZONE: 지정된 영역
- INTERFACE_TYPE: 로컬 SSD 디스크에 사용하려는 디스크 인터페이스 유형입니다. 부팅 디스크 이미지에 최적화된 NVMe 드라이버가 있는 경우 NVME를 지정합니다. 다른 이미지에는 SCSI를 지정합니다.
로컬 SSD 디스크로 VM을 만든 후 이를 사용하려면 먼저 각 기기를 포맷하고 마운트해야 합니다.
요청을 제출합니다.

주문형

요청을 제출하기 전에 다음 단계를 모두 검토하여 추가 필드를 포함할지 결정하세요.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "guestAccelerators":
    [
      {
        "acceleratorCount": ACCELERATOR_COUNT,
        "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
      }
    ],
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

다음 단계를 완료합니다.

다음을 바꿉니다.
- PROJECT_ID: T4 또는 V100 GPU가 있는 N1 인스턴스를 만들 프로젝트의 프로젝트 ID입니다.
- ZONE: 사용할 머신 유형이 제공되는 영역을 지정합니다. 리전에 대한 자세한 내용은 리전 및 영역별 GPU 가용성을 참고하세요.
- NAME_PATTERN: T4 또는 V100 GPU가 있는 N1 인스턴스에 사용할 이름 패턴입니다. 예를 들어 이름 패턴에 instance-#을 사용하면 instance-1 및 instance-2와 같은 이름으로 T4 또는 V100 GPU가 있는 N1 인스턴스가 생성되므로 --count로 지정하는 최대 T4 또는 V100 GPU가 있는 N1 인스턴스 수는 이름 패턴에서 허용하는 인스턴스 수보다 작거나 같아야 합니다.
- COUNT: 생성할 T4 또는 V100 GPU가 있는 N1 인스턴스 수입니다.
- MACHINE_TYPE: T4 또는 V100 GPU가 있는 N1 인스턴스에 사용할 머신 유형입니다. 자세한 내용은 Compute Engine 문서의 GPU 머신 유형을 참고하세요.
- ACCELERATOR_COUNT: N1 VM에 연결할 GPU 수입니다. VM의 머신 유형을 기준으로 한 GPU 한도 목록은 Compute Engine 문서의 N1 GPU 정보를 참고하세요.
- ACCELERATOR_TYPE: 사용할 N1 VM의 가속기 유형입니다. AI 워크로드의 경우 T4 또는 V100 GPU를 사용하는 것이 좋습니다.
  팁: 이 VM에서 그래픽 집약적인 워크로드를 실행할 계획이라면 nvidia-tesla-t4-vws 액셀러레이터 유형을 사용하는 것이 좋습니다. 이 유형은 NVIDIA RTX 가상 워크스테이션 (vWS)을 지원하기 때문입니다.
  NVIDIA RTX 가상 워크스테이션을 사용하는 인스턴스를 만들면 Compute Engine이 자동으로 vWS 라이선스를 추가합니다. 가상 워크스테이션 가격 책정에 대한 자세한 내용은 GPU 가격 책정 페이지를 참고하세요.
- DISK_SIZE: 부팅 디스크의 크기(GB 단위). 자세한 내용은 디스크 유형에 따라 Google Cloud Hyperdisk 크기 한도 또는 Persistent Disk 크기 한도를 참고하세요.
- DISK_TYPE: 부팅 디스크의 유형입니다. 머신 유형에 지원되는 디스크 유형에 대한 자세한 내용은 Compute Engine 문서의 가속기 최적화 머신 계열의 GPU 머신을 참고하세요.
- IMAGE_PROJECT: OS 이미지의 프로젝트 ID로 바꿉니다.
- IMAGE_FAMILY: 사용할 OS 이미지의 이미지 계열로 바꿉니다. 지원되는 모든 운영체제 목록은 지원되는 운영체제를 참고하세요.
- AUTOMATIC_RESTART: 인스턴스가 비정상 종료되거나 Compute Engine에서 유지보수 이벤트와 같은 프로그래밍된 중지를 위해 인스턴스를 중지하는 경우 인스턴스가 자동으로 다시 시작되는지 여부입니다. 자동 다시 시작을 사용 설정하려면 true을 지정하고 (기본값) 자동 다시 시작을 사용 중지하려면 false을 지정합니다.
- RESERVATION_AFFINITY: 인스턴스가 사용할 수 있는 예약입니다(가능한 경우). 다음 중 하나를 지정합니다.
  - ANY_RESERVATION (예약 용량은 선택사항): 기본 옵션입니다. 인스턴스는 자동으로 사용되는 예약의 용량을 사용하려고 시도하며, 이는 일치하는 예약 용량이 있는 경우에만 발생합니다. 그렇지 않으면 인스턴스에서 주문형 용량을 사용합니다.
  - NO_RESERVATION (온디맨드 용량이 필요함): 인스턴스가 예약 용량을 사용하지 못하도록 차단합니다.
선택사항: 로컬 SSD 디스크를 사용하려면 각 로컬 SSD 디스크의 disks[] 필드에 다음 필드를 추가합니다. 각 disks[] 하위 필드 (부팅 디스크 포함)를 쉼표로 구분합니다.

연결하는 로컬 SSD 디스크 수가 머신 유형에 허용되는지 확인합니다. 자세한 내용은 Compute Engine 문서의 로컬 SSD 디스크 정보를 참고하세요.
```
    {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }
```
다음을 바꿉니다.
- ZONE: 지정된 영역
- INTERFACE_TYPE: 로컬 SSD 디스크에 사용하려는 디스크 인터페이스 유형입니다. 부팅 디스크 이미지에 최적화된 NVMe 드라이버가 있는 경우 NVME를 지정합니다. 다른 이미지에는 SCSI를 지정합니다.
로컬 SSD 디스크로 VM을 만든 후 이를 사용하려면 먼저 각 기기를 포맷하고 마운트해야 합니다.
요청을 제출합니다.

스팟

요청을 제출하기 전에 다음 단계를 모두 검토하여 추가 필드를 포함할지 결정하세요.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "guestAccelerators":
    [
      {
        "acceleratorCount": ACCELERATOR_COUNT,
        "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
      }
    ],
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

다음 단계를 완료합니다.

다음을 바꿉니다.
- PROJECT_ID: T4 또는 V100 GPU가 있는 N1 인스턴스를 만들 프로젝트의 프로젝트 ID입니다.
- ZONE: 사용할 머신 유형이 제공되는 영역을 지정합니다. 리전에 대한 자세한 내용은 리전 및 영역별 GPU 가용성을 참고하세요.
- NAME_PATTERN: T4 또는 V100 GPU가 있는 N1 인스턴스에 사용할 이름 패턴입니다. 예를 들어 이름 패턴에 instance-#을 사용하면 instance-1 및 instance-2와 같은 이름으로 T4 또는 V100 GPU가 있는 N1 인스턴스가 생성되므로 --count로 지정하는 최대 T4 또는 V100 GPU가 있는 N1 인스턴스 수는 이름 패턴에서 허용하는 인스턴스 수보다 작거나 같아야 합니다.
- COUNT: 생성할 T4 또는 V100 GPU가 있는 N1 인스턴스 수입니다.
- MACHINE_TYPE: T4 또는 V100 GPU가 있는 N1 인스턴스에 사용할 머신 유형입니다. 자세한 내용은 Compute Engine 문서의 GPU 머신 유형을 참고하세요.
- ACCELERATOR_COUNT: N1 VM에 연결할 GPU 수입니다. VM의 머신 유형을 기준으로 한 GPU 한도 목록은 Compute Engine 문서의 N1 GPU 정보를 참고하세요.
- ACCELERATOR_TYPE: 사용할 N1 VM의 가속기 유형입니다. AI 워크로드의 경우 T4 또는 V100 GPU를 사용하는 것이 좋습니다.
  팁: 이 VM에서 그래픽 집약적인 워크로드를 실행할 계획이라면 nvidia-tesla-t4-vws 액셀러레이터 유형을 사용하는 것이 좋습니다. 이 유형은 NVIDIA RTX 가상 워크스테이션 (vWS)을 지원하기 때문입니다.
  NVIDIA RTX 가상 워크스테이션을 사용하는 인스턴스를 만들면 Compute Engine이 자동으로 vWS 라이선스를 추가합니다. 가상 워크스테이션 가격 책정에 대한 자세한 내용은 GPU 가격 책정 페이지를 참고하세요.
- DISK_SIZE: 부팅 디스크의 크기(GB 단위). 자세한 내용은 디스크 유형에 따라 Google Cloud Hyperdisk 크기 한도 또는 Persistent Disk 크기 한도를 참고하세요.
- DISK_TYPE: 부팅 디스크의 유형입니다. 머신 유형에 지원되는 디스크 유형에 대한 자세한 내용은 Compute Engine 문서의 가속기 최적화 머신 계열의 GPU 머신을 참고하세요.
- IMAGE_PROJECT: OS 이미지의 프로젝트 ID로 바꿉니다.
- IMAGE_FAMILY: 사용할 OS 이미지의 이미지 계열로 바꿉니다. 지원되는 모든 운영체제 목록은 지원되는 운영체제를 참고하세요.
- TERMINATION_ACTION: Compute Engine에서 인스턴스를 선점할 때 수행할 작업(STOP(기본값) 또는 DELETE)으로 바꿉니다.
  
  중요: 애플리케이션에서 선점을 처리할 수 있는지 확인하세요. 예를 들어 인스턴스를 만드는 중에 종료 스크립트를 지정하여 선점을 처리합니다. 종료 스크립트로 선점을 처리하는 방법을 알아보세요.
선택사항: 로컬 SSD 디스크를 사용하려면 각 로컬 SSD 디스크의 disks[] 필드에 다음 필드를 추가합니다. 각 disks[] 하위 필드 (부팅 디스크 포함)를 쉼표로 구분합니다.

연결하는 로컬 SSD 디스크 수가 머신 유형에 허용되는지 확인합니다. 자세한 내용은 Compute Engine 문서의 로컬 SSD 디스크 정보를 참고하세요.
```
    {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }
```
다음을 바꿉니다.
- ZONE: 지정된 영역
- INTERFACE_TYPE: 로컬 SSD 디스크에 사용하려는 디스크 인터페이스 유형입니다. 부팅 디스크 이미지에 최적화된 NVMe 드라이버가 있는 경우 NVME를 지정합니다. 다른 이미지에는 SCSI를 지정합니다.
로컬 SSD 디스크로 VM을 만든 후 이를 사용하려면 먼저 각 기기를 포맷하고 마운트해야 합니다.
요청을 제출합니다.

VM을 일괄로 만들 때의 구성 옵션에 대한 자세한 내용은 Compute Engine 문서의 VM 일괄 생성을 참고하세요.

GPU 드라이버 설치

인스턴스를 만든 후 올바른 GPU 드라이버가 이미 설치되어 있지 않으면 인스턴스에서 GPU를 사용할 수 없습니다. 설치해야 하는 드라이버는 인스턴스에서 NVIDIA RTX 가상 워크스테이션 (vWS)을 사용 설정했는지에 따라 다릅니다. 다음 옵션 중 하나를 사용합니다.

vWS를 사용 설정한 경우 Compute Engine 문서의 NVIDIA RTX 가상 워크스테이션 (vWS)용 드라이버 설치를 참고하세요.
그렇지 않으면 다음과 같이 기본 GPU 드라이버를 사용합니다.
- GPU 드라이버가 포함된 OS 이미지를 지정한 경우 아무 조치도 취하지 않아도 됩니다.
- OS 이미지에 GPU 드라이버가 포함되어 있지 않으면 Compute Engine 문서의 GPU 드라이버 설치를 참고하세요.

GPU가 있는 AI 최적화 N1 VM 일괄 생성 컬렉션을 사용해 정리하기 내 환경설정을 기준으로 콘텐츠를 저장하고 분류하세요.

제한사항

시작하기 전에

콘솔

gcloud

REST

필요한 역할

필수 권한

개요

GPU가 있는 N1 VM 일괄 생성

gcloud

예약

주문형

스팟

REST

예약

주문형

스팟

GPU 드라이버 설치

다음 단계

GPU가 있는 AI 최적화 N1 VM 일괄 생성