할당량 및 한도

컨피덴셜 VM은 Compute Engine VM 유형이므로 Compute Engine 리소스 할당량이 적용됩니다.

할당량이란 무엇인가요?

Google Cloud 는 공정성을 보장하고 리소스 사용 및 가용성의 급증을 줄이기 위해 할당량을 사용합니다. 할당량은 Google Cloud 프로젝트에서 사용할 수 있는Google Cloud 리소스 양을 제한합니다. 할당량은 하드웨어, 소프트웨어, 네트워크 구성요소를 포함하여 다양한 리소스 유형에 적용됩니다. 예를 들어 할당량에 따라 서비스에 대한 API 호출 수, 프로젝트에서 동시에 사용하는 부하 분산기 수, 만들 수 있는 프로젝트 수가 제한될 수 있습니다. 할당량은 서비스 과부하를 방지하여Google Cloud 사용자 커뮤니티를 보호합니다. 또한 할당량은 자체 Google Cloud 리소스를 관리하는 데 도움이 됩니다.

Cloud Quotas 시스템은 다음을 수행합니다.

대부분의 경우 할당량이 허용하는 것보다 더 많은 리소스를 소비하려고 하면 시스템에서 리소스에 대한 액세스를 차단하고 수행하려는 작업이 실패합니다.

할당량은 일반적으로 Google Cloud 프로젝트 수준에서 적용됩니다. 한 프로젝트의 리소스를 사용해도 다른 프로젝트에서 사용 가능한 할당량에는 영향을 미치지 않습니다. Google Cloud 프로젝트 내에서 할당량은 모든 애플리케이션과 IP 주소에 공유됩니다.

자세한 내용은 Cloud Quotas 개요를 참고하세요.

할당량 값 보기

모든 프로젝트의 할당량 값이 동일하지는 않습니다. Google Cloud를 사용하면 그에 따라 할당량이 늘어날 수 있습니다. 할당량 값을 확인하는 방법을 알아보세요.

할당량 상향 조정

대부분의 할당량을 조정하려면 Google Cloud 콘솔을 사용합니다. 자세한 내용은 할당량 조정 요청을 참조하세요.

NVIDIA RTX PRO 6000 할당량 요청은 NVIDIA RTX PRO 6000을 참고하세요.

NVIDIA H100 할당량 요청은 NVIDIA H100을 참고하세요.

GPU 할당량

연결된 NVIDIA GPU가 있는 컨피덴셜 VM 인스턴스를 만들려면 사용할 특정 GPU 유형, 리전, 인스턴스 프로비저닝 모델에 대해 Google Cloud프로젝트에 충분한 GPU 할당량이 있어야 합니다.

NVIDIA RTX PRO 6000

G4 머신 유형을 기반으로 하는 컨피덴셜 VM 인스턴스는 NVIDIA RTX PRO 6000 GPU를 사용하며 인스턴스 프로비저닝 모델에 따라 GPU 할당량을 소비합니다.

  • 표준 (주문형) VM 인스턴스: GPU_FAMILY:NVIDIA_RTX_PRO_6000 할당량을 사용합니다.

  • 스팟 VM 및 Flex-start VM 인스턴스: PREEMPTIBLE_NVIDIA_RTX_PRO_6000_GPUS 할당량을 사용합니다.

NVIDIA RTX PRO 6000 GPU의 할당량 요청은 Google Cloud 프로세스를 따릅니다. 자세한 내용은 할당량 보기 및 관리를 참조하세요.

NVIDIA H100

A3 High 머신 유형을 기반으로 하는 컨피덴셜 VM 인스턴스는 NVIDIA H100 GPU를 사용합니다. GPU가 포함된 컨피덴셜 VM 인스턴스를 만들려면 다음 할당량 유형에 충분한 할당량이 있어야 합니다.

  • 각 리전에서 만들려는 GPU 모델의 선점형 할당량

  • 모든 리전에 있는 모든 유형의 총 GPU 수에 적용할 전역 할당량입니다.

할당량 상향을 요청하려면 필요한 할당량 유형에 따라 다음 안내를 따르세요.

선점형 할당량

리전 선점형 NVIDIA H100 GPU 할당량 상향을 요청하려면 다음 단계를 따르세요.

  1. Google Cloud 콘솔에서 할당량 페이지로 이동합니다.

    할당량으로 이동

  2. 필터 상자에 PREEMPTIBLE_NVIDIA_H100_GPUS를 입력한 다음 Enter 또는 Return 키를 누릅니다.

  3. 표의 측정기준 열에서 할당량을 늘리려는 지역이 있는 행을 찾습니다.

  4. 해당 행에서 작업 더보기를 클릭한 다음 할당량 수정을 클릭합니다.

  5. 할당량 변경 창의 새 값 상자에 원하는 GPU 수를 입력합니다.

  6. 요청 제출을 클릭합니다.

전역 할당량

전역 할당량 상향을 요청하려면 다음 단계를 따르세요.

  1. Google Cloud 콘솔에서 할당량 페이지로 이동합니다.

    할당량으로 이동

  2. 필터 상자에 GPUS_ALL_REGIONS를 입력한 다음 Enter 또는 Return 키를 누릅니다.

  3. 결과 행에서 작업 더보기를 클릭한 다음 할당량 수정을 클릭합니다.

  4. 할당량 변경 창의 새 값 상자에 원하는 GPU 수를 입력합니다.

  5. 요청 제출을 클릭합니다.

할당량 요청 후 절차

할당량 요청이 승인되면 승인 이메일이 전송됩니다. 이메일을 받은 후 15분 정도 기다린 다음 할당량 페이지를 새로고침하여 업데이트된 할당량을 확인합니다. 15분이 지나도 할당량이 업데이트되지 않으면 Cloud Customer Care에 문의하세요.

할당량 요청이 거부되면 취할 수 있는 다음 단계를 설명하는 이메일이 전송될 수 있습니다. 할당량을 다시 신청하려면 이메일의 안내를 따르세요.