Cloud TPU 생성 개요
Compute Engine을 사용하면 TPU 가상 머신 (VM)을 개별 인스턴스로 또는 관리형 인스턴스 그룹 (MIG)의 일부로 만들고 관리할 수 있습니다. MIG에는 여러 개의 단일 호스트 TPU VM 또는 멀티 호스트 TPU 슬라이스가 있을 수 있습니다. 단일 호스트 VM이 있는 MIG는 추론 워크로드와 같이 여러 개의 독립적인 워크로드가 있는 경우에 가장 적합합니다. 멀티 호스트 TPU 슬라이스가 있는 MIG에는 단일 워크로드에서 하나의 단위로 함께 작동하는 여러 개의 상호 연결된 TPU VM이 있습니다. TPU VM을 만들고 관리하는 방법은 워크로드 요구사항에 따라 다릅니다.
단일 TPU VM을 만드는 방법은 단일 TPU VM 인스턴스 만들기를 참조하세요. MIG 및 TPU에 대한 자세한 내용은 MIG로 Cloud TPU VM 만들기를 참조하세요.
다음 단계
- 단일 호스트 Cloud TPU 슬라이스로 MIG를 만드는 방법을 알아보세요.
- 멀티 호스트 Cloud TPU 슬라이스로 MIG를 만드는 방법을 알아보세요.
- TPU VM을 관리하는 방법을 알아보세요.
- GKE의 TPU 알아보기
- TPU에서 ML 워크로드를 실행하는 방법(예: TPU에서 vLLM으로 Qwen2-72B-Instruct 서빙)을 알아보세요.