Compute Engine으로 TPU 리소스 관리
이 페이지에서는 Compute Engine을 사용하여 TPU VM에 연결하거나, TPU VM에 대한 정보를 보거나, TPU VM을 삭제하거나, TPU VM을 재설정하는 방법을 설명합니다.
TPU VM 관리
TPU VM은 다른 Compute Engine VM과 마찬가지로 상호작용합니다. 하지만 TPU VM을 일시중지하거나 중지할 수는 없습니다. 멀티 호스트 TPU VM도 재설정할 수 없습니다.
TPU VM에 연결
TPU VM은 다른 Compute Engine 인스턴스와 동일한 방식으로 연결합니다. 자세한 내용은 Linux VM에 연결을 참조하세요.
TPU VM에 대한 정보 보기
TPU VM 및 MIG에 대한 정보는 다른 Compute Engine 인스턴스 또는 MIG와 동일한 방식으로 볼 수 있습니다.
- 프로젝트의 모든 VM을 나열하려면 VM 목록 가져오기를 참조하세요.
- 모든 MIG를 나열하려면 MIG 나열을 참조하세요.
- TPU VM의 세부정보를 보려면 VM 세부정보 보기를 참조하세요.
- MIG에 대한 정보를 보려면 MIG 속성 보기를 참조하세요.
- 멀티 호스트 TPU 슬라이스의 상태를 보려면 TPU 슬라이스의 상태 보기를 참조하세요.
TPU VM 인스턴스 재설정
TPU VM 인스턴스를 재설정하는 것은 재설정 버튼을 누르거나 전원 버튼을 길게 눌러 컴퓨터를 재설정하는 것과 유사합니다. 재설정 작업은 정상적인 재부팅을 수행하지 않으며 저장되지 않은 데이터가 손실될 수 있습니다. 다음과 같은 시나리오에서는 인스턴스를 재설정하는 것이 좋습니다.
- 최적의 성능과 안정성을 보장하기 위해 인스턴스를 부팅 상태로 다시 초기화하려는 경우
- 게스트 OS가 비정상 종료되어 응답하지 않는 경우, 인스턴스를 재설정하는 것 외에는 다른 옵션이 없어 워크로드를 다시 실행해야 하는 경우
TPU VM 인스턴스 재설정에 대한 자세한 내용은 Compute Engine 문서의 재설정 작업 을 참조하세요.
TPU VM 인스턴스 삭제
TPU VM 인스턴스를 삭제하는 방법을 알아보려면 Compute Engine 문서의 Compute Engine 인스턴스 삭제 를 참조하세요.
TPU VM 인스턴스 속성 업데이트
실행 중인 TPU VM 인스턴스의 인스턴스 속성을 업데이트할 수 있습니다. 자세한 내용은 인스턴스 속성 업데이트를 참조하세요.
MIG에서 새 VM 구성 적용
관리형 인스턴스 그룹 (MIG)에서 새 TPU VM 구성을 적용하는 방법에 대한 자세한 내용은 MIG에서 새 VM 구성 적용을 참조하세요.
다음 단계
- 단일 호스트 TPU 슬라이스로 MIG를 만드는 방법을 알아보세요.
- 멀티 호스트 TPU 슬라이스로 MIG를 만드는 방법을 알아보세요.
- GKE의 TPU에 대해 알아보세요.
- TPU에서 ML 워크로드를 실행하는 방법(예: TPU에서 vLLM으로 Qwen2-72B-Instruct 서빙)을 알아보세요.