Cloud TPU の作成の概要
Compute Engine を使用すると、 個々のインスタンスとして、またはマネージド インスタンス グループ(MIG)の一部として、TPU 仮想マシン(VM)を作成して管理できます。 MIG には、複数の単一ホスト TPU VM またはマルチホスト TPU スライスを含めることができます。単一ホスト VM を使用する MIG は、推論ワークロードなど、複数の独立したワークロードがある場合に最適です。マルチホスト TPU スライスを使用する MIG には、単一のワークロードで 1 つのユニットとして連携する複数の相互接続された TPU VM があります。TPU VM の作成と管理の方法は、ワークロードの要件によって異なります。
単一の TPU VM を作成する方法については、単一の TPU VM インスタンスを作成するをご覧ください。 MIG と TPU については、MIG を使用して Cloud TPU VM を作成するをご覧ください。
次のステップ
- 単一ホスト Cloud TPU スライスを使用して MIG を作成する方法を確認する。
- マルチホスト Cloud TPU スライスを使用して MIG を作成する方法を確認する。
- TPU VM を管理する方法を確認する。
- GKE の TPU についてを確認する。
- TPU で ML ワークロードを実行する方法を確認する(例: TPU で vLLM を使用して Qwen2-72B-Instruct をサービングする)。