TPU Spot VM をリクエストする

Spot VM では、未使用の容量を大幅な割引料金で利用できます。Spot VM はいつでもプリエンプトできますが、プリエンプティブル TPU とは異なり、最大ランタイム時間はありません。Spot VM インスタンスまたは MIG を再起動するには、削除してから再作成する必要があります。

Spot VM の詳細については、Spot VM に関する Compute Engine のドキュメントをご覧ください。

TPU Spot VM を作成する

TPU Spot VM は、個々のインスタンスとして、またはマネージド インスタンス グループ（MIG）の一部として作成できます。

MIG で TPU Spot VM を作成するには、インスタンス テンプレートで Spot プロビジョニング モデルを指定します。

  1. インスタンス テンプレートを作成する:

        gcloud compute instance-templates create TEMPLATE_NAME \
        --provisioning-model=SPOT \
        --instance-termination-action=DELETE \
        --machine-type=MACHINE_TYPE \
        --image-family=IMAGE_FAMILY \
        --image-project=IMAGE_PROJECT \
        --zone=ZONE \
        --maintenance-policy=TERMINATE

    各プレースホルダを次のように置き換えます。

    • TEMPLATE_NAME: インスタンス テンプレートの名前。
    • MACHINE_TYPE: VM のマシンタイプ。
    • IMAGE_FAMILY: TPU VM の OS イメージ ファミリー。
    • IMAGE_PROJECT: TPU VM の OS イメージ プロジェクト。
    • ZONE: インスタンス テンプレートが作成されるゾーン。

  2. ワークロード ポリシーを作成する

    次のコマンドは、ワークロード ポリシーを作成します。これは、単一ホスト スライスでは省略可能です。

    gcloud compute resource-policies create workload WORKLOAD_POLICY_NAME \
--type=high-throughput \
--accelerator-topology=TOPOLOGY

    各プレースホルダを次のように置き換えます。

    • WORKLOAD_POLICY_NAME: ワークロード ポリシーの名前。
    • TOPOLOGY: TPU VM のトポロジ（例: 4x4x8）。

  3. MIG を作成する:

        gcloud compute instance-groups managed create MIG_NAME \
        --zone=ZONE \
        --template=TEMPLATE_NAME \
        --size=SIZE \
        --workload-policy=projects/PROJECT_ID/regions/WORKLOAD_POLICY_REGION/resourcePolicies/WORKLOAD_POLICY_NAME

    各プレースホルダを次のように置き換えます。

    • MIG_NAME: MIG の名前。
    • ZONE: MIG が作成されるゾーン。
    • TEMPLATE_NAME: インスタンス テンプレートの名前。
    • SIZE: MIG 内のインスタンスの数。
    • PROJECT_ID: 実際の Google Cloud プロジェクト ID。
    • WORKLOAD_POLICY_REGION: ワークロード ポリシーが定義されているリージョン。
    • WORKLOAD_POLICY_NAME: ワークロード ポリシーの名前。

単一の TPU VM の使用

単一の TPU Spot VM を作成することもできます。

gcloud compute instances create TPU_NAME \
    --zone=ZONE \
    --provisioning-model=SPOT \
    --instance-termination-action=DELETE \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --maintenance-policy=TERMINATE

各プレースホルダを次のように置き換えます。

  • TPU_NAME: TPU の名前。
  • ZONE: TPU が作成されるゾーン。
  • MACHINE_TYPE: VM のマシンタイプ。
  • IMAGE_FAMILY: インスタンス テンプレートのイメージ ファミリー。
  • IMAGE_PROJECT: TPU VM の OS イメージ プロジェクト。

Compute Engine の Spot VM の詳細については、Spot VM をご覧ください。

料金と割り当て

TPU Spot VM の料金は、オンデマンド TPU や予約済み TPU よりも大幅に低くなります。料金について詳しくは、Cloud TPU の料金をご覧ください。

TPU Spot VM を使用するには、プリエンプティブルの割り当てが必要です。詳細については、割り当てをご覧ください。

次のステップ