単一ホスト TPU スライスを使用して MIG を作成する

このドキュメントでは、単一ホスト TPU スライスを形成するマネージド インスタンス グループ（MIG）を作成する方法について説明します。単一ホスト TPU スライスは、1 つの TPU 仮想マシン（VM）インスタンスにマッピングされます。

単一ホスト TPU スライスをスタンドアロン TPU インスタンスとして作成することもできます。詳細については、 TPU VM インスタンスを作成するをご覧ください。

始める前に

• TPU インスタンスを使用して MIG を作成する際の 制限事項を確認します。
• まだ設定していない場合は、認証を設定します。 認証では、 Google Cloud サービスと API にアクセスするための ID が確認されます。ローカル開発環境からコードまたはサンプルを実行するには、次のいずれかのオプションを選択して Compute Engine に対する認証を行います。

  1. Google Cloud CLI をインストールします。 インストール後、 初期化するには、次のコマンドを実行して Google Cloud CLI を初期化します。

     gcloud init

     外部 ID プロバイダ（IdP）を使用している場合は、まず フェデレーション ID を使用して gcloud CLI にログインする必要があります。

     注: すでに gcloud CLI をインストールしている場合は、最新バージョンがインストールされていることを確認してください gcloud components update を実行して。
  2. デフォルトのリージョンとゾーンを設定します。

前提条件

単一ホスト TPU スライスを作成する前に、次の操作を行う必要があります。

1. TPU のバージョンを選択する: ワークロードに適した TPU バージョンを選択します。ワークロード タイプ別の TPU バージョンのリストについては、 ワークロード タイプ別の推奨 TPU バージョンをご覧ください。

2. 優先ロケーションで TPU の可用性を確認する: TPU は 特定の Google Cloud リージョンで利用できます。TPU バージョンを使用するには、優先リージョンでそのバージョンが使用可能であることを確認します。TPU ロケーションのリストについては、 TPU の可用性をご覧ください。

3. プロジェクトに十分な TPU 割り当てがあることを確認する: オンデマンド VM または Spot VM で 単一ホスト TPU スライスを作成する場合は、使用するリージョンに 十分な TPU の割り当てが必要です。TPU 予約を使用する単一ホスト TPU スライスを作成する場合、予約の作成時に割り当てが使用されるため、TPU の割り当ては必要ありません。TPU 割り当て名のリストについては、TPU 割り当てをご覧ください。割り当てを表示する方法については、割り当てを表示して管理するをご覧ください。

4. TPU の使用オプションを選択する: ワークロード、その期間、費用のニーズに最適な使用オプションを選択します。TPU バージョン別の 使用オプションの可用性のリストについては、 TPU の使用オプションをご覧ください。

5. トポロジを選択する: 選択した TPU バージョンでサポートされているトポロジを選択します。TPU バージョンごとに使用可能なトポロジのリストについては、 TPU トポロジをご覧ください。

複数の単一ホスト TPU スライスを含む MIG を作成する

MIG に複数の独立した TPU VM を作成するには:

1. インスタンス テンプレートを作成します。
2. MIG を作成します。

インスタンス テンプレートを作成する

インスタンス テンプレートの構成は、使用する使用オプション（オンデマンド、Spot、予約、Flex Start）によって異なります。使用オプションの詳細については、 VM プロビジョニング モデルについて をご覧ください。

オンデマンド TPU VM のインスタンス テンプレートを作成する

次のコマンドは、オンデマンド使用オプションを使用するインスタンス テンプレートを作成します。

重要: ct6e-standard-8t マシンタイプを使用する場合は、次のコマンドに --threads-per-core=1 フラグ を含めて、 コアあたりのスレッド数を 1 に設定する必要があります。コアあたりのスレッドの詳細については、 コアあたりのスレッド数を設定するをご覧ください。

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --maintenance-policy=TERMINATE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT

各プレースホルダを次のように置き換えます。

• INSTANCE_TEMPLATE_NAME: インスタンス テンプレートの名前。
• MACHINE_TYPE: TPU VM のマシンタイプ（ct6e-standard-8t など）。
• IMAGE_FAMILY：TPU VM の OS イメージ ファミリー 。特定の OS バージョンをインストールする場合は、--image フラグを使用します。OS イメージの詳細については、OS イメージをご覧ください。
• IMAGE_PROJECT: OS イメージを含むプロジェクト。 TPU イメージの場合、これは ubuntu-os-accelerator-images です。

TPU Spot VM のインスタンス テンプレートを作成する

次のコマンドは、Spot 使用オプションを使用するインスタンス テンプレートを作成します。

重要: ct6e-standard-8t マシンタイプを使用する場合は、次のコマンドに --threads-per-core=1 フラグ を含めて、 コアあたりのスレッド数を 1 に設定する必要があります。コアあたりのスレッドの詳細については、 コアあたりのスレッド数を設定するをご覧ください。

 gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --maintenance-policy=TERMINATE \
    --instance-termination-action=STOP \
    --provisioning-model=SPOT \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT

各プレースホルダを次のように置き換えます。

• INSTANCE_TEMPLATE_NAME: インスタンス テンプレートの名前。
• MACHINE_TYPE: TPU VM のマシンタイプ（ct6e-standard-8t など）。
• IMAGE_FAMILY：TPU VM の OS イメージ ファミリー 。特定の OS バージョンをインストールする場合は、--image フラグを使用します。OS イメージの詳細については、OS イメージをご覧ください。
• IMAGE_PROJECT: OS イメージを含むプロジェクト。 TPU イメージの場合、これは ubuntu-os-accelerator-images です。

TPU 予約で制限された VM のインスタンス テンプレートを作成する

次のコマンドは、予約で制限された使用オプションを使用するインスタンス テンプレートを作成します。

重要: ct6e-standard-8t マシンタイプを使用する場合は、次のコマンドに --threads-per-core=1 フラグ を含めて、 コアあたりのスレッド数を 1 に設定する必要があります。コアあたりのスレッドの詳細については、 コアあたりのスレッド数を設定するをご覧ください。

 gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --maintenance-policy=TERMINATE \
    --instance-termination-action=DELETE \
    --reservation-affinity=specific \
    --provisioning-model=reservation-bound \
    --reservation=RESERVATION_NAME \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT

各プレースホルダを次のように置き換えます。

• INSTANCE_TEMPLATE_NAME: インスタンス テンプレートの名前。
• MACHINE_TYPE：TPU VM のマシンタイプ （例: ct6e-standard-8t）。
• RESERVATION_NAME: 使用する特定の予約の名前。
• IMAGE_FAMILY：TPU VM の OS イメージ ファミリー 。特定の OS バージョンをインストールする場合は、--image フラグを使用します。OS イメージの詳細については、OS イメージをご覧ください。
• IMAGE_PROJECT: OS イメージを含むプロジェクト。 TPU イメージの場合、これは ubuntu-os-accelerator-images です。

TPU Flex Start VM のインスタンス テンプレートを作成する

次のコマンドは、Flex Start 使用オプションを使用するインスタンス テンプレートを作成します。

重要: ct6e-standard-8t マシンタイプを使用する場合は、次のコマンドに --threads-per-core=1 フラグ を含めて、 コアあたりのスレッド数を 1 に設定する必要があります。コアあたりのスレッドの詳細については、 コアあたりのスレッド数を設定するをご覧ください。

 gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --maintenance-policy=TERMINATE \
    --instance-termination-action=DELETE \
    --provisioning-model=FLEX_START \
    --max-run-duration=DURATION \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT

各プレースホルダを次のように置き換えます。

• INSTANCE_TEMPLATE_NAME: インスタンス テンプレートの名前。
• MACHINE_TYPE：TPU VM のマシンタイプ （例: ct6e-standard-8t）。
• DURATION: TPU VM の最大実行時間（1h など）。
• IMAGE_FAMILY：TPU VM の OS イメージ ファミリー 。特定の OS バージョンをインストールする場合は、--image フラグを使用します。OS イメージの詳細については、OS イメージをご覧ください。
• IMAGE_PROJECT: OS イメージを含むプロジェクト。 TPU イメージの場合、これは ubuntu-os-accelerator-images です。

MIG を作成する

次のように gcloud compute instance-groups managed create コマンドを使用して、ゾーン MIG またはリージョン MIG を作成します。

• 単一ホスト TPU スライスを含むゾーン MIG を作成するには、次のコマンドを使用します。

  gcloud compute instance-groups managed create MIG_NAME \
      --size=MIG_SIZE \
      --template=INSTANCE_TEMPLATE_URL \
      --zone=ZONE
  

• 単一ホスト TPU スライスを含むリージョン MIG を作成するには、次のコマンドを使用します。

  gcloud compute instance-groups managed create MIG_NAME \
      --size=MIG_SIZE \
      --template=INSTANCE_TEMPLATE_URL \
      --region=REGION \
      --target-distribution-shape=ANY_SINGLE_ZONE \
      --instance-redistribution-type=none
  

各プレースホルダを次のように置き換えます。

• MIG_NAME: MIG の名前。
• MIG_SIZE: MIG 内の VM の数。
• INSTANCE_TEMPLATE_URL: MIG でインスタンスの作成に使用するインスタンス テンプレートの URL。この URL には、インスタンス テンプレートの ID または名前を含めることができます。次のいずれかの値を指定します。
  • リージョン インスタンス テンプレートの場合: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
  • グローバル インスタンス テンプレートの場合: INSTANCE_TEMPLATE_ID
• ZONE：MIG をプロビジョニングするゾーン 。
• REGION: MIG をプロビジョニングするリージョン 。

MIG でカスタム名を使用して VM を作成する

各 VM にカスタム名を指定して、MIG に VM を作成できます。これは、デバッグや、特定の順序でインスタンスが作成されるようにする場合に便利です。

gcloud

create-instance コマンド を使用してカスタム名で VM を作成し、--instance フラグを指定します。複数の VM を作成するには、VM ごとにコマンドを繰り返します。それ以外の場合は、REST API メソッドを使用して、1 つのリクエストで複数の VM を指定します。

• ゾーン MIG の場合は、次のコマンドを使用します。

  gcloud compute instance-groups managed create-instance MIG_NAME \
      --zone=ZONE \
      --instance=INSTANCE_NAME
  

• リージョン MIG の場合は、次のコマンドを使用します。

  gcloud compute instance-groups managed create-instance MIG_NAME \
      --region=REGION \
      --instance=INSTANCE_NAME
  

各プレースホルダを次のように置き換えます。

• MIG_NAME: MIG の名前。
• ZONE: MIG のゾーン。
• REGION: MIG のリージョン。
• INSTANCE_NAME: 指定した MIG に追加する VM の名前。

REST

次のいずれかの REST API メソッドを使用して、カスタム名で VM を作成します。

• ゾーン MIG の場合は、instanceGroupManagers.createInstances を使用します。

   POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/createInstances
   {
     "instances": [
       {
         "name": "INSTANCE_NAME_1"
       },
       {
         "name": "INSTANCE_NAME_2"
       },
       ...
     ]
   }
   

• リージョン MIG の場合は、regionInstanceGroupManagers.createInstances を使用します。

   POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/createInstances
   {
     "instances": [
       {
         "name": "INSTANCE_NAME_1"
       },
       {
         "name": "INSTANCE_NAME_2"
       },
       ...
     ]
   }
   

各プレースホルダを次のように置き換えます。

• PROJECT_ID: MIG が存在するプロジェクトの ID。
• ZONE: MIG のゾーン。
• REGION: MIG のリージョン。
• INSTANCE_NAME_1,2,..: 指定した MIG に追加する VM の名前 。

次のステップ

• マルチホスト スライスを作成する
• TPU インスタンスに接続する
• MIG のプロパティを表示する
• TPU スライスのステータスを表示する
• MIG を削除する