Cloud TPU リソースを計画する
このページでは、Tensor Processing Unit（TPU）の使用量を計画する方法について説明します。
使用オプションを選択する
使用オプションとは、コンピューティング リソースを取得して使用する方法を指します。速度、期間、費用、プリエンプション許容度に基づいて、Cloud TPU VM の容量をリクエストできます。選択肢は、
- オンデマンド: 標準の従量課金制インスタンス。
- Spot VM: 低コストのプリエンプティブル インスタンス。プリエンプティブル割り当てを使用します。
- Flex Start VM: 長期的な予約や複雑な割り当て管理を行うことなく、必要に応じて最大 7 日間容量を予約します。
- 予約: 特定の期間（最大 90 日間または 1 年以上）の容量を予約して、可用性を保証します。オンデマンド割り当てを使用します。
次の表に、仕組み、最適なユースケース、サポートされている TPU バージョンに基づいて、TPU の使用オプションを比較します。
| 使用オプション | 機能 | 最適な用途 | サポートされる TPU バージョン |
|---|---|---|---|
| 1 年以上の将来の予約 |
1 年以上の TPU リソースを事前にリクエストします。これらの リソースは、その期間中、お客様専用に予約されます。 予約を使用すると、容量を確実に確保できます。また、 オンデマンド リソースよりも低価格で、費用対効果に優れています。 TPU の将来の予約には、確約利用割引（CUD）が適用されます。 CUD では、確約利用契約を購入することを条件として、割引料金が適用されます。 詳細については、 1 年以上の将来の予約をご覧ください。 |
1 年以上の将来の予約は、長時間実行 トレーニング ジョブと推論ワークロードに最適です。 | すべての TPU バージョン |
| 最大 90 日間の将来の予約（カレンダー モード） |
1 日から 90 日の間の特定の開始時間と期間の TPU リソースをリクエストします。 これらのリソースは、その期間中、お客様専用に予約されます。詳細については、最大 90 日間の将来の予約（カレンダー モード）をご覧ください。 予約を使用すると、容量を確実に確保できます。また、 オンデマンド リソースよりも低価格で、費用対効果に優れています。 |
カレンダー モードの将来の予約は、正確な開始時間と定義された期間を必要とするトレーニングと テストのワークロードに適しています。 | TPU7x、TPU v6e、TPU v5p |
| オンデマンド |
必要な期間、すぐに使用できる TPU リソースをリクエストします。 オンデマンドは非常に柔軟性が高い方法です。オンデマンド リソース はプリエンプトされませんが、リクエストを満たすのに十分な TPU リソースがあることを保証するものではありません。TPU リソースを作成する際のデフォルト オプションはオンデマンドです。オンデマンド TPU の作成と使用の詳細については、TPU VM を作成するをご覧ください。 |
オンデマンドは、緊急のジョブや、終了時間を柔軟に設定する必要があるワークロードに適しています。 | すべての TPU バージョン |
| Flex Start（プレビュー） |
事前に容量を予約することなく、特定の期間（最大 7 日間）の TPU リソースをリクエストします。 TPU Flex Start VM は専用の容量プールから提供されるため、これらのリソースの可用性はオンデマンドよりも高くなります。詳細については、TPU Flex Start VM をリクエストするをご覧ください。 Google Kubernetes Engine（GKE）で TPU Flex Start VM を使用する方法については、 Flex Start プロビジョニング モードでの GPU と TPU のプロビジョニングについてをご覧ください。 |
Flex Start は、迅速なテスト、小規模なテスト、 推論ワークロード用の TPU の動的プロビジョニング、モデルのファインチューニング、 7 日未満のワークロード実行に適しています。 | TPU7x、TPU v6e、TPU v5p |
| スポット |
プリエンプト可能な TPU リソースをリクエストします。 Spot VM は、オンデマンド リソースよりもはるかに低価格で利用できます。Spot VM は オンデマンド リソースよりも簡単に取得できますが、いつでもプリエンプト（シャットダウン）される可能性があります。実行時間の制限はありません。TPU Spot VM の詳細については、 TPU Spot VM を管理するをご覧ください。 |
Spot は、モデル 事前トレーニング、モデルのファインチューニング、可用性の中断に耐性のあるシミュレーション ジョブなど、優先度の低いワークロードのスケジューリングに適しています。 | すべての TPU バージョン |
TPU のバージョンを選択する
モデルのトレーニングまたは推論のニーズに基づいて、TPU のバージョン（v5p、v6e、TPU7x（Ironwood）など）を選択します。詳細については、TPU のバージョンをご覧ください。
TPU の割り当てをリクエストする
使用オプションに関係なく TPU VM を使用するには、Cloud TPU リソースのオンデマンド割り当てまたはプリエンプティブル割り当てが必要です。選択したオプション、TPU のバージョン、サイズ、ゾーンに十分な割り当てがあることを確認してください。割り当ては TPU のバージョンごとに異なり、オンデマンド使用とプリエンプティブル使用で異なります。一部の TPU バージョンにはデフォルトの割り当てがありますが、割り当てをリクエストする必要があるものもあります。詳細については、Compute Engine の割り当てをご覧ください。
次のステップ