コンパクト プレースメント ポリシーとワークロード ポリシーの概要

このドキュメントでは、コンパクト プレースメント ポリシーとワークロード ポリシーの概要と比較について説明します。どちらのポリシーでも、ネットワーク レイテンシを最小限に抑えるように Compute Engine インスタンスの配置を構成できます。

デフォルトでは、コンピューティング インスタンスの場所はゾーンを指定するだけで管理します。互いに近いコンピューティング インスタンスを作成するには、次のオプションを使用します。詳細については、AI インフラストラクチャ リソースのコロケーションもご覧ください。

  • 次のリソースは、すでに相互に密接にコロケーションされています。

    • 容量ブロックの同じ将来の予約を使用するリソース。
    • カレンダー モードで同じ将来の予約を使用するリソース。
    • マネージド インスタンス グループ(MIG)のサイズ変更リクエストによって同時に作成されるリソース。
  • Flex Start の使用オプションを指定したときに一緒に作成するリソースは、ベスト エフォートの可用性に基づいて高密度でコロケーションされることがあります。リソースを密にコロケーションする必要がある場合は、最大距離を指定するコンパクト プレースメント ポリシーまたは最大距離を指定するワークロード ポリシーを適用します。

  • それ以外の場合は、リソースを近くに配置するために、コンパクト プレースメント ポリシーまたはワークロード ポリシーを適用します。

    • リソースを密にコロケーションする必要がある場合は、ポリシーで最大距離を指定します。
    • ベストエフォートの可用性に基づいてリソースを密にコロケーションする場合は、ポリシーで最大距離を指定しないでください。

コンパクト プレースメント ポリシーとワークロード ポリシーのどちらを使用するかについては、このドキュメントのコンパクト プレースメント ポリシーとワークロード ポリシーの比較をご覧ください。

コンパクト プレースメント ポリシーとワークロード ポリシーの比較

次の表に、コンパクト配置ポリシーとワークロード ポリシーの違いを示します。

コンパクト プレースメント ポリシー ワークロード ポリシー
ポリシーの使用状況
  • スタンドアロン インスタンス
  • Bulk API を使用してデプロイされたインスタンス
  • 汎用 GPU を使用する MIG
クラスタ化された GPU を使用する MIG
サポートされているマシンタイプ A4X Max、A4X、A4、A3 Ultra、A3 Mega、A3 High、A3 Edge、A2、G4、G2
  • Flex Start の場合: A4 と A3 Ultra
  • スポットまたは予約の場合: A4X、A4、A3 Ultra、A3 Mega、A3 High(8 個の GPU)
グループ化のセマンティクス

Compute Engine は、同じコンパクト プレースメント ポリシーを使用するインスタンスを互いに近い位置に配置します。

ワークロードごとに異なるプレースメント ポリシーを使用することをおすすめします。異なるワークロードを実行するインスタンス間でプレースメント ポリシーを再利用すると、これらのインスタンスがすべて一緒に配置されます。このコロケーションにより、特定のワークロードをスケールアウトするときに、互いに近いインスタンスを作成することが難しくなる可能性があります。

Compute Engine は、ワークロード ポリシーを使用する MIG のインスタンスをより近くに配置します。

異なるワークロードを実行する複数の MIG でワークロード ポリシーを再利用すると、インスタンスが個々の MIG にまとめて配置されます。再利用は、インスタンスの各グループを互いに分離する必要がある大規模なトレーニング モデルに最適です。

コンピューティング インスタンスのコロケーション構成

ベスト エフォートのコンピューティング インスタンスのコロケーションの場合は、groupPlacementPolicy.collocation フィールドを COLLOCATED に設定します。

ベスト エフォートのコンピューティング インスタンスのコロケーションの場合は、workloadPolicy.type フィールドを HIGH_THROUGHPUT に設定します。

その他の構成
  • コンピューティング インスタンスの厳密な配置を行うには、maxDistance フィールドを指定します。
  • パーティショニングをサポートするマシンシリーズ(A4X Max、A4X など)の場合は、gpuTopology フィールドを指定します。
  • コンピューティング インスタンスの厳密な配置を行うには、maxTopologyDistance フィールドを指定します。
  • パーティショニングをサポートするマシンシリーズ(A4X Max、A4X など)の場合は、acceleratorTopology フィールドを指定します。

詳しくは、以下のセクションをご覧ください。

コンパクト プレースメント ポリシー

スタンドアロン コンピューティング インスタンスまたは一括作成されたコンピューティング インスタンスにコンパクト プレースメント ポリシーを適用すると、Compute Engine は可能な限り互いに近接したコンピューティング インスタンスをベスト エフォートで作成しようとします。アプリケーションでネットワーク レイテンシを最小限に抑える必要がある場合は、コンパクト プレースメント ポリシーを作成するときに maxDistance フィールド(プレビュー)を指定します。

詳細については、Compute Engine のドキュメントのコンパクト プレースメント ポリシーについてをご覧ください。

コンパクト プレースメント ポリシーの最大距離値の比較

最大距離の値を小さくすると、コンピューティング インスタンスが近接した位置に配置されますが、一部のコンピューティング インスタンスが作成されない可能性も高くなります。

次の表に、各最大距離値でサポートされているマシンシリーズとコンピューティング インスタンスの数を示します。

コンパクト プレースメント ポリシーの maxDistance ワークロード ポリシーの maxTopologyDistance 説明 サポートされているマシンシリーズ コンピューティング インスタンスの最大数
未指定(非推奨) 未指定(非推奨) Compute Engine は、コンピューティング インスタンスをできるだけ近い位置にベスト エフォートで配置しますが、コンピューティング インスタンス間の最大距離はありません。 A4X Max、A4X、A4、A3 Ultra、A3 Mega1、A3 High1、A3 Edge1、A2、G4、G2 1500
3 CLUSTER Compute Engine は、隣接するブロックにコンピューティング インスタンスを作成します。 A4、A3 Mega1、A3 High1、A3 Edge1、A2、G4、G2 1,500
2 BLOCK Compute Engine は、同じブロックにコンピューティング インスタンスを作成します。 A4、A3 Ultra、A3 Mega1、A3 High1、A3 Edge1、A2、G4、G2
  • A3 Ultra、A3 Mega1、A3 High1、A3 Edge1 の場合: 256
  • 他のすべてのサポート対象マシンシリーズの場合: 150
1 SUBBLOCK Compute Engine は、同じサブブロックにコンピューティング インスタンスを作成します。 A3 Edge1、A2、G4、G2 22

1 2025 年 10 月 1 日より前に作成された A3 Mega、A3 High、A3 Edge インスタンスにコンパクト プレースメント ポリシーを適用する場合は、アカウント チームまたはセールスチームにお問い合わせください。

ワークロード ポリシー

ワークロード ポリシーを使用すると、MIG のコンピューティング インスタンスの配置と基盤となるインフラストラクチャを指定できます。A4X Max、A4X、A4、A3 Ultra、A3 Mega、A3 High(8 個の GPU)でワークロード ポリシーを使用すると、コンピューティング インスタンス間のネットワーク レイテンシを最小限に抑え、パフォーマンスを最適化できます。

MIG のコンピューティング インスタンスで使用されるマシンタイプに応じて、次の状況ではワークロード ポリシーが必要または省略可能です。

  • A4X Max インスタンスまたは A4X インスタンスのサブブロックをデプロイするには、ワークロード ポリシーが必要です。

  • A4、A3 Ultra、A3 Mega、A3 High(8 個の GPU)インスタンスを使用する場合、ワークロード ポリシーは省略可能です。

  • ワークロード ポリシーは、A3 Edge、A2、G4、G2、N1 マシンシリーズでは対象外です。これらのマシンシリーズを使用する MIG では、VM のコロケーションにコンパクト プレースメント ポリシーを使用できます。

詳細については、Compute Engine のドキュメントの MIG のワークロード ポリシーについてをご覧ください。

次のステップ