このドキュメントでは、コンパクト プレースメント ポリシーとワークロード ポリシーの概要と比較について説明します。どちらのポリシーでも、ネットワーク レイテンシを最小限に抑えるように仮想マシン(VM)インスタンスの配置を構成できます。個別に作成されたインスタンスまたは一括で作成されたインスタンスにはコンパクト プレースメント ポリシーを使用し、マネージド インスタンス グループ(MIG)にはワークロード ポリシーを使用します。
デフォルトでは、VM の場所はゾーンを指定するだけで管理します。将来の予約または Flex-start を MIG サイズ変更リクエストで使用して A4X、A4、A3 Ultra、A3 Mega、A3 High(8 GPU)マシンを取得すると、取得する VM リソースはデフォルトで高密度でコロケーションされます。ただし、各アプリケーションの VM 間のパフォーマンスを最適化するために、特定の VM をより近接して配置することが必要な場合があります。VM をより近くに配置するには、VM にコンパクト プレースメント ポリシーを適用するか、MIG に高スループット ワークロード ポリシーを適用します。
VM のコンパクト プレースメント ポリシー
VM にコンパクト プレースメント ポリシーを適用すると、Compute Engine は可能な限り互いに近接した VM をベスト エフォートで作成しようとします。アプリケーションがレイテンシの影響を受けやすく、VM をできるだけ近づけて配置する必要がある(最大近接性)場合は、コンパクト プレースメント ポリシーを作成する際に maxDistance フィールド(プレビュー)を指定します。
詳細については、Compute Engine のドキュメントのコンパクト プレースメント ポリシーについてをご覧ください。
MIG のワークロード ポリシー
ワークロード ポリシーを使用すると、インフラストラクチャで実行するワークロードのタイプを指定できます。また、指定したタイプに最適なように、基盤となるインフラストラクチャの物理プロパティ(VM の配置など)を指定することもできます。
ワークロード ポリシーには、次の構成設定を行います。
ワークロード タイプ(
type): 高スループット(high-throughput)ワークロードの場合、Compute Engine は VM をできるだけ近くに配置しようとします。VM の配置は、VM のマシンタイプとゾーンの可用性によって異なります。VM の厳密なコロケーションまたはアクセラレータ トポロジを使用するための追加要件。次のいずれかを指定できます。
VM の厳密なコロケーション(
maxTopologyDistance): きめ細かい低レイテンシのネットワーク パフォーマンスを実現します。厳密なコロケーションとは、VM をできるだけ近くに配置するベスト エフォートに加えて、VM 間の最大距離をさらに指定できることを意味します。容量の制約により厳密なコロケーション要件が満たされない場合、MIG は VM を作成しません。VM のアクセラレータ トポロジ(
acceleratorTopology): 専用のアクセラレータ間ネットワーク構成を使用する複数の VM で実行される分散ワークロードで高パフォーマンスを実現します。たとえば、GPU に NVLink ドメインを使用する A4X VM などです。
コンパクト プレースメント ポリシーとワークロード ポリシーの比較
次の表に、コンパクト配置ポリシーとワークロード ポリシーの違いを示します。
| コンパクト プレースメント ポリシー | ワークロード ポリシー | |
|---|---|---|
| これらのリソースと併用する |
|
マネージド インスタンス グループ(MIG) |
| サポートされているマシンタイプ | すべての GPU ファミリー | A4X、A4、A3 Ultra、A3 Mega、A3 High(8 個の GPU) |
| グループ化のセマンティクス | Compute Engine は、同じコンパクト プレースメント ポリシーを使用するインスタンスを互いに近い位置に配置します。 ワークロードごとに異なるプレースメント ポリシーを使用することをおすすめします。異なるワークロードを実行するインスタンス間でプレースメント ポリシーを再利用すると、これらのインスタンスがすべて一緒に配置されます。このコロケーションにより、特定のワークロードをスケールアウトするときに、互いに近いインスタンスを作成することが困難になる可能性があります。 |
Compute Engine は、ワークロード ポリシーを使用する MIG のインスタンスをより近くに配置します。 異なるワークロードを実行する複数の MIG でワークロード ポリシーを再利用すると、インスタンスが個々の MIG にまとめられます。再利用は、インスタンスの各グループを互いに分離する必要がある大規模なトレーニング モデルに最適です。 |
| VM のコロケーション構成 | ベスト エフォートの VM コロケーションの場合は、 |
ベスト エフォートの VM コロケーションの場合は、 |
| 追加の構成 |
|
|
最大距離値の比較
最大距離の値を小さくすると、VM が近接した位置に配置されますが、一部の VM が作成されない可能性も高くなります。
次の表に、各最大距離値でサポートされているマシンシリーズと VM の数を示します。
コンパクト プレースメント ポリシーの maxDistance |
ワークロード ポリシーの maxTopologyDistance |
説明 | サポートされているマシンシリーズ | VM の最大数 |
|---|---|---|---|---|
| 未指定(非推奨) | 未指定(非推奨) | Compute Engine は、VM をできるだけ近い位置にベスト エフォートで配置しますが、VM 間の最大距離はありません。 | A4、A3 Ultra、A3 Mega、A3 High(8 個の GPU) | 1500 |
3 |
cluster |
Compute Engine は、隣接するブロックに VM を作成します。 | A4 | 1,500 |
2 |
block |
Compute Engine は、同じブロックに VM を作成します。 | A4 と A3 Ultra |
|