Google Cloud Managed Lustre では、特定のワークロード要件と予算に合わせて、さまざまなパフォーマンス階層を利用できます。ファイル システム全体で安定した予測可能なパフォーマンスを提供する階層を選択することも、大規模で部分的にアクティブなデータセットのストレージ費用を自動的に最適化する動的階層を選択することもできます。
利用可能な階層
次の表に、Managed Lustre で使用可能なパフォーマンス階層の概要を示します。
| 階層 | 最小容量 | 最大容量 | ステップサイズ |
|---|---|---|---|
| 1,000 MBps / TiB | 9,000 GiB | 10,008,000 GiB(9.5 PiB) | ストレージ容量が 1,530,000 GiB までの場合: 9,000 GiB ストレージ容量がそれより大きい場合: 72,000 GiB |
| 500 MBps / TiB | 18,000 GiB | 20,016,000 GiB(19.1 PiB) | ストレージ容量が 3,060,000 GiB までの場合: 18,000 GiB ストレージ容量がそれより大きい場合: 144,000 GiB |
| 250 MBps / TiB | 36,000 GiB | 40,032,000 GiB(38.2 PiB) | ストレージ容量が 6,120,000 GiB までの場合: 36,000 GiB ストレージ容量がそれより大きい場合: 288,000 GiB |
| 125 MBps / TiB | 72,000 GiB | 12,240,000 GiB(11.7 PiB) | 72,000 GiB |
| 動的(25 MBps / TiB) | 472,000 GiB | 84,016,000 GiB(80.1 PiB) | 472,000 GiB |
インスタンス サイズが特定のしきい値に達すると、ステップサイズが変更されます。
インスタンスの作成後に、そのパフォーマンス階層とステップサイズで許容される最大値までストレージ容量を増やすことができます。階層のステップサイズが小さい範囲内でインスタンスを作成した場合、後でステップサイズのしきい値を超えて増やすことはできません。詳細については、 容量増加の制限をご覧ください。
番号付き階層
番号付き階層では、一貫した高速パフォーマンスが提供されます。これらの階層は、すべてのデータアクセスで高スループットと低レイテンシを必要とするワークロードに最適です。
インスタンスを作成するときに特定のパフォーマンス レベルを選択すると、ファイル システム全体でそのスループットが安定して提供されます。パフォーマンスは、プロビジョニングするストレージの量に比例してスケーリングされます。IOPS とメタデータのパフォーマンスは、RAW スループットに加えて、インスタンスのプロビジョニングされた容量とスループットにも比例してスケーリングされます。
- 1,000 MBps / TiB: スループットが重要な高パフォーマンス ワークロードと AI / ML トレーニングにおすすめします。
- 500 MBps / TiB: 大量のスループットを必要とするものの、価格とパフォーマンスのバランスを取ることがメリットにつながる、要求の厳しい AI / ML ワークロード、複雑な HPC アプリケーション、データ集約型の分析に最適です。
- 250 MBps / TiB: 幅広い HPC ワークロード、AI / ML 推論、データの前処理、従来の NFS よりも優れたパフォーマンスを必要とするアプリケーションに適しており、費用対効果の高い価格設定となっています。
- 125 MBps / TiB: 大容量と 並列ファイル システム アクセスが重要なシナリオ向けに設計されています。入出力が制約になる並列タスクが少ない場合に適しています。
動的階層
動的階層は、データアクセス パターンに基づいてパフォーマンスを自動的に最適化することで、増大する AI データセットと HPC データセットを処理するように設計された費用対効果の高いソリューションです。ペタバイト規模の単一の統合名前空間を提供し、高パフォーマンス キャッシュに保存されたアクティブ データへの高速アクセスを実現しながら、大規模なデータセットの総所有コストを削減します。インスタンスで使用可能な集約スループットは、TiB あたり 25 MBps でスケーリングされます。
このシステムは、頻繁に使用されるデータのパフォーマンスを高く維持するのに役立つ自動化されたポリシーを使用して、データの配置をインテリジェントに管理します。このプロセスはユーザーとアプリケーションに対して透過的です。ユーザーとアプリケーションは、手動でのデータ移行や管理オーバーヘッドを必要とせずに、単一のマウント ポイントとしてファイル システムを操作します。
主な特典
- ストレージ費用の削減: 大量のデータを費用対効果の高いボリューム ストレージに保存することで、大規模なデータセットのバイトあたりの料金を削減できます。
- PB 規模の単一の名前空間: さまざまなストレージ システム間でデータを手動で移行したり階層化したりすることなく、増大する大規模なデータセットを単一のマウント ポイントに統合できます。
- インテリジェントで自動化: 透過的なブロックレベルのキャッシュ システムにより、最も重要なデータに高パフォーマンス ストレージが使用されます。
- ブレンドされたパフォーマンス: アクティブ データではミリ秒未満のレイテンシを実現し、データセットのアクセス頻度の低い部分では数十ミリ秒のレイテンシを実現します。
パフォーマンスの詳細仕様
インスタンスでこれらの IOPS とメタデータのパフォーマンス数値を達成するには、 パフォーマンスに関する考慮事項のおすすめの方法に従ってください。
IOPS
最大 IOPS は、プロビジョニングされたインスタンス容量の TiB あたり線形にスケーリングされます。
| スループット階層 | 読み取り IOPS(TiB あたり) | 書き込み IOPS(TiB あたり) |
|---|---|---|
125 MBps per TiB |
725 | 700 |
250 MBps per TiB |
1,450 | 1,400 |
500 MBps per TiB |
2,900 | 2,800 |
1000 MBps per TiB |
5,800 | 5,600 |
Dynamic |
145 | 140 |
メタデータ オペレーション
メタデータ オペレーションの最大数は、容量に基づいて段階的に増加します。
すべてのインスタンスは、最小インスタンス サイズ(標準容量ステップよりも小さい)でメタデータ パフォーマンスの最初のステップを受け取ります。
大規模なインスタンスの場合、合計容量がステップサイズの倍数を超えると、パフォーマンスが向上します。
| パフォーマンス階層 | 容量ステップ(GiB) | ステップごとに追加されるファイル統計 | ステップごとに追加されるファイル作成 | ステップごとに追加されるファイル削除 |
|---|---|---|---|---|
| 1,000 MBps / TiB | 72,000 | 1 秒あたり 410,000 | 1 秒あたり 115,000 | 1 秒あたり 95,000 |
| 500 MBps / TiB | 144,000 | |||
| 250 MBps / TiB | 288,000 | |||
| 125 MBps / TiB | 576,000 | |||
| 動的 | 3,776,000 | 1 秒あたり 275,000 | 1 秒あたり 115,000 | 1 秒あたり 130,000 |
例: 1, 000 MBps / TiB 階層の場合、容量ステップサイズは 72,000 GiB です。 153,000 GiB のインスタンスを作成すると、3 ステップ分のメタデータ パフォーマンスが得られます。
- ステップ 1: 最小インスタンス サイズで付与されます。
- ステップ 2: 容量が 72,000 GiB を超えると付与されます。
- ステップ 3: 容量が 144,000 GiB を超えると付与されます。
- ステップ 4: 到達していません 。容量が 216,000 GiB を超えると付与されます。
153,000 GiB は 144,000 GiB と 216,000 GiB のしきい値の間にあるため、インスタンスは 3 ステップのパフォーマンスを受け取ります。これは、1 秒あたり最大 1,230,000 件のファイル統計(3 * 410,000)です。