グッドプット最適化のレシピ

このドキュメントでは、ワークロードの有効データ転送速度（goodput）を最適化する方法について説明します。この最適化を実現するために、一般的な機械学習（ML）フレームワークとモデルを使用する再現可能な goodput レシピを厳選しました。これらのレシピを確認するには、 AI Hypercomputer GitHub 組織をご覧ください。 goodput レシピは、Cluster Toolkit を使用して作成されたクラスタでテストされています。

ワークロードの信頼性を最適化し、goodput を最大化するために、今後 5 時間以内にパフォーマンスが低下する可能性のある Google Kubernetes Engine（GKE）クラスタ内のノードを事前に特定することもできます。この早期警告により、リスクのある VM に新しいワークロードをスケジュール設定することを回避できるため、ジョブの中断のリスクを軽減できます。詳細については、 ノードのヘルス予測を有効にするをご覧ください。

始める前に

このドキュメントの goodput レシピを使用する前に、次の手順をまだ行っていない場合は完了してください。

  1. ワークロードに最適なアクセラレータを選択する

  2. 選択したアクセラレータに基づいて使用方法を選択する

  3. クラスタを作成する

レシピ

GKE クラスタでの事前トレーニングには、次の再現可能な goodput レシピを使用できます。

レシピ名 アクセラレータ モデル フレームワーク ワークロード タイプ
Llama3.1 70B - A3 Mega A3 Mega Llama3.1 70B NeMo GKE での事前トレーニング

次のステップ

  • NCCL/gIB を使用してクラスタ ネットワーキングを 最適化する方法を学習する。