このドキュメントでは、コア コンピューティング オプションを比較して、アプリケーションのアーキテクチャ、スケーリング、その他の要件に最適なソリューションまたはツールを選択できるようにします。 Google Cloud
Google Cloudでワークロードをデプロイするには、インフラストラクチャの制御と Google による自動管理のバランスを取るさまざまな ソリューションまたはツールから選択できます。選択するコンピューティング オプションは、パフォーマンス、費用、日々のメンテナンス作業に大きな影響を与える可能性があります。オプションを選択する前に、これらの オプションについて理解を深めるには、 Google コンピューティングの概要をご覧ください。
コンピューティング オプションを選択する
ワークロードに最適なコンピューティング ソリューションまたはツールは、いくつかの要因によって異なります。たとえば、VMware 環境を Google Cloudに移行する場合は、VMware Engine を使用します。
インフラストラクチャ管理、コンテナ、Compute Engine インスタンスのトレードオフを把握するには、次のフローチャートを使用してください。コンピューティング オプションの機能を すばやく比較する場合は、このドキュメントの 比較表をご覧ください。
上記のフローチャートの質問は次のとおりです。
すべてのインフラストラクチャを Google に管理させますか？
はい: Cloud Run を使用します.
いいえ: 質問 2 に進みます。
ワークロードのクラスタ オーケストレーション（Kubernetes や Slurm など）が必要ですか？
はい: 質問 4 にスキップします。
いいえ: 質問 3 に進みます。
VM またはベアメタル インスタンスを自分で管理しますか？
いいえ: Batch を使用します。
標準のコンテナ化されたアプリケーション（マイクロサービスや API など）を実行しますか？
はい: GKE を使用します。
いいえ: 質問 5 に進みます。
クラスタのライフサイクルを Google に管理させますか？
いいえ: Cluster Toolkit を使用します。
Batch を使用する
非同期データ分析、動画変換タスク、科学シミュレーションなどのワークロードには、Batch を選択します。Batch を使用すると、 Google がインフラストラクチャを管理するため、 でバッチ コンピューティング ジョブをスケジュールし、キューに入れて実行できます。 Google Cloudサーバーを自分でデプロイまたは管理する必要はありません。代わりに、実行可能スクリプトまたはコンテナ化されたワークロードをジョブキューに送信します。
Batch には次の機能があります。
アクセラレータのサポート: Batch は、高いスループットを必要とするバッチ処理とハイ パフォーマンス コンピューティング（HPC）ワークロード向けに、NVIDIA GPU を RTX PRO 6000 までサポートしています。Batch は Google TPU をサポートしていません。
OS とカーネルの制御: Google がジョブの OS と実行 環境を管理します。
オーケストレーション: ジョブキューはタスクをスケジュールし、 エラーが発生した場合は再試行します。容量をスケーリングするため、サービスはキューに登録されたジョブの数に基づいて VM をプロビジョニングして起動し、ジョブが完了すると VM を停止します。
詳細については、 Batch のスタートガイドをご覧ください。
Cloud Run を使用する
サーバー管理なしでコンテナ化されたウェブ アプリケーションまたはジョブをデプロイするには、Cloud Run を選択します。Cloud Run は、サーバーやクラスタを管理せずにコンテナ化されたアプリケーションを実行できるサーバーレス プラットフォームです。OS、カーネル、ネットワーク設定、容量管理など、すべてのインフラストラクチャ管理は Google が行います。
Cloud Run には次の機能があります。
アクセラレータのサポート: Cloud Run は、NVIDIA RTX PRO 6000 Blackwell GPU と L4 GPU をサポートしています。Cloud Run は、他の GPU モデルや Google TPU をサポートしていません。
OS とカーネルの制御: ワークロードをコンテナとしてパッケージ化し、ウェブ サービス、非同期タスク、バッチジョブとして 実行します。
オーケストレーション: サーバーレス プラットフォームとして、Google は手動で介入することなくコンテナ インスタンスを起動、実行、スケーリングします。ウェブ サービスの場合、Cloud Run は受信リクエストまたは CPU 使用量に基づいてコンテナ インスタンスを追加または削除します。
詳細については、 Cloud Run とはをご覧ください。
Cluster Director を使用する
ネットワーク設定やクラスタ OS 構成タスクを行わずに、AI モデルをトレーニングしたり、Slurm でスケジュールされたシミュレーション ジョブを実行したりする場合は、Cluster Director を選択します。Cluster Director は、AI、ML、HPC クラスタのデプロイとライフサイクル管理を自動化するマネージド サービスです。
Cluster Director には次の機能があります。
アクセラレータのサポート: Cluster Director は、AI、ML、HPC ワークロード向けに、GB300 Ultra Superchip、GB200 Superchip、B200、H200、 H100 などの NVIDIA GPU をサポートしています。Cluster Director は Google TPU をサポートしていません。
OS とカーネルの制御: Google がクラスタのライフサイクルを管理し、 ML 向けに設計されたカスタム Ubuntu OS を設定します。このサービスは、ログインノード、コンピューティング ノードセット、AI ワークロード用に構築されたデプロイ テンプレートを備えた、すぐに使用できる環境を提供します。
オーケストレーション: 容量をスケーリングするため、Slurm は CPU 使用率が増加するとノードを作成し、不要な料金が発生しないように、一定期間 アイドル状態が続くとノードを削除します。
詳細については、 Cluster Director の概要をご覧ください。
Cluster Toolkit を使用する
OS とソフトウェア スタックの管理制御を維持しながら、自動デプロイ テンプレートを使用する場合は、Cluster Toolkit を選択します。Cluster Toolkit は、 で AI、ML、HPC クラスタをプロビジョニングして構成するために使用されるオープンソース ツールです。 Google Cloud
Cluster Toolkit には次の機能があります。
アクセラレータのサポート: Cluster Toolkit は、 NVIDIA GPU と Google TPU をサポートしています。これらは、 ブループリントと呼ばれるデプロイ テンプレートを使用してプロビジョニングして構成します。これらの自動構成ファイルを使用すると、Infrastructure as Code（IaC）の原則に基づいて、標準化された再現可能なクラスタ インフラストラクチャをデプロイできます。
OS とカーネルの制御: Cluster Toolkit は、プロジェクト内にコンピューティング インスタンスまたは GKE リソースをデプロイします。 Google Cloud これらのリソースをデプロイした後も、OS、ソフトウェア設定、クラスタのライフサイクルを管理できます。
オーケストレーション: 容量をスケーリングするには、テンプレート設定に基づいてノードを追加または削除するようにマネージド インスタンス グループ （MIG）または GKE ツールを構成します。
詳細については、 Cluster Toolkit の概要をご覧ください。
Compute Engine を使用する
アプリケーションでカスタム アーキテクチャ構成、特殊なカーネル設定、仮想サーバーの管理制御が必要な場合は、Compute Engine を選択します。Compute Engine は Google Cloud's コア Infrastructure as a Service（IaaS）プラットフォームであり、Google の物理ハードウェア上に VM インスタンスとベアメタル インスタンスを作成して実行できます。
Compute Engine には次の機能があります。
アクセラレータのサポート: Compute Engine は コンピューティング インスタンスに接続する NVIDIA GPU と Google TPU をサポートしています。
OS とカーネルの制御: OS、カーネル 設定、ブートファイルを完全に制御できます。また、CPU プロセッサ、メモリ 構成、ストレージ タイプ、ゲスト OS を選択できます。
オーケストレーション: オーケストレーションは手動で行うため、信頼性を確保するために、独自のコンピューティング インスタンス、ネットワーク ルール、トラフィック ルート、バックアップ システムを設定して管理します。容量をスケーリングするには、必要に応じてコンピューティング インスタンスを追加または削除するか、カスタムツールを使用するか、MIG を構成してクラスタ容量を調整します。
詳細については、 Compute Engine の概要をご覧ください。
GKE を使用する
分散アプリケーションまたは汎用マイクロサービスに堅牢なコンテナベースのオーケストレーション プラットフォームが必要な場合は、Google Kubernetes Engine（GKE）を選択します。GKE は、コンテナ化されたアプリケーションをデプロイ、スケーリング、オーケストレーションするための業界標準のマネージド Kubernetes プラットフォームです。Google がセキュリティとシステムの可用性のために Kubernetes コントロール プレーンを管理します。
GKE には次の機能があります。
アクセラレータのサポート: GKE は、コンテナ化されたワークロード向けに NVIDIA GPU と Google TPU をサポートしています。
OS とカーネルの制御: Google は、Autopilot モードと Standard モードの両方で OS を管理します。Autopilot モードでは、Google が手動で介入することなくクラスタノードと容量調整を管理します。Standard モードでは、クラスタノードプールを管理します。
オーケストレーション: 需要の変化に応じて容量を調整するため、GKE は Horizontal Pod Autoscaler（HPA ）と Vertical Pod Autoscaler（VPA）を使用してコンテナを追加または削除し、クラスタ オートスケーラーを使用してノードを追加または削除します。 GKE は、Kueue を介してバッチジョブをオーケストレートします。
詳細については、 GKE の概要をご覧ください。
VMware Engine を使用する
オンプレミスの VMware ワークロードを、運用上の変更を最小限に抑えて インフラストラクチャに移行するには、VMware Engine を選択します。 Google Cloud VMware Engine は、アプリケーションを変更せずに Google ハードウェアで VMware 仮想マシンを実行できるマネージド サービスです。
VMware Engine には次の機能があります。
アクセラレータのサポート: VMware Engine は GPU または TPU をサポートしていません。
OS とカーネルの制御: 既存の設定で実行しているのと同じように、 Google Cloud で VMware アプリケーションを実行します。Google が物理ハードウェア、ネットワーク インフラストラクチャ、VMware ソフトウェア プラットフォーム（vSphere、vCenter、vSAN、NSX-T など）を管理します。VM、ゲスト OS、VMware 管理ツールは引き続き管理できます。
オーケストレーション: Private Cloud のサイズを調整するには、専用の ESXi ノードを追加または 削除します。
詳細については、 Google Cloud VMware Engine の概要をご覧ください。
コンピューティング オプションを比較する
ワークロードに最適なコンピューティング ソリューションまたはツールを特定するには、次の表でコンピューティング オプションの技術機能を比較します。
| コンピューティング オプション | GPU | TPU | OS とカーネルの制御 | オーケストレーション | スケーリング |
|---|---|---|---|---|---|
| バッチ | NVIDIA RTX PRO 6000 まで | いいえ | Google が管理 | ジョブキュー | キューに登録されたジョブに基づいて自動で行われます |
| Cloud Run | NVIDIA RTX PRO 6000 Blackwell と L4 | いいえ | Google が管理 | サーバーレス | リクエストまたは CPU 使用量に基づいて自動で行われます |
| Cluster Director | NVIDIA GB300 Ultra Superchip、GB200 Superchip、B200、H200、H100 | いいえ | Google が管理（カスタム Ubuntu） | Slurm | CPU 使用量に基づいて自動で行われます |
| Cluster Toolkit | 利用可能なすべての NVIDIA GPU | 利用可能なすべての Google TPU | セルフマネージド | 自動構成ファイル（IaC） | MIG または GKE ツールを使用してカスタマイズ可能 |
| Compute Engine | 利用可能なすべての NVIDIA GPU | 利用可能なすべての Google TPU | セルフマネージド | 手動 | MIG を使用して手動または自動 |
| Google Kubernetes Engine（GKE） | 利用可能なすべての NVIDIA GPU | 利用可能なすべての Google TPU | Google が管理（Autopilot）またはセミマネージド（Standard） | Kubernetes | Pod とノードの自動スケーリング |
| VMware Engine | いいえ | いいえ | Google が管理 | VMware プラットフォーム | ESXi ノードを使用して手動 |