AI ワークロードのチュートリアルの概要

このページでは、コンセプト実証（POC）の AI/ML ワークロードを実行する際に役立つように、一般的な AI モデルを Google Cloud プロダクトにデプロイするプロセス全体について説明する AI Hypercomputer チュートリアルの 概要を示します。

これらのチュートリアルは、ML エンジニア、研究者、プラットフォーム管理者、オペレーター、データと AI のスペシャリストを対象としています。これらの チュートリアルを効果的に使用するには、ML のコンセプトに関する基礎知識と サービスの習熟度が必要です。 Google Cloud AI モデルのデプロイと管理の経験があると、このコンテンツを理解するのに役立ちます。

チュートリアルのカテゴリ

AI ワークロードのチュートリアルは、次のカテゴリに分類されています。

GKE で vLLM を使用して推論を実行する

これらのチュートリアルでは、Google Kubernetes Engine（GKE）で vLLM サービング フレームワークを使用して、推論用の大規模言語モデル（LLM）をデプロイしてサービングする方法について説明します。GKE のコンテナ オーケストレーション機能を使用して、効率的な推論ワークロードを実現する方法を学習します。これらのチュートリアルでは、Hugging Face を使用したモデルへのアクセス、GKE クラスタの設定（Autopilot モードなど）、認証情報の処理、Gemma 3、Llama 4、Qwen3 などの LLM とのやり取りのための vLLM コンテナのデプロイについて説明します。

ファインチューニングを実行する

これらのチュートリアルでは、GKE や Slurm など、さまざまな Google Cloud クラスタタイプで特定のタスクに対して LLM をファインチューニングする方法について説明します。たとえば、マルチノードおよびマルチ GPU GKE クラスタ（NVIDIA B200 GPU を搭載した A4 VM インスタンスなど）と Slurm クラスタで Gemma 3 をファインチューニングできます。カスタム VM イメージを作成し、RDMA ネットワークを構成し、Hugging Face Accelerate や FSDP などのライブラリを使用して分散ファインチューニング ジョブを実行します。一部のチュートリアルでは、ビジョン関連のタスクに Ray などのフレームワークを使用する方法についても説明します。

トレーニングを実行する

これらのチュートリアルでは、高性能クラスタで LLM をトレーニングまたは事前トレーニングする方法について説明します。たとえば、A4 仮想マシンを使用して、マルチノード およびマルチ GPU Slurm クラスタで Qwen2 などのモデルを事前トレーニングする方法を学習します。Cluster Toolkit を使用して Slurm クラスタをデプロイし、カスタム VM イメージを作成し、共有 Filestore インスタンスを構成し、高速 RDMA ネットワーキングを構成し、Hugging Face Accelerate を使用して分散事前トレーニング ジョブを実行します。 Google Cloud

次のステップ

AI Hypercomputer のチュートリアルを確認する: