AI ワークロードのチュートリアルの概要

このページでは、AI/ML ワークロードの概念実証（POC）を実行する際に役立つように、 Google Cloud プロダクトに一般的な AI モデルをデプロイするプロセス全体を説明する AI Hypercomputer チュートリアルの概要について説明します。

これらのチュートリアルは、機械学習（ML）エンジニア、研究者、プラットフォーム管理者、オペレーター、データおよび AI スペシャリストを対象としています。これらのチュートリアルは、ML のコンセプトに関する基本的な知識があり、 Google Cloud サービス、コンテナ オーケストレーション、クラスタ管理に精通していることを前提としています。

チュートリアルのカテゴリ

AI ワークロードのチュートリアルは、次のカテゴリに分類されています。

GKE で vLLM を使用して推論を実行する

これらのチュートリアルでは、GKE で vLLM サービング フレームワークを使用して、推論用に LLM をデプロイしてサービングする方法について説明します。GKE のコンテナ オーケストレーション機能を使用して、効率的な推論ワークロードを実現する方法を学びます。これらのチュートリアルでは、Hugging Face を使用したモデルへのアクセス、GKE クラスタの設定（Autopilot モードなど）、認証情報の処理、Gemma 3、Llama 4、Qwen3 などの LLM とのやり取りのための vLLM コンテナのデプロイについて説明します。

GKE と Slurm で LLM のファインチューニングを実行する

これらのチュートリアルでは、GKE や Slurm などのさまざまなGoogle Cloud クラスタタイプで特定のタスク用に LLM をファインチューニングする方法について説明します。たとえば、マルチノードおよびマルチ GPU の GKE クラスタ（NVIDIA B200 GPU を搭載した A4 VM インスタンスを使用するなど）と Slurm クラスタで Gemma 3 をファインチューニングできます。カスタム VM イメージを作成し、RDMA ネットワークを構成して、テキストタスクには Hugging Face Accelerate と FSDP、マルチモーダル ビジョンタスクには Ray フレームワークを使用して、分散ファインチューニング ジョブを実行します。

Slurm クラスタで LLM トレーニングを実行する

これらのチュートリアルでは、高パフォーマンス クラスタで LLM をトレーニングまたは事前トレーニングを経た LLM をトレーニングする方法について説明します。たとえば、A4 仮想マシンを使用して、マルチノードおよびマルチ GPU Slurm クラスタで Qwen2 などのモデルを事前トレーニングする方法について説明します。 Google Cloud Cluster Toolkit を使用して Slurm クラスタをデプロイし、カスタム VM イメージを作成して、共有 Filestore インスタンスを構成します。また、高速 RDMA ネットワーキングを構成し、Hugging Face Accelerate を使用して分散事前トレーニング ジョブを実行します。

次のステップ

AI Hypercomputer のチュートリアルを確認する: