gIB NCCL プラグインをインストールする

このページでは、Debian ソフトウェア パッケージ（.deb）または Red Hat Package Manager（.rpm）を使用して NCCL/gIBをインストールする方法について説明します。このインストール により、A4X Max、A4X、A4、A3 Ultra インスタンスで NCCL ワークロードを実行できます。

（A4X Max の場合）ユーザー空間ライブラリを更新する

A4X Max では、NCCL ワークロードを実行する前に、最新のユーザー空間ライブラリをインストールする必要があります。

Debian 12+/Ubuntu 20.04+（.deb パッケージ）

sudo apt update
sudo apt install curl

# Fetch DOCA OFED userspace libraries
export DOCA_URL="https://linux.mellanox.com/public/repo/doca/latest/ubuntu22.04/arm64-sbsa/"
export BASE_URL="https://linux.mellanox.com/public/repo/doca"
curl "${BASE_URL}/GPG-KEY-Mellanox.pub" | sudo gpg --dearmor -o /etc/apt/trusted.gpg.d/GPG-KEY-Mellanox.pub
echo "deb [signed-by=/etc/apt/trusted.gpg.d/GPG-KEY-Mellanox.pub] ${DOCA_URL} ./" | sudo tee /etc/apt/sources.list.d/doca.list

sudo apt update
sudo apt install doca-ofed-userspace

# Upgrade to latest NCCL for best compatibility
sudo apt install --only-upgrade --allow-change-held-packages libnccl2 libnccl-dev

NCCL/gIB をインストールする

ワークロードを実行する場所に応じて、コンピューティング インスタンスまたはコンテナ イメージに NCCL/gIB をインストールします。

nccl-gib パッケージには、変更されていない NVidia NCCL ライブラリ（libnccl2.so）とヘッダーがバンドルされています。すべての NCCL/gIB コンテンツは /usr/local/gib ディレクトリにインストールされ、プラグイン ライブラリもシステム フォルダ（/usr/lib の下）にインストールされます。一部の依存関係は、ディストリビューションのリポジトリから取得されます。

Debian 12+/Ubuntu 20.04+（.deb パッケージ）

# If on an image not from Google, trust the Google Cloud signing key
curl https://packages.cloud.google.com/apt/doc/apt-key.gpg | sudo gpg --dearmor -o /etc/apt/trusted.gpg.d/cloud.google.gpg

# Add gpudirect-gib-apt repo
echo 'deb https://packages.cloud.google.com/apt gpudirect-gib-apt main' | sudo tee /etc/apt/sources.list.d/nccl-gib.list

sudo apt update
sudo apt install nccl-gib

RockyLinux/CentOS/RHEL 9+（.rpm パッケージ）

# Add gpudirect-gib-rpm repo
sudo tee -a /etc/yum.repos.d/nccl-gib.repo << EOL
[gpudirect-gib-rpm]
name=NCCL/gIB
baseurl=https://packages.cloud.google.com/yum/repos/gpudirect-gib-rpm
enabled=1
repo_gpgcheck=0
gpgcheck=0

sudo dnf makecache
sudo dnf install nccl-gib

NCCL プラグインをインストールする

バンドルされた NCCL ライブラリなしで gIB NCCL プラグインのみをインストールするには、nccl-gib-plugins パッケージをインストールします。gIB に付属しているバージョンの NCCL を使用している場合は、パッケージを個別にインストールする必要はありません。ただし、独自のカスタム バージョンの NCCL を提供する場合は、このオプションを使用してプラグインをインストールする必要があります。

Debian 12+/Ubuntu 20.04+（.deb パッケージ）

# If on an image not from Google, trust the Google Cloud signing key
curl https://packages.cloud.google.com/apt/doc/apt-key.gpg | sudo gpg --dearmor -o /etc/apt/trusted.gpg.d/cloud.google.gpg

# Add gpudirect-gib-apt repo
echo 'deb https://packages.cloud.google.com/apt gpudirect-gib-apt main' | sudo tee /etc/apt/sources.list.d/nccl-gib.list

sudo apt update
sudo apt install nccl-gib-plugins

RockyLinux/CentOS/RHEL 9+（.rpm パッケージ）

# Add gpudirect-gib-rpm repo
sudo tee -a /etc/yum.repos.d/nccl-gib.repo << EOL
[gpudirect-gib-rpm]
name=NCCL/gIB
baseurl=https://packages.cloud.google.com/yum/repos/gpudirect-gib-rpm
enabled=1
repo_gpgcheck=0
gpgcheck=0

sudo dnf makecache
sudo dnf install nccl-gib-plugins

標準の OS イメージを使用している場合は、最新の NVIDIA DOCA-OFED ドライバもインストールする必要があります。 Container OS や アクセラレータ最適化 Ubuntu または Rocky Linux OS イメージなど、Google のアクセラレータ 最適化イメージを使用している場合は、このドライバをインストールする必要はありません。

コンピューティング インスタンスで異なるバージョンの NCCL/gIB パッケージが実行されないようにするには、NCCL ワークロードを実行する前に NCCL/gIB を更新するか、パッケージの自動更新を無効にすることをおすすめします（Ubuntu または Debian の unattended-upgrades など）。

NCCL/gIB を有効にする

NCCL/gIB v1.1.2 以降では、nccl-gib または nccl-gib-plugins をインストールすると、ワークロードで NCCL/gIB が自動的に有効になります。

以前のバージョンでワークロードで NCCL/gIB を有効にするには、次のことを確認してください。

  • ランタイム環境で /usr/local/gib/scripts/set_nccl_env.sh がソース化されている。ソースファイルには、NCCL/gIB に必要なすべての環境変数が含まれており、Google は今後の NCCL/gIB リリースでこれらの変数を更新する予定です。
  • LD_LIBRARY_PATH に /usr/local/gib/lib64 ディレクトリがある。

NCCL/gIB が有効になっていることを確認するには、次の NCCL INFO レベルのログエントリが存在することを確認します。

# A sample log entry from NCCL core
vm-0:606:642 [6] NCCL INFO Using network gIB

# A sample log entry from the gIB network plugin
vm-0:606:642 [6] NCCL INFO NET/gIB : Initializing gIB v1.1.2

次のステップ