Collective Communication Analyzer(CoMMA)のトラブルシューティング

このページでは、Collective Communication Analyzer(CoMMA)の使用時に発生する可能性のある一般的な問題を解決する方法について説明します。CoMMA は、 サービスのテレメトリー データを収集するライブラリです。 Google Cloud 詳細については、Collective Communication Analyzer(CoMMA)をご覧ください。

CoMMA の読み込みに関する問題のトラブルシューティング

CoMMA が正しく読み込まれないことがあります。 バイナリが正しく読み込まれることを確認するには、次の操作を行います。

  1. NCCL デバッグ ロギングを有効にします。ロギングを有効にするには、環境変数 NCCL_DEBUG=INFO を設定します。より詳細なデバッグレベルを使用することもできます。 オプションについては、NVIDIA ドキュメントの NCCL_DEBUG セクションをご覧ください。
  2. デバッグする INIT サブシステムを指定します。INIT を指定するには、 NCCL_DEBUG_SUBSYS=INIT を設定します。他のサブシステムを追加することもできます。 サブシステムのその他のオプションについては、NCCL_DEBUG_SUBSYS セクションをご覧ください。
  3. NCCL ログで、次のような行を探します: NCCL INFO PROFILER/Plugin: Plugin name set by env to PATH_TO_PROFILER_PLUGIN

    NCCL_PROFILER_PLUGIN 環境変数が設定されていない場合、NCCL は LD_LIBRARY_PATH 環境変数で指定されたパスから libnccl-profiler.so バイナリを読み込もうとします。

この問題を解決するには、次の解決策を検討してください。

  • プラグイン共有ライブラリ(libnccl-profiler.so)の名前が正しく付けられていることを確認します。

    LD_LIBRARY_PATH 環境変数で指定されたディレクトリに配置されていることを確認します。または、NCCL_PROFILER_PLUGIN 環境変数が libnccl-profiler.so バイナリの場所を直接指していることを確認します。

  • NCCL プロファイラ API には NCCL バージョン 2.23 以降が必要なため、NCCL バージョンが 2.23 以降であることを確認します。

出力ファイルが見つからない場合のトラブルシューティング

CoMMA によって収集されたデータをローカル ファイルに送信するように環境を構成したのに、出力ファイルが見つからない場合は、NCCL ログまたはアプリケーション ログで次のようなメッセージを確認してください。

Failed to open file
Failed to log <telemetry type> to file

これらのエラーは、ディレクトリがない、空き容量が不足しているなど、基盤となるファイル システムの問題を示しています。これらのエラーが発生すると、CoMMA はテレメトリーをファイルにエクスポートしなくなります。

この問題を解決するには、次の解決策を検討してください。

  • NCCL_PROFILER_LATENCY_FILE 環境変数または NCCL_PROFILER_SUMMARY_FILE 環境変数が正しく設定されていることを確認します。有効なパスとファイル名テンプレート(/tmp/latency-%p.txt など)を指定します。
  • プロセスに、指定された出力ディレクトリへの書き込み権限があることを確認します。
  • NCCL_TELEMETRY_MODE 環境変数を変更した場合は、ローカル ファイル出力(14 など)を有効にする値に設定されていることを確認します。

予期しないデータや欠落しているイベントのトラブルシューティング

CoMMA が予期しないデータをキャプチャしたり、予期されるイベントを見逃したりすることがあります。

この問題を解決するには、必要な レベルの粒度が設定されていることを確認します