エネルギー効率を高めるために AI と ML のワークロードを最適化する

Last reviewed 2026-10-28 UTC

Google Cloud Well-Architected Framework のサステナビリティの柱におけるこの原則では、AI ワークロードと ML ワークロードを最適化してエネルギー使用量とカーボン フットプリントを削減するための推奨事項が示されています。

原則の概要

サステナビリティを考慮して AI ワークロードと ML ワークロードを最適化するには、ワークロードの設計、デプロイ、運用に包括的なアプローチを採用する必要があります。適切なモデルと Tensor Processing Unit（TPU）などの専用ハードウェアを選択し、低炭素リージョンでワークロードを実行して、リソース使用量を削減するように最適化し、運用のベスト プラクティスを適用します。

AI ワークロードと ML ワークロードの費用とパフォーマンスを最適化するアーキテクチャと運用のプラクティスは、本質的にエネルギー消費量の削減とカーボン フットプリントの削減につながります。Well-Architected Framework の AI と ML の視点では、運用、セキュリティ、信頼性、費用、パフォーマンスの目標を満たす AI ワークロードと ML ワークロードを設計、構築、管理するための原則と推奨事項について説明します。また、Cloud アーキテクチャ センターでは、 Google Cloudの AI ワークロードと ML ワークロードに関する詳細なリファレンス アーキテクチャと設計ガイドを提供しています。

推奨事項

AI / ML ワークロードをエネルギー効率に優れたものにするには、次のセクションの推奨事項を検討してください。

TPU を使用してエネルギー効率に優れたアーキテクチャを設計する

AI / ML ワークロードはコンピューティング負荷が高い場合があります。AI / ML ワークロードによるエネルギー消費は、サステナビリティの重要な考慮すべきポイントです。TPU を使用すると、AI ワークロードと ML ワークロードのエネルギー効率とサステナビリティを大幅に向上させることができます。

TPU は、AI ワークロードと ML ワークロード専用に構築されたカスタム設計のアクセラレータです。TPU の特化型アーキテクチャは、ディープ ラーニングの基盤である大規模な行列乗算に非常に効果的です。TPU は、CPU や GPU などの汎用プロセッサよりも効率的に、複雑なタスクを大規模に実行できます。

TPU には、サステナビリティに関して次のような直接的なメリットがあります。

  • エネルギー消費量の削減: TPU は、最適なエネルギー効率を実現するように設計されています。消費電力 1 ワットあたりの計算量が多くなります。その特殊なアーキテクチャにより、大規模なトレーニング タスクと推論タスクの電力需要が大幅に削減され、運用コストの削減とエネルギー消費量の削減につながります。
  • トレーニングと推論の高速化: TPU の優れたパフォーマンスにより、複雑な AI モデルを数日ではなく数時間でトレーニングできます。合計コンピューティング時間が大幅に短縮されることで、環境フットプリントの削減に直接貢献します。
  • 冷却ニーズの削減: TPU には高度な液体冷却が組み込まれており、効率的な熱管理を実現し、データセンターの冷却に使用されるエネルギーを大幅に削減します。
  • AI ライフサイクルの最適化: ハードウェアとソフトウェアを統合することで、TPU はデータ処理からモデル提供まで、AI ライフサイクル全体にわたって最適化されたソリューションを提供します。

リソースの選択に関する 4M のベスト プラクティスに沿って対応する

Google は、AI ワークロードと ML ワークロードのエネルギー使用量と二酸化炭素排出量を大幅に削減するための一連のベスト プラクティスを推奨しています。これらのベスト プラクティスは 4M と呼ばれています。

  • モデル: 特殊なユースケースでは、汎用の大規模モデルよりも少ないコンピューティング リソースを使用する専用モデルを選択します。
  • マシン: ML トレーニング用に最適化されたプロセッサとシステムを選択します。これらのプロセッサは、汎用プロセッサと比較して、パフォーマンスとエネルギー効率が 2 ～ 5 倍向上します。
  • 機械化: コンピューティング負荷の高いワークロードをクラウドにデプロイします。ワークロードのエネルギー使用量が削減され、オンプレミス デプロイと比較して排出量が 1.4 ～ 2 倍削減されます。クラウド データセンターは、エネルギー効率に優れた、電力使用効率（PUE）比の高い、新しいカスタム設計の倉庫を使用しています。オンプレミスのデータセンターは古く、規模が小さいことが多いため、エネルギー効率の高い冷却システムや電力分配システムへの投資は経済的でない可能性があります。
  • マップ: 最もクリーン エネルギーを使用する Google Cloud ロケーションを選択します。このアプローチにより、ワークロードの総温室効果ガス排出量を 5 ～ 10 倍削減できます。詳しくは、 Google Cloud リージョンにおけるカーボンフリー エネルギーの利用状況をご覧ください。

4M のベスト プラクティスと効率指標の詳細については、次の研究論文をご覧ください。

トレーニングと推論のために AI モデルとアルゴリズムを最適化する

AI モデルのアーキテクチャと、トレーニングと推論に使用されるアルゴリズムは、エネルギー消費に大きな影響を与えます。以下の推奨事項を参考にしてください。

効率的な AI モデルを選択する

パフォーマンス要件を満たす、より小さく効率的な AI モデルを選択します。デフォルトの選択肢として、利用可能な最大のモデルを選択しないでください。たとえば、DistilBERT などのより小さく、蒸留されたモデル バージョンは、BERT などのより大きなモデルよりも大幅に少ないコンピューティング オーバーヘッドと高速な推論で、同様のパフォーマンスを実現できます。

ドメイン固有の超効率的なソリューションを使用する

大規模な基盤モデルよりもパフォーマンスが高く、必要なコンピューティング能力が大幅に少ない、専用の ML ソリューションを選択します。これらの特殊なソリューションは、多くの場合、事前にトレーニングされ、高度に最適化されています。トレーニング ワークロードと推論ワークロードの両方で、エネルギー消費量と研究労力を大幅に削減できます。ドメイン固有の特殊なソリューションの例を次に示します。

  • Earth AI は、大量のグローバル地理空間データを合成して、タイムリーで正確な、行動につながるインサイトを提供する、エネルギー効率に優れたソリューションです。
  • WeatherNext は、従来の物理ベースの方法と比較して、より高速で効率的、かつ高精度な世界の天気予報を生成します。

適切なモデル圧縮手法を適用する

モデル圧縮に使用できる手法の例を次に示します。

  • プルーニング: ニューラル ネットワークから不要なパラメータを削除します。これらは、モデルのパフォーマンスに大きく貢献しないパラメータです。この手法により、モデルのサイズと推論に必要なコンピューティング リソースが削減されます。
  • 量子化: モデル パラメータの精度を下げます。たとえば、精度を 32 ビット浮動小数点数から 8 ビット整数に下げます。この手法により、精度を大幅に低下させることなく、メモリ使用量と消費電力を大幅に削減できます。
  • 知識蒸留: 大規模で複雑な教師モデルの動作を模倣するように、小規模な生徒モデルをトレーニングします。生徒モデルは、より少ないパラメータとより少ないエネルギーで高いパフォーマンスを実現できます。

専用のハードウェアを使用する

リソース選択に関する 4M のベスト プラクティスに沿って、ML トレーニング用に最適化されたプロセッサとシステムを選択します。これらのプロセッサは、汎用プロセッサと比較して、パフォーマンスとエネルギー効率が 2 ～ 5 倍向上します。

パラメータ エフィシエント ファインチューニングを使用する

モデルの数十億ものパラメータをすべて調整する（フル ファインチューニング）のではなく、Low-Rank Adaptation（LoRA）などのパラメータ エフィシエント ファインチューニング（PEFT）手法を使用します。この手法では、元のモデルの重みを固定し、少数の新しい軽量レイヤのみをトレーニングします。このアプローチは、コストとエネルギー消費の削減に役立ちます。

AI と ML の運用に関するベスト プラクティスに従う

運用方法は、AI / ML ワークロードのサステナビリティに大きく影響します。以下の推奨事項を参考にしてください。

モデルのトレーニング プロセスを最適化する

モデルのトレーニング プロセスを最適化するには、次の手法を使用します。

  • 早期停止: トレーニング プロセスをモニタリングし、検証セットに対するモデルのパフォーマンスにそれ以上の改善が見られない場合は、トレーニングを停止します。この手法により、不要な計算とエネルギーの使用を防ぐことができます。
  • 効率的なデータ読み込み: 効率的なデータ パイプラインを使用して、GPU と TPU が常に使用され、データの待機が発生しないようにします。この手法は、リソース使用率を最大化し、エネルギーの無駄を削減するのに役立ちます。
  • 最適化されたハイパーパラメータ チューニング: 最適なハイパーパラメータをより効率的に見つけるには、ベイズ最適化や強化学習などの手法を使用します。リソースを大量に消費する可能性がある、網羅的なグリッド検索は避けてください。

推論の効率を向上させる

AI 推論タスクの効率を向上させるには、次の手法を使用します。

  • バッチ処理: 複数の推論リクエストをバッチにグループ化し、GPU と TPU での並列処理を活用します。この手法は、予測あたりのエネルギー コストを削減するのに役立ちます。
  • 高度なキャッシュ保存: 多層キャッシュ保存戦略を実装します。これには、自己回帰生成用の Key-Value（KV）キャッシュ保存と、アプリケーション レスポンス用のセマンティック プロンプト キャッシュ保存が含まれます。この手法は、冗長なモデル計算を回避するのに役立ち、エネルギー使用量と二酸化炭素排出量を大幅に削減できます。

測定とモニタリング

次のパラメータをモニタリングして測定します。

  • 使用量と費用: 適切なツールを使用して、AI ワークロードのトークン使用量、エネルギー消費量、温室効果ガス排出量を追跡します。このデータは、最適化の機会を特定し、サステナビリティ目標に向けた進捗状況を報告するのに役立ちます。
  • パフォーマンス: 本番環境でのモデルのパフォーマンスを継続的にモニタリングします。データドリフトなどの問題を特定します。これは、モデルを再度ファインチューニングする必要があることを示している可能性があります。モデルを再トレーニングする必要がある場合は、元のファインチューニングされたモデルを出発点として使用することで、更新にかかる時間、費用、エネルギーを大幅に節約できます。

継続的な改善の運用化の詳細については、サステナビリティを継続的に測定して改善するをご覧ください。

炭素を意識したスケジューリングを実装する

最もクリーンなエネルギー ミックスを使用するリージョンで実行されるように ML パイプライン ジョブを設計します。Carbon Footprint レポートを使用して、炭素排出量が最も少ないリージョンを特定します。リソースを大量に消費するタスクを、地域の電力網のカーボンフリー エネルギー（CFE）の割合が高い期間にバッチジョブとしてスケジュールします。

データ パイプラインの最適化

ML オペレーションとファインチューニングには、クリーンで高品質なデータセットが必要です。ML ジョブを開始する前に、マネージド データ処理サービスを使用してデータを効率的に準備します。たとえば、ストリーミング処理とバッチ処理には Dataflow を使用し、マネージド Spark パイプラインと Hadoop パイプラインには Managed Service for Apache Spark を使用します。最適化されたデータ パイプラインにより、ファインチューニング ワークロードがデータを待機することがなくなり、リソースの使用率を最大化して、エネルギーの無駄を削減できます。

MLOps を導入する

ML ライフサイクル全体を自動化して管理するには、ML オペレーション（MLOps）プラクティスを実装します。これらのプラクティスにより、モデルが継続的にモニタリング、検証、再デプロイされ、不要なトレーニングやリソース割り当てを防ぐことができます。

マネージド サービスを使用する

独自のインフラストラクチャを管理する代わりに、Gemini Enterprise Agent Platform などのマネージド クラウド サービスを使用します。基盤となるリソース管理はクラウド プラットフォームが処理するため、ファインチューニング プロセスに集中できます。ハイパーパラメータ チューニング、モデル モニタリング、リソース管理用の組み込みツールを含むサービスを使用します。

次のステップ