Optimiser les charges de travail d'IA et de ML pour l'efficacité énergétique

Last reviewed 2026-10-28 UTC

Ce principe du pilier "Développement durable" du Google Cloud Well-Architected Framework fournit des recommandations pour optimiser les charges de travail d'IA et de ML afin de réduire leur consommation d'énergie et leur empreinte carbone.

Présentation du principe

Pour optimiser les charges de travail d'IA et de ML en termes de durabilité, vous devez adopter une approche holistique de la conception, du déploiement et de l'exploitation des charges de travail. Sélectionnez des modèles appropriés et du matériel spécialisé comme les Tensor Processing Units (TPU), exécutez les charges de travail dans des régions à faible émission de carbone, optimisez l'utilisation des ressources et appliquez les bonnes pratiques opérationnelles.

Les pratiques architecturales et opérationnelles qui optimisent le coût et les performances des charges de travail d'IA et de ML entraînent intrinsèquement une réduction de la consommation d'énergie et de l'empreinte carbone. La perspective IA et ML du Well-Architected Framework décrit les principes et les recommandations pour concevoir, créer et gérer des charges de travail d'IA et de ML qui répondent à vos objectifs opérationnels, de sécurité, de fiabilité, de coût et de performances. De plus, le Cloud Architecture Center fournit des architectures de référence détaillées et des guides de conception pour les charges de travail d'IA et de ML dans Google Cloud.

Recommandations

Pour optimiser l'efficacité énergétique des charges de travail d'IA et de ML, tenez compte des recommandations des sections suivantes.

Concevoir pour l'efficacité énergétique à l'aide de TPU

Les charges de travail d'IA et de ML peuvent être gourmandes en ressources de calcul. La consommation d'énergie des charges de travail d'IA et de ML est un facteur clé pour la durabilité. Les TPU vous permettent d'améliorer considérablement l'efficacité énergétique et la durabilité de vos charges de travail d'IA et de ML.

Les TPU sont des accélérateurs conçus sur mesure et spécialement conçus pour les charges de travail d'IA et de ML. L'architecture spécialisée des TPU les rend très efficaces pour la multiplication matricielle à grande échelle, qui est la base du deep learning. Les TPU peuvent effectuer des tâches complexes à grande échelle avec une plus grande efficacité que les processeurs à usage général tels que les CPU ou les GPU.

Les TPU offrent les avantages directs suivants en termes de durabilité :

  • Réduction de la consommation d'énergie : les TPU sont conçus pour une efficacité énergétique optimale. Ils offrent une puissance de calcul plus élevée par watt d'énergie consommé. Leur architecture spécialisée réduit considérablement les besoins en énergie des tâches d'entraînement et d'inférence à grande échelle, ce qui se traduit par une diminution des coûts opérationnels et de la consommation d'énergie.
  • Entraînement et inférence plus rapides : les performances exceptionnelles des TPU vous permettent d'entraîner des modèles d'IA complexes en quelques heures plutôt qu'en plusieurs jours. Cette réduction significative du temps de calcul total contribue directement à réduire l'empreinte écologique.
  • Réduction des besoins en refroidissement : les TPU intègrent un refroidissement liquide avancé, qui assure une gestion thermique efficace et réduit considérablement l'énergie utilisée pour refroidir le centre de données.
  • Optimisation du cycle de vie de l'IA : en intégrant le matériel et les logiciels, les TPU fournissent une solution optimisée tout au long du cycle de vie de l'IA, du traitement des données à la mise en service du modèle.

Suivre les bonnes pratiques des 4 M pour la sélection des ressources

Google recommande un ensemble de bonnes pratiques pour réduire considérablement la consommation d'énergie et les émissions de carbone des charges de travail d'IA et de ML. Nous appelons ces bonnes pratiques les 4 M :

  • Modèle : pour les cas d'utilisation spécialisés, choisissez des modèles spécialement conçus qui utilisent moins de ressources de calcul que les grands modèles à usage général.
  • Machine : choisissez des processeurs et des systèmes optimisés pour l'entraînement de ML. Ces processeurs améliorent les performances et l'efficacité énergétique d'un facteur 2 à 5 par rapport aux processeurs à usage général.
  • Mécanisation : déployez vos charges de travail exigeantes en ressources de calcul dans le cloud. Vos charges de travail consomment moins d'énergie et génèrent 1,4 à 2 fois moins d'émissions que les déploiements sur site. Les centres de données cloud utilisent des entrepôts récents, conçus sur mesure pour être économes en énergie et présentant un ratio d'efficacité énergétique élevé. Les centres de données sur site sont souvent plus anciens et plus petits. Par conséquent, les investissements dans des systèmes de refroidissement et de distribution électrique économes en énergie peuvent ne pas être rentables.
  • Carte : sélectionnez Google Cloud les emplacements qui utilisent l'énergie la plus propre. Cette approche permet de réduire l'empreinte carbone brute de vos charges de travail de 5 à 10 fois. Pour en savoir plus, consultez Énergie décarbonée pour les régions Google Cloud .

Pour en savoir plus sur les bonnes pratiques et les métriques d'efficacité des 4M, consultez les articles de recherche suivants :

Optimiser les modèles et les algorithmes d'IA pour l'entraînement et l'inférence

L'architecture d'un modèle d'IA et les algorithmes utilisés pour l'entraînement et l'inférence ont un impact significatif sur la consommation d'énergie. Tenez compte des recommandations suivantes.

Sélectionner des modèles d'IA efficaces

Choisissez des modèles d'IA plus petits et plus efficaces qui répondent à vos exigences de performances. Ne sélectionnez pas le plus grand modèle disponible par défaut. Par exemple, une version de modèle distillée plus petite, comme DistilBERT, peut offrir des performances similaires avec une surcharge de calcul nettement inférieure et une inférence plus rapide qu'un modèle plus grand comme BERT.

Utilisez des solutions hyper-efficaces et spécifiques à un domaine

Choisissez des solutions de ML spécialisées qui offrent de meilleures performances et nécessitent beaucoup moins de puissance de calcul qu'un grand modèle de fondation. Ces solutions spécialisées sont souvent pré-entraînées et hyper-optimisées. Ils peuvent réduire considérablement la consommation d'énergie et les efforts de recherche pour les charges de travail d'entraînement et d'inférence. Voici quelques exemples de solutions spécialisées spécifiques à un domaine :

  • Earth AI est une solution économe en énergie qui synthétise de grandes quantités de données géospatiales mondiales pour fournir des insights pratiques, précis et en temps opportun.
  • WeatherNext produit des prévisions météorologiques mondiales plus rapides, plus efficaces et de haute précision par rapport aux méthodes physiques conventionnelles.

Appliquer les techniques de compression de modèle appropriées

Voici quelques exemples de techniques que vous pouvez utiliser pour la compression de modèles :

  • Élagage : supprimez les paramètres inutiles d'un réseau de neurones. Il s'agit de paramètres qui ne contribuent pas de manière significative aux performances d'un modèle. Cette technique réduit la taille du modèle et les ressources de calcul nécessaires à l'inférence.
  • Quantification : réduire la précision des paramètres du modèle. Par exemple, réduire la précision de valeurs à virgule flottante de 32 bits à des entiers de 8 bits. Cette technique peut aider à réduire considérablement l'espace mémoire utilisé et la consommation d'énergie sans réduction notable de la précision.
  • Distillation des connaissances : entraînez un modèle élève plus petit à imiter le comportement d'un modèle enseignant plus grand et plus complexe. Le modèle élève peut atteindre un niveau de performances élevé avec moins de paramètres et en consommant moins d'énergie.

Utiliser du matériel spécialisé

Comme indiqué dans Suivre les bonnes pratiques des 4 M pour la sélection des ressources, choisissez des processeurs et des systèmes optimisés pour l'entraînement de ML. Ces processeurs améliorent les performances et l'efficacité énergétique d'un facteur 2 à 5 par rapport aux processeurs à usage général.

Utiliser l'affinage d'un sous-ensemble de paramètres

Au lieu d'ajuster les milliards de paramètres d'un modèle (affinage complet), utilisez des méthodes d'affinage d'un sous-ensemble de paramètres (PEFT, Parameter-Efficient Fine-Tuning) comme l'adaptation à faible rang (LoRA, Low-Rank Adaptation). Avec cette technique, vous figez les pondérations du modèle d'origine et n'entraînez qu'un petit nombre de nouvelles couches légères. Cette approche permet de réduire les coûts et la consommation d'énergie.

Suivre les bonnes pratiques pour les opérations d'IA et de ML

Les pratiques opérationnelles ont un impact significatif sur la durabilité de vos charges de travail d'IA et de ML. Tenez compte des recommandations suivantes.

Optimiser les processus d'entraînement des modèles

Utilisez les techniques suivantes pour optimiser vos processus d'entraînement de modèle :

  • Arrêt prématuré : surveillez le processus d'entraînement et arrêtez-le lorsque vous n'observez plus d'amélioration des performances du modèle par rapport à l'ensemble de validation. Cette technique vous aide à éviter les calculs et la consommation d'énergie inutiles.
  • Chargement efficace des données : utilisez des pipelines de données efficaces pour vous assurer que les GPU et les TPU sont toujours utilisés et n'attendent pas les données. Cette technique permet d'optimiser l'utilisation des ressources et de réduire le gaspillage d'énergie.
  • Réglage optimisé des hyperparamètres : pour trouver plus efficacement les hyperparamètres optimaux, utilisez des techniques telles que l'optimisation bayésienne ou l'apprentissage par renforcement. Évitez les recherches exhaustives dans la grille, qui peuvent être des opérations gourmandes en ressources.

Améliorer l'efficacité de l'inférence

Pour améliorer l'efficacité des tâches d'inférence d'IA, utilisez les techniques suivantes :

  • Traitement par lot : regroupez plusieurs requêtes d'inférence par lots et profitez du traitement parallèle sur les GPU et les TPU. Cette technique permet de réduire le coût énergétique par prédiction.
  • Mise en cache avancée : implémentez une stratégie de mise en cache multicouche, qui inclut la mise en cache clé-valeur (KV) pour la génération autorégressive et la mise en cache des requêtes sémantiques pour les réponses de l'application. Cette technique permet de contourner les calculs de modèles redondants et peut entraîner des réductions significatives de la consommation d'énergie et des émissions de carbone.

Mesurer et surveiller

Surveillez et mesurez les paramètres suivants :

  • Utilisation et coût : utilisez les outils appropriés pour suivre l'utilisation des jetons, la consommation d'énergie et l'empreinte carbone de vos charges de travail d'IA. Ces données vous aident à identifier les opportunités d'optimisation et à rendre compte des progrès accomplis vers les objectifs de développement durable.
  • Performances : surveillez en continu les performances du modèle en production. Identifiez les problèmes tels que la dérive des données, qui peuvent indiquer que le modèle doit être à nouveau affiné. Si vous devez réentraîner le modèle, vous pouvez utiliser le modèle réglé d'origine comme point de départ et économiser beaucoup de temps, d'argent et d'énergie sur les mises à jour.

Pour en savoir plus sur l'opérationnalisation de l'amélioration continue, consultez Mesurer et améliorer continuellement la durabilité.

Implémenter la planification basée sur les émissions de carbone

Concevez vos jobs de pipeline de ML pour qu'ils s'exécutent dans les régions disposant du mix énergétique le plus propre. Utilisez le rapport sur l'empreinte carbone pour identifier les régions les moins émettrices de carbone. Planifiez les tâches gourmandes en ressources en tant que jobs par lot pendant les périodes où le réseau électrique local dispose d'un pourcentage plus élevé d'énergie décarbonée (CFE).

Optimisez les pipelines de données

Les opérations de ML et l'affinage nécessitent un ensemble de données propre et de haute qualité. Avant de lancer des jobs de ML, utilisez des services de traitement de données gérés pour préparer efficacement les données. Par exemple, utilisez Dataflow pour le traitement par flux et par lot, et Managed Service pour Apache Spark pour les pipelines Spark et Hadoop gérés. Un pipeline de données optimisé permet de s'assurer que votre charge de travail de réglage n'attend pas les données, ce qui vous permet de maximiser l'utilisation des ressources et de réduire le gaspillage d'énergie.

Adopter le MLOps

Pour automatiser et gérer l'ensemble du cycle de vie du ML, mettez en œuvre des pratiques de ML Operations (MLOps). Ces pratiques permettent de s'assurer que les modèles sont surveillés, validés et redéployés en continu de manière efficace, ce qui permet d'éviter un entraînement ou une allocation de ressources inutiles.

Utiliser des services gérés

Au lieu de gérer votre propre infrastructure, utilisez des services cloud gérés tels que Gemini Enterprise Agent Platform. La plate-forme cloud gère la gestion des ressources sous-jacentes, ce qui vous permet de vous concentrer sur le processus de réglage. Utilisez des services qui incluent des outils intégrés pour le réglage des hyperparamètres, la surveillance des modèles et la gestion des ressources.

Étapes suivantes

Précédent
Utiliser des régions à faible émission de carbone
Suivant
Optimiser l'utilisation des ressources