Otimizar cargas de trabalho de IA e ML para eficiência energética

Last reviewed 2026-10-28 UTC

Este princípio no pilar de sustentabilidade do Google Cloud Well-Architected Framework fornece recomendações para otimizar as cargas de trabalho de IA e ML para reduzir o uso de energia e a pegada de carbono.

Visão geral do princípio

Para otimizar as cargas de trabalho de IA e ML para sustentabilidade, é necessário adotar uma abordagem holística para projetar, implantar e operar as cargas de trabalho. Selecione modelos adequados e hardware especializado, como Unidades de Processamento de Tensor (TPUs), execute as cargas de trabalho em regiões com baixa emissão de carbono, otimize para reduzir o uso de recursos e aplique as práticas recomendadas operacionais.

As práticas arquitetônicas e operacionais que otimizam o custo e o desempenho das cargas de trabalho de IA e ML levam inerentemente à redução do consumo de energia e da pegada de carbono. A perspectiva de IA e ML no Well-Architected Framework descreve princípios e recomendações para projetar, criar e gerenciar cargas de trabalho de IA e ML que atendam às suas metas operacionais, de segurança, confiabilidade, custo e metas de performance. Além disso, o Centro de Arquitetura do Cloud fornece arquiteturas de referência detalhadas e guias de design para cargas de trabalho de IA e ML no Google Cloud.

Recomendações

Para otimizar as cargas de trabalho de IA e ML para eficiência energética, considere as recomendações nas seções a seguir.

Arquitetar para eficiência energética usando TPUs

As cargas de trabalho de IA e ML podem exigir muita computação. O consumo de energia pelas cargas de trabalho de IA e ML é uma consideração importante para a sustentabilidade. As TPUs permitem melhorar significativamente a eficiência energética e a sustentabilidade das cargas de trabalho de IA e ML.

As TPUs são aceleradores personalizados criados para cargas de trabalho de IA e ML. A arquitetura especializada das TPUs as torna altamente eficazes para multiplicação de matrizes em grande escala, que é a base do aprendizado profundo. As TPUs podem executar tarefas complexas em escala com maior eficiência do que processadores de uso geral, como CPUs ou GPUs.

As TPUs oferecem os seguintes benefícios diretos para a sustentabilidade:

  • Menor consumo de energia: as TPUs são projetadas para otimizar a eficiência energética. Elas oferecem mais computações por watt de energia consumida. A arquitetura especializada reduz significativamente as demandas de energia de tarefas de treinamento e inferência em grande escala, o que leva a uma redução dos custos operacionais e do consumo de energia.
  • Treinamento e inferência mais rápidos: o desempenho excepcional das TPUs permite treinar modelos de IA complexos em horas, em vez de dias. Essa redução significativa no tempo total de computação contribui diretamente para uma pegada ambiental menor.
  • Menor necessidade de resfriamento: as TPUs incorporam um resfriamento líquido avançado, que oferece um gerenciamento térmico eficiente e reduz significativamente a energia usada para resfriar o data center.
  • Otimização do ciclo de vida da IA: ao integrar hardware e software, as TPUs oferecem uma solução otimizada em todo o ciclo de vida da IA, desde o processamento de dados até a disponibilização do modelo.

Siga as práticas recomendadas dos 4Ms para seleção de recursos

O Google recomenda um conjunto de práticas recomendadas para reduzir significativamente o uso de energia e as emissões de carbono em cargas de trabalho de IA e ML. Chamamos essas práticas recomendadas de 4Ms:

  • Modelo: para casos de uso especializados, escolha modelos criados para fins específicos que usam menos recursos computacionais do que os modelos grandes de uso geral.
  • Máquina: escolha processadores e sistemas otimizados para treinamento de ML. Esses processadores melhoram o desempenho e a eficiência energética em duas a cinco vezes em comparação com os processadores de uso geral.
  • Mecanização: implante suas cargas de trabalho com uso intensivo de computação na nuvem. Suas cargas de trabalho usam menos energia e causam emissões de 1,4 a 2 vezes menores em comparação com as implantações no local. Os data centers em nuvem usam warehouses mais novos e personalizados, criados para eficiência energética e com uma alta proporção de eficiência no uso de energia (PUE). Em geral, os data centers no local são mais antigos e menores. Portanto, investimentos em sistemas de resfriamento e distribuição de energia com eficiência energética podem não ser econômicos.
  • Mapa: selecione Google Cloud locais que usam a energia mais limpa. Essa abordagem ajuda a reduzir a pegada de carbono bruta das cargas de trabalho em 5 a 10 vezes. Para mais informações, consulte Energia livre de carbono para regiões do Google Cloud .

Para mais informações sobre as práticas recomendadas e as métricas de eficiência dos 4Ms, consulte os seguintes artigos de pesquisa:

Otimizar modelos e algoritmos de IA para treinamento e inferência

A arquitetura de um modelo de IA e os algoritmos usados para treinamento e inferência têm um impacto significativo no consumo de energia. Considere as recomendações a seguir.

Selecionar modelos de IA eficientes

Escolha modelos de IA menores e mais eficientes que atendam aos seus requisitos de desempenho. Não selecione o maior modelo disponível como opção padrão. Por exemplo, uma versão de modelo menor e destilada, como o DistilBERT, pode oferecer um desempenho semelhante com uma sobrecarga computacional significativamente menor e uma inferência mais rápida do que um modelo maior, como o BERT.

Usar soluções hiper eficientes e específicas do domínio

Escolha soluções de ML especializadas que ofereçam melhor desempenho e exijam significativamente menos poder de computação do que um modelo de fundação grande. Essas soluções especializadas costumam ser pré-treinadas e hiperotimizadas. Eles podem reduzir significativamente o consumo de energia e o esforço de pesquisa para as cargas de trabalho de treinamento e inferência. Veja a seguir exemplos de soluções especializadas específicas de domínio:

  • A Earth AI é uma solução de eficiência energética que sintetiza grandes quantidades de dados geoespaciais globais para fornecer insights úteis, precisos e oportunos.
  • O WeatherNext produz previsões meteorológicas globais mais rápidas, eficientes e altamente precisas em comparação com os métodos convencionais baseados em física.

Aplicar técnicas adequadas de compactação de modelos

Veja a seguir exemplos de técnicas que podem ser usadas para compactação de modelos:

  • Remoção: remova parâmetros desnecessários de uma rede neural. Esses são parâmetros que não contribuem significativamente para o desempenho de um modelo. Essa técnica reduz o tamanho do modelo e os recursos computacionais necessários para a inferência.
  • Quantização: reduz a precisão dos parâmetros do modelo. Por exemplo, reduza a precisão de usar pontos flutuantes de 32 bits para números inteiros de 8 bits. Essa técnica pode ajudar a diminuir significativamente o consumo de memória e de energia sem uma redução perceptível na acurácia.
  • Destilação de conhecimento: treinar um modelo estudante menor para imitar o comportamento de um modelo professor maior e mais complexo. O modelo do estudante pode alcançar um alto nível de desempenho com menos parâmetros e usando menos energia.

Usar hardware especializado

Conforme mencionado em Siga as práticas recomendadas dos 4Ms para seleção de recursos, escolha processadores e sistemas otimizados para treinamento de ML. Esses processadores melhoram o desempenho e a eficiência energética em duas a cinco vezes em comparação com os processadores de uso geral.

Usar ajustes finos com eficiência de parâmetros

Em vez de ajustar todos os bilhões de parâmetros de um modelo (ajuste fino completo), use métodos de ajuste fino com eficiência de parâmetros (PEFT, na sigla em inglês), como a adaptação de classificação baixa (LoRA, na sigla em inglês). Com essa técnica, você congela os pesos do modelo original e treina apenas um pequeno número de camadas novas e leves. Essa abordagem ajuda a reduzir o custo e o consumo de energia.

Siga as práticas recomendadas para operações de IA e ML

As práticas operacionais afetam significativamente a sustentabilidade das cargas de trabalho de IA e ML. Considere as seguintes recomendações.

Otimizar os processos de treinamento de modelo

Use as técnicas a seguir para otimizar os processos de treinamento de modelo:

  • Parada antecipada: monitore o processo de treinamento e interrompa-o quando não observar mais melhorias no desempenho do modelo em relação ao conjunto de validação. Essa técnica ajuda a evitar cálculos e uso de energia desnecessários.
  • Carregamento de dados eficiente: use pipelines de dados eficientes para garantir que as GPUs e TPUs sejam sempre utilizadas e não fiquem esperando por dados. Essa técnica ajuda a maximizar a utilização de recursos e reduzir o desperdício de energia.
  • Ajuste otimizado de hiperparâmetros: para encontrar hiperparâmetros ideais com mais eficiência, use técnicas como otimização bayesiana ou aprendizado por reforço. Evite pesquisas em grade exaustivas, que podem ser operações com uso intensivo de recursos.

Melhorar a eficiência da inferência

Para melhorar a eficiência das tarefas de inferência de IA, use as seguintes técnicas:

  • Lote: agrupe várias solicitações de inferência em lotes e aproveite o processamento paralelo em GPUs e TPUs. Essa técnica ajuda a reduzir o custo de energia por previsão.
  • Armazenamento em cache avançado: implemente uma estratégia de armazenamento em cache de várias camadas, que inclui o armazenamento em cache de chave-valor (KV) para geração autorregressiva e o armazenamento em cache de comandos semânticos para respostas de aplicativos. Essa técnica ajuda a ignorar cálculos de modelos redundantes e pode reduzir significativamente o uso de energia e as emissões de carbono.

Medir e monitorar

Monitore e meça os seguintes parâmetros:

  • Uso e custo: use as ferramentas adequadas para monitorar o uso de tokens, o consumo de energia e a pegada de carbono das suas cargas de trabalho de IA. Esses dados ajudam a identificar oportunidades de otimização e informar o progresso em direção às metas de sustentabilidade.
  • Desempenho: monitore continuamente o desempenho do modelo em produção. Identifique problemas como desvio de dados, que podem indicar que o modelo precisa ser ajustado novamente. Se você precisar treinar o modelo novamente, use o modelo ajustado original como ponto de partida e economize tempo, dinheiro e energia nas atualizações.

Para mais informações sobre como operacionalizar a melhoria contínua, consulte Medir e melhorar continuamente a sustentabilidade.

Implementar o agendamento com reconhecimento de carbono

Projete seus jobs de pipeline de ML para serem executados em regiões com o mix de energia mais limpo. Use o relatório de Pegada de Carbono para identificar as regiões com menor intensidade de carbono. Programe tarefas que consomem muitos recursos como jobs em lote durante períodos em que a rede elétrica local tem uma porcentagem maior de energia livre de carbono (CFE, na sigla em inglês).

Otimize os pipelines de dados

As operações de ML e o ajuste fino exigem um conjunto de dados limpo e de alta qualidade. Antes de iniciar jobs de ML, use serviços gerenciados de tratamento de dados para preparar os dados com eficiência. Por exemplo, use o Dataflow para processamento em lote e streaming e use o Serviço Gerenciado para Apache Spark para pipelines gerenciados do Spark e do Hadoop. Um pipeline de dados otimizado ajuda a garantir que a carga de trabalho de ajuste não espere pelos dados, para que você possa maximizar a utilização de recursos e ajudar a reduzir o desperdício de energia.

Adote as MLOps

Para automatizar e gerenciar todo o ciclo de vida de ML, implemente práticas de operações de ML (MLOps). Essas práticas ajudam a garantir que os modelos sejam monitorados, validados e reimplantados continuamente de maneira eficiente, o que ajuda a evitar treinamento ou alocação de recursos desnecessários.

Usar serviços gerenciados

Em vez de gerenciar sua própria infraestrutura, use serviços de nuvem gerenciados, como a Gemini Enterprise Agent Platform. A plataforma de nuvem lida com o gerenciamento de recursos, o que permite que você se concentre no processo de ajuste. Use serviços que incluem ferramentas integradas para ajuste de hiperparâmetros, monitoramento de modelos e gerenciamento de recursos.

A seguir

Anterior
Usar regiões de baixo carbono
Avançar
Otimizar o uso de recursos