Optimiza las cargas de trabajo de IA y AA para lograr eficiencia energética

Last reviewed 2026-10-28 UTC

Este principio del pilar de sustentabilidad del Google Cloud Well-Architected Framework proporciona recomendaciones para optimizar las cargas de trabajo de IA y AA con el objetivo de reducir su uso de energía y su huella de carbono.

Descripción general del principio

Para optimizar las cargas de trabajo de IA y AA en términos de sustentabilidad, debes adoptar un enfoque integral para diseñar, implementar y operar las cargas de trabajo. Selecciona modelos adecuados y hardware especializado, como unidades de procesamiento tensorial (TPU), ejecuta las cargas de trabajo en regiones con bajas emisiones de carbono, optimiza para reducir el uso de recursos y aplica las prácticas recomendadas operativas.

Las prácticas arquitectónicas y operativas que optimizan el costo y el rendimiento de las cargas de trabajo de IA y AA conducen de forma inherente a un menor consumo de energía y una menor huella de carbono. La perspectiva de IA y AA en el Well-Architected Framework describe principios y recomendaciones para diseñar, crear y administrar cargas de trabajo de IA y AA que cumplan con tus objetivos operativos, de seguridad, confiabilidad, costo y rendimiento. Además, el Centro de arquitectura de Cloud proporciona arquitecturas de referencia detalladas y guías de diseño para cargas de trabajo de IA y AA en Google Cloud.

Recomendaciones

Para optimizar las cargas de trabajo de IA y AA para la eficiencia energética, ten en cuenta las recomendaciones de las siguientes secciones.

Diseña para la eficiencia energética con las TPU

Las cargas de trabajo de IA y AA pueden requerir un procesamiento intensivo. El consumo de energía de las cargas de trabajo de IA y AA es una consideración clave para la sustentabilidad. Las TPU te permiten mejorar significativamente la eficiencia energética y la sustentabilidad de tus cargas de trabajo de IA y AA.

Las TPU son aceleradores con diseño personalizado que se crearon específicamente para cargas de trabajo de IA y AA. La arquitectura especializada de las TPU las hace muy eficaces para la multiplicación de matrices a gran escala, que es la base del aprendizaje profundo. Las TPU pueden realizar tareas complejas a gran escala con mayor eficiencia que los procesadores de uso general, como las CPU o las GPU.

Las TPU proporcionan los siguientes beneficios directos para la sostenibilidad:

  • Menor consumo de energía: Las TPU están diseñadas para lograr una eficiencia energética óptima. Ofrecen más cálculos por vatio de energía consumida. Su arquitectura especializada reduce significativamente las demandas de energía de las tareas de entrenamiento e inferencia a gran escala, lo que genera menores costos operativos y un menor consumo de energía.
  • Entrenamiento e inferencia más rápidos: El rendimiento excepcional de las TPU te permite entrenar modelos de IA complejos en horas en lugar de días. Esta reducción significativa en el tiempo total de procesamiento contribuye directamente a un menor impacto ambiental.
  • Menos necesidades de enfriamiento: Las TPU incorporan un enfriamiento líquido avanzado, que proporciona una administración térmica eficiente y reduce de forma significativa la energía que se usa para enfriar el centro de datos.
  • Optimización del ciclo de vida de la IA: Con la integración de hardware y software, las TPU proporcionan una solución optimizada en todo el ciclo de vida de la IA, desde el procesamiento de datos hasta la entrega de modelos.

Sigue las prácticas recomendadas de las 4 M para la selección de recursos

Google recomienda un conjunto de prácticas recomendadas para reducir significativamente el uso de energía y las emisiones de carbono en las cargas de trabajo de IA y AA. A estas prácticas recomendadas las llamamos las 4 M:

  • Modelo: Para casos de uso especializados, elige modelos diseñados para un propósito específico que usen menos recursos de procesamiento que los modelos grandes de uso general.
  • Máquina: Elige procesadores y sistemas optimizados para el entrenamiento de AA. Estos procesadores mejoran el rendimiento y la eficiencia energética de 2 a 5 veces en comparación con los procesadores de uso general.
  • Mecanización: Implementa tus cargas de trabajo con alto consumo de procesamiento en la nube. Tus cargas de trabajo usan menos energía y generan entre 1.4 y 2 veces menos emisiones en comparación con las implementaciones locales. Los centros de datos en la nube usan almacenes más nuevos y con diseño personalizado que se crean para la eficiencia energética y tienen una alta proporción de eficacia del uso de energía (PUE). Los centros de datos locales suelen ser más antiguos y pequeños, por lo que las inversiones en sistemas de distribución de energía y enfriamiento eficientes podrían no ser económicas.
  • Mapa: Selecciona Google Cloud ubicaciones que usen la energía más limpia. Este enfoque ayuda a reducir la huella de carbono bruta de tus cargas de trabajo entre 5 y 10 veces. Para obtener más información, consulta Energía libre de carbono para las regiones de Google Cloud .

Para obtener más información sobre las prácticas recomendadas y las métricas de eficiencia de los 4Ms, consulta los siguientes artículos de investigación:

Optimizar modelos y algoritmos de IA para el entrenamiento y la inferencia

La arquitectura de un modelo de IA y los algoritmos que se usan para el entrenamiento y la inferencia tienen un impacto significativo en el consumo de energía. Ten en cuenta las siguientes recomendaciones.

Selecciona modelos de IA eficientes

Elige modelos de IA más pequeños y eficientes que cumplan con tus requisitos de rendimiento. No selecciones el modelo más grande disponible como opción predeterminada. Por ejemplo, una versión de modelo sintetizada más pequeña, como DistilBERT, puede ofrecer un rendimiento similar con una sobrecarga de procesamiento significativamente menor y una inferencia más rápida que un modelo más grande, como BERT.

Usa soluciones hipereficientes y específicas del dominio

Elige soluciones de AA especializadas que proporcionen un mejor rendimiento y requieran mucha menos potencia de procesamiento que un modelo de base grande. Estas soluciones especializadas suelen estar previamente entrenadas y optimizadas. Pueden proporcionar reducciones significativas en el consumo de energía y el esfuerzo de investigación para las cargas de trabajo de entrenamiento y de inferencia. Los siguientes son ejemplos de soluciones especializadas para dominios específicos:

  • Earth AI es una solución de eficiencia energética que sintetiza grandes cantidades de datos geoespaciales globales para proporcionar estadísticas oportunas, precisas y prácticas.
  • WeatherNext produce pronósticos meteorológicos globales más rápidos, eficientes y precisos en comparación con los métodos convencionales basados en la física.

Aplicar técnicas de compresión de modelos adecuadas

Los siguientes son ejemplos de técnicas que puedes usar para la compresión de modelos:

  • Eliminación: Quita los parámetros innecesarios de una red neuronal. Estos son parámetros que no contribuyen de forma significativa al rendimiento de un modelo. Esta técnica reduce el tamaño del modelo y los recursos de procesamiento que se requieren para la inferencia.
  • Cuantización: Reduce la precisión de los parámetros del modelo. Por ejemplo, reduce la precisión de punto flotante de 32 bits a números enteros de 8 bits. Esta técnica puede ayudar a disminuir de forma significativa el espacio en memoria y el consumo de energía sin una reducción notable de la exactitud.
  • Síntesis de conocimiento: Entrena un modelo estudiante más pequeño para imitar el comportamiento de un modelo profesor más grande y complejo. El modelo estudiante puede alcanzar un alto nivel de rendimiento con menos parámetros y con un menor consumo de energía.

Usa hardware especializado

Como se mencionó en Sigue las prácticas recomendadas de las 4M para la selección de recursos, elige procesadores y sistemas optimizados para el entrenamiento de AA. Estos procesadores mejoran el rendimiento y la eficiencia energética de 2 a 5 veces en comparación con los procesadores de uso general.

Usa el ajuste eficiente de parámetros

En lugar de ajustar todos los miles de millones de parámetros de un modelo (ajuste completo), usa métodos de ajuste eficiente de parámetros (PEFT), como la adaptación de bajo rango (LoRA). Con esta técnica, se congelan los pesos del modelo original y se entrena solo una pequeña cantidad de capas nuevas y ligeras. Este enfoque ayuda a reducir el costo y el consumo de energía.

Sigue las prácticas recomendadas para las operaciones de IA y AA

Las prácticas operativas afectan de forma significativa la sustentabilidad de tus cargas de trabajo de IA y AA. Ten en cuenta las siguientes recomendaciones.

Optimiza los procesos de entrenamiento de modelos

Usa las siguientes técnicas para optimizar los procesos de entrenamiento de modelos:

  • Interrupción anticipada: Supervisa el proceso de entrenamiento y detenlo cuando no observes más mejoras en el rendimiento del modelo en comparación con el conjunto de validación. Esta técnica te ayuda a evitar cálculos y uso de energía innecesarios.
  • Carga de datos eficiente: Usa canalizaciones de datos eficientes para garantizar que las GPU y TPU siempre se utilicen y no esperen datos. Esta técnica ayuda a maximizar el uso de recursos y reducir el desperdicio de energía.
  • Ajuste de hiperparámetros optimizado: Para encontrar hiperparámetros óptimos de manera más eficiente, usa técnicas como la optimización bayesiana o el aprendizaje por refuerzo. Evita las búsquedas de cuadrícula exhaustivas, que pueden ser operaciones que consumen muchos recursos.

Mejora la eficiencia de la inferencia

Para mejorar la eficiencia de las tareas de inferencia de IA, usa las siguientes técnicas:

  • Procesamiento por lotes: Agrupa varias solicitudes de inferencia en lotes y aprovecha el procesamiento paralelo en GPUs y TPUs. Esta técnica ayuda a reducir el costo de energía por predicción.
  • Almacenamiento en caché avanzado: Implementa una estrategia de almacenamiento en caché de varias capas, que incluye el almacenamiento en caché de par clave-valor (KV) para la generación autorregresiva y el almacenamiento en caché de instrucciones semánticas para las respuestas de la aplicación. Esta técnica ayuda a omitir los cálculos redundantes del modelo y puede generar reducciones significativas en el uso de energía y las emisiones de carbono.

Mide y supervisa

Supervisa y mide los siguientes parámetros:

  • Uso y costo: Usa las herramientas adecuadas para hacer un seguimiento del uso de tokens, el consumo de energía y la huella de carbono de tus cargas de trabajo de IA. Estos datos te ayudan a identificar oportunidades de optimización y a informar el progreso hacia los objetivos de sustentabilidad.
  • Rendimiento: Supervisa continuamente el rendimiento del modelo en producción. Identifica problemas como la desviación de datos, que puede indicar que el modelo debe ajustarse de nuevo. Si necesitas volver a entrenar el modelo, puedes usar el modelo original ajustado como punto de partida y ahorrar mucho tiempo, dinero y energía en las actualizaciones.
    • Para hacer un seguimiento de las métricas de rendimiento, usa Cloud Monitoring.
    • Para correlacionar los cambios del modelo con las mejoras en las métricas de rendimiento, usa las anotaciones de eventos.

Para obtener más información sobre cómo poner en práctica la mejora continua, consulta Mide y mejora la sustentabilidad de forma continua.

Implementa la programación consciente de las emisiones de carbono

Diseña tus trabajos de canalización de AA para que se ejecuten en regiones con la combinación de energía más limpia. Usa el informe de Huella de carbono para identificar las regiones con menos emisiones de carbono. Programa tareas que consumen muchos recursos como trabajos por lotes durante los períodos en los que la red eléctrica local tiene un porcentaje más alto de energía libre de carbono (CFE).

Optimiza las canalizaciones de datos

Las operaciones de AA y el ajuste fino requieren un conjunto de datos limpio y de alta calidad. Antes de iniciar los trabajos de AA, usa servicios administrados de procesamiento de datos para preparar los datos de manera eficiente. Por ejemplo, usa Dataflow para la transmisión y el procesamiento por lotes, y usa Managed Service para Apache Spark para las canalizaciones administradas de Spark y Hadoop. Una canalización de datos optimizada ayuda a garantizar que tu carga de trabajo de ajuste no espere datos, de modo que puedas maximizar el uso de recursos y ayudar a reducir el desperdicio de energía.

Adopta las MLOps

Para automatizar y administrar todo el ciclo de vida del AA, implementa prácticas de operaciones de AA (MLOps). Estas prácticas ayudan a garantizar que los modelos se supervisen, validen y vuelvan a implementar de forma continua y eficiente, lo que ayuda a evitar el entrenamiento o la asignación de recursos innecesarios.

Usa servicios administrados

En lugar de administrar tu propia infraestructura, usa servicios en la nube administrados, como Gemini Enterprise Agent Platform. La plataforma de nube controla la administración de recursos subyacente, lo que te permite enfocarte en el proceso de ajuste. Usa servicios que incluyan herramientas integradas para el ajuste de hiperparámetros, la supervisión de modelos y la administración de recursos.

¿Qué sigue?

Anterior
Usa regiones con bajas emisiones de carbono
Siguiente
Optimiza el uso de recursos