KI- und ML-Arbeitslasten für Energieeffizienz optimieren

Last reviewed 2026-01-28 UTC

Dieses Prinzip in der Säule „Nachhaltigkeit“ des Google Cloud Well-Architected Framework enthält Empfehlungen zur Optimierung von KI- und ML-Arbeitslasten, um ihren Energieverbrauch und ihre CO2-Bilanz zu reduzieren.

Übersicht über das Prinzip

Um KI- und ML-Arbeitslasten im Hinblick auf Nachhaltigkeit zu optimieren, müssen Sie einen ganzheitlichen Ansatz für das Design, die Bereitstellung und den Betrieb der Arbeitslasten verfolgen. Wählen Sie geeignete Modelle und spezielle Hardware wie Tensor Processing Units (TPUs) aus, führen Sie die Arbeitslasten in Regionen mit geringen CO2-Emissionen aus, optimieren Sie die Ressourcennutzung und wenden Sie Best Practices für den Betrieb an.

Architektonische und betriebliche Praktiken, die die Kosten und Leistung von KI- und ML-Arbeitslasten optimieren, führen von Natur aus zu einem geringeren Energieverbrauch und einer niedrigeren CO2-Bilanz. In der KI- und ML-Perspektive des Well-Architected Framework werden Prinzipien und Empfehlungen beschrieben, mit denen Sie KI- und ML-Arbeitslasten entwerfen, erstellen und verwalten können, die Ihre Ziele in Bezug auf Betrieb, Sicherheit, Zuverlässigkeit, Kosten und Leistung erfüllen. Darüber hinaus bietet das Cloud Architecture Center detaillierte Referenzarchitekturen und Designleitfäden für KI- und ML Arbeitslasten in der Google Cloud Google Cloud.

Empfehlungen

Um KI- und ML-Arbeitslasten im Hinblick auf Energieeffizienz zu optimieren, beachten Sie die Empfehlungen in den folgenden Abschnitten.

Architektur für Energieeffizienz mit TPUs

KI- und ML-Arbeitslasten können rechenintensiv sein. Der Energieverbrauch von KI- und ML-Arbeitslasten ist ein wichtiger Aspekt der Nachhaltigkeit. Mit TPUs können Sie die Energieeffizienz und Nachhaltigkeit Ihrer KI- und ML-Arbeitslasten erheblich verbessern.

TPUs sind speziell entwickelte Beschleuniger, die speziell für KI- und ML-Arbeitslasten entwickelt wurden. Dank der speziellen Architektur von TPUs sind sie sehr effektiv für die Matrixmultiplikation in großem Maßstab, die die Grundlage für Deep Learning bildet. TPUs können komplexe Aufgaben in großem Maßstab effizienter ausführen als Prozessoren für allgemeine Zwecke wie CPUs oder GPUs.

TPUs bieten folgende direkte Vorteile für die Nachhaltigkeit:

  • Geringerer Energieverbrauch: TPUs sind für optimale Energie effizienz konzipiert. Sie liefern mehr Berechnungen pro verbrauchtem Watt Energie. Ihre spezielle Architektur reduziert den Energiebedarf für umfangreiche Trainings- und Inferenzaufgaben erheblich, was zu geringeren Betriebskosten und einem niedrigeren Energieverbrauch führt.
  • Schnelleres Training und schnellere Inferenz: Dank der außergewöhnlichen Leistung von TPUs können Sie komplexe KI-Modelle in Stunden statt in Tagen trainieren. Diese erhebliche Reduzierung der gesamten Rechenzeit trägt direkt zu einem kleineren ökologischen Fußabdruck bei.
  • Geringerer Kühlbedarf: TPUs verfügen über eine fortschrittliche Flüssigkeitskühlung, die ein effizientes Wärmemanagement ermöglicht und den Energieverbrauch für die Kühlung des Rechenzentrums erheblich reduziert.
  • Optimierung des KI-Lebenszyklus: Durch die Integration von Hardware und Software bieten TPUs eine optimierte Lösung für den gesamten KI-Lebenszyklus, von der Datenverarbeitung bis zur Modellbereitstellung.

Best Practices für die Ressourcenauswahl gemäß den „4 Ms“

Google empfiehlt eine Reihe von Best Practices, um den Energieverbrauch und die CO2-Emissionen für KI- und ML-Arbeitslasten erheblich zu reduzieren. Wir nennen diese Best Practices 4Ms:

  • Modell: Wählen Sie effiziente ML-Modellarchitekturen aus. Sparse-Modelle verbessern beispielsweise die ML-Qualität und reduzieren den Berechnungsaufwand im Vergleich zu dichten Modellen um das 3- bis 10-Fache.
  • Maschine: Wählen Sie Prozessoren und Systeme aus, die für das ML Training optimiert sind. Diese Prozessoren verbessern die Leistung und Energieeffizienz im Vergleich zu Prozessoren für allgemeine Zwecke um das 2- bis 5-Fache.
  • Mechanisierung: Stellen Sie Ihre rechenintensiven Arbeitslasten in der Cloud bereit. Ihre Arbeitslasten verbrauchen im Vergleich zu lokalen Bereitstellungen 1,4- bis 2-mal weniger Energie und verursachen weniger Emissionen. Cloud-Rechenzentren verwenden neuere, speziell entwickelte Lagerhallen, die auf Energieeffizienz ausgelegt sind und ein hohes PUE-Verhältnis (Power Usage Effectiveness) aufweisen. Lokale Rechenzentren sind oft älter und kleiner, daher sind Investitionen in energieeffiziente Kühl- und Stromverteilungssysteme möglicherweise nicht wirtschaftlich.
  • Karte: Wählen Sie Google Cloud Standorte aus, an denen die sauberste Energie verwendet wird. Mit diesem Ansatz lässt sich die Brutto-CO2-Bilanz Ihrer Arbeitslasten um das 5- bis 10-Fache reduzieren. Weitere Informationen finden Sie unter CO2-freie Energie für Google Cloud Regionen.

Weitere Informationen zu den Best Practices der „4 Ms“ und zu Effizienzmesswerten finden Sie in den folgenden Forschungsarbeiten:

KI-Modelle und ‑Algorithmen für Training und Inferenz optimieren

Die Architektur eines KI-Modells und die Algorithmen, die für Training und Inferenz verwendet werden, haben einen erheblichen Einfluss auf den Energieverbrauch. Beachten Sie die folgenden Empfehlungen.

Effiziente KI-Modelle auswählen

Wählen Sie kleinere, effizientere KI-Modelle aus, die Ihre Leistungsanforderungen erfüllen. Wählen Sie nicht standardmäßig das größte verfügbare Modell aus. Eine kleinere, destillierte Modellversion wie DistilBERT kann beispielsweise eine ähnliche Leistung mit deutlich geringerem Rechenaufwand und schnellerer Inferenz als ein größeres Modell wie BERT erzielen.

Domainspezifische, hocheffiziente Lösungen verwenden

Wählen Sie spezielle ML-Lösungen aus, die eine bessere Leistung bieten und deutlich weniger Rechenleistung als ein großes Foundation Model erfordern. Diese speziellen Lösungen sind oft vortrainiert und hochoptimiert. Sie können den Energieverbrauch und den Forschungsaufwand für Trainings- und Inferenzarbeitslasten erheblich reduzieren. Im Folgenden finden Sie Beispiele für domainspezifische Speziallösungen:

  • Earth AI ist eine energieeffiziente Lösung, die große Mengen globaler raumbezogener Daten synthetisiert, um zeitnahe, genaue und umsetzbare Erkenntnisse zu liefern.
  • WeatherNext liefert im Vergleich zu herkömmlichen physikbasierten Methoden schnellere, effizientere und sehr genaue globale Wettervorhersagen.

Geeignete Techniken zur Modellkomprimierung anwenden

Im Folgenden finden Sie Beispiele für Techniken, die Sie zur Modellkomprimierung verwenden können:

  • Pruning: Entfernen Sie unnötige Parameter aus einem neuronalen Netzwerk. Diese Parameter tragen nicht wesentlich zur Leistung eines Modells bei. Mit dieser Technik wird die Größe des Modells und die für die Inferenz erforderlichen Rechenressourcen reduziert.
  • Quantisierung: Reduzieren Sie die Genauigkeit der Modellparameter. Reduzieren Sie beispielsweise die Genauigkeit von 32-Bit-Gleitkommazahlen auf 8-Bit-Ganzzahlen. Mit dieser Technik können Sie den Speicherbedarf und den Energieverbrauch erheblich senken, ohne dass die Genauigkeit merklich abnimmt.
  • Wissensdestillation: Trainieren Sie ein kleineres Schülermodell , um das Verhalten eines größeren, komplexeren Lehrermodells nachzuahmen. Das Schülermodell kann mit weniger Parametern und weniger Energie einen hohen Leistungsgrad erreichen.

Spezielle Hardware verwenden

Wie unter Best Practices für die Ressourcenauswahl gemäß den „4 Ms“erwähnt, sollten Sie Prozessoren und Systeme auswählen, die für das ML-Training optimiert sind. Diese Prozessoren verbessern die Leistung und Energieeffizienz im Vergleich zu Prozessoren für allgemeine Zwecke um das 2- bis 5-Fache.

Parameter-efficient Fine-tuning verwenden

Anstatt alle Milliarden Parameter eines Modells anzupassen (Full Fine-tuning), verwenden Sie Methoden vom Typ „Parameter-efficient Fine-tuning“ (PEFT) wie Low-Rank Adaptation (LoRA). Bei dieser Technik frieren Sie die Gewichtungen des ursprünglichen Modells ein und trainieren nur eine kleine Anzahl neuer, leichter Ebenen. Dieser Ansatz trägt dazu bei, Kosten und Energieverbrauch zu senken.

Best Practices für KI- und ML-Vorgänge

Betriebliche Praktiken haben einen erheblichen Einfluss auf die Nachhaltigkeit Ihrer KI- und ML-Arbeitslasten. Beachten Sie die folgenden Empfehlungen.

Modelltrainingsprozesse optimieren

Verwenden Sie die folgenden Techniken, um Ihre Modelltrainingsprozesse zu optimieren:

  • Frühzeitiges Anhalten: Beobachten Sie den Trainingsprozess und beenden Sie ihn, wenn Sie keine weitere Verbesserung der Modellleistung im Vergleich zum Validierungsset feststellen. Mit dieser Technik können Sie unnötige Berechnungen und Energieverbrauch vermeiden.
  • Effizientes Laden von Daten: Verwenden Sie effiziente Datenpipelines, um sicherzustellen, dass die GPUs und TPUs immer ausgelastet sind und nicht auf Daten warten müssen. Mit dieser Technik können Sie die Ressourcenauslastung maximieren und Energieverschwendung reduzieren.
  • Optimierte Hyperparameter-Abstimmung: Verwenden Sie Techniken wie die Bayes'sche Optimierung oder Reinforcement Learning, um optimale Hyperparameter effizienter zu finden. Vermeiden Sie erschöpfende Rasterdurchläufe, die ressourcenintensiv sein können.

Inferenzeffizienz verbessern

Verwenden Sie die folgenden Techniken, um die Effizienz von KI-Inferenzaufgaben zu verbessern:

  • Batching: Gruppieren Sie mehrere Inferenzanfragen in Batches und nutzen Sie die parallele Verarbeitung auf GPUs und TPUs. Mit dieser Technik können Sie die Energiekosten pro Vorhersage senken.
  • Erweitertes Caching: Implementieren Sie eine mehrschichtige Caching-Strategie, die Schlüssel/Wert-Caching (KV) für die autoregressive Generierung und semantisches Prompt-Caching für Anwendungsantworten umfasst. Mit dieser Technik können Sie redundante Modellberechnungen umgehen und den Energieverbrauch und die CO2-Emissionen erheblich reduzieren.

Messen und beobachten

Beobachten und messen Sie die folgenden Parameter:

  • Nutzung und Kosten: Verwenden Sie geeignete Tools, um die Tokennutzung, den Energieverbrauch und die CO2-Bilanz Ihrer KI-Arbeitslasten zu verfolgen. Anhand dieser Daten können Sie Optimierungsmöglichkeiten ermitteln und Fortschritte bei der Erreichung von Nachhaltigkeitszielen melden.
  • Leistung: Beobachten Sie die Modellleistung in der Produktion kontinuierlich. Identifizieren Sie Probleme wie Data Drift, die darauf hindeuten können, dass das Modell noch einmal abgestimmt werden muss. Wenn Sie das Modell neu trainieren müssen, können Sie das ursprüngliche abgestimmte Modell als Ausgangspunkt verwenden und so viel Zeit, Geld und Energie bei den Updates sparen.
    • Verwenden Sie Cloud Monitoring, um Leistungsmesswerte zu verfolgen.
    • Verwenden Sie Ereignisannotationen, um Modelländerungen mit Verbesserungen bei den Leistungsmesswerten zu korrelieren.

Weitere Informationen zur Operationalisierung kontinuierlicher Verbesserungen finden Sie unter Nachhaltigkeit kontinuierlich messen und verbessern.

CO2-bewusste Planung implementieren

Entwerfen Sie Ihre ML-Pipeline-Jobs so, dass sie in Regionen mit dem saubersten Energiemix ausgeführt werden. Im Bericht „Carbon Footprint“ finden Sie die Regionen mit den geringsten CO2-Emissionen. Planen Sie ressourcenintensive Aufgaben als Batchjobs für Zeiträume ein, in denen das lokale Stromnetz einen höheren Anteil an CO2-freier Energie (Carbon-Free Energy, CFE) aufweist.

Datenpipelines optimieren

Für ML-Vorgänge und die Feinabstimmung ist ein sauberes, hochwertiges Dataset erforderlich. Bevor Sie ML-Jobs starten, bereiten Sie die Daten mit verwalteten Datenverarbeitungsdiensten effizient vor. Verwenden Sie beispielsweise Dataflow für Streaming und Batchverarbeitung und verwenden Sie Managed Service for Apache Spark für verwaltete Spark- und Hadoop-Pipelines. Eine optimierte Datenpipeline trägt dazu bei, dass Ihre Arbeitslast für die Feinabstimmung nicht auf Daten warten muss. So können Sie die Ressourcenauslastung maximieren und Energieverschwendung reduzieren.

MLOps nutzen

Implementieren Sie ML-Vorgänge (MLOps), um den gesamten ML-Lebenszyklus zu automatisieren und zu verwalten. Diese Praktiken tragen dazu bei, dass Modelle kontinuierlich beobachtet, validiert und effizient neu bereitgestellt werden. So können Sie unnötiges Training oder unnötige Ressourcenzuweisungen vermeiden.

Verwaltete Dienste verwenden

Verwenden Sie anstelle der Verwaltung Ihrer eigenen Infrastruktur verwaltete Cloud-Dienste wie die Gemini Enterprise Agent Platform. Die Cloud-Plattform übernimmt die zugrunde liegende Ressourcenverwaltung, sodass Sie sich auf den Feinabstimmungsprozess konzentrieren können. Verwenden Sie Dienste, die integrierte Tools für die Hyperparameter-Abstimmung, das Modellmonitoring und die Ressourcenverwaltung enthalten.

Nächste Schritte

Zurück
Regionen mit geringem CO₂-Ausstoß verwenden
Weiter
Ressourcennutzung optimieren