KI‑ und ML-Arbeitslasten mit Cloud Storage FUSE optimieren

Last reviewed 2026-11-11 UTC

In diesem Dokument finden Sie Referenzarchitekturen, die zeigen, wie Sie mit Cloud Storage FUSE die Leistung von KI- und ML-Arbeitslasten in der Google Kubernetes Engine (GKE) optimieren können.

Die Zielgruppe für dieses Dokument umfasst Architekten und technische Fachkräfte, die Speicher für ihre KI- und ML-Arbeitslasten in Google Cloudentwerfen, bereitstellen und verwalten. In diesem Dokument wird davon ausgegangen, dass Sie mit dem ML-Lebenszyklus, den Prozessen und den Funktionen vertraut sind.

Cloud Storage FUSE ist ein Open-Source-FUSE, mit dem Sie Cloud Storage-Buckets als lokale Dateisysteme bereitstellen können. Mit dieser Konfiguration können Anwendungen mithilfe der Standardsemantik des Dateisystems nahtlos mit cloudbasierten Speicher-Buckets interagieren. Mit Cloud Storage FUSE können Sie die Skalierbarkeit und Kosteneffizienz von Cloud Storage nutzen.

Architektur

Je nach Ihren Anforderungen an Leistung, Verfügbarkeit und Notfallwiederherstellung (Disaster Recovery, DR) können Sie einen der folgenden Bereitstellungsarchetypen von Google Cloudauswählen, um Ihre KI- und ML-Arbeitslasten in Google Cloudauszuführen:

  • Regional: Ihre Anwendungen werden unabhängig voneinander in einer einzelnenGoogle Cloud-Region ausgeführt. Wir empfehlen diesen Bereitstellungs-Archetyp für Anwendungen, die nicht geschäftskritisch sind, aber vor zonalen Ausfällen geschützt sein müssen.
  • Multiregional: Ihre Anwendungen werden unabhängig voneinander in zwei oder mehr Google Cloud -Regionen ausgeführt, entweder im Aktiv/Aktiv- oder im Aktiv/Passiv-Modus. Dieser Bereitstellungs-Archetyp ist ideal für die Unterstützung von Notfallwiederherstellungsszenarien. Wir empfehlen diesen Bereitstellungs-Archetyp für geschäftskritische Anwendungen, die eine Ausfallsicherheit bei regionalen Ausfällen und Notfällen benötigen. Biregionale oder multiregionale Bereitstellungen können die Latenz reduzieren und den Durchsatz verbessern, da die Ressourcen näher beieinander liegen.

Der von Ihnen gewählte Bereitstellungsarchetyp bestimmt die Produkte und Funktionen von Google Cloud , die Sie für Ihre Architektur benötigen. Die multiregionale Architektur verwendet Rapid Cache, um die Netzwerkbandbreite zu erhöhen und im Vergleich zu einem regionalen Bucket zonale Cache-Treffer mit geringerer Latenz zu ermöglichen. Rapid Cache wird für leselastige Arbeitslasten mit Daten empfohlen, die sich selten ändern. Rapid Cache hilft, die Gebühren für die Datenübertragung im Vergleich zu den Kosten für das direkte Lesen aus einem multiregionalen Bucket zu reduzieren. Wenn Sie wissen möchten, ob Rapid Cache für Ihre Arbeitslast geeignet ist, können Sie mit dem Rapid Cache-Recommender Ihre Datennutzung und Ihren Speicher analysieren.

Die folgenden Tabs enthalten Referenzarchitekturen für die Archetypen für regionale und multiregionale Bereitstellungen:

Regional

Das folgende Diagramm zeigt eine regionale Beispielarchitektur, die Cloud Storage FUSE verwendet, um die Leistung der Workflows für Modelltraining und Modellbereitstellung zu optimieren:

Regionale Architektur, die Cloud Storage FUSE verwendet, um KI- und ML-Arbeitslasten zu optimieren.

Diese Architektur umfasst die folgenden Komponenten:

  • GKE-Cluster: GKE verwaltet die Compute-Knoten, auf denen die Trainings- und Bereitstellungsprozesse für Ihre KI- und ML-Modelle ausgeführt werden. Die GKE verwaltet die zugrunde liegende Infrastruktur der Kubernetes-Cluster, einschließlich der Steuerungsebene, Knoten und aller Systemkomponenten.
  • Kubernetes-Planer: Die GKE-Steuerungsebene plant Arbeitslasten und verwaltet deren Lebenszyklus, Skalierung und Upgrades. Der Kubernetes-Knoten-Agent (kubelet), der im Diagramm nicht dargestellt ist, kommuniziert mit der Steuerungsebene. Der kubelet-Agent ist für das Starten und Ausführen von Containern verantwortlich, die auf den GKE-Knoten geplant sind. Weitere Informationen zum Planer finden Sie unter KI-/ML-Orchestrierung in GKE.
  • VPC-Netzwerk (Virtual Private Cloud): Alle Google Cloud-Ressourcen in der Architektur verwenden ein einziges VPC-Netzwerk. Je nach Ihren Anforderungen können Sie eine Architektur erstellen, die mehrere Netzwerke verwendet. Weitere Informationen zum Konfigurieren eines VPC-Netzwerk für Cloud Storage FUSE finden Sie unter Entscheiden, ob mehrere VPC-Netzwerke erstellt werden sollen.
  • Cloud Load Balancing: In dieser Architektur verteilt Cloud Load Balancing eingehende Inferenzanfragen von Anwendungsnutzern effizient auf die Bereitstellungscontainer im GKE-Cluster. Weitere Informationen finden Sie unter Informationen zum GKE-Load-Balancing.
  • Grafikprozessoren (GPUs) oder Tensor Processing Units (TPUs): GPUs und TPUs sind spezialisierte Hardwarebeschleuniger, die die Leistung Ihrer KI- und ML-Arbeitslasten verbessern. Informationen zur Auswahl eines geeigneten Prozessortyps finden Sie weiter unten in diesem Dokument unter Beschleunigeroptionen.
  • Cloud Storage: Cloud Storage bietet persistenten, skalierbaren und kostengünstigen Speicher für Ihre KI- und ML-Arbeitslasten. Cloud Storage dient als zentrales Repository für Ihre Rohtrainings-Datasets, Modellprüfpunkte und finalen trainierten Modelle.
  • Cloud Storage FUSE mit aktiviertem Dateicache: Mit Cloud Storage FUSE können Sie einen Cloud Storage-Bucket als lokales Dateisystem bereitstellen. Der Datei-Cache in Cloud Storage FUSE ist ein Verzeichnis auf dem lokalen Computer, in dem häufig aufgerufene Dateien aus Ihren Cloud Storage-Buckets gespeichert werden. Der Cloud Storage FUSE-CSI-Treiber verwaltet die Einbindung von Cloud Storage FUSE in die Kubernetes API, um Cloud Storage-Buckets als Volumes zu nutzen.

In den folgenden Abschnitten wird der Workflow in den Trainings- und Bereitstellungsarbeitslasten der Architektur beschrieben.

Multiregional

Das folgende Diagramm zeigt eine multiregionale Beispielarchitektur, in der Cloud Storage FUSE und Rapid Cache verwendet werden, um die Leistung der Workflows für Modelltraining und Modellbereitstellung zu optimieren:

Multiregionale Architektur, die Cloud Storage FUSE verwendet, um KI- und ML-Arbeitslasten zu optimieren.

Diese Architektur umfasst die folgenden Komponenten:

  • GKE-Cluster: GKE verwaltet die Compute-Knoten, auf denen Ihre KI- und ML-Modelltrainings- und Bereitstellungsprozesse ausgeführt werden. Die GKE verwaltet die zugrunde liegende Infrastruktur der Kubernetes-Cluster, einschließlich der Steuerungsebene, der Knoten und aller Systemkomponenten.
  • Kubernetes-Planer: Die GKE-Steuerungsebene plant Arbeitslasten und verwaltet deren Lebenszyklus, Skalierung und Upgrades. Der Kubernetes-Knoten-Agent (kubelet), der im Diagramm nicht dargestellt ist, kommuniziert mit der Steuerungsebene. Der kubelet-Agent ist für das Starten und Ausführen von Containern verantwortlich, die auf den GKE-Knoten geplant sind. Weitere Informationen zum Planer finden Sie unter KI-/ML-Orchestrierung in GKE.
  • VPC-Netzwerk: Alle Google Cloud-Ressourcen in der Architektur verwenden ein einziges VPC-Netzwerk. Je nach Ihren Anforderungen können Sie eine Architektur erstellen, die mehrere Netzwerke verwendet. Weitere Informationen zum Konfigurieren eines VPC-Netzwerk für Cloud Storage FUSE finden Sie unter Entscheiden, ob mehrere VPC-Netzwerke erstellt werden sollen.
  • Cloud DNS: In multiregionalen Architekturen leitet Cloud DNS den Traffic an die Load Balancer weiter, um die Leistung und Verfügbarkeit durch Anycast-Routing zu optimieren. Anfragen werden automatisch an den nächsten Standort weitergeleitet, wodurch sich die Latenz verkürzt und die Leistung bei der Auflösung des autoritativen Namens für Ihre Nutzer verbessert wird. Informationen zu allgemeinen Prinzipien und Best Practices finden Sie unter Best Practices für Cloud DNS.
  • Cloud Load Balancing: In dieser Architektur verteilt Cloud Load Balancing eingehende Inferenzanfragen von Anwendungsnutzern effizient auf die Bereitstellungscontainer im GKE-Cluster. Weitere Informationen finden Sie unter Informationen zum GKE-Load-Balancing.
  • Grafikprozessoren (GPUs) oder Tensor Processing Units (TPUs): GPUs und TPUs sind spezialisierte Hardwarebeschleuniger, die die Leistung Ihrer KI- und ML-Arbeitslasten verbessern. Informationen zur Auswahl eines geeigneten Prozessortyps finden Sie weiter unten in diesem Dokument unter Beschleunigeroptionen.
  • Cloud Storage: Cloud Storage bietet persistenten, skalierbaren und kostengünstigen Speicher für Ihre KI- und ML-Arbeitslasten. Cloud Storage dient als zentrales Repository für Ihre Rohtrainings-Datasets, Modellprüfpunkte und finalen trainierten Modelle.
  • Cloud Storage FUSE: Mit Cloud Storage FUSE können Sie einen Cloud Storage-Bucket als lokales Dateisystem bereitstellen. Der Cloud Storage FUSE-CSI-Treiber, der im Diagramm nicht dargestellt ist, verwaltet die Einbindung von Cloud Storage FUSE in die Kubernetes API, um Cloud Storage-Buckets als Volumes zu nutzen.
  • Rapid Cache: Rapid Cache ist ein Feature von Cloud Storage, das einen SSD-gestützten zonalen schreibgeschützten Cache mit großer Kapazität für Cloud Storage-Buckets bietet. Während des Trainings und der Bereitstellung hilft Ihnen Rapid Cache, die Leselatenzen zu reduzieren und einen hohen Durchsatz zu erzielen. Das Limit für die Cache-Bandbreite wird mit der im Cache gespeicherten Datenmenge skaliert. Informationen zu unterstützten Regionen und Zonen finden Sie unter Daten in Zonen im Cache speichern.

In den folgenden Abschnitten wird der Workflow in den Trainings- und Bereitstellungsarbeitslasten der Architektur beschrieben.

Trainingsbelastung

In den vorherigen Architekturen sind die folgenden Schritte im Datenfluss während des Modelltrainings enthalten:

  1. Trainingsdaten in Cloud Storage laden: Trainingsdaten werden in einen Cloud Storage-Bucket mit aktivierten hierarchischen Namespaces hochgeladen. Cloud Storage dient als skalierbares zentrales Repository.
  2. Trainingsdaten laden und Trainingsjobs in GKE ausführen: Über den Cloud Storage-Bucket, der in Ihren GKE-Pods bereitgestellt ist, können Ihre Trainingsanwendungen die Trainingsdaten mithilfe der FUSE-Schnittstelle effizient laden und darauf zugreifen. Die GKE-Knoten führen den Modelltrainingsprozess aus und verwenden den bereitgestellten Datei-Cache als Datenquelle. Ihre Trainingsanwendungen speisen kontinuierlich Trainingsdaten in die Maschinenbeschleuniger ein, um die komplexen Berechnungen auszuführen, die für das Modelltraining erforderlich sind. Je nach den Anforderungen Ihrer Arbeitslast können Sie GPUs oder TPUs verwenden. Informationen zur Auswahl eines geeigneten Prozessortyps finden Sie weiter unten in diesem Dokument unter Beschleunigeroptionen.
  3. Prüfpunkte und Modelle speichern und wiederherstellen:

    • Prüfpunkte oder Modell speichern: Speichern Sie während des Trainings Prüfpunkte asynchron in kurzen Intervallen in einem separaten Cloud Storage-Bucket. Die Prüfpunkte erfassen den Status des Modells basierend auf von Ihnen definierten Messwerten oder Intervallen.
    • Prüfpunkte oder Modell wiederherstellen: Wenn Sie für Ihre Trainingsarbeitslast einen Prüfpunkt oder Modelldaten wiederherstellen müssen, müssen Sie das Asset, das Sie wiederherstellen möchten, in Cloud Storage finden. Sie können den wiederhergestellten Prüfpunkt oder das wiederhergestellte Modell verwenden, um das Training fortzusetzen, Parameter zu optimieren oder die Leistung anhand eines Validierungs-Datasets zu bewerten.

Arbeitslast bereitstellen

In den vorherigen Architekturen sind die folgenden Schritte im Datenfluss während der Modellbereitstellung enthalten:

  1. Modell laden: Nach Abschluss des Trainings laden Ihre Pods das trainierte Modell mithilfe von Cloud Storage FUSE mit aktivierten parallelen Downloads. Parallele Downloads beschleunigen das Laden des Modells, da die Teile des Modells parallel aus Cloud Storage abgerufen werden. Um die Ladezeiten des Modells erheblich zu verkürzen, wird das Cache-Verzeichnis als Prefetch-Zwischenspeicher verwendet.
  2. Inferenzanfrage: Bei der Nutzung der Anwendung werden Inferenzanfragen von der KI- und ML-Anwendung über den Cloud Load Balancing-Dienst gesendet. Cloud Load Balancing verteilt die eingehenden Anfragen auf die Bereitstellungscontainer im GKE-Cluster. Diese Verteilung trägt dazu bei, dass kein einzelner Container überlastet wird, sodass Anfragen effizient verarbeitet werden.
  3. Antwortbereitstellung: Die Knoten verarbeiten die Anfrage und generieren eine Vorhersage. Die Bereitstellungscontainer senden die Antworten über Cloud Load Balancing zurück und dann an die Anwendungsnutzer.

Verwendete Produkte

In den Referenzarchitekturen werden die folgenden Google Cloud -Produkte verwendet:

  • Google Kubernetes Engine (GKE): Ein Kubernetes-Dienst, mit dem Sie Containeranwendungen in großem Maßstab mithilfe der Infrastruktur von Google bereitstellen und betreiben können.
  • Cloud Storage: Ein kostengünstiger, unbegrenzter Objektspeicher für verschiedene Datentypen. Auf Daten kann von innerhalb und außerhalb von Google Cloudzugegriffen werden. Sie werden zu Redundanzzwecken über Standorte hinweg repliziert.
  • Virtual Private Cloud (VPC): Ein virtuelles System, das globale, skalierbare Netzwerkfunktionen für Ihre Google Cloud -Arbeitslasten bietet. VPC umfasst VPC-Netzwerk-Peering, Private Service Connect, Zugriff auf private Dienste und freigegebene VPC.
  • Cloud Load Balancing: Ein Portfolio von leistungsstarken, skalierbaren, globalen und regionalen Load-Balancern
  • Cloud DNS: Ein Dienst, der eine stabile DNS-Bereitstellung mit niedriger Latenz über das weltweite Google-Netzwerk bietet.

Anwendungsfall

Für KI- und ML-Arbeitslasten, die eine große Speicherkapazität und einen leistungsstarken Dateizugriff erfordern, empfehlen wir eine Architektur, die auf Cloud Storage FUSE basiert. Mit der richtigen Planung können Sie mit diesen Architekturen einen Durchsatz von über 1 TB/s erreichen. Außerdem können Sie mit Cloud Storage FUSE ein zentrales Speicher-Repository nutzen, das als zentrale Informationsquelle für alle Phasen des KI- und ML-Workflows dient. Dieser Ansatz kann für alle Arbeitslasten verwendet werden, unabhängig von ihrer Größe.

Für diese Arbeitslasten bietet Cloud Storage FUSE die folgenden Vorteile:

  • Vereinfachter Datenzugriff: Greifen Sie mit KI- und ML-Frameworks wie PyTorch, JAX und TensorFlow auf Trainingsdaten und Prüfpunkte zu. Der Zugriff auf Daten über KI- und ML-Frameworks macht die Refaktorierung von Code überflüssig.
  • Beschleunigter Start: Mit Cloud Storage FUSE können Sie direkt auf Daten in Cloud Storage zugreifen, sodass Sie keine großen Datasets in Rechenressourcen herunterladen müssen. Dieser direkte Zugriff auf Daten führt zu schnelleren Jobstartzeiten.
  • Kosteneffizienz: Optimieren Sie die Kosten, indem Sie die inhärente Skalierbarkeit und Kosteneffizienz von Cloud Storage nutzen.

Cloud Storage FUSE ist nicht für latenzempfindliche Arbeitslasten geeignet, die Dateien mit einer Größe von weniger als 50 MB enthalten oder eine Latenz von weniger als 1 Millisekunde für zufälligen E/A- und Metadatenzugriff erfordern.

Für datenintensive Trainings- oder Prüfpunkt- und Neustart-Arbeitslasten sollten Sie während der E/A-intensiven Trainingsphase eine Speicheralternative in Betracht ziehen.

Designalternativen

In den folgenden Abschnitten werden alternative Designansätze vorgestellt, die Sie für Ihre KI- und ML-Anwendung in Google Cloudin Betracht ziehen können.

Plattformalternative

Anstatt Ihren Modelltrainings- und Bereitstellungsworkflow in der GKE zu hosten, können Sie Compute Engine mit Slurm verwenden. Slurm ist ein hochgradig konfigurierbarer Open-Source-Arbeitslast- und Ressourcenmanager. Die Verwendung von Compute Engine mit Slurm eignet sich besonders für umfangreiches Modelltraining und Simulationen. Wir empfehlen die Verwendung von Compute Engine mit Slurm, wenn Sie proprietäres geistiges Eigentum (IP) für KI und ML in eine skalierbare Umgebung einbinden müssen, die die Flexibilität und Kontrolle bietet, um die Leistung für spezialisierte Arbeitslasten zu optimieren. Weitere Informationen zur Verwendung von Compute Engine mit Slurm finden Sie unter HPC-Cluster mit Slurm bereitstellen.

In Compute Engine stellen Sie Ihre virtuellen Maschinen (VMs) bereit und verwalten sie. So haben Sie die genaue Kontrolle über Instanztypen, Speicher und Netzwerke. Sie können Ihre Infrastruktur genau auf Ihre Anforderungen zuschneiden, einschließlich der Auswahl bestimmter VM-Maschinentypen. Informationen zur Verwendung der Cloud Storage FUSE-Befehlszeilenoptionen in Compute Engine finden Sie unter gcsfuse-Befehlszeile und Cloud Storage FUSE-Konfigurationsdatei. Sie können auch die beschleunigungsoptimierte Maschinenfamilie verwenden, um die Leistung Ihrer KI- und ML-Arbeitslasten zu verbessern. Weitere Informationen zu den in Compute Engine verfügbaren Maschinentypfamilien finden Sie im Leitfaden zu Ressourcen und Vergleichen für Maschinenfamilien.

Slurm bietet eine leistungsstarke Option zum Verwalten von KI- und ML-Arbeitslasten und ermöglicht es Ihnen, die Konfiguration und Verwaltung der Rechenressourcen zu steuern. Für diesen Ansatz benötigen Sie Fachwissen in der Slurm-Administration und der Linux-Systemverwaltung.

Beschleunigeroptionen

Maschinenbeschleuniger sind spezialisierte Prozessoren, die die Berechnungen für KI- und ML-Arbeitslasten beschleunigen. Sie können entweder GPUs oder TPUs auswählen.

  • GPU-Beschleuniger bieten eine hervorragende Leistung für eine Vielzahl von Aufgaben, darunter Grafikrendering, Deep-Learning-Training und wissenschaftliches Computing. Google Cloud bietet eine große Auswahl an GPUs für unterschiedliche Leistungs- und Preisanforderungen. GPUs enthalten in jeder Maschinenkonfiguration häufig lokale SSDs, die von Cloud Storage FUSE als Cache-Verzeichnis verwendet werden können. Informationen zu GPU-Modellen und Preisen finden Sie unter GPU-Preise.
  • TPUs sind speziell entwickelte KI-Beschleuniger, die für das Training und die Inferenz großer KI-Modelle optimiert sind. Sie eignen sich ideal für eine Vielzahl von Anwendungsfällen, z. B. Chatbots, Codegenerierung, Generierung von Medieninhalten, synthetische Sprache, Vision-Dienste, Empfehlungssysteme und Personalisierungsmodelle. Weitere Informationen zu TPU-Modellen und ‑Preisen finden Sie unter TPU-Preise.

Speicheralternativen

Cloud Storage FUSE bietet ein praktisches Dateisystem, mit dem Sie die Skalierbarkeit und Kosteneffizienz von Cloud Storage nutzen können. Cloud Storage FUSE ist jedoch nicht ideal für Arbeitslasten, die eine niedrige Latenz für das Lesen kleiner Dateien erfordern, oder für Arbeitslasten, die eine vollständig POSIX-konforme Speicherlösung erfordern. Für diese Anwendungsfälle empfehlen wir die folgenden Speicheralternativen:

  • Google Cloud Managed Lustre: Ein vollständig von Google Cloudverwaltetes, persistentes paralleles Dateisystem (PFS), das auf EXAScaler Lustre von DDN basiert. Managed Lustre bietet eine Latenz von weniger als einer Millisekunde und eine hohe Anzahl von Eingabe-/Ausgabevorgängen pro Sekunde (IOPS). Managed Lustre ist effektiv für die Migration vorhandener Arbeitslasten von Lustre oder anderen PFS-Lösungen. Wenn Sie die Leistung beim Checkpointing erhöhen möchten, können Sie Managed Lustre verwenden, um Cloud Storage FUSE mit Rapid Cache zu erweitern. Weitere Informationen finden Sie unter KI- und ML-Arbeitslasten mit Google Cloud Managed Lustre optimieren.
  • Connector for PyTorch: Ein Open-Source-Produkt in Cloud Storage, das sich ideal für Arbeitslasten eignet, die PyTorch verwenden. Der Connector for PyTorch optimiert Ihre Trainingsarbeitslast, indem Daten direkt aus Ihren Cloud Storage-Buckets gestreamt werden und kein Zwischenspeicher mehr erforderlich ist. Dieser direkte Zugriff und die Optimierung bieten eine deutlich bessere Leistung als direkte API-Aufrufe an Cloud Storage für das Laden von Daten, das Training und das Erstellen von Prüfpunkten.

Alternative Speicheroptionen können zwar Leistungsvorteile für bestimmte KI- und ML-Arbeitslasten bieten, es ist jedoch wichtig, Ihre Anforderungen an Latenz, Durchsatz und Speicherkapazität zu bewerten.

Einen umfassenden Vergleich der Speicheroptionen für KI- und ML-Arbeitslasten finden Sie unter Übersicht über Speicherdienste für KI- und ML-Arbeitslasten in AI Hypercomputer.

Designaspekte

In diesem Abschnitt finden Sie Best Practices und Überlegungen zum Design für die Konfiguration von Cloud Storage FUSE im Hinblick auf Sicherheit, Zuverlässigkeit, Kosten und Leistung. Die hier aufgeführten Empfehlungen sind zwar nicht vollständig, decken aber die wichtigsten Überlegungen ab, um die Vorteile von Cloud Storage FUSE in Ihrer Umgebung optimal zu nutzen. Abhängig von Ihren spezifischen Anforderungen und Arbeitslastmerkmalen müssen Sie möglicherweise zusätzliche Konfigurationsoptionen und Kompromisse berücksichtigen.

Die folgenden Designempfehlungen enthalten Konfigurationen, mit denen Sie die Bereitstellung von Cloud Storage FUSE in GKE optimieren können. Die meisten Cloud Storage FUSE-Optionen werden mit Bereitstellungsoptionen konfiguriert. Weitere Informationen zu den Befehlszeilenoptionen von Cloud Storage FUSE und ihrer Verwendung finden Sie in der folgenden Dokumentation:

Eine Übersicht über Architekturprinzipien und Empfehlungen, die speziell für KI- und ML-Arbeitslasten in Google Cloudgelten, finden Sie im Well-Architected Framework unter KI- und ML-Perspektive.

Sicherheit, Datenschutz und Compliance

In diesem Abschnitt werden Überlegungen zu Ihren KI- und ML-Arbeitslasten in Google Cloud beschrieben, die Ihre Sicherheits-, Datenschutz- und Compliance-Anforderungen erfüllen.

GKE-Überlegungen

Im Autopilot-Modus konfiguriert GKE Ihren Cluster vor und verwaltet Knoten gemäß den Best Practices für die Sicherheit. So können Sie sich auf die arbeitslastspezifische Sicherheit konzentrieren. Weitere Informationen finden Sie unter Sicherheitsmaßnahmen für GKE Autopilot.

Wenn Sie eine erweiterte Zugriffssteuerung für Ihre Anwendungen in GKE bereitstellen möchten, können Sie Identity-Aware Proxy (IAP) verwenden. IAP lässt sich in die GKE-Ingress-Ressource einbinden und hilft, den Zugriff auf authentifizierte Nutzer mit der entsprechenden IAM-Rolle (Identity and Access Management) zu beschränken. Weitere Informationen finden Sie unter IAP für GKE aktivieren.

Standardmäßig werden Ihre Daten in GKE im Ruhezustand und bei der Übertragung mit Google-owned and Google-managed encryption keysverschlüsselt. Als zusätzliche Sicherheitsebene für sensible Daten können Sie Daten auf der Anwendungsebene mit einem Schlüssel verschlüsseln, den Sie besitzen und mit dem Cloud Key Management Service verwalten. Weitere Informationen finden Sie unter Secrets auf Anwendungsebene verschlüsseln.

Wenn Sie einen GKE-Standardcluster verwenden, können Sie die folgenden zusätzlichen Datenverschlüsselungsfunktionen nutzen:

Überlegungen zu Cloud Storage

Standardmäßig werden die in Cloud Storage gespeicherten Daten mit Google-owned and Google-managed encryption keysverschlüsselt. Bei Bedarf können Sie kundenverwaltete Verschlüsselungsschlüssel (CMEKs) oder Ihre eigenen Schlüssel verwenden, die Sie mithilfe einer externen Verwaltungsmethode wie vom Kunden bereitgestellte Verschlüsselungsschlüssel (Customer-Supplied Encryption Keys, CSEKs) verwalten. Weitere Informationen finden Sie unter Datenverschlüsselungsoptionen.

Cloud Storage bietet Ihnen zwei Systeme, um Nutzern die Berechtigung zum Zugriff auf Ihre Buckets und Objekte zu erteilen: IAM und Access Control Lists (ACLs). In den meisten Fällen empfehlen wir die Verwendung von IAM, mit dem Sie Berechtigungen auf Bucket- und Projektebene erteilen können. Weitere Informationen finden Sie unter Übersicht über die Zugriffssteuerung.

Die Trainingsdaten, die Sie über Cloud Storage laden, können sensible Daten enthalten. Zum Schutz solcher Daten können Sie die Daten mithilfe von Sensitive Data Protection ermitteln, klassifizieren und de-identifizieren. Wenn Sie Ihre Trainings- und Bereitstellungsarbeitslasten trennen möchten, speichern Sie Ihr Modell und Ihre Prüfpunkte in separaten Cloud Storage-Buckets. Diese Isolation trägt dazu bei, dass vertrauliche Informationen aus Ihrem Trainings-Dataset während der Bereitstellung nicht versehentlich offengelegt werden. Weitere Informationen finden Sie unter Sensitive Data Protection mit Cloud Storage verwenden.

Wenn Sie Anforderungen an den Datenstandort haben, kann Cloud Storage Sie dabei unterstützen, diese Anforderungen zu erfüllen. Die Daten werden in den von Ihnen angegebenen Regionen gespeichert oder repliziert.

Überlegungen zu Cloud Storage FUSE

Wenn Sie das Caching aktivieren, speichert Cloud Storage FUSE persistente Dateien aus Ihrem Cloud Storage-Bucket in einem unverschlüsselten Format in dem von Ihnen angegebenen Verzeichnis. Cloud Storage stellt alle Dateien für jeden Nutzer oder Prozess bereit, der Zugriff auf das Verzeichnis hat. Um diese Risiken zu minimieren und die Sicherheit zu verbessern, beschränkt die FUSE-Kernel-Ebene den Zugriff auf das Dateisystem auf den Nutzer, der das System bereitgestellt hat. Diese Einschränkung verweigert anderen Nutzern, einschließlich des Root-Nutzers, den Zugriff, auch wenn die Inode-Berechtigungen weniger restriktiv sind.

Es gibt jedoch Anwendungsfälle, in denen es erforderlich sein kann, die Standardzugriffsbeschränkungen zu überschreiben. In einer verteilten KI- und ML-Trainingsarbeitslast, bei der mehrere Knoten auf in Cloud Storage gespeicherte Prüfpunkte zugreifen und diese freigeben müssen, müssen Sie möglicherweise einen umfassenderen Zugriff zulassen. In solchen Fällen können Sie die Standardeinschränkung mit der Option -o allow_other überschreiben. Wenn Sie jedoch den Zugriff auf Ihre Dateien erweitern, können Sie Ihre Daten möglicherweise nicht autorisierten Nutzern zugänglich machen. Daher sollten Sie diese Option mit Vorsicht verwenden.

Standardmäßig gehören alle Inodes in einem Cloud Storage FUSE-Dateisystem dem Nutzer, der das Dateisystem bereitgestellt hat. Diese Standardeinstellungen sind zwar für viele Fälle geeignet, Sie können jedoch einen Sicherheitskontext für Ihren Pod anpassen. Informationen zum Anpassen eines Sicherheitskontexts finden Sie unter Sicherheit und Berechtigungen.

Weitere Sicherheitsaspekte

Sicherheitsgrundsätze und Empfehlungen speziell für KI- und ML-Arbeitslasten finden Sie im Well-Architected Framework unter KI- und ML-Perspektive: Sicherheit.

Zuverlässigkeit

Zur Verbesserung der Zuverlässigkeit bietet Cloud Storage FUSE automatische Wiederholungsversuche, um potenzielle Unterbrechungen zu beheben und die Datenkonsistenz aufrechtzuerhalten. Fehlgeschlagene Anfragen werden automatisch mit exponentiellem Backoff an Cloud Storage wiederholt. Beim exponentiellen Backoff wird die Zeit zwischen den Wiederholungen schrittweise erhöht. Dieser integrierte Mechanismus hilft Ihrer Anwendung, vorübergehende Netzwerkprobleme oder eine vorübergehende Nichtverfügbarkeit von Cloud Storage zu überwinden.

Cloud Storage FUSE bietet zwar viele Vorteile, aber beachten Sie Folgendes:

  • Gleichzeitige Schreibvorgänge: Wenn mehrere Nutzer versuchen, eine Datei zu ändern, hat der Vorgang Letzter Schreibvorgang gewinnt Vorrang und alle vorherigen Schreibvorgänge gehen verloren. Um die Datenintegrität zu wahren, empfehlen wir, dass ein einzelnes Objekt zu einem bestimmten Zeitpunkt nur von einer Quelle geändert wird.
  • Cache-Persistenz: Wenn Sie die Bereitstellung Ihres Buckets aufheben oder ihn neu starten, bleiben Caches nicht erhalten. Um potenzielle Sicherheitsprobleme zu vermeiden, müssen Sie das Dateicache-Verzeichnis manuell löschen, nachdem Sie die Bereitstellung Ihres Buckets aufgehoben oder ihn neu gestartet haben.
  • Prozesse mit dedizierten Caches: Cloud Storage FUSE unterstützt zwar den gleichzeitigen Zugriff für eine effiziente parallele Verarbeitung, aber die Caches sind für jeden Cloud Storage FUSE-Prozess spezifisch. Daher sollte dasselbe Cache-Verzeichnis nicht von verschiedenen Cloud Storage FUSE-Prozessen verwendet werden, die auf demselben oder verschiedenen Computern ausgeführt werden.

Weitere Überlegungen zur Zuverlässigkeit

Zuverlässigkeitsprinzipien und Empfehlungen speziell für KI- und ML-Arbeitslasten finden Sie im Well-Architected Framework unter KI- und ML-Perspektive: Zuverlässigkeit.

Kostenoptimierung

Dieser Abschnitt enthält Anleitungen zum Optimieren der Kosten für die Einrichtung und den Betrieb Ihres KI- und ML-Workflows in Google Cloud.

GKE-Überlegungen

Im Autopilot-Modus optimiert die GKE die Effizienz der Clusterinfrastruktur basierend auf den Arbeitslastanforderungen. Sie müssen die Ressourcenauslastung nicht ständig überwachen oder die Kapazität verwalten, um die Kosten zu kontrollieren.

Wenn Sie die CPU-, Arbeitsspeicher- und sitzungsspezifische Speichernutzung Ihres Autopilot-Clusters vorhersagen können, können Sie Rabatte für zugesicherte Nutzung erhalten. Wenn Sie die Kosten für die Ausführung Ihrer Anwendung senken möchten, können Sie Spot-VMs für Ihre GKE-Knoten verwenden. Spot-VMs sind günstiger als Standard-VMs, bieten aber keine Verfügbarkeitsgarantie.

Wenn Sie Kosten und Leistung durch effiziente Verwaltung optimieren möchten, verwenden Sie den Dynamic Workload Scheduler. Dynamic Workload Scheduler ist ein Ressourcenverwaltungs- und Jobplaner, mit dem Sie den Zugriff auf KI- und ML-Ressourcen verbessern können. Dynamic Workload Scheduler plant alle Ihre Beschleuniger gleichzeitig und kann außerhalb der Spitzenzeiten mit definierter Beschleunigerkapazitätsverwaltung ausgeführt werden. Durch die strategische Planung von Jobs trägt der Dynamic Workload Scheduler dazu bei, die Beschleunigernutzung zu maximieren, die Inaktivitätszeit zu reduzieren und letztendlich Ihre Cloud-Ausgaben zu optimieren.

Weitere Informationen zur Kostenoptimierung finden Sie unter Best Practices zum Ausführen kostenoptimierter Kubernetes-Anwendungen in GKE.

Überlegungen zu Cloud Storage

Ihre Anforderungen an KI- und ML-Speicher können sich ändern. Beispielsweise benötigen Sie möglicherweise eine erhebliche Speicherkapazität für Ihre Trainingsdaten, aber Ihr Kapazitätsbedarf sinkt für die Bereitstellung, bei der Sie hauptsächlich Modelldaten und Prüfpunkte speichern. Zur Kostenkontrolle empfehlen wir, die Verwaltung des Objektlebenszyklus und Autoclass zu aktivieren.

Mit der Verwaltung des Objektlebenszyklus können Sie ältere oder nicht verwendete Daten automatisch in kostengünstigere Speicherklassen verschieben oder sogar löschen, basierend auf den von Ihnen festgelegten Regeln.

Die Autoclass-Funktion verschiebt Daten basierend auf Ihren Zugriffsmustern automatisch zwischen Speicherklassen. Diese Funktion hilft, Leistung und Kosten in Einklang zu bringen.

Überlegungen zu Cloud Storage FUSE

Für Speicher, Metadatenvorgänge und Netzwerkverkehr, der durch Ihre FUSE-Aktivitäten generiert wird, fallen die standardmäßigen Cloud Storage-Gebühren an. Für die Verwendung von Cloud Storage FUSE fallen keine zusätzlichen Kosten an. Weitere Informationen zu gängigen Cloud Storage FUSE-Vorgängen und ihrer Zuordnung zu Cloud Storage-Vorgängen finden Sie in der Vorgangszuordnung.

Um die Kosten für Ihr Cache-Verzeichnis zu optimieren, können Sie vorhandene bereitgestellte Maschinenkapazität verwenden, einschließlich lokaler SSDs, nichtflüchtiger Speicher oder In-Memory-Daten für temporäre Dateisysteme. Wenn Sie vorhandene Maschinenkapazität verwenden, können Sie Gebühren für zusätzliche Speicherressourcen vermeiden. Außerdem können durch die Maximierung von Cache-Treffern die Cloud Storage-Kosten erheblich gesenkt werden, da für lokal bereitgestellte Daten keine Betriebs- oder Datenübertragungsgebühren anfallen.

Wenn Sie Cloud Storage FUSE-Profile in GKE verwenden, führt jedes Profil standardmäßig alle sieben Tage einen Hintergrundscan Ihres Buckets oder Unterverzeichnisses durch. Für diesen Scan fallen Cloud Storage-Vorgangsgebühren der Klasse A für das Auflisten von Objekten an. Außerdem wird mit dem Profil gcsfusecsi-serving automatisch Rapid Cache aktiviert, wodurch Rapid Cache-Gebühren anfallen.

Weitere Informationen zu den Gebühren finden Sie unter Cloud Storage – Preise.

Weitere Kostengesichtspunkte

Prinzipien und Empfehlungen zur Kostenoptimierung, die speziell für KI- und ML-Arbeitslasten gelten, finden Sie im Well-Architected Framework unter KI- und ML-Perspektive: Kostenoptimierung.

Leistungsoptimierung

Cloud Storage FUSE ist so konzipiert, dass es einen effizienten Zugriff auf Daten in Cloud Storage für Ihre KI- und ML-Arbeitslasten bietet. Häufige Metadatenanfragen können jedoch die Leistung beeinträchtigen, insbesondere in großen Clustern. Weitere Informationen zur Leistungsverbesserung finden Sie in der folgenden Dokumentation:

Zur Leistungsoptimierung können Sie die folgenden Konfigurationen in Betracht ziehen:

  • Leistungsoptimierung mit Profilen und Standardeinstellungen für Maschinentypen automatisieren: Anstatt einzelne Bereitstellungsoptionen manuell zu konfigurieren, können Sie profilbasierte Konfigurationen für Cloud Storage FUSE verwenden, um vorkonfigurierte Einstellungen für KI- und ML-Arbeitslasten anzuwenden. In GKE können Sie auch Cloud Storage FUSE-Profile in GKE mit vorinstalliertem StorageClasses verwenden. Außerdem wendet Cloud Storage FUSE automatisch optimierte Konfigurationsstandardwerte für leistungsstarke Maschinentypen an.
  • Hierarchische Namespaces aktivieren: Wenn Sie den Datenzugriff und die Organisation verbessern möchten, erstellen Sie Cloud Storage-Buckets mit aktivierten hierarchischen Namespaces. Mit hierarchischen Namespaces können Sie Daten in einer Dateisystemstruktur organisieren. Das verbessert die Leistung, hilft, die Konsistenz zu wahren, und vereinfacht die Verwaltung von KI- und ML-Arbeitslasten. Hierarchische Namespaces ermöglichen höhere anfängliche Abfragen pro Sekunde und schnelle atomare Verzeichnisumbenennungen.
  • Datei-Caching aktivieren: Datei-Caching beschleunigt den wiederholten Zugriff auf Trainingsdaten, indem ein lokales Knotenverzeichnis zum Zwischenspeichern häufig gelesener Dateien verwendet wird. Wenn wiederholte Lesevorgänge über ein Cache-Medium bereitgestellt werden, wird die Latenz reduziert und die Anzahl der Vorgänge, die an Cloud Storage zurückgegeben werden, minimiert. Auf GPU-Maschinentypen mit einer lokalen SSD wird das lokale SSD-Verzeichnis automatisch verwendet. Für Maschinentypen, die keine lokale SSD enthalten, z. B. TPUs, können Sie ein RAM-Laufwerkverzeichnis wie /tmpfs verwenden.
  • Metadaten-Cache-Werte erhöhen: Cloud Storage FUSE verwendet einen Statistik-Cache, um Objektmetadaten sowie Datei- und Verzeichnistypinformationen zu speichern. Dadurch wird die Leistung für Vorgänge verbessert, die mit Metadatensuchen zusammenhängen.
  • Metadaten-Cache vorab ausfüllen: Mit der Funktion zum Vorabrufen von Metadaten kann der Cloud Storage FUSE-CSI-Treiber proaktiv relevante Metadaten zu den Objekten in Ihrem Cloud Storage-Bucket in Cloud Storage FUSE-Caches laden. Dieser Ansatz reduziert die Aufrufe an Cloud Storage und ist besonders vorteilhaft für Anwendungen, die auf große Datasets mit vielen Dateien zugreifen, z. B. KI- und ML-Trainingsarbeitslasten. Erhöhen Sie das Speicherlimit des gke-gcsfuse-metadata-prefetch-Sidecars, um Unterbrechungen der Arbeitslast zu vermeiden.
  • Listen-Caching aktivieren: Mit Listen-Caching wird das Auflisten von Verzeichnissen und Dateien optimiert. Das ist besonders nützlich für KI- und ML-Trainingsarbeitslasten, bei denen häufig wiederholt auf ganze Verzeichnisse zugegriffen und diese aufgelistet werden müssen. Das Caching von Listen ermöglicht hocheffiziente Trainingsprozesse, da nicht mehr wiederholt auf Verzeichnislisten im Arbeitsspeicher Ihres Computers zugegriffen werden muss.
  • Parallele Downloads aktivieren: Parallele Downloads beschleunigen das anfängliche Laden des Modells, da mehrere Blöcke gleichzeitig in den lokalen Dateicache abgerufen werden. Wenn Sie parallele Downloads aktivieren, werden Modelle schneller geladen und die Reaktionsfähigkeit während der Bereitstellung verbessert. Cloud Storage FUSE aktiviert automatisch parallele Downloads, wenn Sie das Datei-Caching aktivieren.

    Das Cloud Storage FUSE-Bereitstellungsprofil deaktiviert den lokalen Dateicache für Arbeitslasten, die Modelle einmal in den GPU- oder TPU-Speicher laden, und verwendet gepufferte Lesevorgänge mit Rapid Cache in derselben Region. Verwenden Sie den lokalen Dateicache mit parallelen Downloads, wenn sich Ihr GKE-Cluster und Ihr Cloud Storage-Bucket in verschiedenen Regionen befinden.

  • Streaming-Schreibvorgänge aktivieren: Bei Streaming-Schreibvorgängen werden sequenzielle Schreibvorgänge für neue Dateien, z. B. Modellprüfpunkte, direkt in Cloud Storage hochgeladen, während die Daten geschrieben werden. Die gesamte Datei muss nicht zuerst in einem lokalen temporären Verzeichnis bereitgestellt werden. In der aktuellen Version von Cloud Storage FUSE sind Streaming-Schreibvorgänge standardmäßig aktiviert.

  • GKE-Sidecar-Ressourcen konfigurieren: Damit Ressourcenbeschränkungen die Leistung nicht beeinträchtigen, oder um einen Namespace-LimitRange zu überschreiben, können Sie die Sidecar-Container-Ressourcen konfigurieren.

  • Bereitstellung mit Lesezugriff: Da Trainingsarbeitslasten in der Regel nur Daten lesen müssen, konfigurieren Sie den Bereitstellungspunkt als schreibgeschützt, um eine optimale Leistung zu erzielen, insbesondere wenn Sie Datei-Caching verwenden. Diese Konfiguration trägt auch dazu bei, die Vorteile von Optimierungen in großen Clustern zu maximieren und potenzielle Dateninkonsistenzen zu vermeiden.

Weitere Hinweise zur Leistung

Prinzipien und Empfehlungen zur Leistungsoptimierung, die speziell für KI- und ML-Arbeitslasten gelten, finden Sie im Well-Architected Framework unter KI- und ML-Perspektive: Leistungsoptimierung.

Nächste Schritte

Beitragende

Autor: Samantha He | Technical Writer

Weitere Beitragende: