Ein flüchtiges Laufwerk für Cloud Run-Jobs konfigurieren

Vorschau – Mit Cloud Run-Volume-Bereitstellungen ein flüchtiges Laufwerk bereitstellen

Diese Funktion unterliegt den „Bedingungen für Pre-GA-Angebote“ im Abschnitt „Allgemeine Dienstbedingungen“ der dienstspezifischen Nutzungsbedingungen. Pre-GA‑Funktionen stehen in der vorliegenden Form zur Verfügung und bieten möglicherweise nur eingeschränkten Support. Weitere Informationen finden Sie unter den Beschreibungen der Startphase.

Cloud Run bietet ein flüchtiges Laufwerk-Volume, das nur für die Dauer Ihrer Instanz verfügbar ist. Mit dieser Funktion können Sie die benötigte Festplattenkapazität und den Speicherort für die Bereitstellung angeben. Cloud Run weist Ihrer Ressource dann diese Menge an Speicherplatz zu.

Laufwerke werden beim Start automatisch bereitgestellt, mit ext4 vorformatiert und mit instanzspezifischen Schlüsseln verschlüsselt. Bei einem flüchtigen Laufwerk wird das Volume so erstellt, dass jeder Nutzer darauf zugreifen kann. Da der Speicher kurzlebig ist, werden alle Daten beim Herunterfahren der Instanz dauerhaft gelöscht. Dazu gehören Stillstände aufgrund von:

• Instanz stürzt ab
• Abschluss von Jobaufgaben (erfolgreich oder Fehler)

Festplatten sind einer bestimmten Instanz zugeordnet und werden nicht für andere Instanzen freigegeben. Sie haben die Kontrolle über die Dateisystemstruktur mit einem konfigurierbaren Bereitstellungspunkt für jedes Volume.

Bevor Sie eine Instanz herunterfahren, sendet Cloud Run ein SIGTERM-Signal an alle Container in einer Instanz, das den Beginn eines Zeitraums von 10 Sekunden vor dem tatsächlichen Herunterfahren angibt. An diesem Punkt sendet Cloud Run ein SIGKILL-Signal. Sie können dieses 10-Sekunden-Zeitfenster nutzen, um Bereinigungsvorgänge durchzuführen, z. B. eine letzte Runde zum Kopieren von Festplatteninhalten in den nichtflüchtigen Speicher.

Anwendungsfälle

Sie können flüchtige Laufwerke für Folgendes verwenden:

• Arbeitslasten für die Datenverarbeitung: Wenn Sie große Datendateien in Cloud Run verarbeiten, speichern Sie die gesamte Datei in der Regel im Arbeitsspeicher oder teilen sie in kleinere Teile auf. Mit temporärem Speicher müssen Sie nicht für große Mengen an Arbeitsspeicher bezahlen, um eine temporäre lokale Kopie Ihrer Daten zu erstellen. Außerdem können Sie größere Datasets verarbeiten.
• Caching: Bei Anwendungsfällen für Webserver kann das Cachen von Daten auf dem Laufwerk anstelle des Abrufens aus dem Remote-Speicher die Latenz Ihrer Anwendung optimieren.

Speicher- und Instanzlimits

Die folgenden Begrenzungen gelten:

• Speicherlimit für Instanzen: Jede Instanz ist standardmäßig auf insgesamt 10 GB Speicherplatz beschränkt. Fordern Sie bei Bedarf eine Kontingenterhöhung an.
• Instanzvolumenlimit: Jede Instanz ist auf maximal 10 Volumes beschränkt.
• Projektlimit: Jedes Projekt ist standardmäßig auf 100 GB pro Region beschränkt. Fordern Sie bei Bedarf eine Kontingenterhöhung an.

Kontingenterhöhung anfordern

Projekten, die zum ersten Mal ein flüchtiges Cloud Run-Laufwerk in einer Region verwenden, werden automatisch 10 GB pro Instanz und Region sowie 100 GB pro Projekt und Region zugewiesen.

Wenn Sie zusätzliche Kapazität benötigen, müssen Sie eine Kontingenterhöhung für Ihren Cloud Run-Job anfordern. Über die Links in den folgenden Schaltflächen können Sie das benötigte Kontingent anfordern.

Aktuelles Kontingent	Kontingentlink
10 GB pro Instanz	Höheres Kontingent pro Instanz anfordern
100 GB pro Projekt	Höheres Kontingent pro Projekt anfordern

Weitere Informationen zum Anfordern von Kontingenterhöhungen finden Sie unter Kontingent erhöhen.

Beschränkungen

Es gelten folgende Einschränkungen:

• Das flüchtige Laufwerk ist nur in der Ausführungsumgebung der zweiten Generation verfügbar. Standardmäßig verwenden Cloud Run-Jobs die Ausführungsumgebung der zweiten Generation.
• Die Live-Migration wird nicht unterstützt. Das bedeutet, dass Cloud Run-Jobs weniger zuverlässig sind, insbesondere Jobs mit langer Ausführungszeit.

Unzulässige Pfade

Mit Cloud Run können Sie kein Volume unter /dev, /proc oder /sys oder in deren Unterverzeichnissen bereitstellen.

Unterstützte Regionen

Die Funktion für flüchtige Laufwerke ist in den folgenden Regionen verfügbar:

• Für Nicht-GPU-Arbeitslasten ist das flüchtige Laufwerk in folgenden Fällen verfügbar:
  • asia-northeast1 (Tokio)
  • europe-west1 (Belgien) Niedriger CO₂-Ausstoß
  • northamerica-northeast1 (Montreal) Niedriger CO₂-Ausstoß
  • northamerica-northeast2 (Toronto) Niedriger CO₂-Ausstoß
  • us-central1 (Iowa) Niedriger CO₂-Ausstoß
  • us-east1 (South Carolina)
  • us-east4 (Northern Virginia)
  • us-west1 (Oregon) Niedriger CO₂-Ausstoß
• Wenn Sie GPUs verwenden, ist das flüchtige Laufwerk in allen Regionen verfügbar, die GPUs unterstützen.

Hinweis

Melden Sie sich in Ihrem Google Cloud -Konto an. Wenn Sie mit Google Cloudnoch nicht vertraut sind, erstellen Sie ein Konto, um die Leistungsfähigkeit unserer Produkte in der Praxis sehen und bewerten zu können. Neukunden erhalten außerdem ein Guthaben von 300 $, um Arbeitslasten auszuführen, zu testen und bereitzustellen.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

1. Installieren und initialisieren Sie die gcloud CLI.
2. Aktualisieren Sie die Komponenten:

   gcloud components update

3. Informationen zu CPU, Arbeitsspeicher und ausgehendem Netzwerktraffic finden Sie auf der Preisseite für Cloud Run. Die gesamte Größe des bereitgestellten Laufwerks und die Lebensdauer der Instanz, die es verwendet, tragen zu Ihren Kosten bei.

Erforderliche Rollen

Bitten Sie Ihren Administrator, Ihnen die folgenden IAM-Rollen zuzuweisen, um die Berechtigungen zu erhalten, die Sie zum Konfigurieren eines flüchtigen Laufwerks benötigen:

• Cloud Run-Entwickler (roles/run.developer) im Cloud Run-Job
• Dienstkontonutzer (roles/iam.serviceAccountUser) für die Dienstidentität

Eine Liste der IAM-Rollen und -Berechtigungen im Zusammenhang mit Cloud Run finden Sie unter IAM-Rollen für Cloud Run und IAM-Berechtigungen für Cloud Run. Wenn Ihr Cloud Run-Job mitGoogle Cloud APIs wie Cloud-Clientbibliotheken verknüpft ist, lesen Sie die Konfigurationsanleitung für Dienstidentitäten. Weitere Informationen zum Zuweisen von Rollen finden Sie unter Bereitstellungsberechtigungen und Zugriff verwalten.

Flüchtiges Laufwerk erstellen und bereitstellen

Sie können ein flüchtiges Laufwerk mit der Google Cloud -Konsole oder der Google Cloud CLI erstellen und bereitstellen:

Console

1. Wechseln Sie in der Google Cloud -Console zur Seite Cloud Run-Jobs:

   Zu Cloud Run

2. Klicken Sie auf Container bereitstellen, um die Seite mit den anfänglichen Jobeinstellungen auszufüllen. Wenn Sie einen vorhandenen Job konfigurieren, wählen Sie den Job aus und klicken Sie dann auf Jobkonfiguration ansehen und bearbeiten.

3. Klicken Sie auf Container, Verbindungen, Sicherheit, um die Seite mit den Jobattributen zu maximieren.

4. Klicken Sie auf den Tab Container.

   

   • Unter Ressourcen:
     • Wählen Sie Flüchtiges Laufwerk aus.
     • Geben Sie im Menü die Größe des temporären Laufwerks an.
     • Geben Sie den Bereitstellungspfad ein.

5. Klicken Sie auf Erstellen oder Aktualisieren.

gcloud

So fügen Sie ein Volume hinzu und stellen es bereit:

gcloud beta run jobs update JOB \
    --add-volume=name=VOLUME_NAME,type=ephemeral-disk,size=SIZE \
    --add-volume-mount=volume=VOLUME_NAME,mount-path=MOUNT_PATH

Ersetzen Sie Folgendes:

• JOB: der Name des Jobs.
• VOLUME_NAME: der Name, den Sie dem Volume geben möchten.
• SIZE: die Laufwerksgröße, z. B. 100Gi. Die Größe muss für ephemeral-disk-Volumes mindestens 10Gi betragen.
• MOUNT_PATH: Der relative Pfad, unter dem Sie das Volume bereitstellen, z. B. /mnt/my-volume.

Lesen und Schreiben auf ein Volume

Wenn Sie das Cloud Run-Feature zur Volume-Bereitstellung verwenden, greifen Sie mit denselben Bibliotheken in Ihrer Programmiersprache auf ein bereitgestelltes Volume zu, mit denen Sie Dateien auf Ihrem lokalen Dateisystem lesen und schreiben.

Dies ist besonders nützlich, wenn Sie einen vorhandenen Container verwenden, der erwartet, dass Daten im lokalen Dateisystem gespeichert werden und ein reguläres Dateisystem für den Zugriff darauf verwendet.

In den folgenden Snippets wird davon ausgegangen, dass ein Volume bereitgestellt wird, bei dem mountPath auf /mnt/my-volume festgelegt ist.

Node.js

Verwenden Sie das Dateisystemmodul, um eine neue Datei zu erstellen oder Anhänge einer vorhandenen Datei im Volume /mnt/my-volume hinzuzufügen:

var fs = require('fs');
fs.appendFileSync('/mnt/my-volume/sample-logfile.txt', 'Hello logs!', { flag: 'a+' });

Python

So schreiben Sie in eine Datei, die im Volume /mnt/my-volume gespeichert ist:

f = open("/mnt/my-volume/sample-logfile.txt", "a")

Go

Verwenden Sie das Paket os, um eine neue Datei im Volume /mnt/my-volume zu erstellen:

f, err := os.Create("/mnt/my-volume/sample-logfile.txt")

Java

Verwenden Sie die Klasse Java.io.File, um eine Logdatei im Volume /mnt/my-volume zu erstellen:

import java.io.File;
File f = new File("/mnt/my-volume/sample-logfile.txt");

Volumes und Volume-Mounts löschen und entfernen

Sie können alle Volumes und Bereitstellungen löschen oder einzelne Volumes und Volume-Bereitstellungen entfernen.

Alle Volumes und Volume-Bereitstellungen löschen

Führen Sie den folgenden Befehl aus, um alle Volumes und Volume-Bereitstellungen aus Ihrem Job mit einem einzelnen Container zu entfernen:

gcloud run jobs update JOB \
    --clear-volumes
    --clear-volume-mounts

Wenn Sie mehrere Container haben, folgen Sie den Sidecars-CLI-Konventionen, um Volumes und Volume-Bereitstellungen zu löschen:

gcloud run jobs update JOB \
    --clear-volumes \
    --clear-volume-mounts \
    --container=container1 \
    --clear-volumes \
    -–clear-volume-mounts \
    --container=container2 \
    --clear-volumes \
    -–clear-volume-mounts

Einzelne Volumes und Volume-Mounts entfernen

Wenn Sie ein Volume entfernen möchten, müssen Sie auch alle Einbindungspunkte für dieses Volume entfernen.

Verwenden Sie die Flags remove-volume und remove-volume-mount, um einzelne Volumes oder Volume-Bereitstellungen zu entfernen:

gcloud run jobs update JOB \
    --remove-volume VOLUME_NAME
    --container=container1 \
    --remove-volume-mount MOUNT_PATH \
    --container=container2 \
    --remove-volume-mount MOUNT_PATH

Best Practices

Halten Sie sich an die folgenden Best Practices, um temporäre Daten effektiv zu verwalten und die Speicherleistung zu optimieren.

In nichtflüchtigen Speicher kopieren

Wenn Sie den Inhalt des flüchtigen Laufwerks in nichtflüchtigen Speicher wie einen Cloud Storage-Bucket kopieren möchten, empfehlen wir, die Daten inkrementell zu kopieren, anstatt sich auf den 10-sekündigen Kulanzzeitraum von SIGTERM bis SIGKILL zu verlassen. Weitere Informationen zu erzwungenen Herunterfahrvorgängen finden Sie im Containerlaufzeitvertrag.

Cloud Run kann ohne zusätzliche Netzwerkeinrichtung Daten aus Cloud Storage lesen und in Cloud Storage schreiben. Für eine optimale Leistung empfehlen wir, den Traffic zu und von Cloud Storage über ein VPC-Netzwerk mit Direct VPC zu leiten.

Diese Methode funktioniert, wenn die Cloud Run-Ressource keinen Zugriff auf das Internet benötigt. Wenn Sie Internetzugriff benötigen, richten Sie entweder Cloud NAT ein oder lesen Sie den Abschnitt Interner Traffic zu einer Google API.

Führen Sie die folgenden Schritte aus, um ausgehenden Direct VPC-Traffic für einen Job zu konfigurieren:

1. Rufen Sie in der Google Cloud Console die Seite „Cloud Run“ auf:

   Zu Cloud Run

2. Wenn Sie einen neuen Job konfigurieren, klicken Sie auf den Tab Jobs und wählen Sie Container bereitstellen aus. Füllen Sie die Seite mit den anfänglichen Jobeinstellungen wie gewünscht aus. Wenn Sie einen vorhandenen Job konfigurieren, klicken Sie auf den Job und dann auf Jobkonfiguration ansehen und bearbeiten.

3. Klicken Sie auf Container, Verbindungen, Sicherheit, um die Seite mit den Jobattributen zu maximieren.

4. Klicken Sie auf den Tab Verbindungen.

5. Klicken Sie auf Mit einer VPC für ausgehenden Traffic verbinden.

6. Klicken Sie auf Traffic direkt an eine VPC senden.

7. Wählen Sie im Feld Netzwerk das VPC-Netzwerk aus, an das Sie Traffic senden möchten.

8. Wählen Sie im Feld Subnetz das Subnetz aus, von dem Ihr Job IP-Adressen empfängt. Sie können mehrere Jobs im selben Subnetz ausführen.

9. Wählen Sie unter Traffic-Routing die Option Gesamten Traffic an die VPC weiterleiten aus, um den gesamten ausgehenden Traffic über das VPC-Netzwerk zu senden.

10. Klicken Sie auf Erstellen oder Aktualisieren.

11. Klicken Sie auf den Job und dann auf den Tab Konfiguration, um zu prüfen, ob sich der Job in Ihrem VPC-Netzwerk befindet. Netzwerk und Subnetz werden auf der VPC-Karte aufgeführt.

12. Aktivieren Sie Privater Google-Zugriff für das Subnetz, mit dem Sie eine Verbindung hergestellt haben.

Fehlerbehebung

Wenn Sie beim Herunterladen einer großen Datenmenge auf Ihr flüchtiges Laufwerk langsame Netzwerkgeschwindigkeiten feststellen, folgen Sie der Anleitung zum Aktivieren von Direct VPC. Wenn Direct VPC nicht aktiviert ist, sind die Netzwerkübertragungsraten langsamer.