Geplante Snapshots konfigurieren

Cloud Composer 3 | Cloud Composer 2 | Cloud Composer 1

Auf dieser Seite wird beschrieben, wie Sie Ihre Umgebung so konfigurieren, dass Snapshots nach einem Zeitplan gespeichert werden.

Weitere Informationen zur Funktionsweise von Umgebungssnapshots und zum manuellen Speichern von Snapshots finden Sie unter Snapshots speichern und laden.

Funktionsweise von geplanten Snapshots

Wenn Sie geplante Snapshots aktivieren, speichert Cloud Composer regelmäßig Snapshots der Umgebung in einem Cloud Storage-Bucket.

Wenn Sie Snapshots manuell erstellen, speichert Cloud Composer sie standardmäßig im Bucket der Umgebung. Bei geplanten Snapshots empfehlen wir, Snapshots in einem separaten Bucket zu speichern. So können Sie Berechtigungen und eine Lebenszykluskonfiguration für diesen Bucket einrichten. Ein Bucket kann Snapshots aus mehreren Umgebungen enthalten. Sie können auch Buckets erstellen, die regionsübergreifend redundant sind.

Hinweise

• Weitere Informationen zu den Anforderungen und Einschränkungen für Snapshots finden Sie unter Snapshots speichern und laden.

Bucket für geplante Snapshots erstellen

Bucket für geplante Snapshots erstellen Überlegen Sie, wie Sie Umgebungssnapshots verwenden möchten. Wenn dies Teil Ihres Notfallwiederherstellungsplans ist, verwenden Sie einen Bucket, der regionsübergreifend redundant ist, oder einen Bucket in einer anderen Region, damit Sie auch bei einem vollständigen regionalen Ausfall auf die Daten zugreifen können. Andernfalls ist möglicherweise ein Bucket in derselben Region wie die Umgebung besser geeignet. In diesem Fall reduzieren Sie die Kosten für die Übertragung von Daten zwischen Regionen.

Berechtigungen für den Bucket konfigurieren

Warnung :Snapshots können vertrauliche Informationen wie Airflow-Verbindungs-Extras und Passwörter enthalten, die aus einem Umgebungssnapshot entschlüsselt werden können. Wir empfehlen, den Zugriff auf den Bucket nur auf vertrauenswürdige Entitäten zu beschränken.

Um dieses Sicherheitsrisiko zu minimieren, können Sie vertrauliche Informationen, die von Airflow-DAGs verwendet werden, z. B. Schlüssel oder Passwörter, in Secret Manager speichern. Weitere Informationen finden Sie unter Secret Manager für Ihre Umgebung konfigurieren.

Konfigurieren Sie die folgenden Berechtigungen:

• Das Dienstkonto Ihrer Umgebung muss Lese- und Schreibberechtigungen für diesen Bucket haben. Die Rolle „Storage-Objekt-Administrator“ hat beispielsweise solche Berechtigungen.

• Nutzerkonten benötigen keine zusätzlichen Berechtigungen für den Bucket, um Snapshots daraus zu laden, es sei denn, Sie möchten die Inhalte des Buckets über die Google Cloud -Konsole aufrufen. In diesem Fall muss ein Nutzerkonto Leseberechtigung für den Bucket haben.

Lebenszykluskonfiguration für den Bucket festlegen

Um Speicherkosten zu sparen, können Sie eine Regel konfigurieren, mit der Umgebungs-Snapshots nach einem bestimmten Zeitraum gelöscht werden.

So löschen Sie beispielsweise automatisch Snapshots, die älter als 30 Tage sind:

1. Legen Sie eine Lebenszykluskonfiguration für den Bucket fest.
2. Geben Sie die Aktion Objekt löschen an.
3. Wählen Sie Alter und 30 Tage als Bedingung aus.

Snapshot-Zeitplan für Ihre Umgebung aktivieren

Console

1. Rufen Sie in der Google Cloud Console die Seite Umgebungen auf.

   Zur Seite Umgebungen

2. Klicken Sie in der Liste der Umgebungen auf den Namen Ihrer Umgebung. Die Seite Umgebungsdetails wird geöffnet.

3. Rufen Sie den Tab Umgebungskonfiguration auf.

4. Klicken Sie unter Wiederherstellungskonfiguration > Snapshot-Zeitplan auf Bearbeiten. Der Bereich Snapshot-Zeitplan wird geöffnet.

5. Wählen Sie im Bereich Snapshot-Zeitplan die Option Snapshots regelmäßig anhand des angegebenen Zeitplans erstellen aus.

6. Wählen Sie in der Drop-down-Liste Häufigkeit des Zeitplans für Snapshots „Täglich“, „Wöchentlich“ oder einen benutzerdefinierten Zeitraum aus.

   Sie können einen benutzerdefinierten Zeitplan im unix-cron-Format angeben. Wenn Sie beispielsweise alle 30 Minuten Schnappschüsse speichern möchten, geben Sie */30 * * * * an.

7. Wählen Sie im Feld Snapshot-Speicherort den Bucket-Ordner aus, in dem Sie Snapshots speichern möchten.

gcloud

Aktualisieren Sie die Konfiguration Ihrer Umgebung. Mit den folgenden Argumenten werden Parameter für geplante Snapshots definiert:

• Mit --enable-scheduled-snapshot-creation werden geplante Snapshots aktiviert.
• --snapshot-location gibt einen Bucket-Ordner an, in dem Sie Snapshots speichern möchten.

• --snapshot-creation-schedule gibt an, wie oft Umgebungssnapshots im unix-cron-Format erstellt werden müssen. Wenn Sie beispielsweise alle 30 Minuten einen Snapshot erstellen möchten, geben Sie */30 * * * * an.

• --snapshot-schedule-timezone definiert eine Zeitzone für den Zeitplan. Dieser Wert ist ein Zeitversatz und berücksichtigt keine Änderungen durch die Sommerzeit. Gültige Werte liegen zwischen UTC-12 und UTC+12. Beispiele: UTC, UTC-01, UTC+03.

gcloud composer environments update ENVIRONMENT_NAME \
    --location LOCATION \
    --enable-scheduled-snapshot-creation \
    --snapshot-location "gs://SNAPSHOTS_FOLDER" \
    --snapshot-creation-schedule "CRON_EXPRESSION" \
    --snapshot-schedule-timezone "TIME_ZONE"

Ersetzen Sie:

• ENVIRONMENT_NAME durch den Namen der Umgebung.
• LOCATION durch die Region, in der sich die Umgebung befindet.
• SNAPSHOTS_FOLDER durch den URI eines Bucket-Ordners, in dem der Snapshot gespeichert werden soll.
• CRON_EXPRESSION durch den Zeitplan im unix-cron-Format.
• TIME_ZONE durch eine Zeitzone für den Zeitplan.

Beispiel (jeden Tag um 4:00 Uhr, UTC+01):

gcloud composer environments update example-environment \
    --location us-central1 \
    --enable-scheduled-snapshot-creation \
    --snapshot-location "gs://example-bucket/environment_snapshots" \
    --snapshot-creation-schedule "0 4 * * *" \
    --snapshot-schedule-timezone "UTC+01"

API

Erstellen Sie eine API-Anfrage environments.patch.

In dieser Anfrage:

1. Geben Sie im Parameter updateMask die Maske config.recoveryConfig.scheduledSnapshotsConfig an, um die vorhandene Konfiguration für geplante Snapshots zu ersetzen.

2. Geben Sie im Anfragetext die Konfiguration für Snapshots an:

   {
     "config": {
       "recoveryConfig": {
         "scheduledSnapshotsConfig": {
           "enabled": true,
           "snapshot_location": "gs://SNAPSHOTS_FOLDER",
           "snapshot_creation_schedule": "CRON_EXPRESSION",
           "time_zone": "TIME_ZONE"
         }
       }
     }
   }
   

   Ersetzen Sie:

   • SNAPSHOTS_FOLDER durch den URI eines Bucket-Ordners, in dem der Snapshot gespeichert werden soll.

   • CRON_EXPRESSION durch den Zeitplan im unix-cron-Format.

   • TIME_ZONE durch eine Zeitzone für den Zeitplan. Dieser Wert ist ein Zeitversatz und berücksichtigt keine Änderungen durch die Umstellung auf Sommerzeit. Gültige Werte liegen zwischen UTC-12 und UTC+12. Beispiele: UTC, UTC-01, UTC+03.

   Beispiel (jeden Tag um 4:00 Uhr, UTC+01):

     // PATCH https://composer.googleapis.com/v1/projects/example-project/
     // locations/us-central1/environments/example-environment?updateMask=
     // config.recoveryConfig.scheduledSnapshotsConfig
       {
         "config": {
           "recoveryConfig": {
             "scheduledSnapshotsConfig": {
               "enabled": true,
               "snapshot_location": "gs://example-bucket/environment_snapshots",
               "snapshot_creation_schedule": "0 4 * * *",
               "time_zone": "UTC+01"
             }
           }
         }
       }
   

Terraform

Mit dem scheduled_snapshots_config-Block im recovery_config-Block werden Parameter für geplante Snapshots definiert:

• Mit enabled werden geplante Snapshots aktiviert.
• snapshot_location gibt einen Bucket-Ordner an, in dem Sie Snapshots speichern möchten.
• snapshot_creation_schedule gibt an, wie oft Umgebungssnapshots im unix-cron-Format erstellt werden müssen. Wenn Sie beispielsweise alle 30 Minuten einen Snapshot erstellen möchten, geben Sie */30 * * * * an.

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "ENVIRONMENT_NAME"
  region = "LOCATION"

  recovery_config {
    scheduled_snapshots_config {
      enabled = true
      snapshot_location = "gs://SNAPSHOTS_FOLDER"
      snapshot_creation_schedule = "CRON_EXPRESSION"
      time_zone = "TIME_ZONE"
    }
  }
}

Ersetzen Sie:

• SNAPSHOTS_FOLDER durch den URI eines Bucket-Ordners, in dem der Snapshot gespeichert werden soll.

• CRON_EXPRESSION durch den Zeitplan im unix-cron-Format.

• TIME_ZONE durch eine Zeitzone für den Zeitplan. Dieser Wert ist ein Zeitversatz und berücksichtigt keine Änderungen durch die Umstellung auf Sommerzeit. Gültige Werte liegen zwischen UTC-12 und UTC+12. Beispiele: UTC, UTC-01, UTC+03.

Beispiel (jeden Tag um 4:00 Uhr, UTC+01):

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "example-environment"
  region = "us-central1"

  recovery_config {
    scheduled_snapshots_config {
      enabled = true
      snapshot_location = "gs://example-bucket/environment_snapshots"
      snapshot_creation_schedule = "0 4 * * *"
      time_zone = "UTC+01"
    }
  }
}

Geplante Snapshots deaktivieren

Wenn Sie geplante Snapshots deaktivieren, werden alle vorhandenen Snapshots, die bereits erstellt wurden, nicht geändert oder entfernt. Diese Snapshots bleiben an dem Ort, an dem sie gespeichert wurden.

Console

1. Rufen Sie in der Google Cloud Console die Seite Umgebungen auf.

   Zur Seite Umgebungen

2. Klicken Sie in der Liste der Umgebungen auf den Namen Ihrer Umgebung. Die Seite Umgebungsdetails wird geöffnet.

3. Rufen Sie den Tab Umgebungskonfiguration auf.

4. Klicken Sie unter Wiederherstellungskonfiguration > Snapshot-Zeitplan auf Bearbeiten. Der Bereich Snapshot-Zeitplan wird geöffnet.

5. Wählen Sie im Bereich Snapshot-Zeitplan die Option Snapshots nicht automatisch erstellen aus.

gcloud

Aktualisieren Sie die Konfiguration Ihrer Umgebung. Mit dem Argument --disable-scheduled-snapshot-creation werden geplante Snapshots deaktiviert.

gcloud composer environments update ENVIRONMENT_NAME \
    --location LOCATION \
    --disable-scheduled-snapshot-creation

Ersetzen Sie:

• ENVIRONMENT_NAME durch den Namen der Umgebung.
• LOCATION durch die Region, in der sich die Umgebung befindet.

Beispiel:

gcloud composer environments update example-environment \
    --location us-central1 \
    --disable-scheduled-snapshot-creation

API

Erstellen Sie eine API-Anfrage environments.patch.

In dieser Anfrage:

1. Geben Sie im Parameter updateMask die config.recoveryConfig.scheduledSnapshotsConfig.enabled-Maske an, um den Wert des Felds enabled zu ersetzen.

2. Geben Sie im Anfragetext den neuen Wert an:

   {
     "config": {
       "recoveryConfig": {
         "scheduledSnapshotsConfig": {
           "enabled": false
         }
       }
     }
   }
   

Beispiel:

// PATCH https://composer.googleapis.com/v1/projects/example-project/
// locations/us-central1/environments/example-environment?updateMask=
// config.recoveryConfig.scheduledSnapshotsConfig.enabled
{
"config": {
  "recoveryConfig": {
    "scheduledSnapshotsConfig": {
      "enabled": false
    }
  }
}
}

Terraform

Wenn Sie geplante Snapshots deaktivieren möchten, legen Sie das Feld enabled im Block scheduled_snapshots_config auf false fest:

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "ENVIRONMENT_NAME"
  region = "LOCATION"

  recovery_config {
    scheduled_snapshots_config {
      enabled = false
    }
  }
}

Beispiel:

resource "google_composer_environment" "example" {
  provider = google-beta
  name = "example-environment"
  region = "us-central1"

  recovery_config {
    scheduled_snapshots_config {
      enabled = false
      // Other scheduled snapshots parameters
    }
  }
}

Nächste Schritte

• Umgebungs-Snapshots speichern und laden
• Notfallwiederherstellung mit Snapshots
• Zugriffskontrolle