Laufzeiten und Laufzeitvorlagen

Auf dieser Seite werden Runtimes und Runtime-Vorlagen für Colab Enterprise beschrieben.

Eine Laufzeit ist eine von Google bereitgestellte virtuelle Maschine (VM), auf der der Code in Ihrem Notebook (IPYNB-Datei) ausgeführt werden kann.

Eine Laufzeitvorlage ist eine VM-Konfiguration, in der ein Maschinentyp und andere Merkmale der VM sowie allgemeine Einstellungen wie das Netzwerk und die Aktivierung des öffentlichen Internetzugriffs angegeben werden. Wenn Sie eine Laufzeit erstellen, wird die zugehörige VM gemäß den Spezifikationen einer Laufzeitvorlage erstellt.

Workflow

Sie können ein Colab Enterprise-Notebook erstellen und Code darin ausführen, ohne sich mit Laufzeiten auszukennen. Wenn Sie Ihren Code zum ersten Mal ausführen, stellt Colab Enterprise eine Standardlaufzeit bereit und führt Ihren Code darin aus. Colab Enterprise verwendet weiterhin die Standardlaufzeit, bis Sie eine Verbindung zu einer anderen Laufzeit herstellen.

So konfigurieren Sie eine Laufzeit für bestimmte Anforderungen:

  1. Erstellen Sie eine Laufzeitvorlage mit der gewünschten Konfiguration.

  2. Erstellen Sie eine Laufzeit anhand dieser Vorlage.

  3. Stellen Sie eine Verbindung zur Laufzeit über Ihr Notebook her und führen Sie den Code aus.

Laufzeiten

In diesem Abschnitt werden die Eigenschaften von Runtimes beschrieben.

Standardlaufzeit

Wenn Sie keine Laufzeit erstellen, wird beim ersten Ausführen von Code oder beim Herstellen einer Verbindung zur Standardlaufzeit eine Laufzeit ohne Beschleuniger für Sie erstellt. Sie können die Standardlaufzeit ohne Beschleuniger verwenden oder zu einer Standardlaufzeit mit Beschleunigern wechseln.

Wenn Colab Enterprise eine Standardlaufzeit erstellt, wird zuerst eine entsprechende Standardlaufzeitvorlage erstellt. Sowohl die Laufzeit als auch die Laufzeitvorlage werden in der Google Cloud Console angezeigt, wo Sie Informationen dazu abrufen können.

Wenn Sie Standardlaufzeiten ohne Beschleuniger verwenden, erstellt Colab Enterprise pro Projekt und Region eine Standardlaufzeit ohne Beschleuniger und die entsprechende Laufzeitvorlage.

Wenn Sie Standardlaufzeiten mit Beschleunigern verwenden, erstellt Colab Enterprise pro Projekt und Region eine Standardlaufzeit mit Beschleunigern und die entsprechende Laufzeitvorlage.

Spezifikationen für Standardlaufzeit

Standardlaufzeiten und die entsprechenden Standardlaufzeitvorlagen enthalten die folgenden Spezifikationen:

Spezifikation Standard Standardmäßig mit GPU
Python-Version Neueste verfügbare Version (derzeit Python 3.12) Neueste verfügbare Version (derzeit Python 3.12)
Maschinentyp e2-standard-4 Hängt von der regionalen Verfügbarkeit ab. Weitere Informationen finden Sie unter Spezifikationen.
Beschleuniger Keine Hängt von der regionalen Verfügbarkeit ab. Weitere Informationen finden Sie unter Spezifikationen.
Bootlaufwerk Nichtflüchtiger SSD-Speicher mit 100 GiB (pd-ssd) Nichtflüchtiger SSD-Speicher mit 100 GiB (pd-ssd)
Datenlaufwerk Nichtflüchtiger Standardspeicher mit 100 GiB (pd-standard) Hängt von der regionalen Verfügbarkeit ab. Weitere Informationen finden Sie unter Spezifikationen.
Herunterfahren bei Inaktivität Aktiviert, auf 180 Minuten eingestellt Aktiviert, auf 180 Minuten eingestellt
Netzwerk Das Standard-VPC-Netzwerk (Virtual Private Cloud) Ihres Projekts Das Standard-VPC-Netzwerk (Virtual Private Cloud) Ihres Projekts
Öffentlicher Internetzugriff Aktiviert Aktiviert
Authentifizierung von Endnutzeranmeldedaten Aktiviert Aktiviert
Automatisches Löschen Automatische Löschung 18 Stunden nach der Erstellung Automatische Löschung 18 Stunden nach der Erstellung

Python-Versionen

Ab Mai 2025 wird die Standardlaufzeitvorlage, die in Colab Enterprise erstellt wird, für die Verwendung der neuesten Python-Version (derzeit Python 3.12) konfiguriert. Wenn also eine neue Version von Python in Colab Enterprise verfügbar ist, wird in neuen Laufzeiten, die aus der Standardlaufzeitvorlage erstellt werden, die neueste Python-Version verwendet.

Wenn Ihre Standardlaufzeitvorlagen im Mai 2025 oder früher erstellt wurden, sind sie möglicherweise für die Verwendung von Python 3.10 konfiguriert. Wenn Sie eine Standardlaufzeitvorlage aktualisieren möchten, damit die neueste Python-Version verwendet wird, müssen Sie die Standardlaufzeitvorlage löschen. Wenn dann eine neue Standardvorlage für die Laufzeit erstellt wird, wird sie für die Verwendung der neuesten Python-Version konfiguriert.

Informationen zum Aktualisieren der Python-Version einer von Ihnen erstellten Laufzeitvorlage finden Sie unter Python-Version einer Laufzeitvorlage ändern.

Die Python-Version vorhandener Laufzeiten wird nicht automatisch geändert, auch wenn eine neue Python-Version in Colab Enterprise verfügbar ist. Die Python-Version einer vorhandenen Laufzeit kann nicht geändert werden. Stattdessen müssen Sie eine neue Laufzeit erstellen, die von einer Laufzeitvorlage abgeleitet wird, in der die gewünschte Python-Version verwendet wird.

Python-Version einer Laufzeitvorlage ändern

Wenn Sie die Python-Version eines Laufzeit-Templates ändern möchten, können Sie die REST API verwenden.

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • REGION: die Region, in der sich Ihre Laufzeitvorlage befindet.
  • PROJECT_ID: Ihre Projekt-ID.
  • NOTEBOOK_RUNTIME_TEMPLATE_ID: die ID Ihrer Laufzeitvorlage.
  • RELEASE_NAME: Der Release-Name des Images, das Sie verwenden möchten. py311 ist beispielsweise der Release-Name für das Python 3.11-Image. Wenn Sie das Bild auf Latest setzen möchten, lassen Sie RELEASE_NAME leer.

HTTP-Methode und URL: 

PATCH https://REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/REGION/notebookRuntimeTemplates/NOTEBOOK_RUNTIME_TEMPLATE_ID?updateMask=software_config.colab_image.release_name

JSON-Text der Anfrage:

{
  softwareConfig: {
    colabImage: {
      releaseName: "RELEASE_NAME"
    }
  }
}

Wenn Sie die Anfrage senden möchten, wählen Sie eine der folgenden Optionen aus:

curl

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

curl -X PATCH \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/REGION/notebookRuntimeTemplates/NOTEBOOK_RUNTIME_TEMPLATE_ID?updateMask=software_config.colab_image.release_name"

PowerShell

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method PATCH `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/REGION/notebookRuntimeTemplates/NOTEBOOK_RUNTIME_TEMPLATE_ID?updateMask=software_config.colab_image.release_name" | Select-Object -Expand Content
Bei erfolgreicher Ausführung enthält der Antworttext eine Operation-Instanz.

Weitere Informationen finden Sie in der Dokumentation zur notebookRuntimeTemplates.patch REST API.

Laufzeiten sind regional

Laufzeiten sind regional und müssen sich in derselben Region wie Ihr Notebook befinden.

Laufzeiten sind nur für einen Nutzer verfügbar

Laufzeiten sind nur für einen Nutzer verfügbar. Sie können Ihre Laufzeiten nicht mit anderen teilen und auch nicht deren Laufzeiten verwenden. Auch wenn Sie ein Notebook für jemanden freigeben, hat diese Person keinen Zugriff auf Ihre Laufzeit und muss das Notebook in ihrer eigenen Laufzeit ausführen.

Nutzer können jedoch eigene Runtimes auf Grundlage derselben Laufzeitvorlage erstellen. Weitere Informationen finden Sie unter Laufzeitvorlagen können für Nutzer freigegeben werden.

Dateien der Laufzeitumgebung verwalten

Sie können über die Schaltfläche  Dateien in Colab Enterprise auf Dateien in Ihrer Laufzeit zugreifen und sie ändern. Sie können auch Dateien in Ihre Laufzeitumgebung hochladen.

Wenn Ihre Laufzeit gelöscht wird, werden alle Dateien, die Sie hochladen, gelöscht. Wenn Sie Dateien geändert haben, werden diese Dateien beim Erstellen einer neuen Laufzeit in ihren ursprünglichen Zustand zurückgesetzt. Den Zeitraum für das automatische Löschen finden Sie im Abschnitt „Standardmäßige Laufzeitspezifikationen“.

Laufzeiten können von Notebooks gemeinsam genutzt werden

Sie können mehrere Notebooks mit derselben Laufzeit verbinden, dies wird jedoch nicht empfohlen. Wenn mehrere Notebooks dieselbe Laufzeit verwenden, kann das zu Problemen führen, z. B.:

  • Die Notebooks werden möglicherweise langsam ausgeführt, da sie die Rechenressourcen der Laufzeit gemeinsam nutzen.

  • Der Code in einem Notebook kann sich auf den Status der VM der Laufzeit für das andere Notebook auswirken. Wenn Sie beispielsweise Version 1.3 eines Pakets in einem Notebook installieren, Ihr anderes Notebook jedoch Version 1.2 erfordert, kann es beim Ausführen des zweiten Notebooks zu einer Versionsinkompatibilität kommen.

Anstatt Code aus mehreren Notebooks in derselben Laufzeit auszuführen, können Sie für jedes Notebook eine Laufzeit basierend auf derselben Laufzeitvorlage erstellen. Weitere Informationen finden Sie unter Mehrere Laufzeiten aus derselben Laufzeitvorlage erstellen.

Laufzeitgebühren

Die Abrechnung der Laufzeitverarbeitung erfolgt auf Grundlage des von Ihnen verwendeten Maschinentyps und der verwendeten Beschleuniger. Der Speicherplatz für das Bootlaufwerk und das Datenlaufwerk wird Ihnen ebenfalls in Rechnung gestellt. Bootlaufwerke und Datenlaufwerke werden gelöscht, wenn die Runtimes gelöscht werden.

Laufzeiten beinhalten immer einen nichtflüchtiger SSD-Speicher mit 100 GiB zusätzlich zum Datenlaufwerk, das in der Laufzeitvorlage angegeben ist. Das Bootlaufwerk kann nicht konfiguriert werden.

Während Laufzeiten heruntergefahren werden:

  • Es fallen keine Compute-Gebühren an, da keine CPU- oder GPU-Nutzung erfolgt.
  • Die Speicherung von Boot- und Datenlaufwerken wird in Rechnung gestellt.

Weitere Informationen finden Sie unter Colab Enterprise-Preise.

Sie können mehrere Laufzeiten aus derselben Laufzeitvorlage erstellen.

Sie können mehrere Runtimes aus einer einzelnen nicht standardmäßigen Runtime-Vorlage erstellen. So können Sie mehrere Notebooks auf VMs mit derselben Konfiguration ausführen, ohne die Ressourcen dieser VM zu teilen.

Laufzeitvorlagen

In diesem Abschnitt werden die Merkmale von Laufzeitvorlagen beschrieben.

Laufzeitvorlagen sind regional

Laufzeitvorlagen sind regional. Wenn Sie eine Laufzeit erstellen, befindet sie sich in derselben Region wie die Laufzeitvorlage und kann nur mit Notebooks in dieser Region verwendet werden.

Laufzeitvorlagen können für Nutzer freigegeben werden

Sie können eine Laufzeitvorlage für andere Nutzer freigeben. So kann jeder Nutzer seine eigene Laufzeit basierend auf derselben Laufzeitvorlage erstellen. Daher können mehrere Nutzer dasselbe Notebook mit derselben VM-Konfiguration ausführen.

Weitere Informationen finden Sie unter Zugriff auf eine Laufzeitvorlage verwalten.

Konfiguration

Laufzeitvorlagen bestimmen die Konfiguration der VM Ihrer Laufzeit. Sie können Folgendes angeben:

Region

Wählen Sie die Region aus, in der sich Ihr Notebook befindet. Laufzeiten, die aus Laufzeitvorlagen erstellt werden, befinden sich in derselben Region wie die Laufzeitvorlage. Damit im Notebook Code in der Laufzeit ausgeführt werden kann, müssen sich Notebook und Laufzeit in derselben Region befinden.

Maschinentyp

Sie können den Maschinentyp Ihrer Laufzeitvorlage konfigurieren. Informationen zu Maschinentypen finden Sie im Leitfaden für Maschinenfamilien und Vergleiche.

Datenlaufwerk

Sie können den Laufwerktyp und die Laufwerkgröße des Datenlaufwerks in Ihrer Laufzeitvorlage konfigurieren.

Wenn Ihre Laufzeitumgebung erstellt wird, enthält sie auch ein Bootlaufwerk. Das Bootlaufwerk ist ein nichtflüchtiger SSD-Speicher mit 100 GiB und kann nicht konfiguriert werden.

Beschleuniger

Sie können Ihrer Laufzeitvorlagenkonfiguration Beschleuniger hinzufügen. Die Verfügbarkeit von Beschleunigern hängt vom Maschinentyp und der Region ab.

Netzwerk

Geben Sie Ihr Netzwerk an oder verwenden Sie das standardmäßige VPC-Netzwerk (Virtual Private Cloud) des Projekts.

Herunterfahren bei Inaktivität

In Colab Enterprise ist das automatische Herunterfahren bei Inaktivität standardmäßig aktiviert. Mit dieser Einstellung wird Ihre Instanz nach 180 Minuten Inaktivität heruntergefahren. Sie können die Anzahl der Minuten der Inaktivität vor dem Herunterfahren ändern oder das Herunterfahren bei Inaktivität deaktivieren.

Öffentlicher Internetzugriff

Wenn Sie mehr Kontrolle über die Sicherheit Ihres Notebooks und anderer Ressourcen haben möchten, können Sie den öffentlichen Internetzugriff deaktivieren. Wenn Sie Ihre Laufzeitvorlage auf diese Weise konfigurieren, haben Notebooks, die Laufzeiten verwenden, die aus der Laufzeitvorlage erstellt wurden, keinen Zugriff auf das öffentliche Internet.

Authentifizierung von Endnutzeranmeldedaten

Standardmäßig verwenden Laufzeitvorlagen die Authentifizierung mit Endnutzeranmeldedaten, um Ihrem Notebook Zugriff auf Standardanmeldedaten für Anwendungen (Application Default Credentials, ADC) zu gewähren. Mit diesem Zugriff auf ADC können Sie Code in Ihrem Notebook ausführen, der mit Vertex AI und anderen Google Cloud -Diensten interagiert. Wenn Anmeldedaten von Endnutzern aktiviert sind, werden in Ihrem Notebook die Anmeldedaten des Nutzers verwendet, der das Notebook ausführt, um den Zugriff auf Google Cloud Ressourcen zu bestimmen.

Wenn Anmeldedaten von Endnutzern nicht aktiviert sind, können Sie auf ADC zugreifen, indem Sie den Nutzer über den Code Ihres Notebooks authentifizieren. Weitere Informationen finden Sie im Abschnitt „Nutzeranmeldedaten“ unter ADC für eine lokale Entwicklungsumgebung einrichten.

Gebühren für Laufzeitvorlagen

Für das Erstellen oder Speichern von Laufzeitvorlagen fallen keine Kosten an. Siehe auch Laufzeitgebühren.

Nächste Schritte