Laufzeitvorlage erstellen

Laufzeitvorlage erstellen

Auf dieser Seite erfahren Sie, wie Sie eine Laufzeitvorlage in Colab Enterprise erstellen.

Zum Ausführen von Code in Ihrem Notebook verwenden Sie eine Compute-Ressource mit der Bezeichnung Laufzeit. Sie können die Standardlaufzeit oder eine Laufzeit verwenden, die aus einer Laufzeitvorlage erstellt wurde. Wenn Sie eine Laufzeitvorlage erstellen, können Sie sie so konfigurieren, dass die Leistung, die Kosten und andere Merkmale einer Laufzeit Ihren Anforderungen entsprechend optimiert werden.

Weitere Informationen zu Laufzeiten und Laufzeitvorlagen.

Hinweis

Melden Sie sich in Ihrem Google Cloud Konto an. Wenn Sie noch kein Google Cloud-Konto haben, erstellen Sie ein Konto, um die Leistung unserer Produkte in der Praxis sehen und bewerten zu können. Neukunden erhalten außerdem ein Guthaben von 300 $, um Arbeitslasten auszuführen, zu testen und bereitzustellen.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI, Dataform, and Compute Engine APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI, Dataform, and Compute Engine APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

Erforderliche Rollen

Bitten Sie Ihren Administrator, Ihnen die IAM-Rolle „Colab Enterprise Admin“ (roles/aiplatform.colabEnterpriseAdmin) für das Projekt zuzuweisen, um die Berechtigungen zu erhalten, die Sie zum Erstellen einer Laufzeitvorlage in Colab Enterprise benötigen. Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Sie können die erforderlichen Berechtigungen auch über benutzerdefinierte Rollen oder andere vordefinierte Rollen erhalten.

Mindestens eine der erforderlichen Rollen enthält die dataform.repositories.list Berechtigung. Nutzer, denen die Berechtigung dataform.repositories.list oder die Rolle Code-Ersteller (roles/dataform.codeCreator) in einem Projekt gewährt wurde, können die Namen von Code-Assets in diesem Projekt mit der Dataform API oder der Dataform-Befehlszeile verwenden. Nicht-Administratoren, die BigQuery Studio verwenden, sehen nur Code-Assets, die sie erstellt haben oder für sie freigegeben wurden.

Laufzeitvorlage erstellen

Sie können eine Laufzeitvorlage über die Google Cloud Console, die Google Cloud CLI, die REST API oder Terraform erstellen.

Console

So erstellen Sie eine Laufzeitvorlage:

1. Rufen Sie in der Google Cloud Console die Seite Laufzeitvorlagen von Colab Enterprise auf.

   Zu Laufzeitvorlagen

2. Klicken Sie auf  Neue Vorlage.

   Das Dialogfeld Neue Laufzeitvorlage erstellen wird angezeigt.

Laufzeitgrundlagen

1. Geben Sie im Bereich Laufzeitgrundlagen einen Anzeigenamen ein.

2. Wählen Sie im Menü Region die Region aus, in der sich Ihre Laufzeitvorlage befinden soll.

3. Optional: Fügen Sie eine Beschreibung von Ihrer Laufzeitvorlage hinzu.

4. Optional: Klicken Sie zum Hinzufügen eines Labels auf  Label hinzufügen und geben Sie dann ein Paar aus Schlüssel und Wert ein. Wenn Sie weitere Labels hinzufügen möchten, wiederholen Sie diesen Schritt.

5. Klicken Sie auf Weiter.

Computing konfigurieren

1. Wählen Sie im Abschnitt Compute konfigurieren im Menü Maschinentyp einen Maschinentyp aus. Informationen zu Maschinentypen finden Sie im Leitfaden für Maschinenfamilien und Vergleiche.

   Wenn Sie einen Maschinentyp mit GPUs auswählen, wählen Sie den Beschleunigertyp und Anzahl der Beschleuniger aus. Wenn Sie die gewünschte Anzahl von GPUs nicht auswählen können, müssen Sie möglicherweise Ihr Kontingent erhöhen. Weitere Informationen finden Sie unter Kontingentanpassung anfordern.

2. Wählen Sie im Menü Datenträger-Typ einen Datenträgertyp aus.

3. Geben Sie im Feld Datenträgergröße eine Größe in GB ein.

4. Im Bereich Herunterfahren bei Inaktivität:

   • Entfernen Sie das Häkchen für Herunterfahren bei Inaktivität aktivieren, um das Herunterfahren bei Inaktivität zu deaktivieren.

   • Wenn Sie den Zeitraum der Inaktivität unter Dauer der Inaktivität vor dem Herunterfahren (Minuten), ändern möchten, ändern Sie den Wert in die Anzahl der gewünschten Minuten an Inaktivität. In der Google Cloud Console kann diese Einstellung auf einen beliebigen Ganzzahlwert zwischen 10 und 1440 gesetzt werden.

5. Klicken Sie auf Weiter.

Umgebung

1. Wählen Sie im Bereich Umgebung eine Umgebung aus. Die Standardeinstellung ist Neueste (derzeit Python 3.12).

2. Optional: Geben Sie im Feld Post-Startskript den URI für ein Post-Startskript ein. Weitere Informationen zur Verwendung eines Post-Startskripts finden Sie unter Post-Startskript verwenden.

3. Optional: Wählen Sie unter der URL des Post-Startskripts das Verhalten des Post-Startskripts aus. Das Standardverhalten ist Einmal ausführen. Weitere Informationen finden Sie unter Verhalten des Post-Startskripts.

4. Optional: Klicken Sie zum Hinzufügen einer Umgebungsvariablen auf  Umgebungsvariable hinzufügen, und geben Sie dann ein Paar aus Schlüssel und Wert ein. Wenn Sie weitere Umgebungsvariablen hinzufügen möchten, wiederholen Sie diesen Schritt.

5. Klicken Sie auf Weiter.

Netzwerk und Sicherheit

1. Wählen Sie im Bereich Netzwerk und Sicherheit im Menü Netzwerk ein Netzwerk aus. Wenn Sie kein Netzwerk auswählen, wird Ihr Standardnetzwerk ausgewählt.

2. Wählen Sie im Menü Subnetzwerk ein Subnetzwerk aus.

3. Entfernen Sie das Häkchen für Öffentlichen Internetzugriff aktivieren, um den öffentlichen Internetzugriff zu deaktivieren.

4. Um den Zugriff auf Anmeldedaten von Endnutzern zu deaktivieren, entfernen Sie das Häkchen für Anmeldedaten von Endnutzern aktivieren.

Erstellung der Laufzeitvorlage abschließen

Klicken Sie auf Erstellen , um die Erstellung der Laufzeitvorlage abzuschließen.

Ihre Laufzeitvorlage wird auf dem Tab Laufzeitvorlagen in der Liste angezeigt.

gcloud

Ersetzen Sie folgende Werte, bevor sie einen der Befehlsdaten verwenden:

• DISPLAY_NAME: Der Anzeigename Ihrer Laufzeitvorlage.
• PROJECT_ID: Ihre Projekt-ID.
• REGION: Die Region, in der sich Ihre Laufzeitvorlage befinden soll.
• MACHINE_TYPE: der Maschinentyp, der für Ihre Laufzeit verwendet werden soll.
• ACCELERATOR_TYPE: Der Typ des Hardwarebeschleunigers, der für Ihre Laufzeit verwendet werden soll.
• ACCELERATOR_COUNT: Die Anzahl der Beschleuniger, die für Ihre Laufzeit verwendet werden sollen.

Führen Sie folgenden Befehl aus:

Linux, macOS oder Cloud Shell

Hinweis: Prüfen Sie, ob die Google Cloud CLI mit Authentifizierung und einem Projekt initialisiert wurde. Führen Sie dazu gcloud init oder gcloud auth login und gcloud config set project aus.

gcloud colab runtime-templates create --display-name="DISPLAY_NAME" \
    --project=PROJECT_ID \
    --region=REGION \
    --machine-type=MACHINE_TYPE \
    --accelerator-type=ACCELERATOR_TYPE \
    --accelerator-count=ACCELERATOR_COUNT

Windows (PowerShell)

Hinweis: Prüfen Sie, ob die Google Cloud CLI mit Authentifizierung und einem Projekt initialisiert wurde. Führen Sie dazu gcloud init oder gcloud auth login und gcloud config set project aus.

gcloud colab runtime-templates create --display-name="DISPLAY_NAME" `
    --project=PROJECT_ID `
    --region=REGION `
    --machine-type=MACHINE_TYPE `
    --accelerator-type=ACCELERATOR_TYPE `
    --accelerator-count=ACCELERATOR_COUNT

Windows (cmd.exe)

Hinweis: Prüfen Sie, ob die Google Cloud CLI mit Authentifizierung und einem Projekt initialisiert wurde. Führen Sie dazu entweder gcloud init; oder gcloud auth login und gcloud config set project aus.

gcloud colab runtime-templates create --display-name="DISPLAY_NAME" ^
    --project=PROJECT_ID ^
    --region=REGION ^
    --machine-type=MACHINE_TYPE ^
    --accelerator-type=ACCELERATOR_TYPE ^
    --accelerator-count=ACCELERATOR_COUNT

Weitere Informationen zum Befehl zum Erstellen einer Laufzeitvorlage über die Befehlszeile finden Sie in der Dokumentation zur gcloud CLI.

REST

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

• REGION: Die Region, in der sich Ihre Laufzeitvorlage befinden soll.
• PROJECT_ID: Ihre Projekt-ID.
• DISPLAY_NAME: Der Anzeigename Ihrer Laufzeitvorlage.
• MACHINE_TYPE: der Maschinentyp, der für Ihre Laufzeit verwendet werden soll.
• ACCELERATOR_TYPE: Der Typ des Hardwarebeschleunigers, der für Ihre Laufzeit verwendet werden soll.
• ACCELERATOR_COUNT: Die Anzahl der Beschleuniger, die für Ihre Laufzeit verwendet werden sollen.

HTTP-Methode und URL:

POST https://REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/REGION/notebookRuntimeTemplates

JSON-Text der Anfrage:

{
  "displayName": "DISPLAY_NAME",
  "machineSpec": {
    {
      "machineType": MACHINE_TYPE
      "acceleratorType": ACCELERATOR_TYPE,
      "acceleratorCount": ACCELERATOR_COUNT,
    }
  },
}

Wenn Sie die Anfrage senden möchten, wählen Sie eine der folgenden Optionen aus:

curl

Hinweis: Der folgende Befehl setzt voraus, dass Sie sich mit Ihrem Nutzerkonto in der gcloud-Befehlszeile angemeldet haben, indem Sie gcloud init oder gcloud auth login ausgeführt oder die Cloud Shell genutzt haben, die Sie automatisch in der gcloud-Befehlszeile anmeldet. Um herauszufinden, welches Konto gerade aktiv ist, führen Sie gcloud auth list aus.

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus:

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/REGION/notebookRuntimeTemplates"

PowerShell

Hinweis: Der folgende Befehl setzt voraus, dass Sie sich mit Ihrem Nutzerkonto in der gcloud-Befehlszeile angemeldet haben, indem Sie gcloud init oder gcloud auth login ausgeführt haben. Um herauszufinden, welches Konto gerade aktiv ist, führen Sie gcloud auth list aus.

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus:

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/REGION/notebookRuntimeTemplates" | Select-Object -Expand Content

Bei erfolgreicher Ausführung enthält der Antworttext eine Instanz von Operation.

Weitere Informationen finden Sie in der notebookRuntimeTemplates.create REST API Dokumentation.

Terraform

Informationen zum Anwenden oder Entfernen einer Terraform-Konfiguration finden Sie unter Grundlegende Terraform-Befehle. Weitere Informationen finden Sie in der Terraform Referenzdokumentation zum Anbieter.

Im folgenden Beispiel wird die google_colab_runtime_template Terraform-Ressource verwendet, um eine Colab Enterprise Laufzeitvorlage zu erstellen.

resource "google_compute_network" "my_network" {
  name = "{{index $.Vars "network_name"}}"
  auto_create_subnetworks = false
}

resource "google_compute_subnetwork" "my_subnetwork" {
  name   = "{{index $.Vars "network_name"}}"
  network = google_compute_network.my_network.id
  region = "us-central1"
  ip_cidr_range = "10.0.1.0/24"
}

resource "google_colab_runtime_template" "{{$.PrimaryResourceId}}" {
  name        = "{{index $.Vars "runtime_template_name"}}"
  display_name = "Runtime template full"
  location    = "us-central1"
  description = "Full runtime template"
  machine_spec {
    machine_type     = "n1-standard-2"
    accelerator_type = "NVIDIA_TESLA_T4"
    accelerator_count = "1"
  }

  data_persistent_disk_spec {
    disk_type    = "pd-standard"
    disk_size_gb = 200
  }

  network_spec {
    enable_internet_access = true
    network = google_compute_network.my_network.id
    subnetwork = google_compute_subnetwork.my_subnetwork.id
  }

  labels = {
    k = "val"
  }

  idle_shutdown_config {
    idle_timeout = "3600s"
  }

  euc_config {
    euc_disabled = false
  }

  shielded_vm_config {
    enable_secure_boot = false
  }

  network_tags = ["abc", "def"]

  encryption_spec {
    kms_key_name = "{{index $.Vars "key_name"}}"
  }

  software_config {
    env {
      name    = "TEST"
      value   = 1
    }

    post_startup_script_config {
      post_startup_script = "echo 'hello world'"
      post_startup_script_url = "gs://colab-enterprise-pss-secure/secure_pss.sh"
      post_startup_script_behavior = "RUN_ONCE"
    }

    colab_image {
      release_name = "py312"
    }
  }
}

Zugriff auf die Laufzeitvorlage gewähren

Nachdem Sie eine Laufzeitvorlage erstellt haben, müssen Sie einem Hauptkonto Zugriff auf diese Vorlage gewähren, damit es sie verwenden kann. Ein Hauptkonto kann eine Laufzeit erstellen aus einer Laufzeitvorlage nur dann, wenn es Folgendes hat:

• Zugriff auf die Laufzeitvorlage.
• Die erforderlichen Berechtigungen zum Erstellen von Laufzeiten.

Weitere Informationen finden Sie unter Zugriff auf eine Laufzeit vorlage verwalten.

Colab Enterprise in einem freigegebene VPC-Netzwerk verwenden

Wenn Sie eine Laufzeitvorlage oder Laufzeit in einem Dienstprojekt eines freigegebene VPC-Netzwerks erstellen, müssen Sie dem Vertex AI-Dienst-Agenten ([e-mail]) bestimmte Berechtigungen für das Hostprojekt gewähren. Diese Berechtigungen werden für Folgendes verwendet:

• Vorhandensein und Zugänglichkeit Ihres Netzwerks und Subnetzwerks beim Erstellen der Laufzeitvorlage prüfen.
• Die zugrunde liegende Compute Engine-VM-Instanz im freigegebene VPC-Netzwerk bereitstellen, wenn Sie eine Laufzeit erstellen.

Bitten Sie Ihren Administrator, dem Vertex AI-Dienst-Agent die IAM-Rolle „Compute Network User (roles/compute.networkUser)“ für das Hostprojekt zuzuweisen, damit der Vertex AI-Dienst-Agent die erforderlichen Berechtigungen hat, um eine Laufzeitvorlage und eine Laufzeit in einem freigegebene VPC-Netzwerk zu verwenden.

Wichtig: Sie müssen diese Rolle dem Vertex AI-Dienst-Agent und nicht Ihrem Nutzerkonto zuweisen. Wenn die Rolle nicht dem richtigen Hauptkonto zugewiesen wird, können Berechtigungsfehler auftreten.

Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Ihr Administrator kann dem Vertex AI-Dienst-Agent möglicherweise auch die erforderlichen Berechtigungen über benutzerdefinierte Rollen oder andere vordefinierte Rollen erteilen.

Notebook-Ausführungen in einem freigegebene VPC-Netzwerk planen

Wenn Sie den Notebook-Scheduler mit einer Laufzeitvorlage oder einer Laufzeit in einem Dienstprojekt eines freigegebene VPC-Netzwerks verwenden möchten, müssen Sie dem Colab Enterprise-Dienst-Agent ([e-mail]) bestimmte Berechtigungen für das Hostprojekt gewähren. Diese Berechtigungen werden verwendet, um die zugrunde liegende Compute Engine-VM zu erstellen.

Bitten Sie Ihren Administrator, dem Colab Enterprise-Dienst-Agent die IAM-Rolle „Compute Network User (roles/compute.networkUser)“ für das Hostprojekt zuzuweisen, damit der Colab Enterprise-Dienst-Agent die erforderlichen Berechtigungen hat, um geplante Notebooks in einem freigegebene VPC-Netzwerk zu verwenden.

Wichtig: Sie müssen diese Rolle dem Colab Enterprise-Dienst-Agent und nicht Ihrem Nutzerkonto zuweisen. Wenn die Rolle nicht dem richtigen Hauptkonto zugewiesen wird, können Berechtigungsfehler auftreten.

Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Ihr Administrator kann dem Colab Enterprise-Dienst-Agent die erforderlichen Berechtigungen möglicherweise auch über benutzerdefinierte Rollen oder andere vordefinierte Rollen erteilen.

Laufzeitvorlage löschen

So löschen Sie eine Laufzeitvorlage:

1. Rufen Sie in der Google Cloud Console die Seite Laufzeitvorlagen von Colab Enterprise auf.

   Zu Laufzeitvorlagen

2. Wählen Sie im Menü Region die Region aus, in der sich Ihre Laufzeitvorlage befindet.

3. Wählen Sie die Laufzeitvorlage aus, die Sie löschen möchten.

4. Klicken Sie auf  Löschen.

5. Klicken Sie auf Bestätigen.

Fehlerbehebung

In diesem Abschnitt erfahren Sie, wie Sie Probleme beim Erstellen von Laufzeitvorlagen in Colab Enterprise beheben.

Nicht genügend GPUs auswählbar

Beim Erstellen einer Laufzeitvorlage können Sie nicht die gewünschte Anzahl von GPUs auswählen. Das kann daran liegen, dass Sie nicht genügend Kontingent haben.

Colab Enterprise verwendet das Compute Engine-Kontingent für GPUs. Weitere Informationen finden Sie unter Übersicht über Compute Engine-Kontingente und -Limits.

Fordern Sie eine Kontingentanpassung an, um dieses Problem zu beheben.

Nächste Schritte

• Weitere Informationen zu Laufzeiten und Laufzeitvorlagen.
• Weitere Informationen zum Erstellen einer Laufzeit auf Basis einer Laufzeitvorlage.