Standardlaufzeiten mit GPUs aktivieren

Standardlaufzeiten mit GPUs aktivieren

Vorschau

Diese Funktion unterliegt den „Bedingungen für Pre-GA-Angebote“ im Abschnitt „Allgemeine Dienstbedingungen“ der dienstspezifischen Nutzungsbedingungen. Pre-GA‑Funktionen stehen in der vorliegenden Form zur Verfügung und bieten möglicherweise nur eingeschränkten Support. Weitere Informationen finden Sie unter den Beschreibungen der Startphase.

Wenn Sie während der Vorschau Unterstützung benötigen, senden Sie eine E-Mail an [e-mail].

In diesem Dokument wird beschrieben, wie Sie eine Standardlaufzeit mit GPUs für Colab Enterprise-Nutzer in einem Projekt aktivieren. Nachdem Sie eine Standardlaufzeit mit GPUs aktiviert haben, können Nutzer in ihrem Notebook mit einem Klick auf eine Schaltfläche von einer regulären Standardlaufzeit zu einer Standardlaufzeit mit GPUs wechseln.

Dieses Dokument richtet sich an Colab Enterprise-Administratoren, die Standardlaufzeiten mit GPUs für andere Nutzer in ihrer Organisation aktivieren möchten. Dabei wird vorausgesetzt, dass Sie über Kenntnisse in den folgenden Bereichen verfügen:

• Verwaltung von Colab Enterprise-Laufzeiten und ‑Laufzeitvorlagen
• Verwendung von Identity and Access Management (IAM) zur Zugriffssteuerung

Übersicht

Damit Nutzer zu einer Standardlaufzeit mit GPUs wechseln können, muss ein Administrator (roles/aiplatform.colabEnterpriseAdmin) oder ein Nutzerkonto mit der aiplatform.notebookRuntimeTemplates.create Berechtigung zuerst eine Standardlaufzeit mit GPUs erstellen.

Wenn Sie zum ersten Mal eine Standardlaufzeit mit GPUs erstellen, erstellt Colab Enterprise eine neue Standardlaufzeitvorlage, die GPUs in ihren Spezifikationen enthält. Die ursprüngliche Standardlaufzeit ist davon nicht betroffen und bleibt so lange bestehen, bis sie abläuft oder gelöscht wird. Nachdem die neue Standardlaufzeitvorlage mit GPUs erstellt wurde, kann jeder Nutzer mit der Berechtigung aiplatform.notebookRuntimes.assign für das Projekt und der Berechtigung aiplatform.notebookRuntimeTemplates.apply für die Laufzeitvorlage eine Standardlaufzeit mit GPUs erstellen und verwenden. Diese Berechtigungen sind in der Rolle „Colab Enterprise User“ (roles/aiplatform.colabEnterpriseUser) enthalten.

Spezifikationen

Die Standardlaufzeit mit GPUs hat andere Spezifikationen als die ursprüngliche Standardlaufzeit. Die verfügbaren Maschinentypen, GPUs und Datenträger-Typen variieren je nach Region. Daher können sich einige Spezifikationen von Ihrer ursprünglichen Standardlaufzeit unterscheiden.

In der folgenden Tabelle werden die Spezifikationen für eine Standardlaufzeit mit GPUs basierend auf der Region der Standardlaufzeit beschrieben.

Beschreibung der Region	Spezifikationen für Standardlaufzeit
Regionen, die L4-GPUs unterstützen	Maschinentyp: g2-standard-4 Beschleuniger: 1 NVIDIA_L4 Beschleuniger Datenträger: 100 GB pd-balanced
Regionen, die keine L4-GPUs, aber T4-GPUs unterstützen	Maschinentyp: n1-standard-4 Beschleuniger: 1 NVIDIA_TESLA_T4 Beschleuniger Datenträger: 100 GB pd-standard
Regionen, die keine L4- oder T4-GPUs unterstützen	Standardlaufzeiten mit GPUs werden nicht unterstützt.

Verfügbarkeit von Beschleunigern

Colab Enterprise unterstützt Standardlaufzeiten mit den folgenden Beschleunigertypen:

• L4
• T4

Informationen zur regionalen Verfügbarkeit dieser Beschleuniger finden Sie unter Beschleuniger verwenden.

Hinweis

Melden Sie sich in Ihrem Google Cloud Konto an. Wenn Sie noch kein Nutzer von Google Cloud, sind, erstellen Sie ein Konto, um zu testen, wie sich unsere Produkte in realen Szenarien schlagen. Neukunden erhalten außerdem ein Guthaben von 300 $, um Arbeitslasten auszuführen, zu testen und bereitzustellen.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI, Dataform, and Compute Engine APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI, Dataform, and Compute Engine APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

Erforderliche Rollen

Bitten Sie Ihren Administrator, Ihrem Nutzerkonto die IAM-Rolle „Colab Enterprise Admin“ (roles/aiplatform.colabEnterpriseAdmin) für das Projekt zuzuweisen, damit Ihr Konto über die erforderlichen Berechtigungen zum Aktivieren von Standardlaufzeiten mit GPUs in Colab Enterprise verfügt.

Wichtig: Sie müssen diese Rolle Ihrem Nutzerkonto und nicht Ihrem Nutzerkonto zuweisen. Wenn die Rolle nicht dem richtigen Hauptkonto zugewiesen wird, können Berechtigungsfehler auftreten.

Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Ihr Administrator kann Ihrem Nutzerkonto möglicherweise auch die erforderlichen Berechtigungen über benutzerdefinierte Rollen oder andere vordefinierte Rollen erteilen.

Mindestens eine der erforderlichen Rollen enthält die Berechtigung dataform.repositories.list. Nutzer, denen die Berechtigung dataform.repositories.list oder die Rolle Code-Ersteller (roles/dataform.codeCreator) in einem Projekt gewährt wurde, können die Namen von Code-Assets in diesem Projekt mit der Dataform API oder der Dataform-Befehlszeile verwenden. Nicht-Administratoren, die BigQuery Studio verwenden, sehen nur Code-Assets, die sie erstellt haben oder für sie freigegeben wurden.

GPUs für Standardlaufzeiten aktivieren

So aktivieren Sie GPUs für Standardlaufzeiten:

1. Rufen Sie in der Google Cloud Console die Seite Meine Notebooks von Colab Enterprise auf.

   Zu „Meine Notebooks“

2. Wählen Sie im Menü Region die Region aus, in der sich Ihr Notebook befindet.

3. Klicken Sie auf das Notebook, das Sie öffnen möchten. Wenn Sie noch kein Notebook erstellt haben, erstellen Sie ein Notebook.

4. Klicken Sie in Ihrem Notebook auf Verbinden.
   

5. Nachdem Colab Enterprise eine Verbindung zur Standardlaufzeit hergestellt hat, klicken Sie rechts oben in Ihrem Notebook auf die Schaltfläche, um zu einer Standardlaufzeit mit GPUs zu wechseln. Wenn sich Ihr Notebook beispielsweise in einer Region befindet, die L4-Beschleuniger unterstützt, klicken Sie auf Zu L4 wechseln.
   

Colab Enterprise erstellt eine neue Standardlaufzeit mit GPUs und stellt dann eine Verbindung zur Laufzeit her. Die Möglichkeit, zu einer Standardlaufzeit mit GPUs zu wechseln, ist für andere Nutzer im Projekt aktiviert.

GPUs für Standardlaufzeiten deaktivieren

Wenn Sie die Möglichkeit deaktivieren möchten, zu einer Standardlaufzeit mit GPUs zu wechseln, müssen Sie die Laufzeitvorlage Default with GPU löschen. Weitere Informationen finden Sie unter Laufzeitvorlage löschen.

Beschränkungen

• Standardlaufzeiten mit GPUs sind nur in Regionen verfügbar, die eine bestimmte Beschleunigerverfügbarkeit unterstützen. Weitere Informationen finden Sie unter Verfügbarkeit von Beschleunigern.

• Sie müssen zuerst ein Notebook mit einer Standardlaufzeit verbinden, um zu einer Standardlaufzeit mit GPUs wechseln zu können.

Nächste Schritte

• Informationen zum Verwalten Ihrer Laufzeit finden Sie unter Laufzeiten verwalten.
• Weitere Informationen zu Laufzeiten und Laufzeitvorlagen.