Standardlaufzeiten mit GPUs aktivieren

Standardlaufzeiten mit GPUs aktivieren

Vorschau

Diese Funktion unterliegt den „Pre-GA-Angebotsbedingungen“ im Abschnitt „Allgemeine Dienstbedingungen“ der dienstspezifischen Nutzungsbedingungen. Pre-GA-Funktionen sind „wie gesehen“ verfügbar und bieten möglicherweise nur eingeschränkten Support. Weitere Informationen finden Sie in den Beschreibungen der Produkteinführungsphasen.

Wenn Sie während der Vorschau Unterstützung benötigen, senden Sie eine E-Mail an [e-mail].

In diesem Dokument wird beschrieben, wie Sie eine Standardlaufzeit mit GPUs für Colab Enterprise-Nutzer in einem Projekt aktivieren. Nachdem Sie eine Standardlaufzeit mit GPUs aktiviert haben, können Nutzer in ihrem Notebook per Mausklick von einer regulären Standardlaufzeit zu einer Standardlaufzeit mit GPUs wechseln.

Dieses Dokument richtet sich an Colab Enterprise-Administratoren, die Standardlaufzeiten mit GPUs für andere Nutzer in ihrer Organisation aktivieren möchten. Dabei wird davon ausgegangen, dass Sie über Kenntnisse zu folgenden Themen verfügen:

• Informationen zum Verwalten von Colab Enterprise-Laufzeiten und ‑Laufzeitvorlagen.
• Verwenden von Identity and Access Management (IAM) zur Zugriffssteuerung

Übersicht

Damit Nutzer zu einer Standardlaufzeit mit GPUs wechseln können, muss ein Administrator (roles/aiplatform.colabEnterpriseAdmin) oder ein Nutzerkonto mit der Berechtigung aiplatform.notebookRuntimeTemplates.create zuerst eine Standardlaufzeit mit GPUs erstellen.

Wenn Sie zum ersten Mal eine Standardlaufzeit mit GPUs erstellen, wird in Colab Enterprise eine neue Standardlaufzeitvorlage mit GPUs in den Spezifikationen erstellt. Die ursprüngliche Standardlaufzeit ist davon nicht betroffen und bleibt bestehen, bis sie abläuft oder gelöscht wird. Nachdem die neue Standardlaufzeitvorlage mit GPUs erstellt wurde, kann jeder Nutzer mit der Berechtigung aiplatform.notebookRuntimes.assign für das Projekt und der Berechtigung aiplatform.notebookRuntimeTemplates.apply für die Laufzeitvorlage eine Standardlaufzeit mit GPUs erstellen und verwenden. Diese Berechtigungen sind in der Rolle „Colab Enterprise User“ (roles/aiplatform.colabEnterpriseUser) enthalten.

Spezifikationen

Die Standardlaufzeit mit GPUs hat andere Spezifikationen als die ursprüngliche Standardlaufzeit. Die verfügbaren Maschinentypen, GPUs und Datenträgertypen variieren je nach Region. Daher können einige Spezifikationen von der ursprünglichen Standardlaufzeit abweichen.

In der folgenden Tabelle werden die Spezifikationen für eine Standardlaufzeit mit GPUs basierend auf der Region der Standardlaufzeit beschrieben.

Beschreibung der Region	Spezifikationen für Standardlaufzeit
Regionen mit Unterstützung für L4-GPUs	Maschinentyp: g2-standard-4 Beschleuniger: 1 NVIDIA_L4-Beschleuniger Datenlaufwerk: 100 GB pd-balanced
Regionen, die keine L4-GPUs, aber T4-GPUs unterstützen	Maschinentyp: n1-standard-4 Beschleuniger: 1 NVIDIA_TESLA_T4-Beschleuniger Datenlaufwerk: 100 GB pd-standard
Regionen, die keine L4- oder T4-GPUs unterstützen	Standardlaufzeiten mit GPUs werden nicht unterstützt.

Verfügbarkeit von Beschleunigern

Colab Enterprise unterstützt Standardlaufzeiten mit den folgenden Beschleunigertypen:

• L4
• T4

Informationen zur regionalen Verfügbarkeit dieser Beschleuniger finden Sie unter Beschleuniger verwenden.

Hinweise

Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI, Dataform, and Compute Engine APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI, Dataform, and Compute Engine APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

Erforderliche Rollen

Bitten Sie Ihren Administrator, Ihrem Nutzerkonto die IAM-Rolle „Colab Enterprise Admin“ (roles/aiplatform.colabEnterpriseAdmin) für das Projekt zuzuweisen, damit Ihr Konto über die erforderlichen Berechtigungen zum Aktivieren von Standardlaufzeiten mit GPUs in Colab Enterprise verfügt.

Wichtig:Sie müssen diese Rolle Ihrem Nutzerkonto und nicht Ihrem Dienstkonto zuweisen. Wenn die Rolle nicht dem richtigen Hauptkonto zugewiesen wird, können Berechtigungsfehler auftreten.
Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Ihr Administrator kann Ihrem Nutzerkonto möglicherweise auch die erforderlichen Berechtigungen über benutzerdefinierte Rollen oder andere vordefinierte Rollen erteilen.

Mindestens eine der erforderlichen Rollen enthält die Berechtigung dataform.repositories.list. Nutzer, denen die Berechtigung dataform.repositories.list oder die Rolle Code-Ersteller (roles/dataform.codeCreator) in einem Projekt gewährt wurde, können die Namen von Code-Assets in diesem Projekt mit der Dataform API oder der Dataform-Befehlszeile verwenden. Nicht-Administratoren, die BigQuery Studio verwenden, sehen nur Code-Assets, die sie erstellt haben oder für sie freigegeben wurden.

GPUs für Standardlaufzeiten aktivieren

So aktivieren Sie GPUs für Standardlaufzeiten:

1. Rufen Sie in der Google Cloud Console die Seite Meine Notebooks für Colab Enterprise auf.

   Zu „Meine Notebooks“

2. Wählen Sie im Menü Region die Region aus, in der sich Ihr Notebook befindet.

3. Klicken Sie auf das Notebook, das Sie öffnen möchten. Wenn Sie noch kein Notebook erstellt haben, erstellen Sie ein Notebook.

4. Klicken Sie in Ihrem Notebook auf Verbinden.
   

5. Nachdem Colab Enterprise eine Verbindung zur Standardlaufzeit hergestellt hat, klicken Sie rechts oben in Ihrem Notebook auf die Schaltfläche, um zu einer Standardlaufzeit mit GPUs zu wechseln. Wenn sich Ihr Notebook beispielsweise in einer Region befindet, die L4-Beschleuniger unterstützt, klicken Sie auf Auf L4 umstellen.
   

Colab Enterprise erstellt eine neue Standardlaufzeit mit GPUs und stellt dann eine Verbindung zur Laufzeit her. Die Möglichkeit, zu einer Standardlaufzeit mit GPUs zu wechseln, ist für andere Nutzer im Projekt aktiviert.

GPUs für Standardlaufzeiten deaktivieren

Wenn Sie die Möglichkeit deaktivieren möchten, zu einer Standardlaufzeit mit GPUs zu wechseln, müssen Sie die Laufzeitvorlage mit dem Namen Default with GPU löschen. Weitere Informationen finden Sie unter Laufzeitvorlage löschen.

Beschränkungen

• Standardlaufzeiten mit GPUs sind nur in Regionen verfügbar, in denen bestimmte Beschleuniger unterstützt werden. Weitere Informationen finden Sie unter Verfügbarkeit von Beschleunigern.

• Sie müssen zuerst ein Notebook mit einer Standardlaufzeit verbinden, bevor Sie zu einer Standardlaufzeit mit GPUs wechseln können.

Nächste Schritte

• Informationen zum Verwalten der Laufzeit finden Sie unter Laufzeiten verwalten.
• Weitere Informationen zu Laufzeiten und Laufzeitvorlagen.