Attiva i runtime predefiniti con GPU

Attiva i runtime predefiniti con GPU

Anteprima

Questa funzionalità è soggetta ai "Termini delle Offerte pre-GA" nella sezione Termini di servizio generali dei Termini specifici dei servizi. Le funzionalità pre-GA sono disponibili "così come sono" e potrebbero avere un supporto limitato. Per ulteriori informazioni, consulta le descrizioni delle fasi di lancio.

Per assistenza durante l'anteprima, invia un'email all'indirizzo [e-mail].

Questo documento descrive come attivare un runtime predefinito con GPU per gli utenti di Colab Enterprise in un progetto. Dopo aver attivato un runtime predefinito con GPU, gli utenti possono passare da un runtime predefinito normale a un runtime predefinito con GPU facendo clic su un pulsante nel notebook.

Questo documento è destinato agli amministratori di Colab Enterprise che vogliono attivare i runtime predefiniti con GPU per altri utenti della loro organizzazione. Si presuppone che tu abbia familiarità con quanto segue:

• Come gestire i runtime e i modelli di runtime di Colab Enterprise.
• Come utilizzare Identity and Access Management (IAM) per controllare l'accesso.

Panoramica

Per consentire agli utenti di passare a un runtime predefinito con GPU, un amministratore (roles/aiplatform.colabEnterpriseAdmin) o un account utente con l'autorizzazione aiplatform.notebookRuntimeTemplates.create deve prima creare un runtime predefinito con GPU.

La prima volta che crei un runtime predefinito con GPU, Colab Enterprise crea un nuovo modello di runtime predefinito che include le GPU nelle specifiche. Il runtime predefinito originale non è interessato ed esiste fino alla scadenza o all'eliminazione. Dopo la creazione del nuovo modello di runtime predefinito con GPU, qualsiasi utente con l'autorizzazione aiplatform.notebookRuntimes.assign per il progetto e l'autorizzazione aiplatform.notebookRuntimeTemplates.apply per il modello di runtime può creare e utilizzare un runtime predefinito con GPU. Queste autorizzazioni sono incluse nel ruolo Utente Colab Enterprise (roles/aiplatform.colabEnterpriseUser).

Specifiche

Il runtime predefinito con GPU ha specifiche diverse rispetto al runtime predefinito originale. I tipi di macchina, le GPU e i tipi di dischi di dati disponibili variano in base alla regione, pertanto alcune specifiche possono essere diverse dal runtime predefinito originale.

La tabella seguente descrive le specifiche di un runtime predefinito con GPU in base alla regione del runtime predefinito.

Descrizione della regione	Specifiche di runtime predefinite
Regioni che supportano le GPU L4	Tipo di macchina: g2-standard-4 Acceleratore: 1 acceleratore NVIDIA_L4 Disco di dati: 100 GB pd-balanced
Regioni che non supportano le GPU L4, ma supportano le GPU T4	Tipo di macchina: n1-standard-4 Acceleratore: 1 acceleratore NVIDIA_TESLA_T4 Disco di dati: 100 GB pd-standard
Regioni che non supportano le GPU L4 o T4	I runtime predefiniti con GPU non sono supportati.

Disponibilità dell'acceleratore

Colab Enterprise supporta i runtime predefiniti con i seguenti tipi di acceleratore:

• L4
• T4

Per informazioni sulla disponibilità regionale di questi acceleratori, consulta la sezione Utilizzo degli acceleratori.

Prima di iniziare

Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI, Dataform, and Compute Engine APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI, Dataform, and Compute Engine APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

Ruoli obbligatori

Per assicurarti che il tuo account utente disponga delle autorizzazioni necessarie per abilitare i runtime predefiniti con GPU in Colab Enterprise, chiedi all'amministratore di concedere al tuo account utente il ruolo IAM Colab Enterprise Admin (roles/aiplatform.colabEnterpriseAdmin) sul progetto.

Importante: devi concedere questo ruolo al tuo account utente, non al tuo account utente. La mancata concessione del ruolo all'entità corretta potrebbe comportare errori di autorizzazione.
Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.

L'amministratore potrebbe anche essere in grado di concedere al tuo account utente le autorizzazioni richieste tramite ruoli personalizzati o altri ruoli predefiniti.

Uno o più dei ruoli richiesti includono l'autorizzazione dataform.repositories.list. Gli utenti a cui è stata concessa l'autorizzazione dataform.repositories.list o il ruolo Creatore di codice (roles/dataform.codeCreator) in un progetto possono elencare i nomi degli asset di codice in quel progetto utilizzando l'API Dataform o l'interfaccia a riga di comando (CLI) Dataform. Gli utenti non amministratori che utilizzano BigQuery Studio possono visualizzare solo gli asset di codice che hanno creato o che sono stati condivisi con loro.

Attivare le GPU per i runtime predefiniti

Per abilitare le GPU per i runtime predefiniti:

1. Nella console Google Cloud , vai alla pagina I miei notebook di Colab Enterprise.

   Vai a I miei notebook

2. Nel menu Regione, seleziona la regione che contiene il blocco note.

3. Fai clic sul notebook che vuoi aprire. Se non hai ancora creato un blocco note, creane uno.

4. Nel notebook, fai clic su Connetti.
   

5. Dopo che Colab Enterprise si connette al runtime predefinito, fai clic sul pulsante nell'angolo in alto a destra del notebook per passare a un runtime predefinito con GPU. Ad esempio, se il tuo notebook si trova in una regione che supporta gli acceleratori L4, fai clic su Passa a L4.
   

Colab Enterprise crea un nuovo runtime predefinito con GPU e poi si connette al runtime. La possibilità di passare a un runtime predefinito con GPU è abilitata per altri utenti del progetto.

Disattivare le GPU per i runtime predefiniti

Per disattivare la possibilità di passare a un runtime predefinito con GPU, devi eliminare il modello di runtime denominato Default with GPU. Consulta Eliminare un modello di runtime.

Limitazioni

• I runtime predefiniti con GPU sono disponibili solo nelle regioni che supportano la disponibilità di acceleratori specifici. Vedi Disponibilità degli acceleratori.

• Per poter passare a un runtime predefinito con GPU, devi prima connettere un notebook a un runtime predefinito.

Passaggi successivi

• Per gestire il runtime, vedi Gestisci runtime.
• Scopri di più su runtime e modelli di runtime.