Configura l'ambiente Cloud TPU

Prima di poter utilizzare le risorse Cloud TPU per addestrare o eseguire l'inferenza sui modelli, devi eseguire i seguenti passaggi:

Configura il progetto Google Cloud

Per utilizzare Cloud TPU, devi disporre di un Google Cloud account e di un progetto.

  1. Nella Google Cloud console, accedi al tuo Account Google o registrati per un nuovo account.

  2. Crea un progetto Google Cloud . Per saperne di più, consulta Creare un progetto.

  3. Abilita la fatturazione per il tuo progetto Google Cloud .

    La configurazione di fatturazione è obbligatoria per tutto l'utilizzo di Google Cloud . L'addebito verrà effettuato solo dopo che avrai iniziato a utilizzare le risorse Google Cloud . Per saperne di più, consulta la documentazione sulla fatturazione Cloud.

    La fatturazione per l'utilizzo di tutte le versioni di Cloud TPU segue i prezzi regionali standard mostrati nella pagina dei prezzi di Cloud TPU.

  4. Installa Google Cloud CLI. Google Cloud CLI è un insieme di librerie e strumenti per accedere e gestire risorse e servizi. Google Cloud

  5. Configura il comando gcloud che hai installato nell'ambito di Google Cloud CLI.

    Esegui questi comandi per configurare gcloud in modo che utilizzi il tuo progetto Google Cloud.

    $ gcloud config set project PROJECT_ID

  6. Verifica che la fatturazione sia attivata per il tuo progetto Google Cloud .

    La configurazione di fatturazione è obbligatoria per tutto l'utilizzo di Google Cloud . L'addebito verrà effettuato solo dopo che avrai iniziato a utilizzare le risorse Google Cloud . Per saperne di più, consulta la documentazione sulla fatturazione Cloud.

    La fatturazione per l'utilizzo di tutte le versioni di Cloud TPU segue i prezzi regionali standard mostrati nella pagina dei prezzi di Cloud TPU.

Configura l'ambiente per utilizzare Cloud TPU

Prima di richiedere una Cloud TPU, devi attivare l'API Cloud TPU e assicurarti di disporre delle autorizzazioni per gestire l'accesso nel tuo progetto e per creare una Cloud TPU. Ti consigliamo inoltre di creare un service account gestito dall'utente da collegare alla tua TPU.

  1. Attiva l'API Cloud TPU dalla console Google Cloud o utilizzando gcloud CLI in Cloud Shell:

    gcloud

    $ gcloud services enable tpu.googleapis.com

    Console

    1. Nella console Google Cloud , vai alla pagina dell'API Cloud TPU.

    Vai alla pagina dell'API Cloud TPU

    1. Fai clic su Attiva.

  2. Assicurati di disporre dei seguenti ruoli nel tuo progetto:

    Segui le istruzioni riportate in Visualizzare l'accesso corrente per visualizzare quali entità hanno accesso al tuo progetto, alla tua cartella o alla tua organizzazione. Per visualizzare il tuo accesso, nella colonna Entità, trova la riga contenente il tuo indirizzo email. Se il tuo indirizzo email non è presente in questa colonna, significa che non hai ruoli. Nella colonna Ruolo della riga con il tuo indirizzo email, controlla se l'elenco dei ruoli include quelli richiesti.

    Se non disponi di un ruolo richiesto, concedi il ruolo o chiedi a un amministratore di farlo.

  3. Crea un service agent Cloud TPU:

    Gli agenti di servizio, un tipo di identità di servizio, sono identità di servizio gestite da Google che vengono utilizzate dal servizio Cloud TPU per eseguire operazioni nel tuo progetto Google Cloud . Ad esempio, l'agente di servizio viene utilizzato per creare e gestire le risorse Cloud TPU.

      $ gcloud beta services identity create --service tpu.googleapis.com --project PROJECT_ID

  4. Crea un account di servizio TPU:

    I service account fungono da credenziali per le VM TPU. I ruoli collegati a un account di servizio concedono l'accesso alle risorse Google Cloud . Ti consigliamo di utilizzare un account di servizio gestito dall'utente, concedendo solo le autorizzazioni richieste dalla tua VM TPU. Quando utilizzi un account di servizio gestito dall'utente, devi specificarlo quando crei una VM TPU utilizzando il flag --service-account.

    1. Segui le istruzioni riportate in Creare service account per creare un account di servizio gestito dall'utente.

    2. Segui le istruzioni riportate in Gestisci l'accesso a progetti, cartelle e organizzazioni per concedere al tuo service account l'accesso ai servizi Google Cloud a cui accederà la tua TPU. I seguenti ruoli sono consigliati per consentire alla TPU di accedere ai servizi Google Cloud utilizzati di frequente.

Preparati a creare una Cloud TPU

Prima di creare una Cloud TPU, devi richiedere una quota. Dovresti anche prendere in considerazione l'utilizzo di risorse in coda e i parametri da utilizzare per configurare la TPU.

  1. Scegli un'opzione di consumo.

    Le opzioni di consumo sono i metodi utilizzati per richiedere la capacità di Cloud TPU. Scegli un'opzione di consumo in base ai seguenti fattori:

    • Con quale rapidità hai bisogno della capacità
    • Per quanto tempo ti serve la capacità
    • Se hai bisogno della capacità per un periodo di tempo fisso o flessibile
    • Se la tua capacità può essere interrotta
    • Prezzi

    Per saperne di più, consulta Opzioni di consumo di Cloud TPU.

  2. Richiedi quota:

    Le quote TPU sono limiti al numero di core Cloud TPU che puoi utilizzare con un progettoGoogle Cloud . Ogni versione della TPU è associata a una propria quota. Per creare una Cloud TPU, il tuo progetto Google Cloud deve avere una quota per la versione e le dimensioni della TPU che vuoi creare e la zona in cui vuoi crearla. Per saperne di più su allocazione delle quote, tipi di quote e come richiedere una quota, consulta Quote.

    Se crei TPU con Google Kubernetes Engine o Vertex AI, devi richiedere la quota per questi servizi. Per saperne di più sulle quote GKE, consulta Pianificare la configurazione TPU con GKE. Per ulteriori informazioni sulle quote di Vertex AI, consulta Quote e limiti di Vertex AI.

  3. Determina se vuoi utilizzare le risorse in coda.

    La creazione di una Cloud TPU come risorsa in coda è una best practice. Le risorse in coda ti consentono di ricevere capacità non appena diventa disponibile. Puoi specificare un'ora di inizio e di fine facoltativa per quando deve essere soddisfatta la richiesta.

    Esistono diversi comandi gcloud CLI per lavorare con le risorse in coda. Per ulteriori informazioni, consulta la Guida dell'utente delle risorse in coda.

  4. Determina i parametri di creazione di Cloud TPU:

    • Zona: imposta il flag --zone sulla zona in cui vuoi creare una TPU. Devi avere una quota allocata in questa zona. Per saperne di più, consulta Regioni e zone TPU.

    • Configurazione TPU: se non devi specificare una topologia personalizzata o se utilizzi TPU v2 o v3, imposta il flag --accelerator-type su vVERSION-TENSORCORES. Sostituisci VERSION con il numero di versione della TPU che vuoi utilizzare. Sostituisci TENSORCORES con il numero di Tensor Core che vuoi utilizzare.

      Se vuoi personalizzare la topologia fisica della tua TPU, utilizza i flag --version e --topology. Imposta il flag --version sulla versione della TPU che vuoi utilizzare. Imposta il flag --topology sulla topologia che vuoi utilizzare.

      Per saperne di più sulle configurazioni TPU, incluse le configurazioni e le varianti di topologia supportate, consulta Versioni TPU.

    • Versione software: se richiedi una risorsa in coda, imposta il flag --runtime-version sul nome della versione software che vuoi utilizzare. In caso contrario, utilizza il flag --version. Le versioni software TPU sono disponibili per i framework TensorFlow, PyTorch e JAX. Per maggiori informazioni sulle versioni software supportate, consulta Versioni software delle VM TPU.

    • Service account: imposta --service-account sull'indirizzo email di un service account, se ne hai creato uno, per collegarlo alla TPU. Se è vuoto, verrà utilizzato l'account di servizio Compute Engine predefinito.

    • Tipo di quota: aggiungi il flag corrispondente al tipo di quota che vuoi utilizzare:

      Tipo di quota Flag
      Prenotato --reserved
      VM spot --spot
      Prerilasciabile (non disponibile per le risorse in coda; utilizza --spot) --preemptible
      On demand Nessun flag aggiuntivo necessario

    • Configurazione avanzata: puoi aggiungere flag aggiuntivi alla richiesta per configurare la TPU. Per ulteriori informazioni, consulta la documentazione gcloud compute tpus tpu-vm create e le sezioni seguenti:

Per esempi di come creare una Cloud TPU, consulta la sezione Guida introduttiva.

Passaggi successivi

  1. Scopri come creare e gestire le risorse VM e TPU
  2. Esegui una guida rapida di Cloud TPU