Informazioni sulle richieste di prenotazione futura in modalità calendario

Questo documento fornisce una panoramica delle richieste di prenotazione futura in modalità calendario.

Utilizza le richieste di prenotazione futura in modalità calendario per ottenere risorse ad alta richiesta, ad esempio per creare istanze di macchine virtuali (VM) con GPU o TPU collegate. Quando Google Cloud approva una richiesta di prenotazione, Compute Engine esegue il provisioning delle risorse prenotate alla data e all'ora specificate e per una durata massima di 90 giorni. Puoi quindi utilizzare le risorse prenotate per creare VM GPU, VM H4D o VM TPU per eseguire i seguenti workload:

  • Job di pre-addestramento dei modelli

  • Job di ottimizzazione dei modelli

  • Workload di simulazione per computing ad alte prestazioni (HPC)

  • Aumenti dei workload di inferenza previsti nel breve termine

Per ulteriori informazioni su altri modi per prenotare le risorse in Compute Engine, consulta Scegli un tipo di prenotazione.

Creare una richiesta in modalità calendario

Le sezioni seguenti spiegano come visualizzare la disponibilità delle risorse e quali dettagli specificare quando crei una richiesta di prenotazione futura in modalità calendario.

Visualizzare la disponibilità futura delle risorse

Prima di creare una richiesta di prenotazione futura in modalità calendario, puoi visualizzare la disponibilità futura in una regione delle seguenti risorse:

  • Per le VM GPU o H4D, fino a 60 giorni in anticipo

  • Per le TPU, fino a 120 giorni in anticipo

Compute Engine utilizza il Dynamic Workload Scheduler (DWS) per visualizzare quando le risorse richieste sono disponibili. Quando crei una richiesta, specifica il numero, il tipo e il periodo di prenotazione delle risorse di cui hai confermato la disponibilità. Google Cloud è più probabile che approvi la tua richiesta se fornisci queste informazioni.

Definire le proprietà della richiesta

Quando crei una richiesta di prenotazione futura in modalità calendario, devi specificare le seguenti proprietà:

  • Eliminazione automatica. Questa proprietà determina se Compute Engine elimina la prenotazione creata automaticamente (creata automaticamente) per la tua richiesta all'ora di fine, anche se la prenotazione non è stata utilizzata completamente. Per creare una richiesta in modalità calendario, devi attivare l'opzione di eliminazione automatica.

  • Tipo di utilizzo. Questa proprietà definisce il modo in cui le VM utilizzano la prenotazione creata automaticamente. Quando crei una richiesta in modalità calendario, devi specificare che vuoi creare prenotazioni con target specifico. Questa impostazione significa che solo le VM che hanno come target la prenotazione possono utilizzarla.

  • Tipo di deployment. Questa proprietà definisce la collocazione delle risorse prenotate. Compute Engine prenota le risorse in base al tipo di risorsa:

    • Quando crei una richiesta per le VM GPU o H4D, devi specificare il tipo di deployment denso (DENSE). Questa configurazione specifica di prenotare le risorse in modo denso per una latenza di rete minima.

    • Per le TPU, Compute Engine utilizza il tipo di deployment flessibile (FLEXIBLE) per impostazione predefinita. Questa configurazione specifica di prenotare le risorse il più vicino possibile in base al principio del best effort.

  • Nome. Il nome della richiesta, che deve essere univoco all'interno del progetto.

  • Numero di risorse. Il numero di VM GPU, VM H4D o TPU da prenotare all'ora di inizio richiesta.

  • Stato della pianificazione. Questa proprietà definisce se invii immediatamente la richiesta a Google Cloud per la revisione o se la salvi come bozza e la invii in un secondo momento. Quando crei una richiesta in modalità calendario, devi specificare di inviare immediatamente la richiesta per la revisione.

  • Modalità di prenotazione. Questa proprietà definisce il metodo per prenotare le risorse, che devi impostare su CALENDAR per una richiesta in modalità calendario.

  • Nome della prenotazione. Il nome della prenotazione che Compute Engine crea automaticamente se Google Cloud approva la tua richiesta.

  • Tipo di condivisione. Questa proprietà definisce se altri progetti della tua organizzazione possono utilizzare la prenotazione creata automaticamente per la tua richiesta approvata. Puoi specificare una delle seguenti opzioni:

    • Progetto singolo. Solo il tuo progetto può utilizzare la capacità prenotata.

    • Condivisa. Puoi condividere la capacità prenotata con un massimo di 100 altri progetti della tua organizzazione. Se specifichi questa opzione, devi specificare i progetti con cui condividere la prenotazione creata automaticamente. Per ulteriori informazioni, consulta le best practice per le prenotazioni condivise.

  • Periodo di prenotazione. La data e l'ora in cui Compute Engine esegue il provisioning della capacità richiesta e puoi utilizzarla. Il periodo di prenotazione include quanto segue:

    • Ora di inizio. Quando vuoi iniziare a utilizzare la capacità prenotata. A seconda delle risorse che prenoti, l'ora di inizio deve essere almeno uno dei seguenti valori a partire dal momento in cui crei e invii una richiesta:

      • Per le VM GPU e H4D, 87 ore (tre giorni e 15 ore)

      • Per le TPU, sei ore

    • Ora di fine. Quando la capacità richiesta non è più prenotata per te. A questo punto, Compute Engine elimina la prenotazione creata automaticamente e arresta o elimina le VM che utilizzano la prenotazione in base all' azione di terminazione specificata per le VM.

  • Proprietà delle risorse. I requisiti hardware delle VM GPU, delle VM H4D o delle TPU che vuoi prenotare. Le VM possono utilizzare una prenotazione solo se le loro proprietà corrispondono a quelle della prenotazione. Per ulteriori informazioni, consulta i requisiti per utilizzare le prenotazioni.

  • Zona. La zona in cui vuoi prenotare la capacità.

Procedura di revisione delle richieste

Per prenotare la capacità utilizzando una richiesta di prenotazione futura in modalità calendario, devi creare e inviare la richiesta a Google Cloud per la revisione. Dopo aver creato e inviato una richiesta, Google Cloud la esamina entro un minuto e si verifica una delle seguenti condizioni:

  • Google Cloud approva la tua richiesta: Compute Engine prenota le risorse richieste e, entro un minuto dall'approvazione, crea automaticamente una prenotazione vuota. A meno che tu non annulli la richiesta, Compute Engine esegue il provisioning della capacità richiesta aumentando il numero di VM GPU, VM H4D o TPU nella prenotazione all'ora di inizio della richiesta.

  • Si verifica un errore. La richiesta non va a buon fine perché la zona della richiesta non dispone di risorse sufficienti. Ti consigliamo di visualizzare di nuovo la disponibilità futura delle risorse, quindi di creare e inviare una nuova richiesta per la revisione.

Ciclo di vita della richiesta

Il seguente diagramma mostra i diversi stati in cui Compute Engine può impostare una richiesta di prenotazione futura in modalità calendario:

Un diagramma di flusso che mostra i diversi stati che può assumere una richiesta di prenotazione futura in modalità calendario.

Gli stati e il flusso di eventi mostrati nel diagramma precedente sono i seguenti:

  • PENDING_APPROVAL: hai creato e inviato una richiesta per la revisione. Entro un minuto, Google Cloud approva la richiesta.

  • APPROVED: Google Cloud ha approvato la tua richiesta. Quindi, entro un minuto, Compute Engine crea una prenotazione vuota e cambia lo stato della richiesta in PROCURING.

  • PROCURING: Compute Engine pianifica il provisioning delle risorse prenotate. Per impedire questo provisioning, puoi annullare la richiesta se soddisfa una delle seguenti condizioni:

    • L'ora di inizio è successiva di più di 30 giorni.

    • Annulli la richiesta entro 24 ore dall'approvazione e l'ora di inizio è successiva di almeno quattro giorni.

    Prima che la richiesta raggiunga l'ora di inizio, lo stato della richiesta cambia in PROVISIONING.

  • CANCELLED: hai annullato la richiesta mentre era nello stato PROCURING. Questa azione rilascia la capacità prenotata e non ti vengono addebitati costi. Puoi conservare la richiesta per riferimento futuro o eliminarla se non ne hai più bisogno.

  • PROVISIONING: Compute Engine sta eseguendo il provisioning delle risorse prenotate aumentando il numero di VM GPU, VM H4D o TPU prenotate nella prenotazione creata automaticamente. Quando la richiesta raggiunge l'ora di inizio, lo stato della richiesta cambia in FULFILLED.

  • FULFILLED: Compute Engine ha eseguito il provisioning delle risorse prenotate e ti vengono addebitati costi. Puoi utilizzare la prenotazione creata automaticamente creando VM fino all'ora di fine della richiesta.

Quando la richiesta raggiunge l'ora di fine, Compute Engine elimina la prenotazione creata automaticamente e arresta o elimina le VM che utilizzano la prenotazione in base all' azione di terminazione configurata nelle VM. Puoi conservare la richiesta in modalità calendario per la registrazione o eliminarla se non ne hai più bisogno.

Utilizzare la capacità di cui è stato eseguito il provisioning

Dopo che Google Cloud approva una richiesta di prenotazione futura in modalità calendario, Compute Engine crea automaticamente una prenotazione con le seguenti caratteristiche:

  • La prenotazione creata automaticamente non ha VM GPU, VM H4D o TPU prenotate; non puoi ancora utilizzarla.

  • La prenotazione creata automaticamente eredita le proprietà VM o TPU specificate nella richiesta.

All'ora di inizio della richiesta, Compute Engine esegue il provisioning della capacità richiesta aumentando il numero di VM GPU, VM H4D o TPU nella prenotazione creata automaticamente. Puoi quindi utilizzare la prenotazione creando VM GPU, VM H4D o VM TPU che soddisfano tutte le seguenti condizioni:

Puoi creare VM finché la prenotazione non viene utilizzata completamente o fino all'ora di fine della richiesta. All'ora di fine della richiesta, Compute Engine elimina la prenotazione creata automaticamente e arresta o elimina le VM che utilizzano la prenotazione.

Quota

I requisiti di quota per le richieste di prenotazione futura in modalità calendario dipendono dal tipo di macchina come segue:

  • Tipi di macchine GPU e TPU: non è richiesta alcuna quota per prenotare la capacità.

  • Tipi di macchine H4D: quota CPU viene utilizzata.

Quando crei VM utilizzando la capacità prenotata, devi disporre di una quota sufficiente per le risorse che non fanno parte della prenotazione, come dischi o indirizzi IP. In caso contrario, la creazione delle VM non va a buon fine.

Prezzi

Quando crei e invii una richiesta di prenotazione futura in modalità calendario e Google Cloud approva la tua richiesta, non ti vengono addebitati costi immediatamente. Ti vengono addebitati costi quando si verifica quanto segue:

  • Compute Engine esegue il provisioning della capacità richiesta. Quando la tua richiesta raggiunge lo stato FULFILLED all'ora di inizio della richiesta, ti vengono addebitati costi per le risorse di cui è stato eseguito il provisioning in base ai prezzi di DWS. Questo modello di prezzi offre vCPU, memoria, GPU e TPU a un prezzo scontato rispetto ai prezzi standard.

  • Utilizzi risorse al di fuori della prenotazione. Quando crei VM che utilizzano una prenotazione creata automaticamente, non ti vengono addebitati costi aggiuntivi per le risorse utilizzate. Ti vengono addebitati costi solo per le risorse che non fanno parte della prenotazione, come dischi o indirizzi IP.

Non ti vengono più addebitati costi per le risorse prenotate all'ora di fine della richiesta. A questo punto, Compute Engine elimina la prenotazione creata automaticamente e arresta o elimina le VM che utilizzano la prenotazione in base all'azione di terminazione.

Limitazioni

Le sezioni seguenti spiegano le limitazioni per le richieste di prenotazione futura in modalità calendario.

Limitazioni per tutte le richieste

Tutte le richieste di prenotazione futura in modalità calendario sono soggette alle seguenti limitazioni:

  • Puoi prenotare le risorse per un periodo compreso tra 1 e 90 giorni.

  • Dopo aver inviato una richiesta e Google Cloud l'ha approvata, si applicano le seguenti limitazioni:

    • Puoi annullare la richiesta se soddisfa una delle seguenti condizioni:

      • L'ora di inizio è successiva di più di 30 giorni.

      • Annulli la richiesta entro 24 ore dall'approvazione e l'ora di inizio è successiva di almeno quattro giorni.

    • Puoi eliminare la richiesta dopo averla annullata o dopo che ha raggiunto l'ora di fine.

    • Non puoi modificare la richiesta.

Limitazioni per le richieste di VM GPU o H4D

Puoi prenotare le VM GPU o le VM H4D solo come segue:

Limitazioni per le richieste di VM TPU

Puoi prenotare le VM TPU solo come segue:

  • Puoi prenotare 1, 4, 8, 16, 32, 64, 128, 256, 512 o 1024 chip TPU per richiesta.

  • Puoi prenotare le seguenti versioni di TPU:

  • Puoi prenotare le TPU solo in regioni e zone specifiche. Per ulteriori informazioni, consulta Località delle TPU.

Limitazioni per tutte le prenotazioni create automaticamente

Una prenotazione creata automaticamente per una richiesta è soggetta alle seguenti limitazioni:

  • Puoi modificare la prenotazione solo come segue:

    • Per consentire o impedire ai job di Vertex AI di utilizzarla.

    • Dopo l'ora di inizio della prenotazione.

  • Non puoi applicare sconti per impegno di utilizzo (CUD) o sconti per utilizzo sostenuto (SUD) alla prenotazione.

  • Non puoi eliminare la prenotazione; Compute Engine la elimina all'ora di fine della prenotazione.

Passaggi successivi