Informazioni sulle VM con avvio flessibile

Questo documento fornisce una panoramica delle VM con avvio flessibile, descrivendone le caratteristiche principali, nonché i requisiti e le limitazioni che si applicano quando le crei.

Le VM con avvio flessibile sono istanze di macchine virtuali (VM) che crei utilizzando il modello di provisioning con avvio flessibile. Questo modello utilizza il Dynamic Workload Scheduler (DWS) per eseguire il provisioning delle risorse di computing da un pool di capacità sicuro, migliorando le tue possibilità di ottenere risorse ad alta richiesta come GPU o TPU. Dopo aver creato le VM con avvio flessibile, Compute Engine tenta di allocare le risorse richieste entro un periodo di tempo specifico. Se l'operazione va a buon fine, le VM con avvio flessibile iniziano a essere eseguite e continuano a essere eseguite per un massimo di sette giorni.

Per i workload che richiedono risorse per più di sette giorni o con una maggiore garanzia di capacità, puoi creare una richiesta di prenotazione futura in modalità calendario.

Casi d'uso delle VM con avvio flessibile

Le VM con avvio flessibile sono ideali per l'esecuzione di workload che possono essere avviati in qualsiasi momento, ad esempio:

  • Pre-addestramento di modelli di piccole dimensioni

  • Ottimizzazione dei modelli

  • Simulazione di computing ad alte prestazioni (HPC)

  • Inferenza batch

Caratteristiche principali delle VM con avvio flessibile

Rispetto ad altri tipi di istanze Compute Engine, le VM con avvio flessibile presentano le seguenti caratteristiche:

  • Tempo di attesa per l'allocazione delle risorse: puoi creare VM con avvio flessibile prima che Compute Engine possa allocare le risorse richieste. Tuttavia, le VM vengono avviate solo se le risorse diventano disponibili entro il periodo di tempo specificato. Se le risorse non sono disponibili, la richiesta di creazione della VM non va a buon fine.

    Per ulteriori informazioni, consulta la sezione Tempo di attesa delle VM con avvio flessibile in questo documento.

  • Durata di esecuzione limitata: le VM con avvio flessibile vengono eseguite ininterrottamente per un massimo di sette giorni. Trascorso questo periodo di tempo, Compute Engine arresta o elimina automaticamente le VM in base all'azione di terminazione specificata nelle proprietà della VM.

    Per ulteriori informazioni, consulta la sezione Durata di esecuzione limitata delle VM con avvio flessibile in questo documento.

  • Come Compute Engine alloca le VM: Compute Engine tenta di creare VM con avvio flessibile in prossimità per ridurre al minimo la latenza di rete. Per controllare il posizionamento delle VM con avvio flessibile, puoi utilizzare facoltativamente policy di posizionamento compatto o policy di workload.

    Per ulteriori informazioni, consulta la sezione Allocazione delle VM con avvio flessibile in questo documento.

  • Modello di provisioning con avvio flessibile: crei le VM con avvio flessibile utilizzando il modello di provisioning con avvio flessibile. Questo modello di provisioning offre una migliore disponibilità delle risorse rispetto alle VM create utilizzando il modello di provisioning standard.

    Per ulteriori informazioni su ciascun modello di provisioning, consulta Modelli di provisioning delle istanze Compute Engine.

Tempo di attesa delle VM con avvio flessibile

Quando crei una Flex-start VM, la VM non viene avviata immediatamente. Compute Engine tenta di allocare le risorse richieste e di avviare la VM entro un periodo di tempo specifico. Se hai una quota sufficiente per le risorse richieste e Compute Engine le alloca entro la fine del tempo di attesa, la Flex-start VM viene avviata entro due minuti dalla disponibilità della capacità. In caso contrario, la richiesta di creazione della VM non va a buon fine.

Il tempo di attesa varia in base al metodo utilizzato per creare le VM:

Tempo di attesa delle VM con avvio flessibile autonome

Per creare una Flex-start VM autonoma, devi specificare un tempo di attesa utilizzando il campo requestValidForDuration. Puoi impostare un tempo di attesa di zero secondi o compreso tra 90 secondi e 7200 secondi (due ore).

In base ai requisiti di zona del tuo carico di lavoro, ti consigliamo i seguenti tempi di attesa per aumentare le probabilità di successo della richiesta di creazione della Flex-start VM:

  • Requisiti di zona rigorosi: se il tuo workload richiede la creazione di una Flex-start VM in una zona specifica, ti consigliamo di impostare il campo requestValidForDuration su 90 secondi o più, fino a due ore. Tempi di attesa più lunghi aumentano le probabilità di ottenere risorse. Durante questo periodo di tempo, la VM rimane nello stato PENDING

  • Nessun requisito di zona: se la Flex-start VM può essere eseguita in qualsiasi zona della regione, ti consigliamo di impostare il campo requestValidForDuration su zero secondi. Questo valore specifica che Compute Engine alloca le risorse solo se sono immediatamente disponibili. Se la richiesta non va a buon fine perché le risorse non sono disponibili, prova a creare la Flex-start VM in un'altra zona.

Per interrompere una richiesta di creazione di VM mentre Compute Engine tenta di allocare le risorse, elimina la VM con avvio flessibile.

Tempo di attesa dei MIG con VM con avvio flessibile

Se aggiungi VM con avvio flessibile a un gruppo di istanze gestite (MIG), Compute Engine continua a tentare di eseguire il provisioning delle risorse richieste finché non riesce o non annulli la richiesta. Il modo in cui Compute Engine aggiunge le VM al MIG varia in base al metodo di creazione:

  • Richieste di ridimensionamento del MIG: Compute Engine aggiunge tutte le VM richieste a l MIG contemporaneamente quando tutte le risorse diventano disponibili. A meno che tu non elimini le VM prima della fine della durata di esecuzione, Compute Engine le elimina contemporaneamente. Per ulteriori informazioni, consulta la sezione Informazioni sulle richieste di ridimensionamento del MIG.

  • MIG con una dimensione target: Compute Engine crea singolarmente ogni VM quando la capacità diventa disponibile. Pertanto, il MIG potrebbe inizialmente creare solo una parte delle VM richieste e poi aggiungere le VM rimanenti in un secondo momento, in base alla capacità. A meno che tu non elimini le VM prima della fine della durata di esecuzione, Compute Engine elimina ogni VM in base al proprio tempo di creazione. Per ulteriori informazioni, consulta Crea un MIG che utilizza VM con avvio flessibile.

Durata di esecuzione limitata delle VM con avvio flessibile

Quando crei una Flex-start VM, devi specificare quanto segue:

  • Durata di esecuzione della VM: devi specificare per quanto tempo le VM possono essere eseguite. La durata di esecuzione può essere di massimo sette giorni. Se il workload viene completato prima della fine della durata di esecuzione delle VM, puoi arrestare o eliminare le VM autonome oppure eliminare le VM in un MIG per evitare costi inutili.

  • Azione di terminazione della VM: devi scegliere se Compute Engine deve arrestare o eliminare automaticamente le VM al termine della durata di esecuzione. Per le VM con avvio flessibile in un MIG, puoi specificare solo di eliminare le VM al termine della durata di esecuzione.

Allocazione delle VM con avvio flessibile

Compute Engine tenta di creare le VM con avvio flessibile in modo denso in base alla disponibilità. Questo posizionamento denso riduce al minimo gli hop di rete e ottimizza la latenza ridotta, ideale per i workload che richiedono una comunicazione costante tra le VM, come i workload di AI o ML. Se vuoi controllare il posizionamento delle VM con avvio flessibile per evitare che vengano create in modo imprevisto a distanza, procedi nel seguente modo:

Quota

Per creare o riavviare le VM con avvio flessibile, il progetto deve disporre di una quota preemptible sufficiente per le vCPU, la memoria e gli acceleratori o i dischi SSD locali collegati richiesti.

Se tenti di creare o riavviare una Flex-start VM senza una quota sufficiente, si verifica uno dei seguenti scenari:

  • Richieste di creazione di VM: la richiesta rimane in sospeso finché il progetto non dispone di una quota sufficiente. Se il progetto non dispone della quota richiesta alla scadenza del tempo di attesa, la richiesta di creazione non va a buon fine.

  • Richieste di riavvio della VM: la richiesta non va a buon fine immediatamente.

Prezzi

Per le VM con avvio flessibile, paghi a consumo (PAYG). Per ulteriori informazioni, consulta i prezzi di DWS.

Limitazioni

Le sezioni seguenti descrivono le limitazioni per le VM con avvio flessibile.

Limitazioni per tutte le VM con avvio flessibile

Tutte le VM con avvio flessibile presentano le seguenti limitazioni:

  • Le VM con avvio flessibile possono utilizzare solo i seguenti tipi di macchine:

    • Qualsiasi tipo di macchina GPU, ad eccezione di A4X Max e A4X

    • Versioni di TPU nelle seguenti zone:

      • TPU7x: us-central1-c

      • TPU v6e: asia-northeast1-b, us-east5-a, e us-south1-ai1b

      • TPU v5p: us-east5-a

    • Tipi di macchine H4D

  • Devi creare le VM con avvio flessibile utilizzando il modello di provisioning con avvio flessibile.

  • Devi specificare se arrestare o eliminare le VM con avvio flessibile al termine della durata di esecuzione utilizzando i instanceTerminationAction e maxRunDuration campi. Per i MIG, puoi specificare solo di eliminare le VM con avvio flessibile.

  • Devi arrestare le VM con avvio flessibile durante gli eventi di manutenzione dell'host.

  • Puoi applicare policy di posizionamento compatto solo alle VM con avvio flessibile autonome.

  • Non puoi applicare policy di posizionamento distribuito alle VM con avvio flessibile.

  • Non puoi creare prenotazioni.

Limitazioni per i MIG con VM con avvio flessibile

Tutti i MIG con VM con avvio flessibile presentano le seguenti limitazioni:

Inoltre, se vuoi creare VM con avvio flessibile utilizzando le richieste di ridimensionamento del MIG, consulta le limitazioni per le richieste di ridimensionamento del MIG.

Passaggi successivi

Provalo

Se non conosci Google Cloud, crea un account per valutare le prestazioni di Compute Engine in scenari reali. I nuovi clienti ricevono anche 300 $di crediti senza costi per l'esecuzione, il test e il deployment dei workload.

Fai una prova senza costi di Compute Engine