Questo documento illustra le funzionalità e le opzioni di Google Kubernetes Engine (GKE), nonché le best practice per eseguire le applicazioni con ottimizzazione dei costi su GKE al fine di sfruttare la flessibilità offerta da Google Cloud. Questo documento presuppone che tu conosca Kubernetes, Google Cloud, GKE e la scalabilità automatica.
Per una panoramica consolidata di tutte le best practice di GKE, consulta Best practice per GKE.Introduzione
Man mano che Kubernetes viene adottato su larga scala, un numero crescente di aziende e provider di Platform as a Service (PaaS) e Software as a Service (SaaS) utilizza cluster Kubernetes multi-tenant per i propri workload. Ciò significa che un singolo cluster potrebbe eseguire applicazioni appartenenti a team, reparti, clienti o ambienti diversi. La multi-tenancy fornita da Kubernetes consente alle aziende di gestire alcuni cluster di grandi dimensioni, anziché più cluster di dimensioni ridotte, con vantaggi quali un utilizzo appropriato delle risorse, un controllo di gestione semplificato e una frammentazione ridotta.
Nel tempo, alcune di queste aziende con cluster Kubernetes in rapida crescita iniziano a riscontrare un aumento sproporzionato dei costi. Questo accade perché le aziende tradizionali che adottano soluzioni basate su cloud come Kubernetes non dispongono di sviluppatori e operatori con competenze cloud. Questa mancanza di idoneità al cloud rende le applicazioni instabili durante la scalabilità automatica (ad esempio, volatilità del traffico durante un periodo regolare della giornata), picchi improvvisi o picchi (come spot pubblicitari in TV o eventi di scalabilità di picco come il Black Friday e il Cyber Monday). Nel tentativo di "risolvere" il problema, queste aziende tendono a eseguire l'overprovisioning dei cluster come facevano in un ambiente non elastico. L'overprovisioning comporta un'allocazione di CPU e memoria notevolmente superiore a quella utilizzata dalle applicazioni per la maggior parte della giornata.
Questo documento fornisce le best practice per l'esecuzione di workload Kubernetes con ottimizzazione dei costi su GKE. Il seguente diagramma illustra questo approccio.
La base per la creazione di applicazioni ottimizzate in termini di costi è la diffusione della cultura del risparmio sui costi tra i team. Oltre a spostare le discussioni sui costi all'inizio del processo di sviluppo, questo approccio ti costringe a comprendere meglio l'ambiente in cui vengono eseguite le tue applicazioni, in questo contesto l'ambiente GKE.
Per ottenere costi ridotti e stabilità delle applicazioni, devi impostare o ottimizzare correttamente alcune funzionalità e configurazioni (come la scalabilità automatica, i tipi di macchine e la selezione della regione). Un'altra considerazione importante è il tipo di workload perché, a seconda del tipo di workload e dei requisiti della tua applicazione, devi applicare configurazioni diverse per ridurre ulteriormente i costi. Infine, devi monitorare la spesa e creare misure di protezione per applicare le best practice nelle prime fasi del ciclo di sviluppo.
La tabella seguente riassume le sfide che GKE ti aiuta a risolvere. Anche se ti invitiamo a leggere l'intero documento, questa tabella presenta una mappa degli argomenti trattati.
Funzionalità e opzioni di ottimizzazione dei costi di GKE
Le applicazioni Kubernetes con ottimizzazione dei costi fanno un uso intensivo della scalabilità automatica di GKE. Per bilanciare costi, affidabilità e prestazioni di scalabilità su GKE, devi capire come funziona la scalabilità automatica e quali opzioni hai a disposizione. Questa sezione illustra la scalabilità automatica di GKE e altre utili configurazioni con ottimizzazione dei costi per i workload di distribuzione e batch.
Ottimizza la scalabilità automatica di GKE
La scalabilità automatica è la strategia utilizzata da GKE per consentire ai clientiGoogle Cloud di pagare solo per ciò di cui hanno bisogno, riducendo al minimo l'uptime dell'infrastruttura. In altre parole, la scalabilità automatica consente di risparmiare sui costi 1) avviando i workload e l'infrastruttura sottostante prima che la domanda aumenti e 2) arrestandoli quando la domanda diminuisce.
Il seguente diagramma illustra questo concetto. In Kubernetes, i tuoi workload sono applicazioni containerizzate in esecuzione all'interno di pod e l'infrastruttura sottostante, composta da un insieme di nodi, deve fornire una capacità di computing sufficiente per eseguire i workload.
Come mostra il seguente diagramma, questo ambiente ha quattro dimensioni di scalabilità. Il workload e l'infrastruttura possono fare lo scale up o lo scale down orizzontale aggiungendo e rimuovendo pod o nodi e possono fare lo scale up o lo scale down verticale aumentando e diminuendo le dimensioni dei pod o dei nodi.
GKE gestisce questi scenari di scalabilità automatica utilizzando funzionalità come le seguenti:
- Horizontal Pod Autoscaler (HPA), per aggiungere e rimuovere pod in base alle metriche di utilizzo.
- Vertical Pod Autoscaler (VPA), per il dimensionamento dei pod.
- Gestore della scalabilità automatica dei cluster, per aggiungere e rimuovere nodi in base al workload pianificato.
- Provisioning automatico dei nodi, per creare dinamicamente nuovi pool di nodi con nodi che soddisfano le esigenze dei pod degli utenti.
Il seguente diagramma illustra questi scenari.
Il resto di questa sezione illustra in modo più dettagliato queste funzionalità di scalabilità automatica di GKE e descrive altre utili configurazioni con ottimizzazione dei costi per i workload di distribuzione e batch.
Horizontal Pod Autoscaler
Horizontal Pod Autoscaler (HPA) è progettato per scalare le applicazioni in esecuzione nei pod in base alle metriche che esprimono il carico. Puoi configurare l'utilizzo della CPU o altre metriche personalizzate (ad esempio, le richieste al secondo). In breve, HPA aggiunge ed elimina repliche di pod ed è più adatto per i worker stateless che possono avviarsi rapidamente per reagire ai picchi di utilizzo e arrestarsi in modo controllato per evitare l'instabilità del workload.
Come mostrato nell'immagine precedente, l'HPA richiede una soglia di utilizzo target, espressa in percentuale, che consente di personalizzare quando attivare automaticamente la scalabilità. In questo esempio, l'utilizzo della CPU target è del 70%. Ciò significa che il tuo workload ha un buffer della CPU del 30% per gestire le richieste mentre vengono avviate nuove repliche. Un buffer ridotto impedisce gli scale up anticipati, ma può sovraccaricare l'applicazione durante i picchi. Tuttavia, un buffer di grandi dimensioni causa uno spreco di risorse, aumentando i costi. Il target esatto è specifico dell'applicazione e devi considerare che la dimensione del buffer sia sufficiente per gestire le richieste per due o tre minuti durante un picco. Anche se garantisci che la tua applicazione può avviarsi in pochi secondi, questo tempo aggiuntivo è necessario quando il gestore della scalabilità automatica dei cluster aggiunge nuovi nodi al cluster o quando i pod vengono limitati a causa della mancanza di risorse.
Di seguito sono riportate le best practice per l'attivazione di HPA nella tua applicazione:
- Dimensiona correttamente l'applicazione impostando richieste e limiti di risorse appropriati.
- Imposta l'utilizzo target in modo da riservare un buffer in grado di gestire le richieste durante un picco.
- Assicurati che l'applicazione si avvii il più rapidamente possibile e si arresti in base alle aspettative di Kubernetes.
- Imposta probe di idoneità e attività significativi.
- Assicurati che il Metrics Server sia sempre attivo e funzionante.
- Informa i client della tua applicazione che devono prendere in considerazione l'implementazione di tentativi ripetuti esponenziali per la gestione dei problemi temporanei.
Per saperne di più, consulta Configurazione di un Horizontal Pod Autoscaler.
Vertical Pod Autoscaler
A differenza di HPA, che aggiunge ed elimina repliche di pod per reagire rapidamente ai picchi di utilizzo, Vertical Pod Autoscaler (VPA) osserva i pod nel tempo e trova gradualmente le risorse di CPU e memoria ottimali richieste dai pod. L'impostazione delle risorse giuste è importante per la stabilità e l'efficienza in termini di costi. Se le risorse dei pod sono troppo ridotte, l'applicazione può essere limitata o non riuscire a causa di errori di memoria esaurita. Se le risorse sono troppo grandi, si verificano sprechi e, di conseguenza, fatture più elevate. Il VPA è destinato ai workload stateless e stateful non gestiti dall'HPA o quando non conosci le richieste di risorse dei pod appropriate.
Come mostra l'immagine precedente, il VPA rileva che il pod è costantemente in esecuzione ai suoi limiti e lo ricrea con risorse più grandi. Quando il pod è costantemente sottoutilizzato, si verifica anche il contrario: viene attivato uno scale down.
VPA può funzionare in tre diverse modalità:
- Off. In questa modalità, nota anche come modalità di suggerimento, VPA non applica alcuna modifica al pod. I suggerimenti vengono calcolati e possono essere ispezionati nell'oggetto VPA.
- Initial: il VPA assegna le richieste di risorse solo al momento della creazione del pod e non le modifica mai in un secondo momento.
- Auto: VPA aggiorna le richieste di CPU e memoria durante il ciclo di vita di un pod. Ciò significa che il pod viene eliminato, la CPU e la memoria vengono regolate e poi viene avviato un nuovo pod.
Se prevedi di utilizzare VPA, la best practice consiste nell'iniziare con la modalità Off per estrarre i suggerimenti di VPA. Assicurati che sia in esecuzione per 24 ore, idealmente una settimana o più, prima di estrarre i consigli. Poi, solo quando ti senti sicuro, valuta la possibilità di passare alla modalità Iniziale o Automatica.
Segui queste best practice per attivare VPA nella tua applicazione, in modalità Iniziale o Automatica:
- Non utilizzare la modalità Iniziale o Automatica del VPA se devi gestire picchi di traffico improvvisi. Utilizza invece HPA.
- Assicurati che la tua applicazione possa crescere verticalmente.
- Imposta le dimensioni minime e massime dei container negli oggetti VPA per evitare che il gestore della scalabilità automatica apporti modifiche significative quando l'applicazione non riceve traffico.
- Non apportare modifiche brusche, ad esempio riducendo le repliche del pod da 30 a 5 tutte in una volta. Questo tipo di modifica richiede un nuovo deployment, un nuovo set di etichette e un nuovo oggetto VPA.
- Assicurati che l'applicazione si avvii il più rapidamente possibile e si arresti in base alle aspettative di Kubernetes.
- Imposta probe di idoneità e attività significativi.
- Assicurati che il Metrics Server sia sempre attivo e funzionante.
- Informa i client della tua applicazione che devono prendere in considerazione l'implementazione di tentativi ripetuti esponenziali per la gestione dei problemi temporanei.
- Prendi in considerazione l'utilizzo del provisioning automatico dei nodi insieme a VPA in modo che, se un pod diventa abbastanza grande da rientrare nei tipi di macchine esistenti, il gestore della scalabilità automatica dei cluster esegua il provisioning di macchine più grandi per adattarsi al nuovo pod.
Se stai valutando di utilizzare la modalità Automatica, assicurati di seguire anche queste pratiche:
- Assicurati che l'applicazione possa essere riavviata mentre riceve traffico.
- Aggiungi un budget per l'interruzione dei pod (PDB) per controllare quanti pod possono essere disattivati contemporaneamente.
Per saperne di più, consulta Configurazione della scalabilità automatica verticale dei pod.
Combinazione di HPA e VPA
Il suggerimento ufficiale è di non combinare VPA e HPA per CPU o memoria. Tuttavia, puoi combinarli nei seguenti scenari:
- Quando utilizzi il dimensionamento ottimale di HPA con VPA (anteprima) per le richieste di CPU.
- Quando utilizzi l'assistente vocale in modalità di suggerimento.
- Quando utilizzi metriche personalizzate in HPA, ad esempio se esegui la scalabilità in base alle richieste al secondo.
Quando combini VPA e HPA, assicurati che i tuoi deployment ricevano traffico sufficiente, ovvero che vengano eseguiti costantemente al di sopra del numero minimo di repliche HPA. In questo modo, VPA può comprendere le esigenze di risorse del pod.
Per ulteriori informazioni sulle limitazioni di VPA, consulta Limitazioni per la scalabilità automatica verticale dei pod.
Gestore della scalabilità automatica del cluster
Il gestore della scalabilità automatica dei cluster (CA) ridimensiona automaticamente l'infrastruttura di computing sottostante. Il CA fornisce nodi per i pod che non hanno un posto in cui essere eseguiti nel cluster e rimuove i nodi sottoutilizzati. La CA è ottimizzata per il costo dell'infrastruttura. In altre parole, se nel cluster sono presenti due o più tipi di nodi, il CA sceglie quello meno costoso che soddisfa la domanda specificata.
A differenza di HPA e VPA, CA non dipende dalle metriche di carico. Si basa invece sulla simulazione della pianificazione e sulle richieste di pod dichiarate. È una best practice attivare CA ogni volta che utilizzi HPA o VPA. Questa pratica garantisce che, se i gestori della scalabilità automatica dei pod determinano che è necessaria una maggiore capacità, l'infrastruttura sottostante cresce di conseguenza.
Come mostrano questi diagrammi, CA aggiunge e rimuove automaticamente la capacità di calcolo per gestire i picchi di traffico e farti risparmiare denaro quando i tuoi clienti dormono. Una best practice consiste nel definire il budget di interruzione dei pod (PDB) per tutte le tue applicazioni. È particolarmente importante nella fase di scale down della CA, quando il PDB controlla il numero di repliche che possono essere rimosse contemporaneamente.
Alcuni pod non possono essere riavviati da nessun gestore della scalabilità automatica
quando causano un'interruzione temporanea, pertanto il nodo su cui vengono eseguiti
non può essere eliminato. Ad esempio, i pod di sistema (come metrics-server e kube-dns) e i pod che utilizzano lo spazio di archiviazione locale non verranno riavviati. Tuttavia, puoi modificare questo comportamento definendo i PDB per questi pod di sistema e impostando l'annotazione "cluster-autoscaler.kubernetes.io/safe-to-evict": "true" per i pod che utilizzano lo spazio di archiviazione locale e che possono essere riavviati in sicurezza dal gestore della scalabilità automatica. Inoltre, valuta la possibilità di eseguire pod di lunga durata che non possono essere riavviati su un node pool separato, in modo che non blocchino lo scale down di altri nodi. Infine, scopri come analizzare gli eventi del gestore della scalabilità automatica nei log per capire perché una determinata attività di scalabilità non si è verificata come previsto.
Se i tuoi workload sono resilienti ai riavvii involontari dei nodi e alle perdite di capacità, puoi risparmiare di più creando un cluster o un pool di nodi con VM spot. Affinché il CA funzioni come previsto, le richieste di risorse dei pod devono essere sufficientemente grandi da consentire il normale funzionamento dei pod. Se le richieste di risorse sono troppo ridotte, i nodi potrebbero non avere risorse sufficienti e i pod potrebbero arrestarsi in modo anomalo o avere problemi durante il runtime.
Di seguito è riportato un riepilogo delle best practice per l'attivazione del gestore della scalabilità automatica dei cluster nel tuo cluster:
- Utilizza HPA o VPA per scalare automaticamente i workload.
- Assicurati di seguire le best practice descritte nel gestore della scalabilità automatica dei pod scelto.
- Dimensiona correttamente l'applicazione impostando richieste e limiti di risorse appropriati o utilizza VPA.
- Definisci un PDB per le tue applicazioni.
- Definisci il PDB per i pod di sistema che potrebbero bloccare lo scale down. Ad
esempio,
kube-dns. Per evitare interruzioni temporanee nel cluster, non impostare il PDB per i pod di sistema che hanno una sola replica (ad esempiometrics-server). - Esegui i pod di breve durata e i pod che possono essere riavviati in pool di nodi separati, in modo che i pod di lunga durata non blocchino lo scale down.
- Evita l'over-provisioning configurando i nodi inattivi nel cluster. Per farlo, devi conoscere la tua capacità minima, che per molte aziende è durante la notte, e impostare il numero minimo di nodi nei tuoi pool di nodi per supportare questa capacità.
- Se hai bisogno di capacità aggiuntiva per gestire le richieste durante i picchi, utilizza i pod di pausa, descritti in Gestore della scalabilità automatica e overprovisioning.
Per saperne di più, consulta Scalabilità automatica di un cluster.
Provisioning automatico dei nodi
Il provisioning automatico dei nodi (NAP) è un meccanismo del gestore della scalabilità automatica dei cluster che aggiunge automaticamente nuovi node pool, oltre a gestirne le dimensioni per conto dell'utente. Senza il provisioning automatico dei nodi, GKE prende in considerazione l'avvio di nuovi nodi solo dall'insieme di pool di nodi creati dall'utente. Con il provisioning automatico dei nodi, GKE può creare ed eliminare automaticamente nuovi pool di nodi.
Il provisioning automatico dei nodi tende a ridurre lo spreco di risorse creando dinamicamente i node pool più adatti ai workload pianificati. Tuttavia, la latenza di scalabilità automatica può essere leggermente superiore quando è necessario creare nuovi pool di nodi. Se i tuoi workload sono resilienti ai riavvii involontari dei nodi e alle perdite di capacità, puoi ridurre ulteriormente i costi configurando la tolleranza delle VM spot nel pod.
Di seguito sono riportate le best practice per l'attivazione del provisioning automatico dei nodi:
- Segui tutte le best practice del gestore della scalabilità automatica dei cluster.
- Imposta le dimensioni minime e massime delle risorse per evitare che NAP apporti modifiche significative al cluster quando l'applicazione non riceve traffico.
- Quando utilizzi Horizontal Pod Autoscaler per i workload di distribuzione, valuta la possibilità di riservare un buffer di utilizzo target leggermente più grande, perché NAP potrebbe aumentare la latenza della scalabilità automatica in alcuni casi.
Per saperne di più, consulta Utilizzo del provisioning automatico dei nodi e Funzionalità non supportate.
Gestore della scalabilità automatica e overprovisioning
Per controllare i costi, ti consigliamo vivamente di attivare il gestore della scalabilità automatica in base alle sezioni precedenti. Nessuna configurazione è adatta a tutti gli scenari possibili, quindi devi ottimizzare le impostazioni del tuo workload per assicurarti che i gestori della scalabilità automatica rispondano correttamente agli aumenti del traffico.
Tuttavia, come indicato nella sezione Horizontal Pod Autoscaler, lo scale up potrebbe richiedere del tempo a causa del provisioning dell'infrastruttura. Per visualizzare questa differenza di tempo e i possibili scenari di scale up, considera l'immagine seguente.
Quando il cluster ha spazio sufficiente per il deployment di nuovi pod, viene attivato uno degli scenari di scale up del workload. Ciò significa che, se un nodo esistente non ha mai eseguito il deployment della tua applicazione, deve scaricare le immagini container prima di avviare il pod (scenario 1). Tuttavia, se lo stesso nodo deve avviare una nuova replica del pod della tua applicazione, il tempo di scale up totale diminuisce perché non è necessario scaricare l'immagine (scenario 2).
Quando il cluster non ha spazio sufficiente per il deployment di nuovi pod, viene attivato uno degli scenari di scale up dell'infrastruttura e del workload. Ciò significa che il gestore della scalabilità automatica dei cluster deve eseguire il provisioning di nuovi nodi e avviare il software richiesto prima di avvicinarsi alla tua applicazione (scenario 1). Se utilizzi il provisioning automatico dei nodi, a seconda del workload pianificato, potrebbero essere necessari nuovi node pool. In questo caso, il tempo totale di scale up aumenta perché il gestore della scalabilità automatica dei cluster deve eseguire il provisioning di nodi e pool di nodi (scenario 2).
Per gli scenari in cui è richiesta una nuova infrastruttura, non comprimere troppo il cluster, ovvero devi eseguire l'overprovisioning, ma solo per prenotare il buffer necessario per gestire le richieste di picco previste durante gli scale up.
Esistono due strategie principali per questo tipo di overprovisioning:
Ottimizza il target di utilizzo dell'HPA. La seguente equazione è un modo semplice e sicuro per trovare un buon target della CPU:
(1 - buff)/(1 + perc)
- buff è un buffer di sicurezza che puoi impostare per evitare di raggiungere il 100% della CPU. Questa variabile è utile perché il raggiungimento del 100% della CPU significa che la latenza dell'elaborazione delle richieste è molto più elevata del solito.
- perc è la percentuale di crescita del traffico che prevedi in due o tre minuti.
Ad esempio, se prevedi una crescita del 30% delle richieste e vuoi evitare di raggiungere il 100% della CPU definendo un buffer di sicurezza del 10%, la formula sarà la seguente:
(1 - 0,1)/(1 + 0,3) = 0,69
Configura i pod di pausa. Non è possibile configurare il gestore della scalabilità automatica dei cluster per avviare i nodi in anticipo. Puoi invece impostare un target di utilizzo dell'HPA per fornire un buffer che aiuti a gestire i picchi di carico. Tuttavia, se prevedi picchi di traffico elevati, l'impostazione di un target di utilizzo HPA ridotto potrebbe non essere sufficiente o potrebbe diventare troppo costosa.
Una soluzione alternativa a questo problema è utilizzare i pod di pausa. I pod di pausa sono deployment a bassa priorità che non fanno altro che riservare spazio nel cluster. Ogni volta che viene pianificato un pod con priorità alta, i pod di pausa vengono rimossi e il pod con priorità alta prende immediatamente il loro posto. I pod di pausa rimossi vengono quindi ripianificati e, se non c'è spazio nel cluster, il gestore della scalabilità automatica dei cluster avvia nuovi nodi per adattarli. È consigliabile avere un solo pod di pausa per nodo. Ad esempio, se utilizzi nodi con 4 CPU, configura la richiesta di CPU dei pod in pausa con circa 3200 m.
Scegli il tipo di macchina giusto
Oltre alla scalabilità automatica, esistono altre configurazioni che possono aiutarti a eseguire applicazioni Kubernetes con ottimizzazione dei costi su GKE. Questa sezione illustra la scelta del tipo di macchina più adatto.
VM spot
Le VM spot sono istanze VM di Compute Engine che non garantiscono la disponibilità. Le VM spot sono fino al 91% più economiche rispetto alle VM Compute Engine standard, ma ti consigliamo di utilizzarle con cautela sui cluster GKE. Le VM spot su GKE sono più adatte per l'esecuzione di job batch o a tolleranza di errore che sono meno sensibili alla natura temporanea e non garantita delle VM spot. I workload stateful e di distribuzione non devono utilizzare VM spot, a meno che tu non prepari il sistema e l'architettura per gestire i vincoli delle VM spot.
Indipendentemente dal tipo di workload, devi prestare attenzione ai seguenti vincoli:
- Il budget di interruzione dei pod potrebbe non essere rispettato perché le VM spot possono arrestarsi inavvertitamente.
- Non è garantito che i pod vengano arrestati in modo controllato una volta che il prerilascio del nodo ignora il periodo di tolleranza del pod.
- Potrebbero essere necessari alcuni minuti prima che GKE rilevi che il nodo è stato prerilasciato e che i pod non sono più in esecuzione, il che ritarda la ripianificazione dei pod su un nuovo nodo.
A partire dalla versione 1.20 di GKE, l'arresto normale dei nodi è abilitato per impostazione predefinita per fornire un avviso ai workload in esecuzione.
La disponibilità delle VM spot non è garantita. Per superare i potenziali vincoli di disponibilità delle risorse, ti consigliamo di procedere come segue:
- Per ridurre le probabilità di riscontrare errori di disponibilità delle risorse, visualizza la disponibilità delle VM spot prima di eseguire il provisioning delle risorse.
- Per assicurarti che un nodo sia sempre disponibile, imposta un pool di nodi di backup senza VM spot. Il gestore della scalabilità automatica dei cluster dà la preferenza alle VM spot perché è ottimizzato per i costi dell'infrastruttura.
Per ulteriori informazioni, consulta Esegui workload a tolleranza di errore a costi inferiori con le VM spot, Esegui workload a tolleranza di errore a costi inferiori nei pod Spot e Esegui applicazioni web su GKE utilizzando VM spot con ottimizzazione dei costi.
Tipi di macchine E2
I tipi di macchine E2 (VM E2) sono VM ottimizzate per i costi che offrono un risparmio del 31% rispetto ai tipi di macchine N1. Le VM E2 sono adatte a un'ampia gamma di workload, tra cui server web, microservizi, applicazioni business-critical, database di piccole e medie dimensioni e ambienti di sviluppo.
Per ulteriori informazioni sulle VM E2 e sul loro confronto con altri tipi di macchineGoogle Cloud , consulta Gestione dinamica delle risorse basata sulle prestazioni nelle VM E2 e Tipi di macchine.
Seleziona la regione appropriata
Quando il costo è un vincolo, la posizione in cui esegui i cluster GKE è importante. A causa di molti fattori, il costo varia in base alla regione di computing. Quindi, assicurati di eseguire il workload nell'opzione meno costosa, ma in cui la latenza non influisce sul cliente. Se il tuo workload richiede la copia di dati da una regione all'altra, ad esempio per eseguire un job batch, devi considerare anche il costo dello spostamento di questi dati.
Per saperne di più su come scegliere la regione giusta, consulta Best practice per la scelta delle regioni di Compute Engine.
Registrati per usufruire degli sconti per impegno di utilizzo
Se intendi continuare a utilizzare Google Cloud per alcuni anni, ti consigliamo vivamente di acquistare sconti per impegno di utilizzo in cambio di prezzi molto scontati per l'utilizzo delle VM. Quando sottoscrivi un contratto di impegno di utilizzo, acquisti risorse di computing a un prezzo scontato (fino al 70% di sconto) in cambio dell'impegno a pagare queste risorse per uno o tre anni. Se non sai con certezza quante risorse impegnare, osserva l'utilizzo minimo del computing, ad esempio durante la notte, e impegna il pagamento per quell'importo.
Per ulteriori informazioni sui prezzi di impegno di utilizzo per diversi tipi di macchine, consulta Prezzi delle istanze VM.
Esamina i cluster di sviluppo di piccole dimensioni
Per i cluster di sviluppo di piccole dimensioni in cui devi ridurre al minimo i costi, valuta l'utilizzo di cluster Autopilot. Con i cluster in questa modalità operativa, non ti vengono addebitati i costi per i pod di sistema, i costi del sistema operativo o i workload non pianificati.
Rivedi le strategie di logging e monitoraggio
Se utilizzi Cloud Logging e Cloud Monitoring per fornire osservabilità alle tue applicazioni e alla tua infrastruttura, paghi solo per ciò che utilizzi. Tuttavia, più l'infrastruttura e le applicazioni registrano dati e più a lungo conservi i log, più paghi. Analogamente, più metriche esterne e personalizzate hai, più alti saranno i costi.
Esamina il traffico in uscita tra regioni nei cluster a livello di regione e multizona
I tipi di cluster GKE disponibili sono a zona singola, multi-zona e a livello di regione. Grazie all'alta affidabilità dei nodi nelle zone, i cluster regionali e multizona sono ideali per gli ambienti di produzione. Tuttavia, ti viene addebitato il traffico in uscita tra zone. Per gli ambienti di produzione, ti consigliamo di monitorare il carico di traffico tra le zone e di migliorare le API per ridurlo al minimo. Valuta anche la possibilità di utilizzare configurazioni di affinità e anti-affinità tra pod per collocare i pod dipendenti di servizi diversi negli stessi nodi o nella stessa zona di disponibilità, in modo da ridurre al minimo i costi e la latenza di rete tra i pod. Il modo suggerito per monitorare questo traffico è abilitare la misurazione dell'utilizzo di GKE e il relativo agente di traffico in uscita dalla rete, che è disabilitato per impostazione predefinita.
Per gli ambienti non di produzione, la best practice per il risparmio sui costi è il deployment di cluster a zona singola.
Prepara l'ambiente in base al tipo di workload
Le aziende hanno requisiti di costo e disponibilità diversi. I loro workload possono essere suddivisi in workload di distribuzione, che devono rispondere rapidamente a picchi o burst, e workload batch, che riguardano l'eventuale lavoro da svolgere. I workload di gestione richiedono una latenza di scale up ridotta, mentre i workload batch sono più tolleranti alla latenza. Le diverse aspettative per questi tipi di workload rendono più flessibile la scelta di diversi metodi di risparmio sui costi.
Workload batch
Poiché i workload batch riguardano il lavoro finale, consentono di risparmiare sui costi di GKE perché i workload sono generalmente tolleranti a una certa latenza al momento dell'avvio del job. Questa tolleranza offre al gestore della scalabilità automatica dei cluster lo spazio per avviare nuovi nodi solo quando i job sono pianificati e per disattivarli al termine dei job.
La prima pratica consigliata è separare i workload batch in node pool diversi utilizzando etichette e selettori, nonché taint e tolleranze. Il motivo è il seguente:
- Il gestore della scalabilità automatica dei cluster può eliminare i nodi vuoti più velocemente quando non deve riavviare i pod. Al termine dei job batch, il cluster accelera il processo di fare lo scale down se il workload è in esecuzione su nodi dedicati che ora sono vuoti. Per migliorare ulteriormente la velocità di scale down, valuta la possibilità di configurare il profilo optimize-utilization del CA.
- Alcuni pod non possono essere riavviati, quindi bloccano definitivamente lo scale down dei relativi nodi. Questi pod, che includono i pod di sistema, devono essere eseguiti su pool di nodi diversi in modo da non influire sullo scale down.
La seconda pratica consigliata è utilizzare il provisioning automatico dei nodi per creare automaticamente pool di nodi dedicati per i job con un taint o una tolleranza corrispondente. In questo modo, puoi separare molti workload diversi senza dover configurare tutti i vari pool di nodi.
Ti consigliamo di utilizzare le VM spot solo se esegui job a tolleranza di errore meno sensibili alla natura temporanea e non garantita delle VM spot.
Workload di distribuzione
A differenza dei workload batch, i workload di gestione devono rispondere il più rapidamente possibile a burst o picchi. Questi improvvisi aumenti del traffico potrebbero essere dovuti a molti fattori, ad esempio spot pubblicitari in TV, eventi di picco come il Black Friday o ultime notizie. La tua applicazione deve essere preparata a gestirli.
I problemi nella gestione di questi picchi sono comunemente correlati a uno o più dei seguenti motivi:
- Applicazioni non pronte per l'esecuzione su Kubernetes, ad esempio app con immagini di grandi dimensioni, tempi di avvio lenti o configurazioni Kubernetes non ottimali.
- Applicazioni che dipendono da un'infrastruttura che richiede tempo per il provisioning, come le GPU.
- Gestori della scalabilità automatica e overprovisioning non impostati correttamente.
Prepara le applicazioni Kubernetes basate su cloud
Alcune delle best practice descritte in questa sezione possono farti risparmiare denaro da sole. Tuttavia, poiché la maggior parte di queste pratiche ha lo scopo di far funzionare l'applicazione in modo affidabile con i gestori della scalabilità automatica, ti consigliamo vivamente di implementarle.
Comprendi la capacità della tua applicazione
Quando pianifichi la capacità dell'applicazione, devi sapere quante richieste in parallelo può gestire l'applicazione, quanta CPU e memoria richiede e come risponde in caso di carico elevato. La maggior parte dei team non conosce queste capacità, quindi ti consigliamo di testare il comportamento della tua applicazione sotto pressione. Prova a isolare una singola replica di pod dell'applicazione con la scalabilità automatica disattivata, quindi esegui i test simulando un carico di utilizzo reale. In questo modo puoi comprendere la capacità per pod. Ti consigliamo quindi di configurare il gestore della scalabilità automatica dei cluster, le richieste di risorse e i limiti, e l'HPA o il VPA. Poi, sottoponi nuovamente l'applicazione a stress, ma con maggiore intensità per simulare picchi o burst improvvisi.
Per eliminare i problemi di latenza, l'ideale è eseguire questi test dalla stessa regione o zona in cui è in esecuzione l'applicazione Google Cloud. Per questi test puoi utilizzare lo strumento che preferisci, che si tratti di uno script fatto in casa o di uno strumento di prestazioni più avanzato, come Apache Benchmark, JMeter o Locust.
Per un esempio di come eseguire i test, consulta Test di carico distribuito con Google Kubernetes Engine.
Assicurati che la tua applicazione possa crescere verticalmente e orizzontalmente
Assicurati che la tua applicazione possa aumentare e diminuire di dimensioni. Ciò significa che puoi scegliere di gestire gli aumenti di traffico aggiungendo più CPU e memoria o più repliche di pod. In questo modo, hai la flessibilità di sperimentare ciò che si adatta meglio alla tua applicazione, che si tratti di una configurazione diversa del gestore della scalabilità automatica o di una dimensione dei nodi diversa. Purtroppo, alcune applicazioni sono single-thread o limitate da un numero fisso di worker o sottoprocessi che rendono impossibile questo esperimento senza un refactoring completo della loro architettura.
Imposta richieste di risorse e limiti appropriati
Comprendendo la capacità della tua applicazione, puoi determinare cosa configurare
nelle risorse dei container.
Le risorse in Kubernetes sono definite principalmente come CPU e memoria (RAM). Puoi configurare la CPU o la memoria in base alla quantità necessaria per eseguire l'applicazione utilizzando la richiesta spec.containers[].resources.requests.<cpu|memory> e puoi configurare il limite utilizzando la richiesta spec.containers[].resources.limits.<cpu|memory>. Per saperne di più su come configurare le richieste di risorse, consulta Imposta manualmente le richieste di risorse dei pod.
Se hai impostato correttamente le richieste di risorse, lo scheduler di Kubernetes può utilizzarle per decidere su quale nodo posizionare il pod. In questo modo, i pod vengono posizionati in nodi che possono farli funzionare normalmente, garantendo una maggiore stabilità e una riduzione dello spreco di risorse. Inoltre, la definizione dei limiti delle risorse contribuisce a garantire che queste applicazioni non utilizzino mai tutta l'infrastruttura sottostante disponibile fornita dai nodi di computing.
Utilizza le seguenti best practice per impostare le richieste e i limiti delle risorse dei container:
- Memoria: imposta la stessa quantità di memoria per la richiesta e il limite.
- CPU: per la richiesta, specifica la CPU minima necessaria per garantire il corretto funzionamento, in base ai tuoi SLO. Imposta un limite di CPU illimitato.
Prendi come esempio il seguente deployment:
apiVersion: apps/v1
kind: Deployment
metadata:
name: wordpress
spec:
replicas: 1
selector:
matchLabels:
app: wp
template:
metadata:
labels:
app: wp
spec:
containers:
- name: wp
image: wordpress
resources:
requests:
memory: "128Mi"
cpu: "250m"
limits:
memory: "128Mi"
Il motivo del pattern precedente si basa sul funzionamento della gestione delle risorse esaurite di Kubernetes. In breve, quando le risorse del computer sono esaurite, i nodi diventano instabili. Per evitare questa situazione, kubelet monitora e impedisce la totale mancanza di queste risorse classificando i pod che richiedono molte risorse.
In caso di conflitto della CPU, questi pod possono essere limitati in base alle richieste.
Tuttavia, poiché la memoria è una risorsa non comprimibile, quando viene esaurita,
il pod deve essere rimosso. Per evitare che i pod vengano arrestati e, di conseguenza, destabilizzino l'ambiente, devi impostare la memoria richiesta sul limite di memoria. Puoi identificare i workload per i quali non sono configurate richieste o limiti di risorse per i container visualizzando gli insight del sottotipo REQUEST_OR_LIMIT_NOT_SET. Per saperne di più, consulta Identifica i workload senza richieste o limiti di risorse.
Puoi anche utilizzare il VPA in modalità di suggerimento per determinare l'utilizzo della CPU e della memoria per una determinata applicazione. Per saperne di più, consulta Analizza le richieste di risorse.
Poiché il VPA fornisce questi suggerimenti in base all'utilizzo dell'applicazione, ti consigliamo di utilizzarlo in modalità di suggerimento in un ambiente simile a quello di produzione per affrontare il traffico reale. Lo stato del VPA genera quindi un report con le richieste e i limiti delle risorse suggeriti, che puoi specificare in modo statico nel manifest di deployment. Se la tua applicazione definisce già l'HPA, consulta Combinazione di HPA e VPA.
Assicurati che il container sia il più snello possibile
Quando esegui i container su Kubernetes, la tua applicazione può avviarsi e arrestarsi in qualsiasi momento. È quindi importante seguire queste best practice:
Utilizza l'immagine più piccola possibile. È una best practice avere immagini di piccole dimensioni perché ogni volta che il gestore della scalabilità automatica dei cluster esegue il provisioning di un nuovo nodo per il cluster, il nodo deve scaricare le immagini che verranno eseguite al suo interno. Più piccola è l'immagine, più velocemente il nodo può scaricarla.
Avvia l'applicazione il più rapidamente possibile. L'avvio di alcune applicazioni può richiedere alcuni minuti a causa del caricamento delle classi, della memorizzazione nella cache e così via. Quando un pod richiede un avvio lungo, le richieste dei tuoi clienti potrebbero non riuscire durante l'avvio dell'applicazione.
Prendi in considerazione queste due pratiche quando progetti il tuo sistema, soprattutto se prevedi picchi o burst. Un'immagine di piccole dimensioni e un avvio rapido ti aiutano a ridurre la latenza di scale up. Di conseguenza, puoi gestire meglio gli aumenti di traffico senza preoccuparti troppo dell'instabilità. Queste pratiche funzionano meglio con le best practice per la scalabilità automatica descritte in Scalabilità automatica di GKE.
Aggiungi budget di interruzione dei pod alla tua applicazione
Il budget di interruzione dei pod (PDB) limita il numero di pod che possono essere disattivati contemporaneamente a causa di un'interruzione volontaria. Ciò significa che il budget di interruzione definito viene rispettato durante i rollout, gli upgrade dei nodi e qualsiasi attività di scalabilità automatica. Tuttavia, questo budget non può essere garantito quando si verificano eventi involontari, come un errore hardware, un kernel panic o l'eliminazione di una VM per errore.
Poiché il PDB viene rispettato durante la fase di compattazione del gestore della scalabilità automatica dei cluster, è una best practice definire un budget di interruzione dei pod per ogni applicazione. In questo modo puoi controllare il numero minimo di repliche necessarie per supportare il carico in un determinato momento, anche quando il CA esegue lo scale down del cluster.
Per saperne di più, consulta Specifica di un budget di interruzione per l'applicazione.
Imposta probe di idoneità e attività significativi per la tua applicazione
L'impostazione di probe significativi garantisce che la tua applicazione riceva traffico solo quando è attiva e funzionante e pronta ad accettare il traffico. GKE utilizza i probe di idoneità per determinare quando aggiungere o rimuovere i pod dai bilanciatori del carico. GKE utilizza i probe di attività per determinare quando riavviare i pod.
Il probe di attività è utile per comunicare a Kubernetes che un determinato pod non è in grado di procedere, ad esempio quando viene rilevato uno stato di deadlock. Il probe di idoneità è utile per comunicare a Kubernetes che l'applicazione non è pronta a ricevere traffico, ad esempio durante il caricamento di dati di cache di grandi dimensioni all'avvio.
Per garantire il corretto ciclo di vita della tua applicazione durante le attività di scale up, è importante seguire questi passaggi:
- Definisci il probe di idoneità per tutti i container.
- Se l'applicazione dipende da una cache da caricare all'avvio, il probe di idoneità deve indicare che è pronta solo dopo che la cache è stata caricata completamente.
- Se la tua applicazione può iniziare a gestire il traffico immediatamente, una buona implementazione predefinita del probe può essere il più semplice possibile, ad esempio un endpoint HTTP che restituisce un codice di stato 200.
- Se implementi un probe più avanzato, ad esempio controllando se il pool di connessioni dispone di risorse disponibili, assicurati che il tasso di errore non aumenti rispetto a un'implementazione più semplice.
- Non fare mai in modo che la logica del probe acceda ad altri servizi. Se questi servizi non rispondono tempestivamente, il ciclo di vita del pod può essere compromesso.
Per saperne di più, consulta Configura i probe di attività, idoneità e avvio.
Assicurati che le tue applicazioni vengano arrestate in base alle aspettative di Kubernetes
I gestori della scalabilità automatica ti aiutano a rispondere ai picchi creando nuovi pod e nodi ed eliminandoli al termine dei picchi. Ciò significa che, per evitare errori durante la pubblicazione, i pod devono essere preparati per un avvio rapido o un arresto normale.
Poiché Kubernetes aggiorna gli endpoint e i bilanciatori del carico in modo asincrono, è importante seguire queste best practice per garantire arresti senza interruzioni:
- Non smettere di accettare nuove richieste subito dopo
SIGTERM. L'applicazione non deve interrompersi immediatamente, ma deve completare tutte le richieste in corso e continuare ad ascoltare le connessioni in entrata che arrivano dopo l'inizio della terminazione del pod. Potrebbe essere necessario un po' di tempo prima che Kubernetes aggiorni tutti i kube-proxy e i bilanciatori del carico. Se l'applicazione termina prima che vengano aggiornati, alcune richieste potrebbero causare errori sul lato client. - Se la tua applicazione non segue la pratica precedente, utilizza l'hook
preStop. La maggior parte dei programmi non interrompe immediatamente l'accettazione delle richieste. Tuttavia, se utilizzi codice di terze parti o gestisci un sistema su cui non hai il controllo, ad esempio nginx, l'hookpreStopè una buona opzione per attivare un arresto normale senza modificare l'applicazione. Una strategia comune consiste nell'eseguire, nell'hookpreStop, una sospensione di alcuni secondi per posticipare l'eventoSIGTERM. In questo modo, Kubernetes ha più tempo per completare il processo di eliminazione dei pod e si riducono gli errori di connessione sul lato client. - Gestisci SIGTERM per le pulizie. Se l'applicazione deve eseguire la pulizia o ha uno stato in memoria che deve essere reso persistente prima che il processo termini, questo è il momento di farlo. Linguaggi di programmazione diversi hanno modi diversi per intercettare questo segnale, quindi trova il modo giusto nel tuo linguaggio.
- Configura
terminationGracePeriodSecondsin base alle esigenze della tua applicazione. Alcune applicazioni richiedono più dei 30 secondi predefiniti per essere completate. In questo caso, devi specificareterminationGracePeriodSeconds. Ad esempio, valori elevati potrebbero aumentare il tempo necessario per gli upgrade o i rollout dei nodi. Valori bassi potrebbero non concedere a Kubernetes il tempo sufficiente per completare il processo di terminazione dei pod. In entrambi i casi, ti consigliamo di impostare il periodo di terminazione dell'applicazione su un valore inferiore a 10 minuti, perché il gestore della scalabilità automatica dei cluster lo rispetta solo per 10 minuti. - Se la tua applicazione utilizza il bilanciamento del carico nativo del container, inizia a non superare il probe di idoneità quando ricevi un SIGTERM. Questa azione indica direttamente ai bilanciatori del carico di interrompere l'inoltro di nuove richieste al pod di backend. A seconda della gara tra la configurazione del controllo di integrità e la programmazione degli endpoint, il pod di backend potrebbe essere rimosso dal traffico prima.
Per saperne di più, consulta Best practice di Kubernetes: terminazione senza problemi.
Configura NodeLocal DNSCache
Il DNS gestito da GKE è implementato da kube-dns, un componente aggiuntivo di cui viene eseguito il deployment in tutti i cluster GKE. Quando esegui applicazioni che richiedono un utilizzo intensivo del DNS, la configurazione predefinita di kube-dns-autoscaler, che regola il numero di repliche kube-dns in base al numero di nodi e core nel cluster, potrebbe non essere sufficiente. In questo scenario, le query DNS possono rallentare o scadere. Per mitigare questo problema, le aziende sono abituate a ottimizzare il ConfigMap kube-dns-autoscaler per aumentare il numero di repliche kube-dns nei loro cluster. Anche se questa strategia potrebbe funzionare come previsto, aumenta l'utilizzo delle risorse e il costo totale di GKE.
Un'altra alternativa ottimizzata in termini di costi e più scalabile è configurare NodeLocal DNSCache nel cluster. NodeLocal DNSCache è un componente aggiuntivo GKE facoltativo che migliora la latenza di ricerca DNS, rende più coerenti i tempi di ricerca DNS e riduce il numero di query DNS a kube-dns eseguendo una cache DNS su ogni nodo del cluster.
Per saperne di più, consulta Configurazione di NodeLocal DNSCache.
Utilizza il bilanciamento del carico nativo del container tramite Ingress
Il bilanciamento del carico nativo del container consente ai bilanciatori del carico di scegliere come target direttamente i pod Kubernetes e di distribuire il traffico in modo uniforme ai pod utilizzando un modello dei dati chiamato gruppi di endpoint di rete (NEG). Questo approccio migliora le prestazioni della rete, aumenta la visibilità, abilita funzionalità di bilanciamento del carico avanzate e consente l'utilizzo di Cloud Service Mesh, il control plane del traffico completamente gestito diGoogle Cloudper il mesh di servizi.
Grazie a questi vantaggi, il bilanciamento del carico nativo del container è la soluzione consigliata per il bilanciamento del carico tramite Ingress. Quando i NEG vengono utilizzati con GKE Ingress, il controller Ingress facilita la creazione di tutti gli aspetti del bilanciatore del carico L7. Ciò include la creazione dell'indirizzo IP virtuale, delle regole di forwarding, dei controlli di integrità, delle regole firewall e altro ancora.
Il bilanciamento del carico nativo del container diventa ancora più importante quando si utilizza il gestore della scalabilità automatica dei cluster. Per i bilanciatori del carico non NEG, durante lo scale down, la programmazione del bilanciamento del carico e lo svuotamento della connessione potrebbero non essere completati prima che il gestore della scalabilità automatica dei cluster termini le istanze dei nodi. Ciò potrebbe interrompere le connessioni in corso che passano attraverso il nodo, anche se i pod di backend non si trovano sul nodo.
Il bilanciamento del carico nativo del container è abilitato per impostazione predefinita per i servizi quando sono soddisfatte tutte le seguenti condizioni:
- I servizi sono stati creati nei cluster GKE 1.17.6-gke.7 e versioni successive.
- Se utilizzi cluster nativi di VPC.
- Se non utilizzi un VPC condiviso.
- Se non utilizzi la policy di rete GKE.
Per saperne di più, consulta la documentazione di GKE su Ingress e Utilizzo del bilanciamento del carico nativo del container.
Valuta la possibilità di utilizzare i nuovi tentativi con backoff esponenziale
Nelle architetture di microservizi in esecuzione su Kubernetes, potrebbero verificarsi errori temporanei per vari motivi, ad esempio:
- Un picco elevato che ha attivato uno scale up ancora in corso
- Errori di rete
- Connessioni interrotte a causa di pod non arrestati
- VM spot che si arrestano inavvertitamente
- Applicazioni che raggiungono i limiti di valutazione
Questi problemi sono temporanei e puoi mitigarli chiamando nuovamente il servizio dopo un ritardo. Tuttavia, per evitare di sovraccaricare il servizio di destinazione con le richieste, è importante eseguire queste chiamate utilizzando un backoff esponenziale.
Per facilitare questo pattern di ripetizione, molte librerie esistenti implementano la logica di ripetizione esponenziale. Puoi utilizzare la libreria che preferisci o scrivere il tuo codice. Se utilizzi Istio o Cloud Service Mesh (ASM), puoi optare per il meccanismo di ripetizione dei tentativi a livello di proxy, che esegue i tentativi in modo trasparente per tuo conto.
È importante pianificare l'applicazione in modo che supporti i nuovi tentativi di chiamata di servizio, ad esempio per evitare di inserire informazioni già inserite. Tieni presente che una catena di nuovi tentativi potrebbe influire sulla latenza dell'utente finale, che potrebbe scadere se non pianificata correttamente.
Monitora l'ambiente e applica configurazioni e pratiche ottimizzate per i costi
In molte medie e grandi imprese, un team centralizzato di piattaforma e infrastruttura è spesso responsabile della creazione, della manutenzione e del monitoraggio dei cluster Kubernetes per l'intera azienda. Ciò rappresenta una forte esigenza di avere una responsabilità per l'utilizzo delle risorse e di garantire che tutti i team seguano le policy dell'azienda. Questa sezione illustra le opzioni per il monitoraggio e l'applicazione di pratiche relative ai costi.
Osserva i tuoi cluster GKE e tieni d'occhio i suggerimenti
Puoi controllare l'utilizzo delle risorse in un cluster Kubernetes esaminando i container, i pod e i servizi, nonché le caratteristiche del cluster complessivo. Esistono molti modi per eseguire questa attività, ma l'approccio iniziale che consigliamo è osservare i cluster GKE tramite la dashboard di Monitoring. In questo modo, ottieni dati delle serie temporali sull'utilizzo del cluster, che ti consentono di aggregare e spaziare tra infrastruttura, workload e servizi.
Sebbene questo sia un buon punto di partenza, Google Cloud offre altre opzioni, ad esempio:
Nella console Google Cloud , nella pagina Cluster GKE, guarda la colonna Notifiche. Se hai uno spreco elevato di risorse in un cluster, l'interfaccia utente ti fornisce un'indicazione delle informazioni complessive allocate rispetto a quelle richieste.
Nella console Google Cloud , nella pagina Suggerimenti, cerca le schede dei suggerimenti per i risparmi sui costi.
Per maggiori dettagli, consulta Osservazione dei cluster GKE e Inizia a utilizzare l'Hub per i suggerimenti.
Abilita misurazione utilizzo GKE
Per un approccio più flessibile che ti consenta di visualizzare i dettagli dei costi approssimativi, prova la misurazione dell'utilizzo di GKE. La misurazione dell'utilizzo di GKE ti consente di visualizzare i profili di utilizzo dei tuoi cluster GKE suddivisi per spazi dei nomi ed etichette. Tiene traccia delle informazioni sulle richieste di risorse e sul consumo di risorse dei workload del cluster, come CPU, GPU, TPU, memoria, spazio di archiviazione e, facoltativamente, traffico in uscita dalla rete.
La misurazione dell'utilizzo di GKE ti aiuta a comprendere la struttura complessiva dei costi dei cluster GKE, quale team o applicazione spende di più, quale ambiente o componente ha causato un picco improvviso di utilizzo o costi e quale team sta sprecando risorse. Confrontando le richieste di risorse con l'utilizzo effettivo, puoi capire quali workload sono sottodimensionati o sovradimensionati.
Puoi sfruttare i modelli predefiniti di Data Studio o fare un ulteriore passo avanti e personalizzare le dashboard in base alle esigenze della tua organizzazione. Per saperne di più sulla misurazione dell'utilizzo di GKE e sui relativi prerequisiti, consulta Informazioni sull'utilizzo delle risorse del cluster.
Comprendi il funzionamento di Metrics Server e monitoralo
Metrics Server è l'origine delle metriche delle risorse dei container per le pipeline di scalabilità automatica integrate di GKE. Metrics Server recupera le metriche dai kubelet e le espone tramite l'API Metrics di Kubernetes. HPA e VPA utilizzano quindi queste metriche per determinare quando attivare la scalabilità automatica.
Per l'integrità della scalabilità automatica di GKE, devi disporre di un server delle metriche integro. Con il deployment di GKE metrics-server, viene installato un nanny di ridimensionamento, che fa crescere verticalmente il contenitore del server di metriche aggiungendo o rimuovendo CPU e memoria in base al numero di nodi del cluster. L'aggiornamento in loco dei pod non è ancora supportato in Kubernetes,
motivo per cui il nanny deve riavviare il pod metrics-server per applicare le nuove
risorse richieste.
Anche se il riavvio avviene rapidamente, la latenza totale per i gestori della scalabilità automatica per capire che devono agire può aumentare leggermente dopo un ridimensionamento di metrics-server. Per evitare frequenti riavvii del server di metriche nei cluster in rapida evoluzione, a partire da GKE 1.15.11-gke.9, il nanny supporta i ritardi di ridimensionamento.
Segui queste best practice quando utilizzi il server delle metriche:
- Scegli la versione GKE che supporta i ritardi di ridimensionamento di
metrics-server. Puoi confermarlo controllando se il file YAML del deploymentmetrics-serverha la configurazionescale-down-delaynel containermetrics-server-nanny. - Monitora il deployment
metrics-server. Se il server delle metriche non è attivo, significa che la scalabilità automatica non funziona affatto. Vuoi che i tuoi servizi di monitoraggio con priorità più alta monitorino questo deployment. - Segui le best practice descritte in Scalabilità automatica di GKE.
Utilizza le quote delle risorse Kubernetes
Nei cluster multi-tenant, team diversi diventano comunemente responsabili delle applicazioni di cui è stato eseguito il deployment in spazi dei nomi diversi. Per un gruppo centralizzato di piattaforme e infrastrutture, è un problema che un team possa utilizzare più risorse del necessario. Se esaurisci tutte le risorse di computing del cluster o se attivi troppi scale up, i costi possono aumentare.
Per risolvere questo problema, devi utilizzare le quote delle risorse. Le quote delle risorse gestiscono la quantità di risorse utilizzate dagli oggetti in uno spazio dei nomi. Puoi impostare quote in termini di risorse di computing (CPU e memoria) e di archiviazione o in termini di conteggi di oggetti. Le quote delle risorse ti consentono di assicurarti che nessun tenant utilizzi più della quota di risorse del cluster assegnata.
Valuta l'utilizzo di Policy Controller
Policy Controller in GKE è un controller di ammissione dinamico di Kubernetes che controlla, verifica e applica la conformità dei cluster alle policy relative a sicurezza, normative o regole aziendali arbitrarie. Policy Controller utilizza i vincoli per applicare la conformità dei cluster. Ad esempio, puoi installare nel cluster i vincoli per molte delle best practice descritte nella sezione Preparazione dell'applicazione Kubernetes basata su cloud. In questo modo, i deployment vengono rifiutati se non rispettano rigorosamente le tue pratiche Kubernetes. L'applicazione di queste regole aiuta a evitare picchi di costi imprevisti e riduce le possibilità di instabilità del workload durante la scalabilità automatica.
Per saperne di più su come applicare e scrivere le tue regole, consulta Creazione di vincoli e Scrittura di un template di vincolo.
Progetta la pipeline CI/CD per applicare pratiche di risparmio sui costi
Policy Controller ti aiuta a evitare il deployment di software non conforme nel tuo cluster GKE. Tuttavia, ti consigliamo di applicare questi vincoli delle policy nelle prime fasi del ciclo di sviluppo, ad esempio nei controlli pre-commit, nei controlli delle richieste di pull, nei flussi di lavoro di distribuzione o in qualsiasi passaggio che abbia senso nel tuo ambiente. Questa pratica ti consente di trovare e correggere rapidamente le configurazioni errate e ti aiuta a capire a cosa devi prestare attenzione creando guardrail.
Valuta anche l'utilizzo delle funzioni kpt nella pipeline CI/CD per verificare se i file di configurazione di Kubernetes rispettano i vincoli applicati da Policy Controller e per stimare l'utilizzo delle risorse o il costo del deployment. In questo modo, puoi interrompere la pipeline quando viene rilevato un problema relativo ai costi. In alternativa, puoi creare un processo di approvazione del deployment diverso per le configurazioni che, ad esempio, aumentano il numero di repliche.
Per saperne di più, consulta Convalida delle app in base alle policy aziendali in una pipeline CI.
Diffondi la cultura del risparmio sui costi
Molte organizzazioni creano astrazioni e piattaforme per nascondere la complessità dell'infrastruttura. Questa è una pratica comune nelle aziende che stanno eseguendo la migrazione dei loro servizi dalle macchine virtuali a Kubernetes. A volte queste aziende consentono agli sviluppatori di configurare le proprie applicazioni in produzione. Tuttavia, non è raro vedere sviluppatori che non hanno mai utilizzato un cluster Kubernetes.
Le pratiche che consigliamo in questa sezione non significano che dovresti smettere di eseguire astrazioni. ma ti aiutano a visualizzare la tua spesa suGoogle Cloud e a formare i tuoi sviluppatori e operatori sulla tua infrastruttura. Puoi farlo creando incentivi e programmi di apprendimento in cui puoi utilizzare corsi tradizionali o online, gruppi di discussione, revisioni tra pari, programmazione in coppia, gamification di CI/CD e risparmio sui costi e altro ancora. Ad esempio, nel mondo di Kubernetes, è importante comprendere l'impatto di un'applicazione con un'immagine da 3 GB, di un probe di idoneità mancante o di una configurazione errata dell'HPA.
Infine, come mostrato nella ricerca DORA di Google, le capacità culturali sono alcuni dei fattori principali che determinano un migliore rendimento dell'organizzazione, meno rilavorazioni, meno burnout e così via. Il risparmio sui costi non fa eccezione. Consentire ai dipendenti di accedere alle proprie spese li allinea maggiormente agli scopi commerciali e ai vincoli aziendali.
Riepilogo delle best practice
La tabella seguente riassume le best practice consigliate in questo documento.
Passaggi successivi
- Trova suggerimenti di progettazione e best practice per ottimizzare il costo dei workload Google Cloud in Google Cloud Well-Architected Framework: ottimizzazione dei costi.
- Per scoprire come risparmiare denaro di notte o in altri momenti in cui l'utilizzo è inferiore, consulta il tutorial Riduzione dei costi mediante lo scale down dei cluster GKE durante le ore non di punta.
- Per scoprire di più sull'utilizzo delle VM spot, consulta il tutorial Esegui applicazioni web su GKE utilizzando VM spot con ottimizzazione dei costi.
- Per capire come risparmiare su logging e monitoraggio, consulta Ottimizza i costi: operazioni cloud.
- Per ridurre i costi in Google Cloud in generale, consulta Informazioni sui principi di ottimizzazione dei costi.
- Per una discussione più ampia sulla scalabilità, consulta Pattern per app scalabili e resilienti.
- Per ulteriori architetture di riferimento, diagrammi e best practice, esplora Cloud Architecture Center.
- Scopri di più su come eseguire un'applicazione GKE su VM spot con nodi on demand come riserva.