Ottimizzare le prestazioni del nodo

Performance Tuning Operator ti consente di ottimizzare i nodi worker per migliorare le prestazioni dei workload e l'utilizzo delle risorse in Google Distributed Cloud. Modificando le impostazioni a livello di nodo, come CPU isolate e riservate, hugepage di memoria e posizionamento NUMA, puoi migliorare l'efficienza delle applicazioni sensibili alle prestazioni senza i costi dell'aggiunta di nodi, CPU o memoria.

Puoi gestire queste impostazioni utilizzando le risorse personalizzate PerformanceTuningProfile che hanno come target i nodi worker con selettori di nodi, in modo da non dover configurare ogni nodo singolarmente. Le impostazioni vengono mantenute durante le operazioni principali del cluster, come gli upgrade.

Come funziona Performance Tuning Operator

Performance Tuning Operator funziona orchestrando le seguenti funzionalità e strumenti di Kubernetes e del sistema operativo (OS) relativi alle prestazioni:

Per evitare conflitti, quando utilizzi l'operatore di ottimizzazione delle prestazioni, ti consigliamo di non utilizzare gli strumenti e le funzionalità di Kubernetes e del sistema operativo menzionati in precedenza in modo indipendente.

Prerequisiti e limitazioni

Ecco i prerequisiti e le limitazioni per l'utilizzo di Performance Tuning Operator:

  • Solo Red Hat Enterprise Linux (RHEL): l'operatore di ottimizzazione delle prestazioni è supportato per i nodi che eseguono solo versioni supportate di RHEL.

  • Cluster utente o ibrido con nodi worker: l'operatore di ottimizzazione delle prestazioni è supportato per l'utilizzo solo con i nodi worker nei cluster utente o ibridi. L'utilizzo di Performance Tuning Operator per ottimizzare i nodi del control plane non è supportato. Performance Tuning Operator utilizza un selettore di nodi per determinare come applicare i profili di ottimizzazione. Per garantire che i profili di ottimizzazione vengano applicati solo ai nodi worker, il campo nodeSelector in ogni risorsa personalizzata del profilo deve includere l'etichetta del nodo worker standard node-role.kubernetes.io/worker: "". Se l'nodeSelector in un profilo di ottimizzazione corrisponde alle etichette di un nodo del control plane, quel nodo non viene ottimizzato e viene impostata una condizione di errore. Per saperne di più sulle condizioni di errore, consulta Controlla lo stato. Assicurati che il cluster funzioni correttamente prima di installare Performance Tuning Operator e applicare i profili di ottimizzazione.

  • TuneD 2.22.0: l'operatore di ottimizzazione delle prestazioni richiede che TuneD versione 2.22.0 sia preinstallato nei nodi worker che intendi ottimizzare. Per ulteriori informazioni su TuneD, incluse le istruzioni di installazione, consulta Inizia a utilizzare TuneD nella documentazione di Red Hat Enterprise Linux. Performance Tuning Operator utilizza TuneD con il profilo cpu-partitioning. Se non hai questo profilo, puoi installarlo con il seguente comando:

    dnf install -y tuned-profiles-cpu-partitioning
    
  • Requisiti delle risorse dei workload: per ottenere il massimo dall'ottimizzazione delle prestazioni, devi avere una buona conoscenza dei requisiti di memoria e CPU (richieste di risorse e limiti) per i tuoi workload.

  • Risorse dei nodi disponibili: trova le risorse di CPU e memoria per i tuoi nodi. Puoi ottenere informazioni dettagliate sulla CPU e sulla memoria del tuo nodo rispettivamente nei file /proc/cpuinfo e /proc/meminfo. Puoi anche utilizzare kubectl get nodes per recuperare la quantità di risorse di computing e memoria (status.allocatable) di un nodo worker disponibili per i pod.

  • Richiede lo svuotamento: nell'ambito del processo di ottimizzazione, l'operatore di ottimizzazione delle prestazioni svuota prima i nodi, poi applica un profilo di ottimizzazione. Di conseguenza, i nodi potrebbero segnalare uno stato NotReady durante l'ottimizzazione delle prestazioni. Ti consigliamo di utilizzare la strategia di aggiornamento in sequenza (spec.updateStrategy.type: rolling) anziché un aggiornamento batch per ridurre al minimo l'indisponibilità del workload.

  • Riavvio richiesto: affinché le modifiche di ottimizzazione dei nodi abbiano effetto, l'operatore di ottimizzazione delle prestazioni riavvia il nodo dopo aver applicato il profilo di ottimizzazione.

Installa l'operatore di ottimizzazione delle prestazioni

Performance Tuning Operator è costituito principalmente da due controller (un deployment e un DaemonSet) che interagiscono tra loro per ottimizzare i nodi in base alle impostazioni del profilo. Per impostazione predefinita, Performance Tuning Operator non è installato con Google Distributed Cloud. Scarichi i manifest dell'operatore di ottimizzazione delle prestazioni da Cloud Storage e utilizzi kubectl apply per creare risorse dell'operatore di ottimizzazione delle prestazioni nel tuo cluster.

Per attivare l'ottimizzazione delle prestazioni con i valori predefiniti per il tuo cluster:

  1. Crea una directory performance-tuning sulla workstation di amministrazione.

  2. Dalla directory performance-tuning, scarica l'ultimo pacchetto Performance Tuning Operator dal bucket di release di Cloud Storage:

    gcloud storage cp gs://anthos-baremetal-release/node-performance-tuning/0.1.0-gke.47 . --recursive
    

    I file scaricati includono i manifest per il deployment performance-tuning-operator e il DaemonSet nodeconfig-controller-manager. Sono inclusi anche i manifest per le funzioni correlate, come controllo dell'accesso basato su ruoli (RBAC) e il controllo di ammissione dinamico.

  3. In qualità di utente root, applica tutti i manifest di Performance Tuning Operator in modo ricorsivo al tuo cluster utente (o ibrido):

    kubectl apply -f performance-tuning --recursive –-kubeconfig USER_KUBECONFIG
    

    Una volta creati ed eseguiti il deployment e il DaemonSet, l'unica interazione è la modifica e l'applicazione dei manifest PerformanceTuningProfile.

Esamina i requisiti delle risorse per i tuoi workload

Prima di poter ottimizzare i nodi, devi comprendere i requisiti delle risorse di computing e di memoria dei tuoi workload. Se i nodi worker dispongono di risorse sufficienti, possono essere ottimizzati per fornire memoria garantita (standard e hugepage) per i workload nella classe di qualità del servizio (QoS) garantita.

Kubernetes assegna classi QoS a ciascuno dei tuoi pod, in base ai vincoli delle risorse che specifichi per i container associati. Kubernetes utilizza quindi le classi QoS per determinare come pianificare i pod e i container e allocare le risorse ai workload. Per sfruttare appieno l'ottimizzazione dei nodi per i tuoi workload, questi ultimi devono avere impostazioni per le richieste o i limiti delle risorse di CPU o memoria.

Per ricevere una classe QoS Guaranteed, i tuoi pod devono soddisfare i seguenti requisiti:

  • Per ogni container nel pod:
    • Specifica i valori per le richieste di risorse di memoria (spec.containers[].resources.requests.memory) e i limiti (spec.containers[].resources.limits.memory).
    • Il valore dei limiti di memoria deve essere uguale al valore delle richieste di memoria.
    • Specifica i valori per le richieste di risorse della CPU (spec.containers[].resources.requests.cpu) e i limiti (spec.containers[].resources.limits.cpu).
    • Il valore dei limiti di CPU deve essere uguale al valore delle richieste di CPU.

Il seguente estratto della specifica del pod mostra le impostazioni delle risorse della CPU che soddisfano i requisiti della classe QoS Guaranteed:

spec:
  containers:
  - name: sample-app
    image: images.my-company.example/app:v4
    resources:
      requests:
        memory: "128Mi"
        cpu: "2"
      limits:
        memory: "128Mi"
        cpu: "2"
  ...

Quando recuperi i dettagli del pod con kubectl get pods, la sezione status deve includere la classe QoS assegnata, come mostrato nell'esempio seguente:

apiVersion: v1
kind: Pod
metadata:
  creationTimestamp: "2023-09-22T21:05:23Z"
  generateName: my-deployment-6fdd69987d-
  labels:
    app: metrics
    department: sales
    pod-template-hash: 6fdd69987d
  name: my-deployment-6fdd69987d-7kv42
  namespace: default
  ...
spec:
  containers:
  ...
status:
  conditions:
  - lastProbeTime: null
    lastTransitionTime: "2023-09-22T21:05:23Z"
    status: "True"
    type: Initialized
  ...
  qosClass: BestEffort
  startTime: "2023-09-22T21:05:23Z"

Per saperne di più sulle classi QoS, consulta Classi di qualità del servizio dei pod nella documentazione di Kubernetes. Per istruzioni su come configurare i pod e i container in modo che venga assegnata una classe QoS, consulta Configura la qualità del servizio per i pod.

Requisiti della CPU

Quando ottimizzi un nodo, puoi specificare un insieme di core della CPU riservati (spec.cpu.reservedCPUs) per l'esecuzione dei daemon di sistema Kubernetes come kubelet e runtime del container. Questo stesso insieme di CPU prenotate esegue anche i daemon del sistema operativo, come sshd e udev. I core della CPU rimanenti vengono allocati come isolati. Le CPU isolate sono destinate ad applicazioni limitate dalla CPU, che richiedono un tempo di CPU dedicato senza interferenze da parte di altre applicazioni o interruzioni da parte della rete o di altri dispositivi.

Per pianificare un pod sulle CPU isolate di un nodo worker:

  • Configura il pod per una qualità del servizio (QoS) garantita.

  • I requisiti e i limiti della CPU devono essere specificati come numeri interi. Se specifichi risorse CPU parziali nella specifica del pod, ad esempio cpu: 0.5 o cpu: 250m (250 millicore), la pianificazione non può essere garantita.

Requisiti di memoria

Quando ottimizzi un nodo con Performance Tuning Operator, puoi creare hugepage e associarle ai nodi NUMA (Non-Uniform Memory Access) sulla macchina. In base alle impostazioni dei pod e dei nodi, i pod possono essere pianificati con affinità dei nodi NUMA.

Crea un profilo di ottimizzazione delle prestazioni

Dopo aver installato Performance Tuning Operator, interagisci solo con il cluster che esegue i tuoi workload. Puoi creare risorse personalizzate PerformanceTuningProfile direttamente sul cluster utente o sul cluster ibrido, non sul cluster di amministrazione. Ogni risorsa PerformanceTuningProfile contiene un insieme di parametri che specifica la configurazione delle prestazioni applicata a un nodo.

Il campo nodeSelector nella risorsa determina i nodi a cui viene applicato il profilo di ottimizzazione. Per applicare un profilo a un nodo, inserisci l'etichetta della coppia chiave-valore corrispondente sul nodo. Un profilo di ottimizzazione viene applicato ai nodi che hanno tutte le etichette specificate nel campo nodeSelector.

Puoi creare più risorse PerformanceTuningProfile in un cluster. Se più di un profilo corrisponde a un determinato nodo, viene impostata una condizione di errore in status della risorsa personalizzata PerformanceTuningProfile. Per saperne di più sulla sezione status, consulta Controlla lo stato.

Imposta lo spazio dei nomi per la risorsa personalizzata PerformanceTuningProfile su kube-system.

Per ottimizzare uno o più nodi worker:

  1. Modifica il manifest PerformanceTuningProfile.

    Per informazioni su ciascun campo del manifest e su un manifest di esempio, consulta il riferimento alla risorsa PerformanceTuningProfile.

  2. (Facoltativo) Per i nodi worker a cui stai applicando un profilo, aggiungi etichette corrispondenti alla coppia chiave-valore spec.nodeSelector.

    Se nella risorsa personalizzata PerformanceTuningProfile non è specificata alcuna coppia chiave-valore spec.nodeSelector, il profilo viene applicato a tutti i nodi worker.

  3. Applica il manifest al tuo cluster.

    kubectl apply -f PROFILE_MANIFEST --kubeconfig KUBECONFIG
    

    Sostituisci quanto segue:

    • PROFILE_MANIFEST: il percorso del file manifest per la risorsa personalizzata PerformanceTuningProfile.
    • KUBECONFIG: il percorso del file kubeconfig del cluster.

Rimuovi un profilo di ottimizzazione

Per ripristinare lo stato originale non ottimizzato di un nodo:

  1. Elimina la risorsa personalizzata PerformanceTuningProfile dal cluster.

  2. Aggiorna o rimuovi le etichette sul nodo in modo che non venga selezionato di nuovo dal profilo di ottimizzazione.

Se al nodo sono associati più profili di ottimizzazione, ripeti i passaggi precedenti, se necessario.

Metti in pausa un profilo di ottimizzazione

Se devi eseguire la manutenzione del cluster, puoi mettere temporaneamente in pausa l'ottimizzazione modificando la risorsa personalizzata PerformanceTuningProfile. Ti consigliamo di mettere in pausa l'ottimizzazione prima di eseguire operazioni critiche sul cluster, ad esempio un upgrade del cluster.

Un altro caso in cui potresti mettere in pausa l'ottimizzazione è l'applicazione di un profilo non riuscita. Se il processo di ottimizzazione non va a buon fine, il controller potrebbe continuare a provare a ottimizzare il nodo, il che potrebbe comportare il riavvio ripetuto del nodo. Se noti che lo stato del nodo passa da pronto a non pronto, metti in pausa l'ottimizzazione in modo da poter eseguire il recupero dallo stato non funzionante.

Per mettere in pausa l'ottimizzazione:

  1. Modifica il manifest della risorsa personalizzata PerformanceTuningProfile per impostare spec.paused su true.

  2. Utilizza kubectl apply per aggiornare la risorsa.

Quando l'ottimizzazione delle prestazioni è in pausa, il controller dell'operatore di ottimizzazione delle prestazioni interrompe tutte le sue operazioni. La messa in pausa evita il rischio che le operazioni del controller Performance Tuning Operator entrino in conflitto con le operazioni del controller Google Distributed Cloud.

Riferimento risorsa PerformanceTuningProfile

Questa sezione descrive ciascuno dei campi della risorsa personalizzata PerformanceTuningProfile. Questa risorsa viene utilizzata per creare un profilo di ottimizzazione per uno o più nodi del cluster. Tutti i campi della risorsa sono modificabili dopo la creazione del profilo. I profili devono trovarsi nello spazio dei nomi kube-system.

Il seguente manifest del profilo di esempio numa per i nodi con 8 core della CPU specifica le seguenti allocazioni delle risorse:

  • 4 core della CPU (0-3) sono riservati per l'overhead del sistema Kubernetes.

  • 4 core della CPU (4-7) sono riservati solo ai workload.

  • Per impostazione predefinita, la memoria del nodo è suddivisa in pagine da 2 MiB, anziché nelle pagine standard da 4 Ki.

  • 10 pagine di memoria di dimensioni pari a 1 GiB sono riservate per l'utilizzo da parte del nodo NUMA 0.

  • 5 pagine di memoria di 2 MiB sono riservate per l'utilizzo da parte del nodo NUMA 1.

  • Il gestore della topologia utilizza la policy best-effort per la pianificazione dei workload.

apiVersion: anthos.gke.io/v1alpha1
kind: PerformanceTuningProfile
metadata:
  name: numa
  namespace: kube-system
spec:
  cpu:
    isolatedCPUs: 4-7
    reservedCPUs: 0-3
  defaultHugepagesSize: 2M
  nodeSelector:
    app: database
    node-role.kubernetes.io/worker: ""
  pages:
  - count: 10
    numaNode: 0
    size: 1G
  - count: 5
    numaNode: 1
    size: 2M
  topologyManagerPolicy: best-effort

Puoi recuperare la definizione della risorsa personalizzata PerformanceTuningProfile correlata dal gruppo anthos.gke.io nel tuo cluster. La definizione della risorsa personalizzata viene installata una volta aggiunta l'annotazione della funzionalità in anteprima alla risorsa del cluster autogestito.

Configurazione della CPU

Proprietà Descrizione
cpu.reservedCPUs Obbligatorio. Modificabile. Stringa. Questo campo definisce un insieme di core della CPU da riservare ai daemon di sistema Kubernetes, come kubelet, runtime del container e rilevatore di problemi dei nodi. Questi core della CPU vengono utilizzati anche per i daemon di sistema del sistema operativo, come sshd e udev.

Il campo cpu.reservedCPUs accetta un elenco di numeri di CPU o intervalli di numeri di CPU. Assicurati che l'elenco di CPU non si sovrapponga a quello specificato con cpu.isolatedCPUs. L'unione delle CPU elencate in questi due campi deve includere tutte le CPU del nodo.

cpu.isolatedCPUs Facoltativo. Modificabile. Stringa. Il campo cpu.isolatedCPUs definisce un insieme di CPU utilizzate esclusivamente per le applicazioni sensibili alle prestazioni. CPU Manager pianifica i container solo sulle CPU non prenotate, in base alle classi di Qualità del servizio (QoS) di Kubernetes. Per assicurarti che i workload vengano eseguiti sulle CPU isolate, configura i pod con la classe QoS garantita e assegna una risorsa CPU al pod o al container. Per la pianificazione dei pod garantita, devi specificare unità CPU intere, non risorse CPU parziali (cpu: "0.5").
apiVersion: v1
kind: Pod
...
spec:
  containers:
  ...
    resources:
      limits:
        cpu: "1"
      requests:
        cpu: "1"
  ...

La massimizzazione delle CPU isolate per i workload offre il miglior vantaggio in termini di prestazioni. Questo campo accetta un elenco di numeri di CPU o intervalli di numeri di CPU. Assicurati che l'elenco di CPU non si sovrapponga a quello specificato con cpu.reservedCPUs e che l'unione degli elenchi in questi due campi includa tutte le CPU per il nodo.

cpu.balanceIsolated Facoltativo. Modificabile. Valore booleano. Valore predefinito: true. Questo campo specifica se il set di CPU isolate è idoneo o meno per il bilanciamento del carico automatico dei workload tra le CPU. Quando imposti questo campo su false, i workload devono assegnare esplicitamente ogni thread a una CPU specifica per distribuire il carico tra le CPU. Con le assegnazioni esplicite della CPU, ottieni le prestazioni più prevedibili per i workload garantiti, ma questo aggiunge maggiore complessità ai tuoi workload.
cpu.globallyEnableIRQLoadBalancing Obbligatorio. Modificabile. Valore booleano. Valore predefinito: true. Questo campo specifica se attivare o meno il bilanciamento del carico delle richieste di interruzione (IRQ) per il set di CPU isolate.

Configurazione della memoria

Proprietà Descrizione
defaultHugePageSize Facoltativo. Modificabile. Enumerazione: 1G o 2M. Questo campo definisce la dimensione predefinita delle hugepage nei parametri di avvio del kernel. Le hugepage vengono allocate al momento dell'avvio, prima che la memoria venga frammentata. È importante notare che l'impostazione della dimensione predefinita di hugepages su 1G rimuove tutte le cartelle correlate a 2M dal nodo. Una dimensione predefinita di 1G per le hugepage impedisce di configurare hugepage da 2M nel nodo.
pages Facoltativo. Modificabile. Numero intero. Questo campo specifica il numero di hugepage da creare al momento dell'avvio. Questo campo accetta un array di pagine. Controlla la memoria disponibile per i nodi prima di specificare le pagine enormi. Non richiedere più hugepage del necessario e non riservare tutta la memoria per le hugepage. I tuoi workload richiedono anche memoria standard.

Selezione dei nodi

Proprietà Descrizione
nodeSelector Obbligatorio. Modificabile. Questo campo richiede sempre l'etichetta del nodo worker Kubernetes, node-role.kubernetes.io/worker:"", che garantisce che l'ottimizzazione delle prestazioni venga eseguita solo sui nodi worker. Questo campo accetta un'etichetta del nodo facoltativa come coppia chiave-valore. Le etichette delle coppie chiave-valore vengono utilizzate per selezionare nodi worker specifici con etichette corrispondenti. Quando le etichette nodeSelector corrispondono alle etichette di un nodo worker, il profilo delle prestazioni viene applicato a quel nodo. Se non specifichi una coppia chiave-valore nel tuo profilo, questa viene applicata a tutti i nodi worker del cluster.

Ad esempio, il seguente nodeSelector specifica che il profilo di ottimizzazione viene applicato solo ai nodi worker con etichette app: database corrispondenti:

...
spec:
  nodeSelector:
    app: database
    node-role.kubernetes.io/worker: ""
  ...

Configurazione di Kubelet

Proprietà Descrizione
topologyManagerPolicy Facoltativo. Modificabile. Enumerazione: none, best-effort, restricted o single-numa-node. Valore predefinito: best-effort. Questo campo specifica la policy di Topology Manager di Kubernetes utilizzata per allocare le risorse per i workload, in base alla classe di qualità del servizio (QoS) assegnata. Per ulteriori informazioni su come vengono assegnate le classi QoS, consulta Configura la qualità del servizio per i pod.

Operazioni sui profili

Proprietà Descrizione
paused Facoltativo. Modificabile. Valore booleano. Imposta paused su true per impedire temporaneamente ai controller DaemonSet di ottimizzare i nodi selezionati.
updateStrategy Facoltativo. Modificabile. Specifica la strategia per l'applicazione delle modifiche alla configurazione di ottimizzazione ai nodi selezionati.
updateStrategy.rollingUpdateMaxUnavailalble Facoltativo. Modificabile. Numero intero. Valore predefinito: 1. Specifica il numero massimo di nodi che possono essere ottimizzati contemporaneamente. Questo campo si applica solo quando type è impostato su rolling.
updateStrategy.type Facoltativo. Modificabile. Enumerazione: batch o rolling. Valore predefinito: rolling. Specifica come applicare gli aggiornamenti del profilo ai nodi selezionati. Se vuoi applicare l'aggiornamento a tutti i nodi selezionati contemporaneamente, imposta type su batch. Per impostazione predefinita, gli aggiornamenti vengono implementati in sequenza sui singoli nodi, uno dopo l'altro.

Verifica lo stato

Dopo la creazione o l'aggiornamento della risorsa personalizzata PerformanceTuningProfile, un controller ottimizza i nodi selezionati in base alla configurazione fornita nella risorsa. Per controllare lo stato di PerformanceTuningProfile, esponiamo il seguente campo in Status:

Proprietà Descrizione
conditions Condition rappresenta le ultime osservazioni disponibili dello stato attuale della risorsa del profilo.
conditions.lastTransitionTime Viene sempre restituito. Stringa (nel formato data-ora). Ultima volta che la condizione è passata da uno stato all'altro. In genere, questa ora indica quando la condizione sottostante è cambiata. Se l'ora non è nota, l'ora indica quando il campo dell'API è stato modificato.
conditions.message Facoltativo. Stringa. Un messaggio leggibile che indica i dettagli della transizione. Questo campo potrebbe essere vuoto.
conditions.observedGeneration Facoltativo. Numero intero. Se impostato, questo campo rappresenta il metadata.generation in base al quale è stata impostata la condizione. Ad esempio, se metadata.generation è 12, ma status.condition[x].observedGeneration è 9, la condizione non è aggiornata rispetto allo stato corrente dell'istanza.
conditions.reason Obbligatorio. Stringa. Il motivo dell'ultima transizione della condizione.
conditions.status Obbligatorio. Stato della condizione: True, False o Unknown.
conditions.type Obbligatorio. Type è il tipo di condizione: Stalled o Reconciling.
readyNodes Il numero di nodi a cui è stato applicato correttamente il profilo di ottimizzazione.
reconcilingNodes Il numero di nodi selezionati (o selezionati in precedenza) che sono in fase di riconciliazione con l'ultimo profilo di ottimizzazione da parte del DaemonSet nodeconfig-controller-manager.
selectedNodes Il numero di note selezionate. In altre parole, il numero di nodi che corrispondono al selettore di nodi per questa risorsa personalizzata PerformanceTuningProfile.

Passaggi successivi