Performance Tuning Operator ti consente di ottimizzare i nodi worker per migliorare le prestazioni dei workload e l'utilizzo delle risorse in Google Distributed Cloud. Modificando le impostazioni a livello di nodo, come CPU isolate e riservate, hugepage di memoria e posizionamento NUMA, puoi migliorare l'efficienza delle applicazioni sensibili alle prestazioni senza i costi dell'aggiunta di nodi, CPU o memoria.
Puoi gestire queste impostazioni utilizzando le risorse personalizzate PerformanceTuningProfile che hanno come target i nodi worker con selettori di nodi, in modo da non dover configurare ogni nodo singolarmente. Le impostazioni vengono mantenute durante le operazioni principali del cluster, come gli upgrade.
Come funziona Performance Tuning Operator
Performance Tuning Operator funziona orchestrando le seguenti funzionalità e strumenti di Kubernetes e del sistema operativo (OS) relativi alle prestazioni:
Per evitare conflitti, quando utilizzi l'operatore di ottimizzazione delle prestazioni, ti consigliamo di non utilizzare gli strumenti e le funzionalità di Kubernetes e del sistema operativo menzionati in precedenza in modo indipendente.
Prerequisiti e limitazioni
Ecco i prerequisiti e le limitazioni per l'utilizzo di Performance Tuning Operator:
Solo Red Hat Enterprise Linux (RHEL): l'operatore di ottimizzazione delle prestazioni è supportato per i nodi che eseguono solo versioni supportate di RHEL.
Cluster utente o ibrido con nodi worker: l'operatore di ottimizzazione delle prestazioni è supportato per l'utilizzo solo con i nodi worker nei cluster utente o ibridi. L'utilizzo di Performance Tuning Operator per ottimizzare i nodi del control plane non è supportato. Performance Tuning Operator utilizza un selettore di nodi per determinare come applicare i profili di ottimizzazione. Per garantire che i profili di ottimizzazione vengano applicati solo ai nodi worker, il campo
nodeSelectorin ogni risorsa personalizzata del profilo deve includere l'etichetta del nodo worker standardnode-role.kubernetes.io/worker: "". Se l'nodeSelectorin un profilo di ottimizzazione corrisponde alle etichette di un nodo del control plane, quel nodo non viene ottimizzato e viene impostata una condizione di errore. Per saperne di più sulle condizioni di errore, consulta Controlla lo stato. Assicurati che il cluster funzioni correttamente prima di installare Performance Tuning Operator e applicare i profili di ottimizzazione.TuneD 2.22.0: l'operatore di ottimizzazione delle prestazioni richiede che TuneD versione 2.22.0 sia preinstallato nei nodi worker che intendi ottimizzare. Per ulteriori informazioni su TuneD, incluse le istruzioni di installazione, consulta Inizia a utilizzare TuneD nella documentazione di Red Hat Enterprise Linux. Performance Tuning Operator utilizza TuneD con il profilo
cpu-partitioning. Se non hai questo profilo, puoi installarlo con il seguente comando:dnf install -y tuned-profiles-cpu-partitioningRequisiti delle risorse dei workload: per ottenere il massimo dall'ottimizzazione delle prestazioni, devi avere una buona conoscenza dei requisiti di memoria e CPU (richieste di risorse e limiti) per i tuoi workload.
Risorse dei nodi disponibili: trova le risorse di CPU e memoria per i tuoi nodi. Puoi ottenere informazioni dettagliate sulla CPU e sulla memoria del tuo nodo rispettivamente nei file
/proc/cpuinfoe/proc/meminfo. Puoi anche utilizzarekubectl get nodesper recuperare la quantità di risorse di computing e memoria (status.allocatable) di un nodo worker disponibili per i pod.Richiede lo svuotamento: nell'ambito del processo di ottimizzazione, l'operatore di ottimizzazione delle prestazioni svuota prima i nodi, poi applica un profilo di ottimizzazione. Di conseguenza, i nodi potrebbero segnalare uno stato
NotReadydurante l'ottimizzazione delle prestazioni. Ti consigliamo di utilizzare la strategia di aggiornamento in sequenza (spec.updateStrategy.type: rolling) anziché un aggiornamento batch per ridurre al minimo l'indisponibilità del workload.Riavvio richiesto: affinché le modifiche di ottimizzazione dei nodi abbiano effetto, l'operatore di ottimizzazione delle prestazioni riavvia il nodo dopo aver applicato il profilo di ottimizzazione.
Installa l'operatore di ottimizzazione delle prestazioni
Performance Tuning Operator è costituito principalmente da due controller (un deployment e un DaemonSet) che interagiscono tra loro per ottimizzare i nodi in base alle impostazioni del profilo.
Per impostazione predefinita, Performance Tuning Operator non è installato con Google Distributed Cloud. Scarichi i manifest dell'operatore di ottimizzazione delle prestazioni da Cloud Storage e utilizzi kubectl apply per creare risorse dell'operatore di ottimizzazione delle prestazioni nel tuo cluster.
Per attivare l'ottimizzazione delle prestazioni con i valori predefiniti per il tuo cluster:
Crea una directory
performance-tuningsulla workstation di amministrazione.Dalla directory
performance-tuning, scarica l'ultimo pacchetto Performance Tuning Operator dal bucket di release di Cloud Storage:gcloud storage cp gs://anthos-baremetal-release/node-performance-tuning/0.1.0-gke.47 . --recursiveI file scaricati includono i manifest per il deployment
performance-tuning-operatore il DaemonSetnodeconfig-controller-manager. Sono inclusi anche i manifest per le funzioni correlate, come controllo dell'accesso basato su ruoli (RBAC) e il controllo di ammissione dinamico.In qualità di utente root, applica tutti i manifest di Performance Tuning Operator in modo ricorsivo al tuo cluster utente (o ibrido):
kubectl apply -f performance-tuning --recursive –-kubeconfig USER_KUBECONFIGUna volta creati ed eseguiti il deployment e il DaemonSet, l'unica interazione è la modifica e l'applicazione dei manifest
PerformanceTuningProfile.
Esamina i requisiti delle risorse per i tuoi workload
Prima di poter ottimizzare i nodi, devi comprendere i requisiti delle risorse di computing e di memoria dei tuoi workload. Se i nodi worker dispongono di risorse sufficienti, possono essere ottimizzati per fornire memoria garantita (standard e hugepage) per i workload nella classe di qualità del servizio (QoS) garantita.
Kubernetes assegna classi QoS a ciascuno dei tuoi pod, in base ai vincoli delle risorse che specifichi per i container associati. Kubernetes utilizza quindi le classi QoS per determinare come pianificare i pod e i container e allocare le risorse ai workload. Per sfruttare appieno l'ottimizzazione dei nodi per i tuoi workload, questi ultimi devono avere impostazioni per le richieste o i limiti delle risorse di CPU o memoria.
Per ricevere una classe QoS Guaranteed, i tuoi pod devono soddisfare i seguenti requisiti:
- Per ogni container nel pod:
- Specifica i valori per le richieste di risorse di memoria (
spec.containers[].resources.requests.memory) e i limiti (spec.containers[].resources.limits.memory). - Il valore dei limiti di memoria deve essere uguale al valore delle richieste di memoria.
- Specifica i valori per le richieste di risorse della CPU (
spec.containers[].resources.requests.cpu) e i limiti (spec.containers[].resources.limits.cpu). - Il valore dei limiti di CPU deve essere uguale al valore delle richieste di CPU.
- Specifica i valori per le richieste di risorse di memoria (
Il seguente estratto della specifica del pod mostra le impostazioni delle risorse della CPU che soddisfano i requisiti della classe QoS Guaranteed:
spec:
containers:
- name: sample-app
image: images.my-company.example/app:v4
resources:
requests:
memory: "128Mi"
cpu: "2"
limits:
memory: "128Mi"
cpu: "2"
...
Quando recuperi i dettagli del pod con kubectl get pods, la sezione status
deve includere la classe QoS assegnata, come mostrato nell'esempio seguente:
apiVersion: v1
kind: Pod
metadata:
creationTimestamp: "2023-09-22T21:05:23Z"
generateName: my-deployment-6fdd69987d-
labels:
app: metrics
department: sales
pod-template-hash: 6fdd69987d
name: my-deployment-6fdd69987d-7kv42
namespace: default
...
spec:
containers:
...
status:
conditions:
- lastProbeTime: null
lastTransitionTime: "2023-09-22T21:05:23Z"
status: "True"
type: Initialized
...
qosClass: BestEffort
startTime: "2023-09-22T21:05:23Z"
Per saperne di più sulle classi QoS, consulta Classi di qualità del servizio dei pod nella documentazione di Kubernetes. Per istruzioni su come configurare i pod e i container in modo che venga assegnata una classe QoS, consulta Configura la qualità del servizio per i pod.
Requisiti della CPU
Quando ottimizzi un nodo, puoi specificare un insieme di core della CPU riservati (spec.cpu.reservedCPUs) per l'esecuzione dei daemon di sistema Kubernetes come kubelet e runtime del container. Questo stesso insieme di CPU prenotate esegue anche i daemon del sistema operativo, come sshd e udev. I core della CPU rimanenti vengono allocati come isolati. Le CPU isolate sono destinate ad applicazioni limitate dalla CPU, che richiedono un tempo di CPU dedicato senza interferenze da parte di altre applicazioni o interruzioni da parte della rete o di altri dispositivi.
Per pianificare un pod sulle CPU isolate di un nodo worker:
Configura il pod per una qualità del servizio (QoS) garantita.
I requisiti e i limiti della CPU devono essere specificati come numeri interi. Se specifichi risorse CPU parziali nella specifica del pod, ad esempio
cpu: 0.5ocpu: 250m(250 millicore), la pianificazione non può essere garantita.
Requisiti di memoria
Quando ottimizzi un nodo con Performance Tuning Operator, puoi creare hugepage e associarle ai nodi NUMA (Non-Uniform Memory Access) sulla macchina. In base alle impostazioni dei pod e dei nodi, i pod possono essere pianificati con affinità dei nodi NUMA.
Crea un profilo di ottimizzazione delle prestazioni
Dopo aver installato Performance Tuning Operator, interagisci solo con il cluster che esegue i tuoi workload. Puoi creare risorse personalizzate PerformanceTuningProfile direttamente sul cluster utente o sul cluster ibrido, non sul cluster di amministrazione. Ogni risorsa PerformanceTuningProfile contiene un insieme di parametri che specifica la configurazione delle prestazioni applicata a un nodo.
Il campo nodeSelector nella risorsa determina i nodi a cui viene applicato il profilo di ottimizzazione. Per applicare un profilo a un nodo, inserisci l'etichetta della coppia chiave-valore corrispondente sul nodo. Un profilo di ottimizzazione viene applicato ai nodi che hanno tutte le etichette specificate nel campo nodeSelector.
Puoi creare più risorse PerformanceTuningProfile in un cluster. Se più di un profilo corrisponde a un determinato nodo, viene impostata una condizione di errore in status della risorsa personalizzata PerformanceTuningProfile. Per saperne di più sulla sezione status, consulta Controlla lo stato.
Imposta lo spazio dei nomi per la risorsa personalizzata PerformanceTuningProfile su kube-system.
Per ottimizzare uno o più nodi worker:
Modifica il manifest
PerformanceTuningProfile.Per informazioni su ciascun campo del manifest e su un manifest di esempio, consulta il riferimento alla risorsa
PerformanceTuningProfile.(Facoltativo) Per i nodi worker a cui stai applicando un profilo, aggiungi etichette corrispondenti alla coppia chiave-valore
spec.nodeSelector.Se nella risorsa personalizzata
PerformanceTuningProfilenon è specificata alcuna coppia chiave-valorespec.nodeSelector, il profilo viene applicato a tutti i nodi worker.Applica il manifest al tuo cluster.
kubectl apply -f PROFILE_MANIFEST --kubeconfig KUBECONFIGSostituisci quanto segue:
PROFILE_MANIFEST: il percorso del file manifest per la risorsa personalizzataPerformanceTuningProfile.KUBECONFIG: il percorso del file kubeconfig del cluster.
Rimuovi un profilo di ottimizzazione
Per ripristinare lo stato originale non ottimizzato di un nodo:
Elimina la risorsa personalizzata
PerformanceTuningProfiledal cluster.Aggiorna o rimuovi le etichette sul nodo in modo che non venga selezionato di nuovo dal profilo di ottimizzazione.
Se al nodo sono associati più profili di ottimizzazione, ripeti i passaggi precedenti, se necessario.
Metti in pausa un profilo di ottimizzazione
Se devi eseguire la manutenzione del cluster, puoi mettere temporaneamente in pausa l'ottimizzazione modificando la risorsa personalizzata PerformanceTuningProfile. Ti consigliamo di mettere in pausa l'ottimizzazione prima di eseguire operazioni critiche sul cluster, ad esempio un upgrade del cluster.
Un altro caso in cui potresti mettere in pausa l'ottimizzazione è l'applicazione di un profilo non riuscita. Se il processo di ottimizzazione non va a buon fine, il controller potrebbe continuare a provare a ottimizzare il nodo, il che potrebbe comportare il riavvio ripetuto del nodo. Se noti che lo stato del nodo passa da pronto a non pronto, metti in pausa l'ottimizzazione in modo da poter eseguire il recupero dallo stato non funzionante.
Per mettere in pausa l'ottimizzazione:
Modifica il manifest della risorsa personalizzata
PerformanceTuningProfileper impostarespec.pausedsutrue.Utilizza
kubectl applyper aggiornare la risorsa.
Quando l'ottimizzazione delle prestazioni è in pausa, il controller dell'operatore di ottimizzazione delle prestazioni interrompe tutte le sue operazioni. La messa in pausa evita il rischio che le operazioni del controller Performance Tuning Operator entrino in conflitto con le operazioni del controller Google Distributed Cloud.
Riferimento risorsa PerformanceTuningProfile
Questa sezione descrive ciascuno dei campi della risorsa personalizzata PerformanceTuningProfile. Questa risorsa viene utilizzata per creare un profilo di ottimizzazione per uno o più nodi del cluster. Tutti i campi della risorsa sono modificabili dopo la creazione del profilo. I profili devono trovarsi nello spazio dei nomi kube-system.
Il seguente manifest del profilo di esempio numa per i nodi con 8 core della CPU specifica le seguenti allocazioni delle risorse:
4 core della CPU (
0-3) sono riservati per l'overhead del sistema Kubernetes.4 core della CPU (
4-7) sono riservati solo ai workload.Per impostazione predefinita, la memoria del nodo è suddivisa in pagine da 2 MiB, anziché nelle pagine standard da 4 Ki.
10 pagine di memoria di dimensioni pari a 1 GiB sono riservate per l'utilizzo da parte del nodo NUMA 0.
5 pagine di memoria di 2 MiB sono riservate per l'utilizzo da parte del nodo NUMA 1.
Il gestore della topologia utilizza la policy best-effort per la pianificazione dei workload.
apiVersion: anthos.gke.io/v1alpha1
kind: PerformanceTuningProfile
metadata:
name: numa
namespace: kube-system
spec:
cpu:
isolatedCPUs: 4-7
reservedCPUs: 0-3
defaultHugepagesSize: 2M
nodeSelector:
app: database
node-role.kubernetes.io/worker: ""
pages:
- count: 10
numaNode: 0
size: 1G
- count: 5
numaNode: 1
size: 2M
topologyManagerPolicy: best-effort
Puoi recuperare la definizione della risorsa personalizzata PerformanceTuningProfile correlata dal gruppo anthos.gke.io nel tuo cluster. La definizione della risorsa personalizzata viene installata una volta aggiunta l'annotazione della funzionalità in anteprima alla risorsa del cluster autogestito.
Configurazione della CPU
| Proprietà | Descrizione |
|---|---|
cpu.reservedCPUs |
Obbligatorio. Modificabile. Stringa. Questo campo definisce un insieme di core della CPU da riservare ai daemon di sistema Kubernetes, come kubelet, runtime del container e rilevatore di problemi dei nodi. Questi core della CPU vengono utilizzati anche per i daemon di sistema del sistema operativo, come sshd e udev.
Il campo |
cpu.isolatedCPUs |
Facoltativo. Modificabile. Stringa. Il campo cpu.isolatedCPUs definisce un insieme di CPU utilizzate esclusivamente per le applicazioni sensibili alle prestazioni. CPU Manager pianifica i container solo sulle CPU non prenotate, in base alle classi di Qualità del servizio (QoS) di Kubernetes.
Per assicurarti che i workload vengano eseguiti sulle CPU isolate,
configura i pod con la classe QoS garantita e
assegna una risorsa CPU al pod o al container.
Per la pianificazione dei pod garantita, devi specificare unità CPU intere, non risorse CPU parziali (cpu: "0.5").
apiVersion: v1 kind: Pod ... spec: containers: ... resources: limits: cpu: "1" requests: cpu: "1" ... La massimizzazione delle CPU isolate per i workload offre il miglior vantaggio in termini di prestazioni. Questo campo accetta un elenco di numeri di CPU o intervalli di numeri di CPU.
Assicurati che l'elenco di CPU non si sovrapponga a quello specificato con
|
cpu.balanceIsolated |
Facoltativo. Modificabile. Valore booleano. Valore predefinito: true. Questo campo specifica se il set di CPU isolate è idoneo o meno per il bilanciamento del carico automatico dei workload tra le CPU. Quando imposti questo campo su false, i workload devono assegnare esplicitamente ogni thread a una CPU specifica per distribuire il carico tra le CPU. Con le assegnazioni esplicite della CPU, ottieni le prestazioni più prevedibili per i workload garantiti, ma questo aggiunge maggiore complessità ai tuoi workload. |
cpu.globallyEnableIRQLoadBalancing |
Obbligatorio. Modificabile. Valore booleano. Valore predefinito: true. Questo campo specifica se attivare o meno il bilanciamento del carico delle richieste di interruzione (IRQ) per il set di CPU isolate. |
Configurazione della memoria
| Proprietà | Descrizione |
|---|---|
defaultHugePageSize |
Facoltativo. Modificabile. Enumerazione: 1G o 2M.
Questo campo definisce la dimensione predefinita delle hugepage nei parametri di avvio del kernel.
Le hugepage vengono allocate al momento dell'avvio, prima che la memoria venga frammentata.
È importante notare che l'impostazione della dimensione predefinita di hugepages su 1G rimuove tutte le cartelle correlate a 2M dal nodo. Una dimensione predefinita di 1G per le hugepage impedisce di configurare hugepage da 2M nel nodo.
|
pages |
Facoltativo. Modificabile. Numero intero. Questo campo specifica il numero di hugepage da creare al momento dell'avvio. Questo campo accetta un array di pagine. Controlla la memoria disponibile per i nodi prima di specificare le pagine enormi. Non richiedere più hugepage del necessario e non riservare tutta la memoria per le hugepage. I tuoi workload richiedono anche memoria standard. |
Selezione dei nodi
| Proprietà | Descrizione |
|---|---|
nodeSelector |
Obbligatorio. Modificabile. Questo campo richiede sempre l'etichetta del nodo worker Kubernetes, node-role.kubernetes.io/worker:"", che garantisce che l'ottimizzazione delle prestazioni venga eseguita solo sui nodi worker. Questo campo accetta un'etichetta del nodo facoltativa come coppia chiave-valore. Le etichette delle coppie chiave-valore vengono utilizzate per selezionare nodi worker specifici con etichette corrispondenti. Quando le etichette nodeSelector corrispondono alle etichette di un nodo worker, il profilo delle prestazioni viene applicato a quel nodo. Se non specifichi una coppia chiave-valore nel tuo profilo, questa viene applicata a tutti i nodi worker del cluster.
Ad esempio, il seguente ... spec: nodeSelector: app: database node-role.kubernetes.io/worker: "" ... |
Configurazione di Kubelet
| Proprietà | Descrizione |
|---|---|
topologyManagerPolicy |
Facoltativo. Modificabile. Enumerazione: none, best-effort,
restricted o single-numa-node. Valore predefinito: best-effort.
Questo campo specifica la policy di Topology Manager di Kubernetes utilizzata per allocare le risorse per i workload, in base alla classe di qualità del servizio (QoS) assegnata. Per ulteriori informazioni su come vengono assegnate le classi QoS, consulta Configura la qualità del servizio per i pod.
|
Operazioni sui profili
| Proprietà | Descrizione |
|---|---|
paused |
Facoltativo. Modificabile. Valore booleano. Imposta paused su
true per impedire temporaneamente ai controller DaemonSet di
ottimizzare i nodi selezionati. |
updateStrategy |
Facoltativo. Modificabile. Specifica la strategia per l'applicazione delle modifiche alla configurazione di ottimizzazione ai nodi selezionati. |
updateStrategy.rollingUpdateMaxUnavailalble |
Facoltativo. Modificabile. Numero intero. Valore predefinito: 1. Specifica il numero massimo di nodi che possono essere ottimizzati contemporaneamente. Questo campo si applica solo quando type è impostato su rolling. |
updateStrategy.type |
Facoltativo. Modificabile. Enumerazione: batch o rolling.
Valore predefinito: rolling. Specifica come applicare gli aggiornamenti del profilo ai nodi selezionati. Se vuoi applicare l'aggiornamento a tutti i nodi selezionati contemporaneamente, imposta type su batch. Per impostazione predefinita, gli aggiornamenti vengono implementati in sequenza sui singoli nodi, uno dopo l'altro. |
Verifica lo stato
Dopo la creazione o l'aggiornamento della risorsa personalizzata PerformanceTuningProfile, un controller ottimizza i nodi selezionati in base alla configurazione fornita nella risorsa. Per controllare lo stato di PerformanceTuningProfile, esponiamo il seguente campo in Status:
| Proprietà | Descrizione |
|---|---|
conditions |
Condition rappresenta le ultime osservazioni disponibili dello stato attuale della risorsa del profilo. |
conditions.lastTransitionTime |
Viene sempre restituito. Stringa (nel formato data-ora). Ultima volta che la condizione è passata da uno stato all'altro. In genere, questa ora indica quando la condizione sottostante è cambiata. Se l'ora non è nota, l'ora indica quando il campo dell'API è stato modificato. |
conditions.message |
Facoltativo. Stringa. Un messaggio leggibile che indica i dettagli della transizione. Questo campo potrebbe essere vuoto. |
conditions.observedGeneration |
Facoltativo. Numero intero. Se impostato, questo campo rappresenta il metadata.generation
in base al quale è stata impostata la condizione. Ad esempio, se metadata.generation
è 12, ma status.condition[x].observedGeneration
è 9, la condizione non è aggiornata rispetto allo stato
corrente dell'istanza. |
conditions.reason |
Obbligatorio. Stringa. Il motivo dell'ultima transizione della condizione. |
conditions.status |
Obbligatorio. Stato della condizione: True, False o
Unknown. |
conditions.type |
Obbligatorio. Type è il tipo di condizione: Stalled o
Reconciling. |
readyNodes |
Il numero di nodi a cui è stato applicato correttamente il profilo di ottimizzazione. |
reconcilingNodes |
Il numero di nodi selezionati (o selezionati in precedenza) che sono in fase di riconciliazione con l'ultimo profilo di ottimizzazione da parte del DaemonSet nodeconfig-controller-manager. |
selectedNodes |
Il numero di note selezionate. In altre parole, il numero di nodi che corrispondono al selettore di nodi per questa risorsa personalizzata PerformanceTuningProfile. |