Puoi scalare la maggior parte dei servizi in esecuzione in Kubernetes dalla riga di comando o in un override della configurazione. Puoi impostare i parametri di scalabilità per i servizi di runtime di Apigee hybrid nel file overrides.yaml.
| Servizio | Implementato come | Scalabilità |
|---|---|---|
| Cassandra | ApigeeDatastore (CRD) | Consulta la sezione Scalabilità di Cassandra. |
| Ingress/LoadBalancer | Deployment | Cloud Service Mesh utilizza la scalabilità automatica orizzontale dei pod (HPA). |
| Logger | DaemonSet | I DaemonSet gestiscono le repliche di un pod su tutti i nodi, quindi scalano quando scali i pod stessi. |
| MART Apigee Connect Watcher |
ApigeeOrganization (CRD) | Per scalare tramite la configurazione, aumenta il valore della proprietà di configurazione mart: replicaCountMax: 2 replicaCountMin: 1 watcher: replicaCountMax: 2 replicaCountMin: 1 connectAgent: replicaCountMax: 2 replicaCountMin: 1 Questi deployment utilizzano un Horizontal Pod Autoscaler per la scalabilità automatica. Imposta la proprietà Per ulteriori informazioni sull'impostazione delle proprietà di configurazione, consulta Gestisci i componenti del piano di runtime. |
| Runtime Sincronizzatore UDCA |
ApigeeEnvironment (CRD) | Per scalare tramite la configurazione, aumenta il valore della proprietà replicaCountMin per le sezioni udca, synchronizer e/o runtime nel file delle sostituzioni. Ad esempio:
synchronizer: replicaCountMax: 10 replicaCountMin: 1 runtime: replicaCountMax: 10 replicaCountMin: 1 udca: replicaCountMax: 10 replicaCountMin: 1 Nota: queste modifiche si applicano a TUTTI gli ambienti nel file degli override. Se vuoi personalizzare la scalabilità per ogni ambiente, consulta la sezione Configurazioni avanzate di seguito. Questi deployment utilizzano un Horizontal Pod Autoscaler per la scalabilità automatica. Imposta la proprietà Per saperne di più sull'impostazione delle proprietà di configurazione, consulta Gestisci i componenti del piano di runtime. |
Configurazioni avanzate
In alcuni scenari, potrebbe essere necessario utilizzare le opzioni di scalabilità avanzate. Ecco alcuni scenari di esempio:
- Impostare opzioni di scalabilità diverse per ogni ambiente. Ad esempio, dove env1 ha un
minReplicapari a 5 ed env2 ha unminReplicapari a 2. - Impostando opzioni di scalabilità diverse per ogni componente all'interno di un ambiente. Ad esempio, dove il componente
udcaha unmaxReplicapari a 5 e il componentesynchronizerha unmaxReplicapari a 2.
L'esempio seguente mostra come utilizzare il comando kubernetes patch per modificare la proprietà maxReplicas per il componente runtime:
- Crea variabili di ambiente da utilizzare con il comando:
export ENV_NAME=my-environment-name
export ENV_RELEASE_NAME=$ENV_NAME # the Helm release name for the environmentexport APIGEE_NAMESPACE=apigee #the namespace where Apigee is deployedexport COMPONENT=runtime #can be udca or synchronizerexport MAX_REPLICAS=2export MIN_REPLICAS=1 - Applica la patch. Tieni presente che questo esempio presuppone che
kubectlsi trovi nel tuoPATH:kubectl patch apigeeenvironment -n $APIGEE_NAMESPACE \ $(kubectl get apigeeenvironments -n $APIGEE_NAMESPACE -o jsonpath='{.items[?(@.spec.name == "'$ENV'" )]..metadata.name}') \ --patch "$(echo -e "spec:\n components:\n $COMPONENT:\n autoScaler:\n maxReplicas: $MAX_REPLICAS\n minReplicas: $MIN_REPLICAS")" \ --type merge - Verifica la modifica:
kubectl get hpa -n $APIGEE_NAMESPACE
Scalabilità basata sull'ambiente
Per impostazione predefinita, la scalabilità è descritta a livello di organizzazione. Puoi eseguire l'override delle impostazioni predefinite specificando la scalabilità specifica per l'ambiente nel file overrides.yaml, come mostrato nell'esempio seguente:
envs:
# Apigee environment name
- name: ENV_NAME>
components:
# Environment-specific scaling override
# Otherwise, uses scaling defined at the respective root component
runtime:
replicaCountMin: 2
replicaCountMax: 20
Scalabilità basata sulle metriche
Con la scalabilità basata su metriche, il runtime può utilizzare le metriche della CPU e dell'applicazione per scalare i pod apigee-runtime.
L'API Horizontal Pod Autoscaler (HPA) di Kubernetes utilizza il campo hpaBehavior per configurare i comportamenti di scale up e scale down del servizio di destinazione.
La scalabilità basata sulle metriche non è disponibile per altri componenti in un deployment ibrido.
La scalabilità può essere regolata in base alle seguenti metriche:
| Metrica | Misura | Considerazioni |
|---|---|---|
| serverMainTaskWaitTime | Tempo di attesa medio (in ms) della coda di elaborazione nelle istanze di runtime per le richieste proxy per l'elaborazione delle policy. | Questa metrica misura l'impatto della complessità nelle policy associate al flusso di richieste del proxy. |
| serverNioTaskWaitTime | Tempo di attesa medio (in ms) della coda di elaborazione nelle istanze di runtime per le richieste proxy a livello HTTP. | Questa metrica misura l'impatto del numero e delle dimensioni del payload delle richieste e delle risposte del proxy. |
L'esempio seguente della sezione runtime in overrides.yaml illustra i parametri standard (e gli intervalli consentiti) per la scalabilità dei pod apigee-runtime in un'implementazione ibrida:
runtime:
# the following parameters configure metrics-based scaling
hpaMetrics:
serverMainTaskWaitTime: 400M # (range: 300M to 450M)
serverNioTaskWaitTime: 400M # (range: 300M to 450M)
targetCPUUtilizationPercentage: 75
hpaBehavior:
scaleDown:
percent:
periodSeconds: 60 # (range: 30 - 180)
value: 20 # (range: 5 - 50)
pods:
periodSeconds: 60 # (range: 30 - 180)
value: 2 # (range: 1 - 15)
selectPolicy: Min
stabilizationWindowSeconds: 120 # (range: 60 - 300)
scaleUp:
percent:
periodSeconds: 60 # (range: 30 - 120)
value: 20 # (range: 5 - 100)
pods:
periodSeconds: 60 # (range: 30 - 120)
value: 4 # (range: 2 - 15)
selectPolicy: Max
stabilizationWindowSeconds: 30 # (range: 30 - 120)
Applica queste impostazioni aggiornando il grafico apigee-runtime per ogni ambiente. Ad esempio:
helm upgrade $ENV_RELEASE_NAME apigee-runtime/ \ --namespace APIGEE_NAMESPACE \ --atomic \ --set env=$ENV_NAME \ -f overrides.yaml
Attiva o disattiva la scalabilità basata su metriche
La scalabilità basata su metriche è attiva per impostazione predefinita. Puoi attivare o disattivare la scalabilità basata su metriche impostando la proprietà customAutoscaling.enabled su true o false. Applica le modifiche alla proprietà customAutoscaling.enabled aggiornando il grafico apigee-telemetry. Ad esempio:
helm upgrade telemetry apigee-telemetry/ \ --namespace APIGEE_NAMESPACE \ --atomic \ -f overrides.yaml
Configura una scalabilità più aggressiva
L'aumento dei valori percent e pods della policy di scale up comporterà una policy di scale up più aggressiva. Analogamente, l'aumento dei valori percent e pods in scaleDown
comporterà una policy di scale down aggressiva. Ad esempio:
runtime:
# ...
hpaMetrics:
serverMainTaskWaitTime: 400M
serverNioTaskWaitTime: 400M
targetCPUUtilizationPercentage: 75
hpaBehavior:
scaleDown:
percent:
periodSeconds: 60
value: 20
pods:
periodSeconds: 60
value: 4
selectPolicy: Min
stabilizationWindowSeconds: 120
scaleUp:
percent:
periodSeconds: 60
value: 30
pods:
periodSeconds: 60
value: 5
selectPolicy: Max
stabilizationWindowSeconds: 30
Nell'esempio precedente, scaleDown.pods.value viene aumentato a 5, scaleUp.percent.value
viene aumentato a 30 e scaleUp.pods.value viene aumentato a 5.
Configura una scalabilità meno aggressiva
I valori di configurazione di hpaBehavior possono anche essere ridotti per implementare policy di scale up e scale down meno aggressive. Ad esempio:
runtime:
# ...
hpaMetrics:
serverMainTaskWaitTime: 400M
serverNioTaskWaitTime: 400M
targetCPUUtilizationPercentage: 75
hpaBehavior:
scaleDown:
percent:
periodSeconds: 60
value: 10
pods:
periodSeconds: 60
value: 1
selectPolicy: Min
stabilizationWindowSeconds: 180
scaleUp:
percent:
periodSeconds: 60
value: 20
pods:
periodSeconds: 60
value: 4
selectPolicy: Max
stabilizationWindowSeconds: 30
Nell'esempio precedente, scaleDown.percent.value viene ridotto a 10, scaleDown.pods.value viene ridotto a 1 e scaleUp.stablizationWindowSeconds viene aumentato a 180.
Per saperne di più sulla scalabilità basata su metriche utilizzando il campo hpaBehavior, consulta
Policy di scalabilità.
Risoluzione dei problemi
Questa sezione descrive i metodi di risoluzione dei problemi comuni che potresti riscontrare durante la configurazione della scalabilità e della scalabilità automatica.
HPA mostra unknown per i valori delle metriche
Se la scalabilità basata su metriche non funziona e l'HPA mostra unknown per i valori delle metriche, utilizza il seguente comando per controllare l'output dell'HPA:
kubectl describe hpa HPA_NAME
Quando esegui il comando, sostituisci HPA_NAME con il nome dell'HPA che vuoi visualizzare.
L'output mostrerà la CPU target e l'utilizzo del servizio, indicando che la scalabilità della CPU funzionerà in assenza di scalabilità basata su metriche. Per il comportamento dell'HPA che utilizza più parametri, consulta Scalabilità in base a più metriche.