Configurar uma implantação personalizada do kube-dns

Standard

Neste documento, explicamos como personalizar a configuração de DNS no cluster padrão do Google Kubernetes Engine (GKE) substituindo a implantação padrão kube-dns gerenciada pelo GKE pela sua. Isso dá mais controle sobre o provedor de DNS do cluster. Por exemplo, você pode:

• Ajuste os recursos de CPU e memória para componentes de DNS.
• Use uma versão específica da imagem kube-dns.
• Implante um provedor de DNS alternativo, como o CoreDNS, que siga a especificação de DNS do Kubernetes.

Este documento é apenas para clusters padrão. O Google gerencia a configuração de DNS em clusters do Autopilot. Para entender melhor os provedores de DNS no GKE, consulte Sobre a descoberta de serviços e kube-dns.

Atenção:se você executar uma implantação de DNS personalizada, será responsável pela manutenção contínua dela. Isso inclui garantir que as imagens de contêiner do kube-dns e do escalonador automático estejam atualizadas com as versões e os patches de segurança mais recentes. Para encontrar as imagens recomendadas mais recentes, inspecione a implantação padrão kube-dns no namespace kube-system de um cluster do GKE.

Este documento é destinado a usuários do GKE, incluindo desenvolvedores, administradores e arquitetos. Para saber mais sobre papéis comuns e tarefas de exemplo no Google Cloud, consulte Funções e tarefas de usuário comuns do GKE Enterprise.

Este documento pressupõe que você esteja familiarizado com o seguinte:

• Serviço do Kubernetes.
• Serviços de vários clusters.
• Sobre a descoberta de serviços.
• Descoberta de serviços e DNS no GKE.
• Sobre o Cloud DNS.

Configurar uma implantação personalizada do kube-dns

Nesta seção, explicamos como substituir a implantação kube-dns gerenciada pelo GKE pela sua.

Criar e implantar o manifesto personalizado

1. Salve o seguinte manifesto Deployment como custom-kube-dns.yaml. Este manifesto usa kube-dns.

   apiVersion: apps/v1
   kind: Deployment
   metadata:
     name: DNS_DEPLOYMENT_NAME
     namespace: kube-system
     labels:
       k8s-app: kube-dns
     annotations:
       deployment.kubernetes.io/revision: "1"
   spec:
     selector:
       matchLabels:
         k8s-app: kube-dns
     strategy:
       rollingUpdate:
         maxSurge: 10%
         maxUnavailable: 0
       type: RollingUpdate
     template:
       metadata:
         creationTimestamp: null
         labels:
           k8s-app: kube-dns
       spec:
         containers:
         - name: kubedns
           image: registry.k8s.io/dns/k8s-dns-kube-dns:1.22.28
           resources:
             limits:
               memory: '170Mi'
             requests:
               cpu: 100m
               memory: '70Mi'
           livenessProbe:
             httpGet:
               path: /healthcheck/kubedns
               port: 10054
               scheme: HTTP
             initialDelaySeconds: 60
             timeoutSeconds: 5
             successThreshold: 1
             failureThreshold: 5
           readinessProbe:
             httpGet:
               path: /readiness
               port: 8081
               scheme: HTTP
             initialDelaySeconds: 3
             timeoutSeconds: 5
           args:
           - --domain=cluster.local.
           - --dns-port=10053
           - --config-dir=/kube-dns-config
           - --v=2
           env:
           - name: PROMETHEUS_PORT
             value: "10055"
           ports:
           - containerPort: 10053
             name: dns-local
             protocol: UDP
           - containerPort: 10053
             name: dns-tcp-local
             protocol: TCP
           - containerPort: 10055
             name: metrics
             protocol: TCP
           volumeMounts:
           - name: kube-dns-config
             mountPath: /kube-dns-config
           securityContext:
             allowPrivilegeEscalation: false
             readOnlyRootFilesystem: true
             runAsUser: 1001
             runAsGroup: 1001
         - name: dnsmasq
           image: registry.k8s.io/dns/k8s-dns-dnsmasq-nanny:1.22.28
           livenessProbe:
             httpGet:
               path: /healthcheck/dnsmasq
               port: 10054
               scheme: HTTP
             initialDelaySeconds: 60
             timeoutSeconds: 5
             successThreshold: 1
             failureThreshold: 5
           args:
           - -v=2
           - -logtostderr
           - -configDir=/etc/k8s/dns/dnsmasq-nanny
           - -restartDnsmasq=true
           - --
           - -k
           - --cache-size=1000
           - --no-negcache
           - --dns-forward-max=1500
           - --log-facility=-
           - --server=/cluster.local/127.0.0.1#10053
           - --server=/in-addr.arpa/127.0.0.1#10053
           - --server=/ip6.arpa/127.0.0.1#10053
           ports:
           - containerPort: 53
             name: dns
             protocol: UDP
           - containerPort: 53
             name: dns-tcp
             protocol: TCP
           resources:
             requests:
               cpu: 150m
               memory: 20Mi
           volumeMounts:
           - name: kube-dns-config
             mountPath: /etc/k8s/dns/dnsmasq-nanny
           securityContext:
             capabilities:
               drop:
               - all
               add:
               - NET_BIND_SERVICE
               - SETGID
         - name: sidecar
           image: registry.k8s.io/dns/k8s-dns-sidecar:1.22.28
           livenessProbe:
             httpGet:
               path: /metrics
               port: 10054
               scheme: HTTP
             initialDelaySeconds: 60
             timeoutSeconds: 5
             successThreshold: 1
             failureThreshold: 5
           args:
           - --v=2
           - --logtostderr
           - --probe=kubedns,127.0.0.1:10053,kubernetes.default.svc.cluster.local,5,SRV
           - --probe=dnsmasq,127.0.0.1:53,kubernetes.default.svc.cluster.local,5,SRV
           ports:
           - containerPort: 10054
             name: metrics
             protocol: TCP
           resources:
             requests:
               memory: 20Mi
               cpu: 10m
           securityContext:
             allowPrivilegeEscalation: false
             readOnlyRootFilesystem: true
             runAsUser: 1001
             runAsGroup: 1001
         dnsPolicy: Default
         restartPolicy: Always
         schedulerName: default-scheduler
         securityContext: {}
         serviceAccount: kube-dns
         serviceAccountName: kube-dns
         terminationGracePeriodSeconds: 30
         tolerations:
         - key: CriticalAddonsOnly
           operator: Exists
         volumes:
         - configMap:
             defaultMode: 420
             name: kube-dns
             optional: true
           name: kube-dns-config
   

   Substitua DNS_DEPLOYMENT_NAME pelo nome da sua implantação de DNS personalizada.

2. Aplique o manifesto ao cluster:

   kubectl create -f custom-kube-dns.yaml
   

Reduza a escala vertical do kube-dns gerenciado pelo GKE.

Para evitar conflitos, desative as implantações kube-dns e kube-dns-autoscaler gerenciadas pelo GKE reduzindo a escala delas para zero réplicas:

kubectl scale deployment --replicas=0 kube-dns-autoscaler kube-dns --namespace=kube-system

Configurar um escalonador automático personalizado

O kube-dns-autoscaler padrão só escalona a implantação kube-dns gerenciada pelo GKE. Se o provedor de DNS personalizado exigir escalonamento automático, você precisará implantar um escalonador automático separado e conceder a ele permissões para modificar a implantação de DNS personalizada.

1. Crie o manifesto a seguir e salve-o como custom-dns-autoscaler.yaml.

   apiVersion: v1
   kind: ConfigMap
   metadata:
     name: custom-dns-autoscaler
     namespace: kube-system
   data:
     linear: |-
       {
         "coresPerReplica": 256,
         "nodesPerReplica": 16,
         "preventSinglePointFailure": true
       }
   ---
   apiVersion: rbac.authorization.k8s.io/v1
   kind: ClusterRoleBinding
   metadata:
     name: system:custom-dns-autoscaler
   roleRef:
     apiGroup: rbac.authorization.k8s.io
     kind: ClusterRole
     name: system:custom-dns-autoscaler
   subjects:
   - kind: ServiceAccount
     name: kube-dns-autoscaler
     namespace: kube-system
   ---
   apiVersion: rbac.authorization.k8s.io/v1
   kind: ClusterRole
   metadata:
     name: system:custom-dns-autoscaler
   rules:
   - apiGroups:
     - ""
     resources:
     - nodes
     verbs:
     - list
     - watch
   - apiGroups:
     - apps
     resourceNames:
     - DNS_DEPLOYMENT_NAME
     resources:
     - deployments/scale
     verbs:
     - get
     - update
   - apiGroups:
     - ""
     resources:
     - configmaps
     verbs:
     - get
     - create
   ---
   apiVersion: apps/v1
   kind: Deployment
   metadata:
     name: custom-dns-autoscaler
     namespace: kube-system
     labels:
       k8s-app: custom-dns-autoscaler
   spec:
     selector:
       matchLabels:
         k8s-app: custom-dns-autoscaler
     template:
       metadata:
         labels:
           k8s-app: custom-dns-autoscaler
       spec:
         priorityClassName: system-cluster-critical
         securityContext:
           seccompProfile:
             type: RuntimeDefault
           supplementalGroups: [ 65534 ]
           fsGroup: 65534
         nodeSelector:
           kubernetes.io/os: linux
         containers:
         - name: autoscaler
           image: registry.k8s.io/autoscaling/cluster-proportional-autoscaler:1.8.9
           resources:
             requests:
               cpu: "20m"
               memory: "10Mi"
           command:
           - /cluster-proportional-autoscaler
           - --namespace=kube-system
           - --configmap=custom-dns-autoscaler
           - --target=Deployment/DNS_DEPLOYMENT_NAME
           - --default-params={"linear":{"coresPerReplica":256,"nodesPerReplica":16,"preventSinglePointFailure":true}}
           - --logtostderr=true
           - --v=2
         tolerations:
         - key: "CriticalAddonsOnly"
           operator: "Exists"
         serviceAccountName: kube-dns-autoscaler
   

   Substitua DNS_DEPLOYMENT_NAME nos campos resourceNames e command pelo nome da sua implantação de DNS personalizada.

2. Aplique o manifesto ao cluster:

   kubectl create -f custom-dns-autoscaler.yaml
   

Verificar a implantação

Verifique se os pods de DNS personalizados estão em execução:

kubectl get pods -n kube-system -l k8s-app=kube-dns

Como você escalonou a implantação kube-dns gerenciada pelo GKE para zero réplicas, apenas os pods da sua implantação personalizada aparecem na saída. Verifique se o status é Running.

Restaurar o kube-dns gerenciado pelo GKE

Se você implantou uma configuração personalizada do kube-dns e precisa reverter para a configuração padrão gerenciada pelo GKE, exclua os recursos personalizados e reative a implantação gerenciada do kube-dns.

Siga estas etapas para restaurar o kube-dns gerenciado pelo GKE:

1. Exclua a implantação personalizada kube-dns e o escalonador automático dela. Se você salvou os manifestos como custom-kube-dns.yaml e custom-dns-autoscaler.yaml, execute os seguintes comandos para excluir os recursos:

   kubectl delete -f custom-dns-autoscaler.yaml
   kubectl delete -f custom-kube-dns.yaml
   

   Se você não salvou os manifestos, exclua manualmente a implantação, o ClusterRole e o ClusterRoleBinding que você criou para sua implantação personalizada.

2. Restaure o kube-dns-autoscaler gerenciado pelo GKE. Execute o comando a seguir para reduzir a implantação do kube-dns-autoscaler de volta a uma réplica:

   kubectl scale deployment --replicas=1 kube-dns-autoscaler --namespace=kube-system
   

   Esse comando reativa o kube-dns-autoscaler gerenciado, que então escalona automaticamente a implantação do kube-dns gerenciado para o número adequado de réplicas para o tamanho do cluster.

3. Verifique a restauração.

   Verifique se os pods kube-dns e kube-dns-autoscaler estão sendo executados corretamente:

   kubectl get pods -n kube-system -l k8s-app=kube-dns
   

   A saída vai mostrar que os pods kube-dns gerenciados pelo GKE estão no estado Running.

A seguir

• Leia uma visão geral de como o GKE fornece DNS gerenciado.
• Leia DNS para serviços e pods para uma visão geral de como o DNS é usado nos clusters do Kubernetes.