AKS 的多區域部署

本主題說明如何在 Microsoft® Azure Kubernetes Service (AKS) 上,為 Apigee Hybrid 設定多區域部署。

多區域部署的拓撲包括:

  • Active-Active:當您在多個地理位置部署應用程式,且需要低延遲的 API 回應來部署應用程式時,您可以選擇在最靠近客戶的多個地理位置部署混合式雲端,例如:美國西岸、美國東岸、歐洲、亞太地區。
  • 主動-被動:當您有主要區域和容錯移轉或災難復原區域時。

如下圖所示,多區域混合式部署中的區域會透過 Cassandra 通訊:

必要條件

為多個區域設定混合式連線前,請先完成下列先決條件:

  • 請參閱混合式安裝指南,瞭解 Google Cloud 和機構設定等先決條件,再進行叢集設定步驟。
  • Cassandra 多區域規定:
    • 如果 Pod 網路命名空間無法連線至不同叢集中的 Pod (叢集以「島嶼網路模式」執行,這是 AKS 安裝作業的預設情況),請在 Apigee Hybrid 多地區安裝作業的所有地區,於覆寫檔案中設定 cassandra.hostNetwork: true,啟用 Kubernetes hostNetwork 功能。
    • 在將多區域設定擴展至新區域之前,請先在現有叢集上啟用「hostNetwork」。
    • 啟用 hostNetwork 時,請確保工作節點可以執行反向 DNS 查詢。Apigee Cassandra 會使用正向和反向 DNS 查詢,在啟動時取得主機 IP。
    • 在所有區域的 Kubernetes 叢集之間開啟 Cassandra 連接埠 7000 和 7001,讓不同區域和資料中心的工作站節點能夠通訊。請參閱「設定通訊埠」。

詳情請參閱 Kubernetes 說明文件。

在每個區域中建立虛擬網路

請按照 Azure Kubernetes Service (AKS) 說明文件操作:

  • 在每個區域中建立虛擬網路。
  • 在區域之間建立網路對等互連。
  • 驗證網路對等互連。

建立多區域叢集

在多個區域設定 Kubernetes 叢集,並使用不同的 CIDR 區塊。另請參閱「步驟 1:建立叢集」。使用您先前建立的位置和虛擬網路名稱。

在所有區域的 Kubernetes 叢集之間開啟 Cassandra 通訊埠 7000 和 7001 (7000 可在疑難排解期間做為備份選項)

設定多區域種子主機

本節說明如何將現有 Cassandra 叢集擴展至新區域。完成這項設定後,新區域就能啟動叢集並加入現有資料中心。如果沒有這項設定,多區域 Kubernetes 叢集就無法互相瞭解。

  1. 先將 kubectl 環境設為原始叢集,再擷取種子名稱:
    kubectl config use-context original-cluster-name
  2. 執行下列 kubectl 指令,找出目前區域中 Cassandra 的種子主機位址。

    種子主機位址可讓新的區域執行個體在首次啟動時找到原始叢集,瞭解叢集的拓撲。種子主機位址會指定為叢集中的聯絡點。

    kubectl get pods -o wide -n apigee | grep apigee-cassandra
    
    apigee-cassandra-default-0  1/1   Running   0   4d17h   120.38.1.9  aks-agentpool-21207753-vmss000000
    
  3. 決定要將先前指令傳回的哪個 IP 做為多區域種子主機。在本例中,只有單一節點 Cassandra 叢集正在執行,因此種子主機為 120.38.1.9
  4. 在資料中心 2 中,將覆寫檔案複製到新檔案,檔名須包含叢集名稱。例如 overrides_your_cluster_name.yaml
  5. 在資料中心 2 中,於 overrides_your_cluster_name.yaml 內設定 cassandra.multiRegionSeedHostcassandra.datacenter,其中 multiRegionSeedHost 是先前指令傳回的其中一個 IP:
    cassandra:
      multiRegionSeedHost: seed_host_IP
      datacenter: data_center_name
      rack: rack_name

    例如:

    cassandra:
      multiRegionSeedHost: 120.38.1.9
      datacenter: "dc-1"
      rack: "ra-1"
  6. 在新的資料中心/區域中,安裝混合式服務前,請在 overrides_your_cluster_name.yaml 中設定與第一個區域相同的 TLS 憑證和憑證。

設定新區域

設定種子主機後,即可設定新區域。

如要設定新區域,請按照下列步驟操作:

  1. 將現有叢集的憑證複製到新叢集。Cassandra 和其他混合式元件會使用新的 CA 根憑證進行 mTLS。因此,叢集中的憑證必須一致。
    1. 將環境定義設為原始命名空間:
      kubectl config use-context original-cluster-name
    2. 將目前的命名空間設定匯出至檔案:
      $ kubectl get namespace apigee -o yaml > apigee-namespace.yaml

      apigee 是預設命名空間。

    3. apigee-ca 密鑰匯出至檔案:
      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
    4. 將環境設為新區域的叢集名稱:
      kubectl config use-context new-cluster-name
    5. 將命名空間設定匯入新叢集。 如果您在新區域中使用其他命名空間,請務必更新檔案中的「命名空間」:
      kubectl apply -f apigee-namespace.yaml
    6. 將密鑰匯入新叢集:

      kubectl -n cert-manager apply -f apigee-ca.yaml
  2. 在新區域中安裝混合式服務。請確認 overrides_your_cluster_name.yaml 檔案包含在第一個區域中設定的相同 TLS 憑證,如上一節所述。

    執行下列兩項指令,在新區域中安裝混合式服務:

    apigeectl init -f overrides_your_cluster_name.yaml
    apigeectl apply -f overrides_your_cluster_name.yaml
  3. 在新資料中心的所有節點上依序執行 nodetool rebuild。視資料大小而定,這項作業可能需要幾分鐘到幾小時的時間。
    kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password rebuild -- dc-1

    其中 JMX_userJMX_password 是 Cassandra JMX 使用者的使用者名稱和密碼。

  4. 從記錄檔驗證重建程序。此外,請使用 nodetool status 指令驗證資料大小:
    kubectl logs apigee-cassandra-default-0 -f -n apigee
    kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool -u JMX_user -pw JMX_password status

    以下範例顯示記錄項目:

    INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
  5. 更新種子主機。從 overrides-DC_name.yaml 移除 multiRegionSeedHost: 10.0.0.11,然後重新套用。
    apigeectl apply -f overrides-DC_name.yaml