本主題說明在 GKE 和 Anthos GKE On-Prem 上部署的 Apigee Hybrid 多區域部署。
多區域部署的拓撲包括：
- Active-Active：當您在多個地理位置部署應用程式，且需要低延遲的 API 回應來部署應用程式時，您可以選擇在最靠近客戶的多個地理位置部署混合式雲端，例如：美國西岸、美國東岸、歐洲、亞太地區。
- 主動-被動：當您有主要區域和容錯移轉或災難復原區域時。
如下圖所示，多區域混合式部署中的區域會透過 Cassandra 通訊：
必要條件
為多個區域設定混合式連線前，請先完成下列先決條件：
- 在多個區域設定 Kubernetes 叢集，並使用不同的 CIDR 區塊
- 設定跨區域通訊
- 在所有區域的 Kubernetes 叢集之間開啟 Cassandra 通訊埠 7000 和 7001 (7000 可在疑難排解期間做為備份選項)。另請參閱「設定通訊埠」。
詳情請參閱 Kubernetes 說明文件。
設定多區域種子主機
本節說明如何將現有 Cassandra 叢集擴展至新區域。完成這項設定後，新區域就能啟動叢集並加入現有資料中心。如果沒有這項設定，多區域 Kubernetes 叢集就無法互相瞭解。
執行下列
kubectl指令，找出目前區域中 Cassandra 的種子主機位址。種子主機位址可讓新的區域執行個體在首次啟動時找到原始叢集，瞭解叢集的拓撲。種子主機位址會指定為叢集中的聯絡點。
kubectl get pods -o wide -n apigee NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE apigee-cassandra-0 1/1 Running 0 5d 10.0.0.11 gke-k8s-dc-2-default-pool-a2206492-p55d apigee-cassandra-1 1/1 Running 0 5d 10.0.2.4 gke-k8s-dc-2-default-pool-e9daaab3-tjmz apigee-cassandra-2 1/1 Running 0 5d 10.0.3.5 gke-k8s-dc-2-default-pool-e589awq3-kjch
- 決定要將先前指令傳回的哪個 IP 做為多區域種子主機。
這個步驟的設定取決於您使用的是 GKE 還是 GKE On-Prem：
僅限 GKE： 在資料中心 2 中，於「Manage runtime plane components」(管理執行階段平面元件) 中設定
cassandra.multiRegionSeedHost和cassandra.datacenter，其中multiRegionSeedHost是上一個指令傳回的 IP 之一：cassandra: multiRegionSeedHost: seed_host_IP datacenter: data_center_name rack: rack_name
例如：
cassandra: multiRegionSeedHost: 10.0.0.11 datacenter: "dc-2" rack: "ra-1"
僅限 GKE On-Prem： 在資料中心 2 中，於覆寫檔案中設定
cassandra.multiRegionSeedHost，其中multiRegionSeedHost是上一個指令傳回的 IP 之一：cassandra: hostNetwork: true dnsPolicy: ClusterFirstWithHostNet multiRegionSeedHost: seed_host_IP
例如：
cassandra: hostNetwork: true dnsPolicy: ClusterFirstWithHostNet multiRegionSeedHost: 10.0.0.11
- 在新的資料中心/區域中，安裝混合式服務前，請在
overrides.yaml中設定與第一個區域相同的 TLS 憑證和憑證。
設定新區域
設定種子主機後，即可設定新區域。
如要設定新區域，請按照下列步驟操作：
- 將現有叢集的憑證複製到新叢集。Cassandra 和其他混合式元件會使用新的 CA 根憑證進行 mTLS。因此，叢集中的憑證必須一致。
- 將環境定義設為原始命名空間：
kubectl config use-context original-cluster-name
- 將目前的命名空間設定匯出至檔案：
$ kubectl get namespace
-o yaml > apigee-namespace.yaml - 將
apigee-ca密鑰匯出至檔案：kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
- 將環境設為新區域的叢集名稱：
kubectl config use-context new-cluster-name
- 將命名空間設定匯入新叢集。如果您在新區域中使用其他命名空間，請務必更新檔案中的「namespace」：
kubectl apply -f apigee-namespace.yaml
將密鑰匯入新叢集：
kubectl -n cert-manager apply -f apigee-ca.yaml
- 將環境定義設為原始命名空間：
- 在新區域中安裝混合式服務。請確認
overrides-DC_name.yaml檔案包含在第一個區域中設定的相同 TLS 憑證，如上一節所述。執行下列兩項指令，在新區域中安裝混合式服務：
apigeectl init -f overrides-DC_name.yaml
apigeectl apply -f overrides-DC_name.yaml
展開所有 Apigee 鍵空間。
下列步驟會將 Cassandra 資料擴展至新的資料中心：
- 在 Cassandra Pod 中開啟殼層：
kubectl run -i --tty --restart=Never --rm --image google/apigee-hybrid-cassandra-client:1.0.0 cqlsh
- 連線至 Cassandra 伺服器：
cqlsh apigee-cassandra-0.apigee-cassandra.apigee.svc.cluster.local -u ddl_user --ssl Password: Connected to apigeecluster at apigee-cassandra-0.apigee-cassandra.apigee.svc.cluster.local:9042. [cqlsh 5.0.1 | Cassandra 3.11.3 | CQL spec 3.4.4 | Native protocol v4] Use HELP for help.
- 取得可用的鍵空間：
SELECT * from system_schema.keyspaces ; keyspace_name | durable_writes | replication ----------------------------+----------------+-------------------------------------------------------------------------------------------------------- system_auth | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} system_schema | True | {'class': 'org.apache.cassandra.locator.LocalStrategy'} cache_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'} kms_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'} kvm_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'} system_distributed | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} system | True | {'class': 'org.apache.cassandra.locator.LocalStrategy'} perses | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'} quota_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'} system_traces | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} (10 rows) - 更新/擴充 apigee 鍵空間：
ALTER KEYSPACE cache_hybrid_test_7_hybrid WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};ALTER KEYSPACE kms_hybrid_test_7_hybrid WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};ALTER KEYSPACE kvm_hybrid_test_7_hybrid WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};ALTER KEYSPACE perses WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};ALTER KEYSPACE quota_hybrid_test_7_hybrid WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3}; - 驗證鍵空間擴展：
SELECT * from system_schema.keyspaces ; keyspace_name | durable_writes | replication ----------------------------+----------------+-------------------------------------------------------------------------------------------------------- system_auth | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} system_schema | True | {'class': 'org.apache.cassandra.locator.LocalStrategy'} cache_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'} kms_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'} kvm_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'} system_distributed | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} system | True | {'class': 'org.apache.cassandra.locator.LocalStrategy'} perses | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'} quota_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'} system_traces | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} (10 rows) ddl@cqlsh>
- 在 Cassandra Pod 中開啟殼層：
- 在新資料中心的所有節點上，依序執行
nodetool rebuild。視資料大小而定，這項作業可能需要幾分鐘到幾小時的時間。kubectl exec apigee-cassandra-0 -n apigee -- nodetool rebuild -- dc-1
- 從記錄檔驗證重建程序。此外，請使用
nodetool status指令驗證資料大小：kubectl logs apigee-cassandra-0 -f -n apigee
以下範例顯示記錄項目：
INFO 01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens) INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB) INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
- 更新種子主機。從
overrides-DC_name.yaml移除multiRegionSeedHost: 10.0.0.11，然後重新套用。apigeectl apply -f overrides-DC_name.yaml
檢查 Cassandra 叢集狀態
下列指令有助於查看叢集是否已在兩個資料中心成功設定。這項指令會檢查兩個區域的 nodetool 狀態。
kubectl exec apigee-cassandra-0 -- nodetool status Datacenter: us-central1 ======================= Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns (effective) Host ID Rack UN 10.12.1.45 112.09 KiB 256 100.0% 3c98c816-3f4d-48f0-9717-03d0c998637f ra-1 UN 10.12.4.36 95.27 KiB 256 100.0% 0a36383d-1d9e-41e2-924c-7b62be12d6cc ra-1 UN 10.12.5.22 88.7 KiB 256 100.0% 3561f4fa-af3d-4ea4-93b2-79ac7e938201 ra-1 Datacenter: us-west1 ==================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns (effective) Host ID Rack UN 10.0.4.33 78.69 KiB 256 0.0% a200217d-260b-45cd-b83c-182b27ff4c99 ra-1 UN 10.0.0.21 78.68 KiB 256 0.0% 9f3364b9-a7a1-409c-9356-b7d1d312e52b ra-1 UN 10.0.1.26 15.46 KiB 256 0.0% 1666df0f-702e-4c5b-8b6e-086d0f2e47fa ra-1