Menerapkan model jaringan mode datar dengan dukungan BGP

Model jaringan mode datar dengan dukungan Border Gateway Protocol (BGP) memungkinkan pod di domain Lapisan 2 yang berbeda berkomunikasi satu sama lain. BGP secara dinamis memberitahukan rute di seluruh domain ini. Jaringan mode datar dengan BGP terkadang disebut IP datar dinamis.

Untuk mengetahui informasi selengkapnya tentang model jaringan mode datar, lihat Model jaringan mode datar vs mode pulau.

Cara menerapkan jaringan mode datar yang menggunakan BGP

Jaringan mode datar dengan BGP diaktifkan saat Anda membuat cluster baru. Anda tidak dapat mengaktifkan fitur ini untuk cluster yang sudah ada. Setelah fitur ini diaktifkan, Anda dapat membuat perubahan pada beberapa setelan konfigurasi.

Untuk mengimplementasikan cluster pada model jaringan mode datar dengan dukungan BGP:

  1. Edit file konfigurasi cluster:

    • Tetapkan kolom spec.clusterNetwork.advancedNetworking ke true.

    • Jika Anda ingin mengaktifkan jaringan mode datar untuk IPv4, tetapkan kolom spec.clusterNetwork.flatIPv4 ke true.

      Untuk alternatif, lihat Cluster stack ganda (IPv4 Island, IPv6 Dynamic Flat IP), yang mengonfigurasi cluster Anda dengan jaringan mode datar hanya untuk IPv6.

    apiVersion: baremetal.cluster.gke.io/v1
kind: Cluster
metadata:
  name: bm
  namespace: cluster-bm
spec:
  type: user
  ...
  clusterNetwork:
    advancedNetworking: true
    flatIPv4: true
  ...

    Jika spec.clusterNetwork.flatIPv4 ditetapkan ke true, kolom spec.clusterNetwork.pods.cidrBlocks akan diabaikan dan dapat dihilangkan. Namun, Anda perlu menambahkan manifes ClusterCIDRConfigs dalam file konfigurasi cluster (per node, per nodepool, dan/atau per cluster).

  2. Tambahkan manifes NetworkGatewayGroup ke file konfigurasi cluster:

    Tentukan IP mengambang yang akan digunakan untuk peering BGP. Pastikan nama resource adalah default dan namespace adalah namespace cluster.

    ---
apiVersion: networking.gke.io/v1
kind: NetworkGatewayGroup
metadata:
  name: default
  namespace: cluster-bm
spec:
  floatingIPs:
  - 10.0.1.100
  - 10.0.2.100

    Resource kustom NetworkGatewayGroup mengelola daftar satu atau beberapa alamat IP mengambang. Sesi peering BGP dimulai dari alamat IP mengambang yang Anda tentukan di resource kustom NetworkGatewayGroup.

  3. Tambahkan manifes FlatIPMode ke file konfigurasi cluster:

    Nama resource FlatIPMode harus default dan namespace-nya adalah namespace cluster. Nilai peerSelector flatip-peer: "true" cocok dengan label di objek BGPPeer bgppeer1 dan bgppeer2 (ditentukan di langkah berikut), sehingga kedua peer digunakan untuk jaringan mode datar.

    Manifes FlatIPMode berikut ditujukan untuk jaringan mode datar single-stack IPv4 dengan BGP. Untuk konfigurasi alternatif, lihat Contoh konfigurasi.

    ---
apiVersion: baremetal.cluster.gke.io/v1alpha1
kind: FlatIPMode
metadata:
  name: default
  namespace: cluster-bm
spec:
  enableBGPIPv4: true
  enableBGPIPv6: false
  peerSelector:
    flatip-peer: "true"

  4. Tambahkan satu atau beberapa manifes BGPPeer ke file konfigurasi cluster:

    Anda memilih nama untuk resource, tetapi semua resource BGPPeer harus berada di namespace cluster.

    ---
apiVersion: networking.gke.io/v1
kind: BGPPeer
metadata:
  name: bgppeer1
  namespace: cluster-bm
  labels:
    flatip-peer: "true"
spec:
  localASN: 65001
  peerASN: 65000
  peerIP: 10.0.1.254
  sessions: 2
---
apiVersion: networking.gke.io/v1
kind: BGPPeer
metadata:
  name: bgppeer2
  namespace: cluster-bm
  labels:
    flatip-peer: "true"
spec:
  localASN: 65001
  peerASN: 65000
  peerIP: 10.0.2.254
  sessions: 2

  5. Tambahkan manifes ClusterCIDRConfig ke file konfigurasi cluster:

    Resource CusterCIDRConfig juga harus berada di namespace cluster.

    apiVersion: baremetal.cluster.gke.io/v1alpha1
kind: ClusterCIDRConfig
metadata:
  name: cluster-wide-1
  namespace: cluster-bm
spec:
  ipv4:
    cidr: "192.168.0.0/16"
    perNodeMaskSize: 24

    ClusterCIDRConfig adalah resource kustom yang menentukan rentang Pod CIDR yang akan dialokasikan ke node secara dinamis. CNI menggunakan rentang Pod CIDR yang dialokasikan pada Node untuk mengalokasikan alamat IP ke setiap Pod yang berjalan di Node. ClusterCIDRConfig juga digunakan untuk jaringan stack ganda. Untuk mengetahui informasi selengkapnya tentang resource kustom ClusterCIDRConfig, termasuk contoh penggunaan, lihat Memahami resource kustom ClusterCIDRConfig.

  6. Membuat cluster:

    bmctl create cluster

    Untuk mengetahui informasi selengkapnya tentang cara membuat cluster, lihat Ringkasan pembuatan cluster.

    Jika lingkungan Anda mendukung BGP multiprotokol (MP-BGP), rute IPv4 dan IPv6 dapat diberitahukan melalui sesi IPv4 ini. Untuk contoh berbagai konfigurasi, termasuk contoh yang menggunakan MP-BGP, lihat Contoh konfigurasi.

Mengubah konfigurasi jaringan mode datar berbasis BGP

Setelah membuat cluster yang dikonfigurasi untuk menggunakan model jaringan mode datar dengan BGP, beberapa setelan konfigurasi dapat diperbarui. Gunakan file kubeconfig cluster admin saat Anda melakukan update berikutnya pada resource terkait BGP (NetworkGatewayGroup, FlatIPMode, dan BGPPeer). Cluster admin kemudian akan merekonsiliasi perubahan pada cluster pengguna. Jika Anda mengedit resource ini di cluster pengguna secara langsung, cluster admin akan menimpa perubahan Anda dalam rekonsiliasi berikutnya.

Contoh konfigurasi

Bagian berikut mencakup contoh konfigurasi cluster untuk berbagai variasi model jaringan mode datar dengan BGP. Contoh file konfigurasi tidak lengkap. Sebagian besar setelan cluster yang tidak relevan dengan jaringan mode datar dengan BGP telah dihilangkan.

Cluster IPv4 stack tunggal

Contoh file konfigurasi cluster berikut menunjukkan setelan untuk mengonfigurasi cluster IPv4 stack tunggal dengan jaringan mode datar dengan BGP:

apiVersion: baremetal.cluster.gke.io/v1
kind: Cluster
metadata:
  name: bm
  namespace: cluster-bm
spec:
  ...
  clusterNetwork:
    advancedNetworking: true
    flatIPv4: true
    services:
      cidrBlocks:
      - 10.96.0.0/12
  ...
---
apiVersion: baremetal.cluster.gke.io/v1alpha1
kind: ClusterCIDRConfig          
metadata:
  name: cluster-wide-1
  namespace: cluster-bm          # Must match the cluster namespace
spec:
  ipv4:
    cidr: "222.2.0.0/16"
    perNodeMaskSize: 24
---
apiVersion: networking.gke.io/v1
kind: NetworkGatewayGroup
metadata:
  name: default
  namespace: cluster-bm           # Must match the cluster namespace
spec:
  floatingIPs:
  - 10.0.1.100
  - 10.0.3.100
---
apiVersion: baremetal.cluster.gke.io/v1alpha1
kind: FlatIPMode
metadata:
  name: default
  namespace: cluster-bm            # Must match the cluster namespace
spec:
  enableBGPIPv4: true
  enableBGPIPv6: false
  peerSelector:
    flatipmode-peer: "true"
---
apiVersion: networking.gke.io/v1
kind: BGPPeer
metadata:
  name: bgppeer1
  namespace: cluster-bm            # Must match the cluster namespace
  labels:
    flatipmode-peer: "true"
spec:
  localASN: 65001
  peerASN: 65002
  peerIP: 10.0.1.254
  sessions: 2
---
apiVersion: networking.gke.io/v1
kind: BGPPeer
metadata:
  name: bgppeer2
  namespace: cluster-bm            # Must match the cluster namespace
  labels:
    flatipmode-peer: "true"
spec:
  localASN: 65001
  peerASN: 65002
  peerIP: 10.0.3.254
  sessions: 2

Cluster dual-stack (IPv4 Island, IPv6 Dynamic Flat IP)

Contoh file konfigurasi cluster berikut menunjukkan setelan untuk mengonfigurasi cluster stack ganda (IPv4/IPv6) dengan jaringan mode datar dengan BGP hanya untuk IPv6:

apiVersion: baremetal.cluster.gke.io/v1
kind: Cluster
metadata:
  name: bm
  namespace: cluster-bm
spec:
  ...
  clusterNetwork:
    advancedNetworking: true
    flatIPv4: false
    pods:
      cidrBlocks:
      - 192.168.0.0/16
    services:
      cidrBlocks:
      - 10.96.0.0/12
      # Additional IPv6 CIDR block determines if the cluster is dual-stack
      - 2620:0:1000:2630:5:2::/112
  ... 
---
apiVersion: baremetal.cluster.gke.io/v1alpha1
kind: ClusterCIDRConfig          
metadata:
  name: cluster-wide-1
  namespace: cluster-bm          # Must match the cluster namespace
spec:
  ipv4:
    cidr: "192.168.0.0/16"
    perNodeMaskSize: 24
  ipv6:
    cidr: "2222:3::/112"
    perNodeMaskSize: 120
---
apiVersion: networking.gke.io/v1
kind: NetworkGatewayGroup
metadata:
  name: default
  namespace: cluster-bm           # Must match the cluster namespace
spec:
  floatingIPs:
  - 10.0.1.100
  - 10.0.3.100
---
apiVersion: baremetal.cluster.gke.io/v1alpha1
kind: FlatIPMode
metadata:
  name: default
  namespace: cluster-bm            # Must match the cluster namespace
spec:
  enableBGPIPv4: false
  enableBGPIPv6: true
  peerSelector:
    flatipmode-peer: "true"
---
apiVersion: networking.gke.io/v1
kind: BGPPeer
metadata:
  name: bgppeer1
  namespace: cluster-bm            # Must match the cluster namespace
  labels:
    flatipmode-peer: "true"
spec:
  localASN: 65001
  peerASN: 65002
  peerIP: 10.0.1.254
  sessions: 2
---
apiVersion: networking.gke.io/v1
kind: BGPPeer
metadata:
  name: bgppeer2
  namespace: cluster-bm            # Must match the cluster namespace
  labels:
    flatipmode-peer: "true"
spec:
  localASN: 65001
  peerASN: 65002
  peerIP: 10.0.3.254
  sessions: 2

Cluster stack ganda (IP Flat Dinamis IPv4, IP Flat Dinamis IPv6)

Contoh file konfigurasi cluster berikut menunjukkan setelan untuk mengonfigurasi cluster dual-stack dengan jaringan mode datar dengan BGP:

apiVersion: baremetal.cluster.gke.io/v1
kind: Cluster
metadata:
  name: bm
  namespace: cluster-bm
spec:
  ...
  clusterNetwork:
    advancedNetworking: true
    flatIPv4: true
    pods:
      cidrBlocks:
      - 192.168.0.0/16
    services:
      cidrBlocks:
      - 10.96.0.0/12
      # Additional IPv6 CIDR block determines if the cluster is dual-stack
      - 2620:0:1000:2630:5:2::/112
  ... 
---
apiVersion: baremetal.cluster.gke.io/v1alpha1
kind: ClusterCIDRConfig          
metadata:
  name: cluster-wide-1
  namespace: cluster-bm          # Must match the cluster namespace
spec:
  ipv4:
    cidr: "222.2.0.0/16"
    perNodeMaskSize: 24
  ipv6:
    cidr: "2222:3::/112"
    perNodeMaskSize: 120
---
apiVersion: networking.gke.io/v1
kind: NetworkGatewayGroup
metadata:
  name: default
  namespace: cluster-bm           # Must match the cluster namespace
spec:
  floatingIPs:
  - 10.0.1.100
  - 10.0.3.100
---
apiVersion: baremetal.cluster.gke.io/v1alpha1
kind: FlatIPMode
metadata:
  name: default
  namespace: cluster-bm            # Must match the cluster namespace
spec:
  enableBGPIPv4: true
  enableBGPIPv6: true
  peerSelector:
    flatipmode-peer: "true"
---
apiVersion: networking.gke.io/v1
kind: BGPPeer
metadata:
  name: bgppeer1
  namespace: cluster-bm            # Must match the cluster namespace
  labels:
    flatipmode-peer: "true"
spec:
  localASN: 65001
  peerASN: 65002
  peerIP: 10.0.1.254
  sessions: 2
---
apiVersion: networking.gke.io/v1
kind: BGPPeer
metadata:
  name: bgppeer2
  namespace: cluster-bm            # Must match the cluster namespace
  labels:
    flatipmode-peer: "true"
spec:
  localASN: 65001
  peerASN: 65002
  peerIP: 10.0.3.254
  sessions: 2

Pemecahan masalah

Untuk membantu Anda memecahkan masalah terkait jaringan mode datar dengan BGP, bagian ini menyertakan petunjuk untuk memeriksa konfigurasi Anda:

  1. Pastikan apakah objek FlatIPModes dibuat di namespace cluster pada cluster admin:

    kubectl get flatipmodes -A --kubeconfig ADMIN_KUBECONFIG

    Responsnya akan terlihat seperti ini:

    NAMESPACE                 NAME      AGE
cluster-bm                default   2d17h

  2. Pastikan apakah objek flatipmodes.networking.gke.io dibuat di cluster pengguna:

    Objek flatipmodes.networking.gke.io memiliki cakupan cluster.

    kubectl get flatipmodes.networking.gke.io --kubeconfig USER_KUBECONFIG

    Responsnya akan terlihat seperti ini:

    NAME      AGE
default   2d17h

  3. Dapatkan resource BGPSessions untuk melihat sesi saat ini:

    kubectl get bgpsessions -A --kubeconfig USER_KUBECONFIG

    Responsnya akan terlihat seperti ini:

    NAMESPACE     NAME                LOCAL ASN   PEER ASN   LOCAL IP       PEER IP        STATE            LAST REPORT
kube-system   10.0.1.254-node-01  65500       65000      10.0.1.100     10.0.1.254     Established      2s
kube-system   10.0.1.254-node-02  65500       65000      10.0.3.100     10.0.1.254     NotEstablished   2s
kube-system   10.0.3.254-node-01  65500       65000      10.0.1.100     10.0.3.254     NotEstablished   2s
kube-system   10.0.3.254-node-02  65500       65000      10.0.3.100     10.0.3.254     Established      2s

  4. Dapatkan resource BGPAdvertisedRoute untuk melihat rute yang saat ini diberitahukan:

    kubectl get bgpadvertisedroutes -A --kubeconfig USER_KUBECONFIG

    Responsnya akan terlihat seperti ini:

    NAMESPACE     NAME                     PREFIX         METRIC
kube-system   route-via-222-22-208-240   222.2.0.0/24   
kube-system   route-via-222-22-209-240   222.2.1.0/24

    Nama rute menunjukkan next hop. Misalnya, route-via-222-22-208-240 dari contoh respons sebelumnya menunjukkan bahwa next hop untuk awalan yang diberitahukan 222.2.0.0/24 adalah 222.22.208.240.