Architettura di riferimento del database MariaDB su GDC con air gap

Questa architettura di riferimento fornisce un framework concettuale per il deployment e il funzionamento di database MariaDB 12 ad alta affidabilità gestiti dal cliente su Google Distributed Cloud (GDC) con air gap. Consente ai clienti aziendali e con accesso in anteprima di mantenere in modo affidabile i workload di database critici utilizzando una configurazione di macchine virtuali (VM) multizona affidabile.

Poiché GDC con air gap attualmente non supporta i cluster estesi Kubernetes tra zone, questa architettura si basa esclusivamente su VM dedicate di cui è stato eseguito il deployment in tre domini di disponibilità per garantire operazioni continue e resistere a un errore di zona completo senza perdita di dati.

Caratteristiche e funzionalità

  • Resilienza multizona: una configurazione a 3 nodi altamente resiliente di cui viene eseguito il deployment in tre zone di disponibilità distinte per proteggersi da errori di singole zone dell'infrastruttura.
  • Alta affidabilità e consenso automatizzati: utilizza Galera per il clustering multi-master sincrono, fornendo rilevamento automatico degli errori, consenso dei nodi e sincronizzazione globale dei dati senza scenari di split-brain.
  • Routing intelligente del traffico: le istanze HAProxy collocate gestiscono il connection pooling e instradano rigorosamente il traffico, indirizzando le operazioni di scrittura (ad es. la porta 3306) a un nodo primario attivo e le operazioni di lettura con bilanciamento del carico (ad es. la porta 3307) tra le repliche sincronizzate.
  • Bilanciamento del carico globale: si integra con il bilanciatore del carico L4 globale di GDC nativo della piattaforma per fornire un singolo IP virtuale (VIP) stabile per le applicazioni client, astraendo la topologia dei nodi sottostante.
  • Convalida del failover basata sul database: utilizza uno script Python personalizzato leggero o una soluzione OSS come clustercheck (ad esempio, esposta sulla porta 9200) per fornire controlli di integrità al bilanciatore del carico e ad HAProxy, assicurando che il traffico venga instradato solo ai nodi integri e completamente sincronizzati.

Principi di architettura

  • Consenso sincrono basato sulla maggioranza: dà la priorità alla coerenza dei dati rigorosa rispetto alla coerenza finale. Galera applica un modello basato su quorum che richiede l'accordo della maggioranza, eliminando il rischio di perdita di dati o di split-brain durante le partizioni di rete.
  • Separazione delle responsabilità: disaccoppia il livello di replica del database (Galera) dal livello di routing della connessione e di rilevamento del failover (HAProxy e servizio di controllo di integrità Python).
  • Ottimizzazione dell'infrastruttura: progettata specificamente per ambienti air-gapped, utilizza VM robuste per aggirare le attuali limitazioni di networking di Kubernetes.

Architettura

Architettura con tre VM che esegue uno stack di servizi in colocation.

Concetti e tecnologie

Questa sezione descrive in dettaglio i componenti funzionali e le loro responsabilità specifiche all'interno dell'architettura multizona.

Infrastruttura e piattaforma

  • Macchine virtuali (VM): tre istanze di computing dedicate, di cui viene eseguito il deployment in una zona di disponibilità separata per formare i confini del dominio in errore.
  • Bilanciatore del carico L4 globale di GDC: un costrutto di networking gestito dalla piattaforma che espone un VIP interno stabile, valutando automaticamente i controlli di integrità HTTP basati su Python per reindirizzare il traffico in entrata.

Servizi e logica

  • MariaDB 12: il motore del database relazionale principale.
  • Plug-in Galera: il framework di clustering responsabile della replica multi-master sincrona e della verifica del quorum dei nodi.
  • HAProxy: funge da router del traffico su ogni VM. Configurato in una topologia attiva/di backup per le scritture per evitare deadlock e round robin per le letture distribuite.
  • Servizio di controllo di integrità Python: un servizio HTTP leggero (aggregato in systemd) che esegue continuamente il polling dello stato del database locale e segnala lo stato di integrità ad HAProxy e al bilanciatore del carico L4 tramite la porta 9200.

Flusso di dati e interfacce

  1. Le applicazioni inviano richieste di database al VIP del bilanciatore del carico L4 globale.
  2. Il bilanciatore del carico funge da proxy per la connessione a un'istanza HAProxy integra su una delle VM.
  3. In base alla porta richiesta, HAProxy inoltra il traffico in modo dinamico: la porta 3306 ha come target rigorosamente il nodo attivo per le scritture, mentre la porta 3307 esegue cicli di lettura nel cluster.

Considerazioni sulla progettazione

Considerazioni generali

  • Compromessi tra prestazioni e coerenza: poiché Galera è nativamente sincrono, ogni transazione deve essere confermata dai peer del cluster. Le prestazioni sono direttamente correlate alla latenza di rete tra zone all'interno dell'ambiente GDC.
  • Gestione delle risorse: il deployment di HAProxy direttamente sulle VM del database ottimizza l'utilizzo dell'hardware, ma richiede un'attenta ottimizzazione delle risorse per evitare che l'overhead del connection pooling sottragga risorse ai processi principali di MariaDB.

Considerazioni sui controlli di integrità

Sebbene questa soluzione utilizzi uno script Python personalizzato per la sua semplicità e la mancanza di dipendenze esterne, i clienti possono scegliere di implementare un controllo di integrità OSS standard utilizzando xinetd e clustercheck.

  • Script Python personalizzato: utilizza Python 3 preinstallato e il modulo http.server, ideale per gli ambienti con air gap, in quanto non richiede trasferimenti di pacchetti aggiuntivi. Tuttavia, il cliente deve mantenere il codice dello script personalizzato.
  • Strumenti OSS (xinetd/clustercheck): spostano l'onere della manutenzione sulla community open source, ma aumentano la complessità dell'architettura e la gestione delle dipendenze durante la preparazione iniziale del software con air-gapping.

Considerazioni sulle prestazioni

Quando pianifichi il deployment, considera i seguenti fattori concreti per ottimizzare le prestazioni e l'affidabilità:

  • Dimensionamento dell'hardware: sebbene i requisiti varino in base al workload, utilizza questi profili standard come punto di partenza per ogni VM:
    • Sviluppo/Proof of Concept: 2 vCPU, 8 GB di RAM (minimo per un funzionamento stabile).
    • Produzione ridotta: 4 vCPU, 16 GB di RAM. Adatto per strumenti interni con concorrenza moderata.
    • Produzione standard: 8 vCPU, 32 GB di RAM. La base di riferimento consigliata per le applicazioni mission-critical.
    • Throughput elevato: oltre 16 vCPU, oltre 64 GB di RAM. Obbligatorio per i workload con set di lavoro di grandi dimensioni che traggono vantaggio da un'ampia memorizzazione dei dati nella cache nel pool di buffer InnoDB.
  • Prestazioni di archiviazione: l'archiviazione ad alte prestazioni è fondamentale per la durabilità del database e la stabilità del cluster. I dischi SSD sono vivamente consigliati per ridurre al minimo la latenza di scrittura durante la fase di "commit" della replica sincrona. Per prestazioni ottimali, punta a una latenza di scrittura su disco p99 inferiore a 10 ms per assicurarti che i log binari di Galera gcache o MySQL non diventino un collo di bottiglia.
  • Latenza di rete e controllo del flusso: la latenza tra le VM influisce direttamente sulla velocità di commit delle transazioni.
    • Replica sincrona: in un cluster Galera o Group Replication, ogni transazione di scrittura deve essere confermata dalla maggior parte dei nodi. La latenza tra zone in GDC con air gap è in genere inferiore a 1 ms, il che è eccellente per mantenere al minimo l'overhead di scrittura (in genere 10-30%).
    • Controllo del flusso: un jitter di rete elevato o un singolo nodo "lento" possono attivare il controllo del flusso di Galera, mettendo in pausa le scritture nell'intero cluster per consentire al nodo in ritardo di recuperare.
  • Il ruolo di HAProxy (o MySQL Router): un bilanciatore del carico è comunque essenziale:
    • Suddivisione del traffico: HAProxy garantisce che il traffico di scrittura venga indirizzato rigorosamente a un singolo nodo attivo (porta 3306) per evitare deadlock, bilanciando al contempo le query di sola lettura tra tutte le repliche sincronizzate (porta 3307).
    • Stabilità della connessione: fornisce un livello di astrazione che evita alle applicazioni di dover gestire manualmente una logica di failover complessa.
  • Componenti sidecar: il servizio di controllo di integrità Python personalizzato e il bilanciatore del carico sono leggeri, ma fondamentali. Assicurati che le VM abbiano una disponibilità della CPU coerente. In scenari di carico elevato, il "furto" della CPU a livello di hypervisor può ritardare le risposte del controllo di integrità, causando l'espulsione prematura di un nodo integro dalla rotazione da parte del bilanciatore del carico globale.

Decisione di progettazione

Le scelte architettoniche effettuate in questa SRA affrontano esplicitamente le limitazioni di GDC con air gap e ottimizzano per un throughput elevato.

  • Macchine virtuali su Kubernetes: GDC con air gap al momento non supporta i cluster Kubernetes che si estendono su più zone fisiche. È stato scelto un approccio basato su VM perché il deployment di VM dedicate in zone separate è l'unico metodo praticabile per ottenere una vera alta affidabilità multizona e sopravvivere a un errore totale della zona.
  • Galera rispetto alla configurazione manuale principale/secondaria (con ProxySQL): un'architettura principale/secondaria tradizionale abbinata a ProxySQL è stata valutata come un'alternativa fattibile. Tuttavia, la gestione della logica di failover manuale insieme a ProxySQL comporta una complessità operativa e di scripting significativa. È stato invece selezionato Galera perché la sua natura nativamente sincrona riduce drasticamente la complessità del failover e offre prestazioni notevolmente migliori.
  • Rifiuto di Orchestrator: Orchestrator è ampiamente considerato un gestore della topologia standard di settore per il failover automatico. Tuttavia, è stato valutato e infine rifiutato perché supporta solo MariaDB 10; non è compatibile con le versioni di MariaDB strettamente superiori alla 11. Questo lo ha reso incompatibile con il nostro requisito di MariaDB 12 di destinazione.
  • Bilanciamento del carico globale nativo della piattaforma: l'utilizzo del bilanciatore del carico L4 globale GDC nativo garantisce che il VIP sia controllato dal control plane GDC, mantenendo l'entry point resiliente e semplificando la distribuzione del traffico tra zone.

Ipotesi e limitazioni

Ipotesi

  • Disponibilità dell'infrastruttura: i clienti hanno una quota di progetto sufficiente per eseguire il provisioning di VM dedicate e di dimensioni adeguate e di bilanciatori del carico globali distribuiti in modo uniforme in tre zone di disponibilità.
  • Networking sicuro: vengono stabiliti l'accesso basato su chiavi e i criteri ProjectNetworkPolicy (PNP) appropriati per consentire la sincronizzazione Galera all'interno del cluster e il polling controllo di integrità.

Limitazioni

  • Kubernetes non supportato: i clienti che cercano esclusivamente soluzioni containerizzate/basate su Kubernetes non possono ottenere l'alta affidabilità multi-zona finché i cluster estesi non saranno completamente supportati dalla piattaforma.
  • Upgrade manuali richiesti: a differenza dei servizi gestiti, questa soluzione attribuisce interamente al cliente la responsabilità dell'applicazione di patch di routine a livello di sistema operativo, degli upgrade delle versioni secondarie del database e della gestione delle versioni di Galera.
  • Sensibilità alla latenza di rete: la replica sincrona richiede una rete stabile e di alta qualità. Il jitter di rete o i picchi di latenza tra le zone air-gapped ritarderanno proporzionalmente le operazioni di scrittura nel cluster MariaDB.

Materiali aggiuntivi