Referenzarchitektur für MariaDB-Datenbanken in GDC mit Air Gap

Diese Referenzarchitektur bietet ein konzeptionelles Framework für die Bereitstellung und den Betrieb hochverfügbarer, vom Kunden verwalteter MariaDB 12-Datenbanken in Google Distributed Cloud (GDC) mit Air Gap. Damit können Unternehmen und Early Access-Kunden kritische Datenbankarbeitslasten mithilfe einer robusten, multizonalen VM-Einrichtung zuverlässig verwalten.

Da GDC mit Air Gap derzeit keine zonenübergreifenden Kubernetes-Stretch-Cluster unterstützt, basiert diese Architektur ausschließlich auf dedizierten VMs, die in drei Verfügbarkeitsdomains bereitgestellt werden. So wird ein kontinuierlicher Betrieb gewährleistet und ein vollständiger Zonenausfall ohne Datenverlust überstanden.

Funktionen

  • Ausfallsicherheit in mehreren Zonen: Eine hochgradig ausfallsichere Konfiguration mit drei Knoten, die in drei verschiedenen Verfügbarkeitszonen bereitgestellt wird, um vor Ausfällen einzelner Infrastrukturzonen zu schützen.
  • Automatisierte Hochverfügbarkeit und Konsens: Verwendet Galera für synchrones Multi-Master-Clustering, das automatische Fehlererkennung, Knotenkonsens und globale Datensynchronisierung ohne Split-Brain-Szenarien bietet.
  • Intelligentes Traffic-Routing: Am selben Standort befindliche HAProxy-Instanzen verwalten das Connection Pooling und leiten den Traffic strikt weiter. Schreibvorgänge (z. B. Port 3306) werden an einen aktiven primären Knoten weitergeleitet und Lesevorgänge (z. B. Port 3307) werden über synchronisierte Replikate verteilt.
  • Globales Load Balancing: Wird in den plattformnativen globalen L4-Load-Balancer von GDC eingebunden, um eine einzelne, stabile virtuelle IP-Adresse (VIP) für Clientanwendungen bereitzustellen und die zugrunde liegende Knotentopologie zu abstrahieren.
  • Datenbankbasierte Failover-Validierung: Verwendet ein einfaches benutzerdefiniertes Python-Skript oder eine OSS-Lösung wie clustercheck (z. B. über Port 9200), um Systemdiagnosen für den Load Balancer und HAProxy bereitzustellen. So wird sichergestellt, dass der Traffic nur an fehlerfreie und vollständig synchronisierte Knoten weitergeleitet wird.

Architekturprinzipien

  • Synchroner mehrheitsbasierter Konsens: Priorisiert strikte Datenkonsistenz gegenüber Eventual Consistency. Galera erzwingt ein Quorum-basiertes Modell, das eine Mehrheitsentscheidung erfordert. Dadurch wird das Risiko von Datenverlusten oder Split-Brain-Szenarien bei Netzwerkpartitionen eliminiert.
  • Trennung von Zuständigkeiten: Die Datenbankreplikationsebene (Galera) wird von der Ebene für Verbindungsrouting und Failover-Erkennung (HAProxy und Python-Systemdiagnosedienst) entkoppelt.
  • Infrastrukturoptimierung: Speziell für Umgebungen mit Air Gap entwickelt, wobei robuste VMs verwendet werden, um aktuelle Einschränkungen des Kubernetes-Netzwerks zu umgehen.

Architektur

Architektur mit drei VMs, auf denen ein Stack von Diensten am selben Standort ausgeführt wird.

Konzepte und Technologien

In diesem Abschnitt werden die funktionalen Komponenten und ihre spezifischen Aufgaben innerhalb der Architektur mit mehreren Zonen beschrieben.

Infrastruktur und Plattform

  • Virtuelle Maschinen (VMs): Drei dedizierte Compute-Instanzen, die jeweils in einer separaten Verfügbarkeitszone bereitgestellt werden, um die Grenzen der fehlerhaften Domain zu bilden.
  • Globaler L4-Load-Balancer von GDC: Ein von der Plattform verwaltetes Netzwerkkonstrukt, das eine stabile interne VIP bereitstellt und automatisch Python-gesteuerte HTTP-Systemdiagnosen auswertet, um eingehenden Traffic weiterzuleiten.

Dienste und Logik

  • MariaDB 12: Die zentrale relationale Datenbank-Engine.
  • Galera-Plug-in: Das Clustering-Framework, das für die synchrone Multi-Master-Replikation und die Überprüfung des Knoten-Quorums verantwortlich ist.
  • HAProxy: Fungiert als Traffic-Router auf jeder VM. Konfiguriert in einer Aktiv/Backup-Topologie für Schreibvorgänge, um Deadlocks zu verhindern, und im Round-Robin-Verfahren für verteilte Lesevorgänge.
  • Python-Systemdiagnosedienst: Ein einfacher HTTP-Dienst (in systemd verpackt), der kontinuierlich den lokalen Datenbankstatus abfragt und seinen Systemdiagnosestatus über Port 9200 an HAProxy und den L4-Load-Balancer zurückmeldet.

Datenfluss und Schnittstellen

  1. Anwendungen senden Datenbankanfragen an die VIP des globalen L4-Load-Balancers.
  2. Der Load Balancer leitet die Verbindung an eine fehlerfreie HAProxy-Instanz auf einer der VMs weiter.
  3. Basierend auf dem angeforderten Port leitet HAProxy den Traffic dynamisch weiter: Port 3306 ist ausschließlich für Schreibvorgänge auf dem aktiven Knoten vorgesehen, während Port 3307 Lesevorgänge im gesamten Cluster verteilt.

Designaspekte

Allgemeines

  • Kompromisse zwischen Leistung und Konsistenz: Da Galera nativ synchron ist, muss jede Transaktion von Cluster-Peers bestätigt werden. Die Leistung korreliert direkt mit der zonenübergreifenden Netzwerklatenz innerhalb der GDC-Umgebung.
  • Ressourcenverwaltung: Wenn Sie HAProxy direkt auf den Datenbank-VMs bereitstellen, wird die Hardwarenutzung optimiert. Es ist jedoch eine sorgfältige Ressourcenabstimmung erforderlich, um zu verhindern, dass der Overhead für das Verbindungs-Pooling die Kernprozesse von MariaDB beeinträchtigt.

Überlegungen zur Systemdiagnose

In dieser Lösung wird ein benutzerdefiniertes Python-Skript verwendet, da es einfach ist und keine externen Abhängigkeiten hat. Kunden können jedoch auch eine standardmäßige OSS-Systemdiagnose mit xinetd und clustercheck implementieren.

  • Benutzerdefiniertes Python-Script: Verwendet das vorinstallierte Python 3 und das http.server-Modul. Dies ist ideal für Umgebungen mit Air Gap, da keine zusätzlichen Paketübertragungen erforderlich sind. Der Kunde muss jedoch den benutzerdefinierten Skriptcode verwalten.
  • OSS-Tools (xinetd / clustercheck): Die Wartungslast wird auf die Open-Source-Community verlagert, aber die Architekturkomplexität und das Abhängigkeitsmanagement während der ersten Vorbereitung der Software mit Air Gap werden erhöht.

Hinweise zur Leistung

Berücksichtigen Sie bei der Planung Ihrer Bereitstellung die folgenden konkreten Faktoren, um Leistung und Zuverlässigkeit zu optimieren:

  • Hardware-Dimensionierung: Die Anforderungen variieren je nach Arbeitslast. Verwenden Sie diese Standardprofile als Ausgangspunkt für jede VM:
    • Entwicklung/Proof of Concept: 2 vCPUs, 8 GB RAM (Minimum für stabilen Betrieb).
    • Kleine Produktion: 4 vCPUs, 16 GB RAM. Geeignet für interne Tools mit moderater Nebenläufigkeit.
    • Standardproduktion: 8 vCPUs, 32 GB RAM. Die empfohlene Baseline für geschäftskritische Anwendungen.
    • Hoher Durchsatz: mindestens 16 vCPUs, mindestens 64 GB RAM. Erforderlich für Arbeitslasten mit großen Arbeitssätzen, die von umfangreichem Daten-Caching im InnoDB-Pufferpool profitieren.
  • Speicherleistung: Hochleistungsspeicher ist für die Langlebigkeit der Datenbank und die Clusterstabilität von entscheidender Bedeutung. SSD-Laufwerke werden dringend empfohlen, um die Schreiblatenz während der Commit-Phase der synchronen Replikation zu minimieren. Für eine optimale Leistung sollten Sie eine p99-Laufwerkschreiblatenz von weniger als 10 ms anstreben, damit die Galera-gcache- oder MySQL-Binärlogs nicht zu einem Engpass werden.
  • Netzwerklatenz und Flusssteuerung: Die Latenz zwischen VMs wirkt sich direkt auf die Geschwindigkeit des Transaktions-Commits aus.
    • Synchrone Replikation: In einem Galera- oder Gruppenreplikationscluster muss jede Schreibtransaktion von einer Mehrheit der Knoten bestätigt werden. Die Latenz zwischen Zonen in GDC mit Air Gap beträgt in der Regel weniger als 1 ms. Das ist ideal, um den Schreibaufwand minimal zu halten (normalerweise 10–30 %).
    • Flusssteuerung: Ein hoher Netzwerk-Jitter oder ein einzelner „langsamer“ Knoten kann die Galera-Flusssteuerung auslösen. Dadurch werden Schreibvorgänge im gesamten Cluster pausiert, damit der langsame Knoten aufholen kann.
  • Die Rolle von HAProxy (oder MySQL Router): Ein Load Balancer ist weiterhin unerlässlich:
    • Aufteilung des Traffics: HAProxy sorgt dafür, dass Schreib-Traffic strikt an einen einzelnen aktiven Knoten (Port 3306) weitergeleitet wird, um Deadlocks zu verhindern. Gleichzeitig werden schreibgeschützte Abfragen auf alle synchronisierten Replikate (Port 3307) verteilt.
    • Verbindungsstabilität: Es bietet eine Abstraktionsebene, die verhindert, dass Anwendungen komplexe Failover-Logik manuell verarbeiten müssen.
  • Sidecar-Komponenten: Der benutzerdefinierte Python-Systemdiagnosedienst und der Load Balancer sind einfach, aber wichtig. Achten Sie darauf, dass die VMs eine konsistente CPU-Verfügbarkeit haben. In Szenarien mit hoher Last kann das „Stehlen“ von CPU auf Hypervisor-Ebene die Antworten auf Systemdiagnosen verzögern, was dazu führt, dass der globale Load Balancer einen fehlerfreien Knoten vorzeitig aus der Rotation entfernt.

Designentscheidung

Die in dieser SRA getroffenen Architekturentscheidungen berücksichtigen explizit die Einschränkungen von GDC mit Air Gap und optimieren für einen hohen Durchsatz.

  • Virtuelle Maschinen über Kubernetes: GDC mit Air Gap unterstützt derzeit keine Kubernetes-Cluster, die sich über mehrere physische Zonen erstrecken. Ein VM-basierter Ansatz wurde gewählt, weil die Bereitstellung dedizierter VMs in separaten Zonen die einzige praktikable Methode ist, um eine echte Hochverfügbarkeit über mehrere Zonen hinweg zu erreichen und einen vollständigen Zonenausfall zu überstehen.
  • Galera im Vergleich zur manuellen Einrichtung von Primär-/Sekundärdatenbanken (mit ProxySQL): Eine herkömmliche Primär-/Sekundärarchitektur in Kombination mit ProxySQL wurde als machbare Alternative bewertet. Die manuelle Failover-Logik zusammen mit ProxySQL erfordert jedoch erhebliche Skript- und Betriebskomplexität. Stattdessen wurde Galera ausgewählt, da die native synchrone Natur die Failover-Komplexität drastisch reduziert und eine deutlich bessere Leistung bietet.
  • Ablehnung von Orchestrator: Orchestrator ist ein hoch angesehener Topologiemanager für automatisiertes Failover, der als Branchenstandard gilt. Sie wurde jedoch bewertet und letztendlich abgelehnt, da sie nur MariaDB 10 unterstützt und nicht mit MariaDB-Versionen über 11 kompatibel ist. Dadurch war sie nicht mit unserer Zielanforderung für MariaDB 12 kompatibel.
  • Plattformnatives globales Load Balancing: Durch die Nutzung des nativen globalen L4-Load-Balancers von GDC wird sichergestellt, dass die VIP von der GDC-Steuerungsebene gesteuert wird. Dadurch bleibt der Einstiegspunkt stabil und die zonenübergreifende Traffic-Bereitstellung wird vereinfacht.

Annahmen und Einschränkungen

Annahmen

  • Verfügbarkeit der Infrastruktur: Kunden haben ein ausreichendes Projektkontingent, um dedizierte, richtig dimensionierte VMs und globale Load Balancer bereitzustellen, die gleichmäßig auf drei Verfügbarkeitszonen verteilt sind.
  • Sicheres Netzwerk: Schlüsselbasierter Zugriff und geeignete ProjectNetworkPolicies (PNPs) werden eingerichtet, um die clusterinterne Galera-Synchronisierung und die Abfrage von Systemdiagnosen zu ermöglichen.

Beschränkungen

  • Kubernetes wird nicht unterstützt: Kunden, die ausschließlich containerisierte/Kubernetes-basierte Lösungen suchen, können keine Hochverfügbarkeit über mehrere Zonen hinweg erreichen, bis Stretch-Cluster vollständig von der Plattform unterstützt werden.
  • Manuelle Upgrades erforderlich: Im Gegensatz zu verwalteten Diensten liegt die Verantwortung für routinemäßige Patches auf Betriebssystemebene, Upgrades von Datenbank-Nebenversionen und die Verwaltung von Galera-Versionen bei dieser Lösung vollständig beim Kunden.
  • Netzwerklatenzempfindlichkeit: Die synchrone Replikation erfordert ein hochwertiges, stabiles Netzwerk. Netzwerk-Jitter oder Latenzspitzen zwischen den Air-Gap-Zonen verzögern Schreibvorgänge im MariaDB-Cluster proportional.

Zusätzliche Materialien