זמינות גבוהה וחוסן נתונים

בוחרים גרסת תיעוד:

בדף הזה נסביר על זמינות גבוהה ועל הכלים שמומלץ להשתמש בהם.

מידע על החוסן (resilience) של הנתונים

אפשר לחשוב על עמידות הנתונים במונחים של זמינות, זמן לשחזור השירות ואובדן נתונים. בדרך כלל מודדים את הזמינות לפי זמן הפעולה התקינה, והיא מבוטאת באחוזים מהזמן שבו מסד הנתונים זמין. לדוגמה, כדי להשיג זמינות של 99.99%, מסד הנתונים לא יכול להיות מושבת יותר מ-52.6 דקות בשנה, או 4.38 דקות בחודש. הזמן שנדרש לשחזור השירות אחרי הפסקה נקרא "יעד זמן ההתאוששות" (RTO). כמות אובדן הנתונים המקובלת כתוצאה מהפסקת שירות נקראת יעד להתאוששות מאסון (RPO), והיא מבוטאת כמשך הזמן שבו העסקאות אבדו. לדוגמה, אם ה-RPO הוא 10 דקות, במקרה של כשל יכול להיות שתאבדו נתונים ששווים עד 10 דקות.

מקובל להגדיר יעד זמינות, או יעד למדידת רמת השירות (SLO), יחד עם יעדים ל-RTO ול-RPO. לדוגמה, לעומס עבודה מסוים אתם יכולים להגדיר SLO של 99.99%, וגם לדרוש RPO של 0, ללא אובדן נתונים בכל כשל, ו-RTO של 30 שניות. בעומס עבודה אחר, יכול להיות שתגדירו את ה-SLO ל-99.9%, את ה-RPO ל-5 דקות ואת ה-RTO ל-10 דקות.

אפשר להטמיע חוסן בסיסי של מסד נתונים באמצעות גיבויים של מסד הנתונים. ‫AlloyDB Omni תומך בגיבויים באמצעות pgBackRest, וגם בארכיון של קובצי Write Ahead Log ‏ (WAL) של מסד הנתונים כדי לצמצם את אובדן הנתונים. בגישה הזו, אם מסד הנתונים הראשי מושבת, אפשר לשחזר אותו מגיבוי עם RPO של דקות ו-RTO של דקות עד שעות, בהתאם לגודל של מסד הנתונים.

אם יש לכם דרישות מחמירות יותר לגבי RPO ו-RTO, אתם יכולים להגדיר את AlloyDB Omni בתצורת זמינות גבוהה באמצעות Patroni. בארכיטקטורה הזו יש מסד נתונים ראשי ושני מסדי נתונים משניים, או רפליקות. אתם יכולים להגדיר את AlloyDB Omni כך שישתמש ברפליקציית סטרימינג רגילה של PostgreSQL, כדי לוודא שכל טרנזקציה שמתבצעת במכונה הראשית משוכפלת באופן סינכרוני לשני מסדי הנתונים במצב המתנה. כך מתקבל RPO של אפס ו-RTO של פחות מ-60 שניות ברוב תרחישי הכשל.

בהתאם להגדרות האשכול, יכול להיות שרפליקציה סינכרונית תשפיע על זמן התגובה של הטרנזקציות, ואתם יכולים לבחור להסתכן באובדן של כמות קטנה של נתונים. לדוגמה, אפשר להגדיר RPO שאינו אפס בתמורה לחביון טרנזקציות נמוך יותר, על ידי הטמעה של זמינות גבוהה עם שכפול אסינכרוני במקום שכפול סינכרוני. בגלל ההשפעה הפוטנציאלית של שכפול סינכרוני על זמן האחזור של העסקאות, ארכיטקטורות של זמינות גבוהה מיושמות כמעט תמיד בתוך מרכז נתונים יחיד, או בין מרכזי נתונים שנמצאים קרוב זה לזה (במרחק של עשרות קילומטרים זה מזה, או עם זמן אחזור של פחות מ-10 מילישניות). עם זאת, שימו לב שבמאמר הזה אנחנו משתמשים ברפליקציה סינכרונית כברירת מחדל.

לצורך תוכנית התאוששות מאסון (DR), שהיא הגנה מפני אובדן של מרכז נתונים או של אזור שבו יש כמה מרכזי נתונים קרובים זה לזה, אפשר להגדיר את AlloyDB Omni עם רפליקציה אסינכרונית בסטרימינג מהאזור הראשי לאזור משני, בדרך כלל במרחק של מאות או אלפי ק"מ, או במרחק של עשרות עד מאות אלפיות השנייה. בהגדרה הזו, האזור הראשי מוגדר עם שכפול סינכרוני של נתונים בזמן אמת בין מסדי הנתונים הראשיים ומסדי הנתונים במצב המתנה באזור, ושכפול אסינכרוני של נתונים בזמן אמת מוגדר מהאזור הראשי לאזור משני אחד או יותר. אפשר להגדיר את AlloyDB Omni באזור המשני עם כמה מופעים של מסדי נתונים כדי להבטיח שהוא מוגן מיד אחרי מעבר לגיבוי כשל מהאזור הראשי.

איך פועלת זמינות גבוהה

הטכניקות והכלים הספציפיים שמשמשים להטמעת זמינות גבוהה במסדי נתונים יכולים להשתנות בהתאם למערכת ניהול מסדי הנתונים. אלה כמה מהשיטות והכלים שמשמשים בדרך כלל להטמעת זמינות גבוהה במסדי נתונים, בהתאם למערכת לניהול מסדי נתונים:

  • יתירות: שכפול מסד הנתונים בכמה שרתים או אזורים גיאוגרפיים מספק אפשרויות ליתירות כשל אם המכונה הראשית מושבתת.

  • מעבר אוטומטי במקרה של כשל: מנגנון לזיהוי כשלים ומעבר חלק לרפליקה תקינה, כדי לצמצם את זמן ההשבתה. השאילתות מנותבות כך שהבקשות של האפליקציה יגיעו לצומת הראשי החדש.

  • המשכיות הנתונים: אמצעי הגנה מוטמעים כדי להגן על תקינות הנתונים במקרה של כשלים. זה כולל טכניקות שכפול ובדיקות עקביות של הנתונים.

  • אשכולות: קיבוץ של כמה שרתי מסדי נתונים כדי שיפעלו יחד כמערכת אחת. בדרך הזו, כל הצמתים באשכול פעילים ומטפלים בבקשות, וכך מתבצע איזון עומסים ונוצרת יתירות.

  • חזרה למצב הקודם: שיטות לחזרה לארכיטקטורה המקורית באמצעות הצמתים הראשיים והרפליקות שלפני יתירות הכשל, בקיבולת המקורית שלהם.

  • איזון עומסים: חלוקת בקשות למסד נתונים בין כמה מופעים משפרת את הביצועים ומאפשרת לטפל בעלייה בנפח התנועה.

  • מעקב והתראות: כלי מעקב מזהים בעיות כמו כשל בשרת, זמן אחזור ארוך, ניצול יתר של משאבים ומפעילים התראות או הליכי מעבר אוטומטי לגיבוי.

  • גיבוי ושחזור: אפשר להשתמש בגיבויים כדי לשחזר מסדי נתונים למצב קודם במקרה של נזק לנתונים או כשל קטסטרופלי.

  • איגום חיבורים (אופציונלי): משפר את הביצועים ואת יכולת ההתאמה של אפליקציות שמתקשרות עם מסדי הנתונים שלכם.

כלים לזמינות גבוהה

‫Patroni הוא כלי לניהול אשכולות בקוד פתוח למסדי נתונים של PostgreSQL, שנועד לנהל ולאוטומט את הזמינות הגבוהה של אשכולות PostgreSQL. ‫Patroni משתמש במערכות קונצנזוס מבוזרות שונות כמו etcd,‏ Consul או Zookeeper כדי לתאם ולנהל את מצב האשכול. חלק מהתכונות והרכיבים העיקריים של Patroni כוללים זמינות גבוהה עם יתירות כשל אוטומטית, בחירת שרת ראשי, רפליקציה ושחזור. ‫Patroni פועל לצד שירות PostgreSQL במכונות של שרתי מסדי נתונים, ומנהל את התקינות, את יתירות הכשל ואת הרפליקציה שלהם כדי להבטיח זמינות גבוהה ואמינות.

‫Patroni משתמש במערכת מבוזרת להשגת הסכמה כדי לאחסן מטא-נתונים ולנהל את האשכול. במדריך הזה אנחנו משתמשים במאגר הגדרות מבוזר (DCS) שנקרא etcd. אחד השימושים ב-etcd הוא לאחסון ולאחזור של מידע ממערכות מבוזרות, כמו הגדרות, נתוני תקינות וסטטוס נוכחי, כדי להבטיח הגדרה עקבית בכל הצמתים.

‫High Availability Proxy (HAProxy) היא תוכנה בקוד פתוח שמשמשת לאיזון עומסים ולהגדרת שרתי proxy לאפליקציות שמבוססות על TCP ו-HTTP. היא משמשת לשיפור הביצועים והאמינות של אפליקציות אינטרנט על ידי חלוקת הבקשות הנכנסות בין כמה שרתים. ‫HAProxy מציע איזון עומסים על ידי חלוקת תנועת הרשת בין כמה שרתים. ‫HAProxy גם מבצע בדיקות תקינות כדי לשמור על מצב התקינות של שרתי בק-אנד שהוא מתחבר אליהם. אם שרת נכשל בבדיקת תקינות, HAProxy מפסיק לשלוח אליו תנועה עד שהוא עובר שוב את בדיקות התקינות.

שיקולים לגבי שכפול סינכרוני ואסינכרוני

באשכול PostgreSQL שמנוהל על ידי Patroni, אפשר להגדיר את הרפליקציה גם במצב סינכרוני וגם במצב אסינכרוני. כברירת מחדל, Patroni משתמש בשכפול אסינכרוני של סטרימינג. אם יש דרישות מחמירות לגבי RPO, מומלץ להשתמש בשכפול סינכרוני.

שכפול סינכרוני ב-PostgreSQL מבטיח עקביות של הנתונים. כדי לבצע את השכפול, המערכת מחכה עד שהטרנזקציות ייכתבו גם בשרת הראשי וגם לפחות בשרת המתנה הסינכרוני. רפליקציה סינכרונית מבטיחה שהנתונים לא יאבדו במקרה של כשל ראשי, ומספקת עמידות ועקביות חזקות של הנתונים. השרת הראשי ממתין לאישורים מהשרת המשני הסינכרוני, מה שעלול להוביל לזמן אחזור ארוך יותר ולקצב העברת נתונים נמוך יותר בגלל זמן הלוך ושוב (RTT) הנוסף. הפעולה הזו עלולה להפחית את התפוקה הכוללת של המערכת, במיוחד בעומס גבוה.

רפליקציה אסינכרונית מאפשרת לבצע טרנזקציות באשכול הראשי בלי לחכות לאישורים מאשכולות הגיבוי. השרת הראשי שולח רשומות WAL לשרתי הגיבוי, שמחילים אותן באופן אסינכרוני. הגישה האסינכרונית הזו מקטינה את זמן האחזור של הכתיבה ומשפרת את הביצועים, אבל יש בה סיכון לאובדן נתונים אם השרת הראשי נכשל לפני שהשרת המשני מספיק להתעדכן. יכול להיות שהמערכות המשניות יהיו מאחורי המערכת הראשית, מה שיוביל לחוסר עקביות פוטנציאלי במהלך מעבר לגיבוי.

הבחירה בין שכפול סינכרוני לאסינכרוני באשכול Patroni תלויה בדרישות הספציפיות של עמידות הנתונים, העקביות והביצועים. רפליקציה סינכרונית עדיפה בתרחישים שבהם תקינות הנתונים ואובדן נתונים מינימלי הם קריטיים, ורפליקציה אסינכרונית מתאימה לסביבות שבהן הביצועים וזמן אחזור נמוך יותר נמצאים בעדיפות גבוהה. אתם יכולים להגדיר פתרון משולב שכולל אשכול של שלושה צמתים עם המתנה סינכרונית באותו אזור, אבל בתחום או במרכז נתונים אחר בקרבת מקום, והמתנה אסינכרונית שנייה באזור אחר או במרכז נתונים מרוחק יותר, כדי להגן מפני הפסקות פוטנציאליות בשירות באזור.

המאמרים הבאים