הקצאת אשכול מסד נתונים לצומת באמצעות תזמון

בוחרים גרסת תיעוד:

באופרטור AlloyDB Omni Kubernetes, תזמון הוא תהליך של התאמת Pods חדשים של מסד נתונים לצמתים, כדי לאזן את חלוקת הצמתים באשכול ולעזור באופטימיזציה של הביצועים. התאמה בין פודים וצמתים מתבצעת על סמך כמה קריטריונים ומשאבים זמינים, כמו מעבד (CPU) וזיכרון.

מידע נוסף על תזמון זמין במאמר תזמון, קדימות ופינוי במאמרי העזרה של Kubernetes.

בדף הזה מוסבר איך לציין סבילות, קרבה לצומת ואילוצי תזמון של פיזור טופולוגי בהגדרות התזמון של מופעים של מאגרים ראשיים ומאגרי קריאה במניפסט של Kubernetes.

במאמר Taints and Tolerations שבמסמכי התיעוד של Kubernetes מוסבר איך להגדיר taints בצמתים.

ציון סבילות

כדי לתזמן את ה-Pods של AlloyDB Omni לצמתים שאין בהם Pods של אפליקציות אחרות, או כדי להתאים לtaint ספציפי שמוגדר בצמתים האלה, צריך להחיל toleration אחד או יותר על הצמתים באופן הבא:

  1. משנים את המניפסט של קלאסטר אופרטור AlloyDB Omni Kubernetes כדי לכלול קטע tolerations בקטע schedulingConfig של אחד מהקטעים הבאים:
    • ‫primarySpec למכונות ראשיות
    • ‫spec למכונות של מאגר קריאה
         tolerations:
      - key: "TAINT_KEY"
        operator: "OPERATOR_VALUE"
        value: "VALUE"
        effect: "TAINT_EFFECT"

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫TAINT_KEY: השם הייחודי הקיים של מפתח ה-taint, כמו שם המארח של הצומת או ערך אחר שנובע באופן מקומי, שה-toleration חל עליו. מפתח ה-taint כבר מוגדר בצומת. שדה ריק והערך OPERATOR_VALUE שמוגדר ל-exists מציינים שההתאמה של ההסכמה צריכה להיות לכל הערכים ולכל המפתחות.
    • ‫OPERATOR_VALUE: מייצג את הקשר של מפתח לקבוצת ערכים. מגדירים את הפרמטר לאחת מהאפשרויות הבאות:
      • ‫exists: המערכת של Kubernetes מתאימה כל ערך אם ה-taint מוגדר, בלי קשר לערך של ה-taint.
      • ‫equal: אם הערכים שונים, מערכת Kubernetes לא מתזמנת את ה-Pod לצומת. האופרטור דורש את הערך של ה-taint true.
    • VALUE: ערך ה-taint שאליו מתאים ה-toleration. אם האופרטור הוא Exists, הערך ריק. אחרת, זהו מחרוזת רגילה. לדוגמה, true.
    • ‫TAINT_EFFECT: מציין את אפקט ה-taint שצריך להתאים. שדה ריק מציין שכל ההשפעות של הטולרנטיות חייבות להתאים. מגדירים את הפרמטר לאחת מהאפשרויות הבאות:
      • ‫NoSchedule: המערכת של Kubernetes לא מתזמנת קבוצות Pod חדשות בצומת עם הכתם.
      • ‫PreferNoSchedule: Kubernetes לא יציב Pod חדש בצומת המזוהם, אלא אם הדבר הכרחי.
      • ‫NoExecute: המערכת של Kubernetes מפנה Pods קיימים שלא יכולים להתמודד עם ה-taint.
  2. מחילים מחדש את המניפסט.

הגדרת זיקה לצומת

מתזמן Kubernetes משתמש בזיקה של צומת כקבוצת כללים כדי לקבוע איפה למקם Pod. העדפת צומת היא גרסה גמישה ואקספרסיבית יותר של בוררי צמתים.

כדי לציין אילו צמתים צריך לתזמן להרצת מסד הנתונים, פועלים לפי השלבים הבאים:

  1. משנים את המניפסט של אשכול מסד הנתונים כך שיכלול את הקטע nodeaffinity אחרי הקטע tolerations בקטע schedulingConfig של primarySpec עבור מופעים ראשיים או של spec עבור מופעים של מאגר לקריאה: 
          nodeaffinity:
         NODE_AFFINITY_TYPE:
         - weight: WAIT_VALUE
           preference:
             matchExpressions:
             - key: LABEL_KEY
               operator: OPERATOR_VALUE
               values:
               - LABEL_KEY_VALUE

    מחליפים את מה שכתוב בשדות הבאים:

    • NODE_AFFINITY_TYPE: מגדירים את הפרמטר לאחת מהאפשרויות הבאות:
      • ‫requiredDuringSchedulingIgnoredDuringExecution: Kubernetes מתזמן את ה-Pod בדיוק על סמך הכללים המוגדרים.
      • ‫preferredDuringSchedulingIgnoredDuringExecution: מתזמן Kubernetes מנסה למצוא צומת שעומד בכלל שהוגדר לתזמון. עם זאת, אם אין צומת כזה, Kubernetes מתזמן לצומת אחר באשכול.
    • ‫WAIT_VALUE: מציין את משקל ההעדפה של הצמתים שצוינו. ערכים גבוהים יותר מציינים העדפה חזקה יותר. הערכים התקינים הם בין 1 ל-100.
    • LABEL_KEY: התווית של הצומת למפתח שמשמש כאינדיקטור למיקום ומאפשר הפצה אחידה של Pods באשכול. לדוגמה, disktype=ssd.
    • ‫OPERATOR_VALUE: מייצג את הקשר של מפתח לקבוצת ערכים. מגדירים את הפרמטר לאחת מהאפשרויות הבאות:
      • ‫In: מערך הערכים לא יכול להיות ריק.
      • ‫NotIn: מערך הערכים לא יכול להיות ריק.
      • ‫Exists: מערך הערכים חייב להיות ריק.
      • ‫DoesNotExist: מערך הערכים חייב להיות ריק.
      • ‫Gt: מערך הערכים חייב להכיל רכיב אחד, שמפורש כמספר שלם.
      • ‫Lt: מערך הערכים חייב להכיל רכיב אחד, שמפורש כמספר שלם.
    • ‫LABEL_KEY_VALUE: הערך של מַפתח התווית. מגדירים את הפרמטר למערך של ערכי מחרוזת באופן הבא:
      • אם האופרטור הוא In או NotIn, מערך הערכים לא יכול להיות ריק.
      • אם האופרטור הוא Exists או DoesNotExist, מערך הערכים חייב להיות ריק.
      • אם האופרטור הוא Gt או Lt, מערך הערכים חייב להכיל רכיב יחיד, שמתפרש כמספר שלם.
  2. מחילים מחדש את המניפסט.

הגדרת אנטי-זיקה של Pod

הגדרת Pod anti-affinity מונעת מהמתזמן של Kubernetes לתזמן Pods באותו צומת או באותו דומיין טופולוגיה, כמו אזורים או אזורים גיאוגרפיים. כך מוודאים שהעותקים של השירות יפוזרו כדי למנוע נקודת כשל בודדת.

בסביבות ייצור, מומלץ להשתמש בכלל הזה למניעת קרבה כדי לתזמן פודים של מסדי נתונים בצמתים שונים מפודים של אופרטורים באמצעות התוויות הבאות:

schedulingconfig:
  podAntiAffinity:
    requiredDuringSchedulingIgnoredDuringExecution:
    - labelSelector:
        matchLabels:
          app.kubernetes.io/component: controller
          app.kubernetes.io/name: alloydb-omni-operator
      namespaces:
      - alloydb-omni-system
      topologyKey: kubernetes.io/hostname

כדי להוסיף למסד הנתונים כללים למניעת שיוך של Pods, פועלים לפי השלבים הבאים:

  1. משנים את קובץ המניפסט של אשכול מסד הנתונים כך שיכלול את השדה podAntiAffinity. צריך להוסיף podAntiAffinity לשדה schedulingConfig בשדה primarySpec של מופעים ראשיים או בשדה spec של מופעים של מאגר לקריאה.

    podAntiAffinity:
  POD_ANTI_AFFINITY_TYPE:
  - weight: WEIGHT_VALUE
    podAffinityTerm:
      labelSelector:
        matchExpressions:
        - key: LABEL_KEY
          operator: OPERATOR_VALUE
          values:
          - LABEL_VALUE
      topologyKey: "TOPOLOGY_KEY"

    מחליפים את המשתנים הבאים:

    • ‫POD_ANTI_AFFINITY_TYPE: משתמשים באחד מהערכים הבאים:
      • ‫requiredDuringSchedulingIgnoredDuringExecution: המערכת של Kubernetes מתזמנת את ה-pod רק לפי הכללים שהוגדרו.
      • ‫preferredDuringSchedulingIgnoredDuringExecution: מתזמן Kubernetes מנסה למצוא צומת שעומד בכלל שהוגדר. אם לא נמצאים צמתים כאלה, Kubernetes מתזמן את ה-Pod לצומת אחר באשכול.
    • ‫WEIGHT_VALUE: משמש כש-POD_ANTI_AFFINITY_TYPE מוגדר ל-preferredDuringSchedulingIgnoredDuringExecution. מציין את רמת ההעדפה של הצמתים שצוינו. הערכים נעים בין 1 ל-100.
    • ‫LABEL_KEY: משמש כאינדיקטור למיקום ומאפשר חלוקה שווה של pod-ים באשכול.
    • ‫OPERATOR_VALUE: האופרטור שמשמש להתאמה לפודים שצוינו. משתמשים באחד מהערכים הבאים:
      • ‫In: המערך values לא יכול להיות ריק.
      • ‫NotIn: המערך values לא יכול להיות ריק.
      • ‫Exists: המערך values חייב להיות ריק.
      • ‫DoesNotExist: המערך values צריך להיות ריק.
    • ‫LABEL_VALUE: אפס, אחד או יותר ערכים של תרמילים שצריך להתאים לערך של LABEL_KEY.
    • ‫TOPOLOGY_KEY: מגדיר את דומיין הטופולוגיה. לדוגמה, kubernetes.io/hostname כדי למנוע פודים באותו צומת, או topology.kubernetes.io/zone כדי לפזר פודים בין אזורים.

  2. מחילים מחדש את קובץ המניפסט.

הגדרת אילוצים על פריסת הטופולוגיה

השדה topologySpreadConstraints, שנמצא ב-spec של Kubernetes Pod API וכתוצאה מכך ב-schedulingConfig של קובצי המניפסט של אשכול מסד הנתונים של AlloyDB Omni, קובע איך הפודים מופצים בין דומיינים שונים של טופולוגיה כמו אזורים, צמתים או אזורים באשכול. ההגדרה הזו עוזרת לקדם זמינות גבוהה וניצול מאוזן של משאבים, כי היא מונעת מצב שבו יותר מדי פודים של אשכול מסד נתונים של AlloyDB Omni מגיעים לנקודת כשל בודדת.

כדי לציין איך אשכול מסד הנתונים של AlloyDB Omni מתפרס על פני הטופולוגיה של האשכול, מוסיפים את הקטע topologySpreadConstraints ב-schedulingConfig של primarySpec למכונות ראשיות או של spec למכונות של מאגר קריאה:

schedulingconfig:
      # Other scheduling configs like tolerations, nodeaffinity
      topologySpreadConstraints:
        - maxSkew: MAXSKEW_VALUE
          topologyKey: "TOPOLOGY_KEY"
          whenUnsatisfiable: WHEN_UNSATISFIABLE_VALUE
          # labelSelector: <object> # optional
          # minDomains: <integer> # optional
          # matchLabelKeys: <list> # optional
          # nodeAffinityPolicy: [Honor|Ignore] # optional
          # nodeTaintsPolicy: [Honor|Ignore] # optional

מחליפים את מה שכתוב בשדות הבאים:

  • ‫MAXSKEW_VALUE: מגדיר את ההפרש המקסימלי המותר במספר הפודים התואמים בין שני דומיינים של טופולוגיה. הפרמטר הזה חייב להיות גדול מ-0.
  • ‫TOPOLOGY_KEY: המפתח של תוויות הצמתים שמגדיר דומיין טופולוגיה, לדוגמה, topology.kubernetes.io/zone לאזורים. מתזמן המשימות מנסה לאזן בין ה-Pods בדומיינים האלה.
  • ‫WHEN_UNSATISFIABLE_VALUE: מציין איך מתזמן העבודה מטפל ב-Pod אם הוא לא עומד במגבלת הפיזור. מגדירים את הפרמטר לאחת מהאפשרויות הבאות:
    • ‫DoNotSchedule: המתזמן לא מתזמן את ה-Pod לצומת אם אילוץ הפיזור לא מתקיים. זה ערך ברירת המחדל.
    • ‫ScheduleAnyway: המתזמן עדיין מתזמן את ה-Pod, אבל הוא נותן עדיפות לצמתים שמצמצמים את הסטייה.

מידע נוסף על אילוצי פריסה של טופולוגיית Pod זמין במסמכי התיעוד הרשמיים של Kubernetes.

דוגמה

בדוגמה הבאה מוצג תזמון של Pods במופעים של מאגרים ראשיים ומאגרי קריאה באופרטור AlloyDB Omni Kubernetes. הגדרת התזמון הזו עוזרת לוודא שהמכונה הראשית של אשכול מסד הנתונים מתוזמנת בצמתים המתאימים, תוך מתן גמישות מסוימת בבחירת הצמתים. הגמישות הזו יכולה לעזור באיזון העומס, באופטימיזציה של השימוש במשאבים או בהתאמה לתפקידים ולמאפיינים ספציפיים של צמתים.

    schedulingconfig:
      tolerations:
      - key: "node-role.kubernetes.io/control-plane"
        operator: "Exists"
        effect: "NoSchedule"
      nodeaffinity:
        preferredDuringSchedulingIgnoredDuringExecution:
        - weight: 1
          preference:
            matchExpressions:
            - key: another-node-label-key
              operator: In
              values:
              - another-node-label-value
      podAntiAffinity:
        requiredDuringSchedulingIgnoredDuringExecution:
        - labelSelector:
            matchExpressions:
            - key: app
              operator: In
              values:
              - my-app
          topologyKey: "kubernetes.io/hostname"
      topologySpreadConstraints:
        - maxSkew: 1
          topologyKey: "topology.kubernetes.io/zone"
          whenUnsatisfiable: DoNotSchedule

הדוגמה של toleration מאפשרת לתזמן את ה-Pod בצמתים שמסומנים כצמתים של מישור הבקרה, בגלל הפרטים הבאים:

  • מפתח ה-taint‏ node-role.kubernetes.io/control-plane מציין שלצומת יש צומת של מישור הבקרה.
  • האופרטור Exists מציין שה-toleration תואם לכל taint עם מפתח ה-taint שצוין, בלי קשר לערך.
  • האפקט NoSchedule אומר שלא מתוזמן שימוש ב-Pods בצומת של מישור הבקרה, אלא אם יש להם התאמה ל-Toleration.

סוג השיוך לצומת preferredDuringSchedulingIgnoredDuringExecution מציין שהכללים שהוגדרו לשיוך לצומת מועדפים, אבל לא נדרשים במהלך התזמון. אם הצמתים המועדפים לא זמינים, יכול להיות שה-Pod עדיין יתוזמן בצמתים אחרים. ערך המשקל 1 מציין העדפה חלשה. קריטריוני הבחירה של הצומת מוגדרים בקטע preference. הקטע matchExpressions מכיל מערך של ביטויים שמשמשים להתאמת צמתים. המפתח another-node-label-key מייצג את המפתח של תווית הצומת שצריך להתאים. האופרטור In מציין שלצומת חייב להיות המפתח עם אחד מהערכים שצוינו. למפתח another-node-label-key צריך להיות הערך another-node-label-value.

כלל הזיקה לצומת שבדוגמה מציין העדפה לתזמון ה-Pod בצמתים שיש להם את התווית another-node-label-key עם הערך another-node-label-value. ההעדפה היא חלשה, כך שזו לא דרישה חזקה.

הכלל podAntiAffinity בדוגמה הזו מונע תזמון של Pods עם התווית app: my-app באותו שם מארח. כך אפשר לוודא שהעותקים של my-app מפוזרים בין צמתים שונים, ולשפר את עמידות המערכת בפני תקלות.

ה-topologySpreadConstraints בדוגמה הזו מפיצים פודים בין אזורים שונים של Kubernetes. הערך maxSkew של 1 מציין שיכול להיות לכל היותר Pod אחד נוסף בכל אזור נתון, בהשוואה למספר המינימלי של Pods בכל אזור אחר. ההגדרה whenUnsatisfiable, עם הערך DoNotSchedule, פירושה שאם אי אפשר לעמוד באילוץ הזה, ה-Pod נשאר ללא תזמון.

הדוגמה משלבת את הדברים הבאים:

  • הגדרות Toleration שמאפשרות לתזמן את ה-Pod בצמתי מישור הבקרה על ידי Toleration של ה-Taint‏ NoSchedule.
  • העדפת צומת שמעדיפה צמתים עם תווית ספציפית אבל לא דורשת אותה באופן מוחלט, ולכן היא מציעה גמישות בתזמון.
  • כלל אנטי-אפיניות של pod שמונע תזמון של pod עם התווית app: my-app באותו שם מארח.
  • מגבלות על התפלגות טופולוגית שמבטיחות חלוקה מאוזנת של ה-Pods בין אזורי הזמינות, משפרות את העמידות ומייעלות את השימוש במשאבים.

המאמרים הבאים