מידע על הפעלה מהירה יותר של עומסי עבודה באמצעות צמתים עם הפעלה מהירה

בדף הזה מוסבר איך לפרוס ולהתאים לעומס עומסי עבודה מהר יותר באשכולות של Google Kubernetes Engine (GKE) באמצעות צמתים שמופעלים במהירות. השימוש בצמתים עם הפעלה מהירה ב-GKE במצב אוטומטי מתבצע על בסיס המאמץ הטוב ביותר, כשעומסי העבודה משתמשים בתצורות תואמות.

בצומתי GKE שמופעלים במהירות, זמן ההפעלה קצר משמעותית במשפחות מכונות תואמות. זמן ההפעלה המהיר יותר מספק את היתרונות הבאים:

  • הפעלה מהירה יותר במצב התחלתי (cold start)
  • התאמה מהירה יותר לעומס (autoscaling)
  • זמן אחזור משופר של תזמון Pod בזנב הארוך
  • שיפור היעילות של עלויות התשתית

בצמתים שמופעלים במהירות, GKE מפעיל מראש את משאבי החומרה כדי להאיץ את זמן ההפעלה. המשאבים שהופעלו מראש זמינים על בסיס המאמץ המרבי. יכול להיות שרק חלק מהבקשות יטופלו. בלי צמתים עם הפעלה מהירה, המשאבים מאותחלים על פי דרישה והצמתים מוגשים בזמן ההפעלה הרגיל.

דרישות

לא צריך להגדיר שום דבר נוסף כדי להשתמש בצמתים שמופעלים במהירות. אם עומסי העבודה שלכם משתמשים בהגדרות תואמות, GKE משתמש באופן אוטומטי בצמתים שמופעלים במהירות. כדי להשתמש בצמתים עם הפעלה מהירה, אתם צריכים לעמוד בכל הדרישות הבאות:

מגבלות

התכונות הבאות לא תואמות לצמתים של GKE עם הפעלה מהירה. אם משתמשים באחת מהתכונות האלה, GKE מקצה צמתים עם זמן ההפעלה הרגיל:

עומסי עבודה של GPU ב-Autopilot

בקשה לשימוש ב-GPU תואם במצב Autopilot מביאה לקיצור זמן ההפעלה של הצומת עד פי ארבעה, וקיצור זמן התזמון של ה-Pod עד פי שניים, בהשוואה לבקשות דומות במצב GKE Standard, כי עומסי העבודה של ה-GPU ב-Autopilot יכולים להשתמש בצמתים שמופעלים במהירות.

הנה כמה תרחישי שימוש לדוגמה. עם זאת, כל הפודים שעומדים בתנאים שבסעיף דרישות תואמים לצמתים עם הפעלה מהירה.

ComputeClass

מבקשים סוג וספירה של מאיץ תואם ב-ComputeClass, כמו בדוגמה הבאה:

apiVersion: cloud.google.com/v1
kind: ComputeClass
metadata:
  name: ACCELERATOR_COMPUTE_CLASS_NAME
spec:
  priorities:
  - gpu:
      type: ACCELERATOR_TYPE
      count: ACCELERATOR_COUNT
  nodePoolAutoCreation:
    enabled: true

כשבוחרים את ComputeClass ב-Pod, כמו בדוגמה הבאה, GKE משתמש בצמתים עם הפעלה מהירה:

apiVersion: v1
kind: Pod
metadata:
  name: POD_NAME
spec:
  nodeSelector:
    # Select a ComputeClass that requests compatible GPUs
    cloud.google.com/compute-class: ACCELERATOR_COMPUTE_CLASS_NAME
  containers:
  - name: my-container
    image: registry.k8s.io/pause
    resources:
      limits:
        nvidia.com/gpu: ACCELERATOR_COUNT

מחליפים את הערכים הבאים:

  • ‫ACCELERATOR_COMPUTE_CLASS_NAME: השם של ComputeClass שמבקש את המאיצים.
  • ‫ACCELERATOR_TYPE: סוג המאיץ.
  • ‫ACCELERATOR_COUNT: מספר המאיצים שנדרשים ל-Pod. הערך הזה חייב להיות קטן או שווה לערך בשדה spec.priorities.gpu.count ב-ComputeClass.
  • ‫POD_NAME: השם של ה-Pod.

למידע נוסף על ComputeClass, קראו את המאמר מידע על סוגי מחשוב בהתאמה אישית.

מפרט ה-Pod

בוחרים סוג מאיץ תואם וסופרים במפרט של ה-Pod, כמו בדוגמה הבאה:

apiVersion: v1
kind: Pod
metadata:
  name: POD_NAME
spec:
  nodeSelector:
    cloud.google.com/gke-accelerator: ACCELERATOR_NAME
  containers:
  - name: my-container
    image: registry.k8s.io/pause
    resources:
      limits:
        nvidia.com/gpu: ACCELERATOR_COUNT

מחליפים את הערכים הבאים:

  • ‫POD_NAME: שם ה-Pod.
  • ‫ACCELERATOR_NAME: שם המאיץ שנדרש ל-Pod.
  • ‫ACCELERATOR_COUNT: מספר המאיצים שנדרשים ל-Pod.

דרישות ההגדרה למשאבי מחשוב שעומדים בדרישות

בטבלאות שבסעיפים הבאים מפורטות הדרישות הספציפיות של GKE לאספקת משאבי מחשוב רלוונטיים כצמתים להפעלה מהירה.

פלטפורמת מחשוב מותאמת לקונטיינרים ב-Autopilot

בהמשך מפורטות הדרישות של GKE להקצאת צמתים (nodes) עם פלטפורמת מחשוב שמותאמת לקונטיינרים של Autopilot, שניתן להפעיל במהירות.

משאב מחשוב תמיכה בערוצי הפצה ובגרסאות דיסקים נתמכים
פלטפורמת מחשוב שמותאמת לקונטיינרים ב-Autopilot
  • ערוץ מהיר
  • ‫1.33.0-gke.1696000 ואילך

סדרת מכונות G2

כדי להקצות מכונות G2 כצמתים שמופעלים במהירות, צריך לעמוד בדרישות הבאות של GKE.

משאב מחשוב תמיכה בערוצי הפצה ובגרסאות דיסקים נתמכים
סדרת המכונות G2
  • ערוצי עדכון מהירים ורגילים
  • ‫1.31 ואילך

סדרת המכונות A2

כדי להקצות מכונות A2 כצמתים שמופעלים במהירות ב-GKE, צריך לעמוד בדרישות הבאות:

משאב מחשוב תמיכה בערוצי הפצה ובגרסאות דיסקים נתמכים
מכונות לשימוש סטנדרטי מסוג A2
  • ערוצי עדכון מהירים ורגילים
  • ‫1.32.0-gke.1008000 ואילך
סוגי מכונות A2 Ultra
  • ערוצי עדכון מהירים ורגילים
  • ‫1.32.0-gke.1008000 ואילך
  • ‫pd-balanced או pd-ssd דיסקים לאתחול עד 1,000 GiB, עם מגבלות גבוהות יותר ב-a2‑ultragpu‑4g (1,500 GiB) וב-a2‑ultragpu‑8g (3,000 GiB).
  • עם כונני SSD מקומיים שמצורפים באופן אוטומטי.

סוג המכונה A3 Mega

כדי להקצות מכונות A3 Mega כצמתים שמופעלים במהירות ב-GKE, צריך לעמוד בדרישות הבאות.

משאב מחשוב תמיכה בערוצי הפצה ובגרסאות דיסקים נתמכים
סוג מכונה A3 Mega
  • ערוץ מהיר
  • ‫1.34.4-gke.1130000 ואילך
  • דיסקי אתחול מסוג hyperdisk-balanced, pd-ssd או pd-balanced.
  • עם כונני SSD מקומיים שמצורפים באופן אוטומטי.

סדרת מכונות G4

כדי ש-GKE יקצה מכונות G4 כצמתים עם הפעלה מהירה, צריך לעמוד בדרישות הבאות:

משאב מחשוב תמיכה בערוצי הפצה ובגרסאות דיסקים נתמכים
סדרת מכונות G4
  • ערוץ מהיר
  • ‫1.34.4-gke.1130000 ואילך

תמחור

צמתים עם הפעלה מהירה זמינים ב-GKE Autopilot ללא תשלום נוסף. למידע נוסף על התמחור של GKE Autopilot, קראו את הקטע "מצב אוטומטי" במאמר התמחור של Google Kubernetes Engine.

המאמרים הבאים