מדדי משימות ב-Dataflow

‫Dataflow אוסף מדדים לגבי המשימות שלכם, שיכולים לעזור לכם לנפות באגים, לפתור בעיות בביצועים או לבצע אופטימיזציה של צינור עיבוד הנתונים. בממשק המעקב של Dataflow מוצגות המחשות של המדדים האלה. אפשר גם להשתמש ב-Cloud Monitoring כדי ליצור התראות או שאילתות ב-Metrics Explorer.

גישה למדדי משימות

כדי לראות את מדדי המשימה של משימה מסוימת:

  1. במסוף Google Cloud , נכנסים לדף Dataflow‏ > ‏Jobs.

    מעבר לדף Jobs

  2. בוחרים משימה.

  3. לוחצים על הכרטיסייה Job metrics.

  4. בוחרים מדד שרוצים לראות.

  5. כדי לגשת למידע נוסף בתרשימי המדדים של המשימה, לוחצים על Explore data.

כל מדד מאורגן בלוחות הבקרה הבאים:

לרשימה המלאה של מדדי Dataflow, ראו מדדיGoogle Cloud .

תמיכה ומגבלות

כשמשתמשים במדדי Dataflow, חשוב לשים לב לפרטים הבאים.

  • לפעמים נתוני המשרות לא זמינים לסירוגין. כשחסרים נתונים, מופיעים רווחים בתרשימים של מעקב אחרי משימות.

  • חלק מהתרשימים האלה ספציפיים לפייפליינים זורמים.

  • כדי לכתוב נתוני מדדים, לחשבון שירות בניהול המשתמש צריכה להיות הרשאת ה-API של IAM‏ monitoring.timeSeries.create. ההרשאה הזו כלולה בתפקיד של עובד Dataflow.

  • שירות Dataflow מדווח על זמן המעבד (CPU) השמור אחרי שהמשימות מסתיימות. במשימות ללא גבולות (סטרימינג), זמן המעבד (CPU) השמור מדווח רק אחרי שהמשימות מבוטלות או נכשלות. לכן, מדדי המשימה לא כוללים את זמן המעבד (CPU) שהוקצה למשימות סטרימינג.

מדדים של התאמה אוטומטית לעומס (Autoscaling)

התאמה אוטומטית לעומס (autoscaling) אופקית מאפשרת ל-Dataflow לבחור את המספר המתאים של worker instances למשימה, ולהוסיף או להסיר worker instances לפי הצורך.

בקטע Autoscaling בכרטיסייה Job metrics מוצג מספר ה-workers ומספר היעד של ה-workers לאורך זמן. אם המשימה משתמשת ב-Streaming Engine, מוצג גם המספר המינימלי והמקסימלי של ה-workers.

תצוגה חזותית של נתונים שמראה את מספר ה-workers בצינור עיבוד נתונים.

כדי לראות את היסטוריית השינויים של ההתאמה האוטומטית לעומס, לוחצים על More history. מוצגת טבלה עם מידע על היסטוריית ה-worker של המשימה.

טבלה שבה מוצגת ההיסטוריה של ה-worker של צינור עיבוד נתונים.

כדי לראות מידע נוסף על התאמה אוטומטית לעומס של משימות סטרימינג, לוחצים על הכרטיסייה Autoscaling. מידע נוסף זמין במאמר מעקב אחרי התאמה אוטומטית לעומס ב-Dataflow.

מדדי סקירה כללית

המדדים הבאים מופיעים בקטע מדדים בסקירה הכללית.

עדכניות הנתונים

המדד הזה רלוונטי רק למשימות סטרימינג.

עדכניות הנתונים היא ההפרש בין הזמן שבו רכיב נתונים מעובד (זמן העיבוד) לבין חותמת הזמן של רכיב הנתונים (זמן האירוע). ערכים גבוהים יותר מציינים שהיה עיכוב ארוך יותר בין זמן האירוע לזמן העיבוד.

בתרשים עדכניות הנתונים מוצג הערך המקסימלי של עדכניות הנתונים בכל נקודת זמן. ‫Dataflow מעבד כמה רכיבים במקביל, כך שהתרשים משקף את הרכיב עם העיכוב הגדול ביותר ביחס לזמן האירוע שלו.

אם חלק מנתוני הקלט עדיין לא עובדו, יכול להיות שסימן המים של הפלט יתעכב, וזה ישפיע על עדכניות הנתונים. הבדל משמעותי בין זמן סימן המים לזמן האירוע עשוי להצביע על פעולה איטית או תקועה. למידע נוסף, קראו על סימני מים ונתונים מאוחרים במסמכי התיעוד של Apache Beam.

מרכז הבקרה כולל את שני התרשימים הבאים:

  • עדכניות הנתונים לפי שלבים
  • עדכניות הנתונים

בתמונה הבאה, האזור המודגש מראה הבדל גדול בין זמן האירוע לבין זמן סימן המים של הפלט, מה שמעיד על פעולה איטית.

תצוגה חזותית של עדכניות הנתונים בפייפליין זורם.

הבעיות הבאות עלולות לגרום לערכים גבוהים במדד הזה:

  • צווארי בקבוק בביצועים: אם בצינור עיבוד הנתונים יש שלבים עם זמן אחזור ארוך במערכת או יומנים שמצביעים על טרנספורמציות תקועות, יכול להיות שיש בצינור עיבוד הנתונים בעיות בביצועים שעלולות להגדיל את עדכניות הנתונים. כדי לבדוק את הבעיה לעומק, קראו את המאמר פתרון בעיות של משימות סטרימינג איטיות או תקועות.
  • צווארי בקבוק במקורות הנתונים: אם יש במקורות הנתונים צבר הולך וגדל של משימות, חותמות הזמן של האירועים של הרכיבים עשויות להיות שונות מהסימן, בזמן שהם ממתינים לעיבוד. צבר גדול של משימות נגרם בדרך כלל בגלל צווארי בקבוק בביצועים או בעיות במקור הנתונים. הדרך הכי טובה לזהות את הבעיות האלה היא לעקוב אחרי המקורות שמשמשים את צינור עיבוד הנתונים.
    • מקורות לא מסודרים כמו Pub/Sub יכולים ליצור סימני מים תקועים גם כשהם פועלים בקצב גבוה. המצב הזה קורה כי הרכיבים לא מופקים לפי סדר חותמות הזמן, וסימן המים מבוסס על חותמת הזמן המינימלית שלא עברה עיבוד.
  • ניסיונות חוזרים תכופים: אם אתם רואים שגיאות שמעידות על כך שרכיבים נכשלו בעיבוד ומתבצעים ניסיונות חוזרים, יכול להיות שחותמות זמן ישנות יותר מרכיבים שמתבצעים לגביהם ניסיונות חוזרים מגדילות את עדכניות הנתונים. רשימת השגיאות הנפוצות ב-Dataflow יכולה לעזור לכם לפתור בעיות.

אם מפעילים את ההתקדמות המהירה של סימן המים במשימה, Dataflow מדווח גם על המדדים הבאים לכל שלב ב-Metrics Explorer:

  • ‫job/per_stage_data_watermark_age_with_late_data: מה היה גיל סימן המים של נתוני השלב אם ההתקדמות המהירה של סימן המים הייתה מושבתת.
  • ‫job/per_stage_oldest_pending_element_age: הגיל של הרכיב הכי ישן שממתין בשלב או לפניו, כולל רשומות שהתעכבו.

מידע נוסף זמין במאמר מעקב אחרי התקדמות מהירה של סימן מים.

במשימות סטרימינג שעודכנו לאחרונה, יכול להיות שמידע על מצב המשימה ועל סימן המים לא יהיה זמין. פעולת העדכון מבצעת כמה שינויים, וצריך להמתין כמה דקות עד שהם יתעדכנו בממשק המעקב של Dataflow. נסו לרענן את ממשק המעקב חמש דקות אחרי עדכון המשימה.

זמן האחזור של המערכת

המדד הזה רלוונטי רק למשימות סטרימינג.

זמן האחזור של המערכת הוא מספר השניות המקסימלי הנוכחי שבו פריט נתונים עבר עיבוד או המתין לעיבוד. המדד כולל את משך הזמן שבו אלמנטים ממתינים בתוך מקור. לדוגמה, אם יעד פלט מפסיק לקבל בקשות כתיבה לפרק זמן מסוים, יכול להיות שהנתונים יצטברו במקור, מה שיגרום לעלייה בזמן האחזור של המערכת. אם פעולות הכתיבה מתחדשות והצינור מצליח להדביק את הפער, זמן האחזור של המערכת חוזר לרמת הבסיס שלו.

במקרים הבאים יש שיקולים נוספים:

  • במקורות ובכיורים מרובים, זמן האחזור של המערכת הוא משך הזמן המקסימלי שבו רכיב ממתין בתוך מקור לפני שהוא נכתב בכל הכיורים.
  • לפעמים, מקור לא מספק ערך לתקופה שבה רכיב ממתין בתוך המקור. בנוסף, יכול להיות שלרכיב אין מטא-נתונים שמגדירים את זמן האירוע שלו. בתרחיש הזה, זמן האחזור של המערכת מחושב מהרגע שבו הצינור מקבל את הרכיב בפעם הראשונה.

מרכז הבקרה כולל את שני התרשימים הבאים:

  • זמן האחזור של המערכת לפי שלבים
  • זמן האחזור של המערכת

תצוגה חזותית של נתונים שמראה את זמן האחזור של המערכת בפייפליין זורם.

תפוקה

קצב העברת הנתונים הוא נפח הנתונים שעוברים עיבוד בכל נקודת זמן. מרכז הבקרה כולל את התרשימים הבאים:

  • קצב העיבוד בכל שלב, באלמנטים לשנייה
  • קצב העברת הנתונים בכל שלב בבייטים לשנייה

תרשים שמציג את קצב העיבוד של ארבעה שלבים בצינור עיבוד נתונים.

מספר השגיאות ביומן של ה-worker

התרשים Worker error log count מציג את שיעור השגיאות שנצפו בכל ה-workers בכל נקודת זמן.

סיכום של כל שגיאה שתועדה ביומן ומספר הפעמים שהיא התרחשה.

מדדי סטרימינג

המדדים הבאים מופיעים בקטע מדדי סטרימינג.

צבר הזמנות

המדד הזה רלוונטי רק למשימות סטרימינג.

בלוח הבקרה Backlog מוצג מידע על רכיבים שממתינים לעיבוד. מרכז הבקרה כולל את שני התרשימים הבאים:

  • שניות של צבר משימות (מנוע סטרימינג בלבד)
  • בייטים בצבר המשימות (עם ובלי Streaming Engine)

בתרשים Backlog seconds מוצג אומדן של משך הזמן בשניות שנדרש כדי לצרוך את ה-backlog הנוכחי, אם לא מגיעים נתונים חדשים והתפוקה לא משתנה. הזמן המשוער של צבר המשימות מחושב לפי קצב העיבוד והבייטים של צבר המשימות ממקור הקלט שעדיין צריך לעבד. התכונה שינוי קנה מידה אוטומטי של סטרימינג משתמשת במדד הזה כדי לקבוע מתי להגדיל או להקטין את קנה המידה.

תרשים של שניות בצבר המשימות בפייפליין זורם.

בתרשים Backlog bytes מוצגת כמות הקלט הידוע שלא עבר עיבוד בשלב מסוים, בבייטים. המדד הזה משווה בין הבייטים שנותרו לצריכה בכל שלב לבין השלבים הקודמים. כדי שהמדד הזה ידווח בצורה מדויקת, כל מקור שמוטמע על ידי צינור עיבוד הנתונים צריך להיות מוגדר בצורה נכונה. מקורות מובנים כמו Pub/Sub ו-BigQuery כבר נתמכים, אבל מקורות בהתאמה אישית דורשים הטמעה נוספת. פרטים נוספים זמינים במאמר התאמה אוטומטית לעומס (autoscaling) של מקורות לא מוגבלים בהתאמה אישית.

תרשים של נתונים שמציג את הבייטים של ה-backlog בפייפליין זורם.

בטיפול

המדד הזה רלוונטי רק למשימות סטרימינג.

כשמריצים צינור עיבוד נתונים של Apache Beam בשירות Dataflow, המשימות של צינור עיבוד הנתונים פועלות במכונות וירטואליות של Worker. בלוח הבקרה Processing מוצג משך הזמן שבו המשימות עובדו במכונות הווירטואליות של ה-worker. מרכז הבקרה כולל את שני התרשימים הבאים:

  • מפת חום של זמני האחזור של עיבוד נתוני משתמשים
  • זמני האחזור של עיבוד נתוני המשתמשים לפי שלב

במפת החום של זמני האחזור של עיבוד המשתמשים מוצגים זמני האחזור המקסימליים של הפעולות בהתפלגות של האחוזונים ה-50, ה-95 וה-99. אפשר להשתמש במפת החום כדי לבדוק אם פעולות "זנב ארוך" גורמות לזמן אחזור גבוה במערכת או משפיעות לרעה על עדכניות הנתונים הכוללת.

כדי לפתור בעיה במעלה הזרם לפני שהיא הופכת לבעיה במורד הזרם, הגדירו מדיניות התראה על זמני אחזור גבוהים באחוזון ה-50.

תרשים חום של זמן האחזור של עיבוד נתוני המשתמשים בצינור עיבוד נתונים בסטרימינג.

בתרשים User processing latencies by stage מוצג האחוזון ה-99 של כל המשימות שה-workers מעבדים, בחלוקה לפי שלב. אם קוד המשתמש גורם לצוואר בקבוק, התרשים הזה מראה באיזה שלב נמצא צוואר הבקבוק. כדי לנפות באגים בצינור עיבוד הנתונים, אפשר לבצע את השלבים הבאים:

  1. אפשר להשתמש בתרשים כדי למצוא שלב עם זמן אחזור ארוך באופן חריג.

  2. בדף פרטי המשימה, בכרטיסייה Execution details, בוחרים באפשרות Stage workflow בשדה Graph view. בתרשים Stage workflow, מאתרים את השלב שבו זמן האחזור גבוה באופן חריג.

  3. כדי למצוא את פעולות המשתמש המשויכות, לוחצים על הצומת של השלב הזה בתרשים.

  4. כדי למצוא פרטים נוספים, עוברים אל Cloud Profiler ומשתמשים בו כדי לנפות באגים בדוח הקריסות בטווח התאריכים הנכון. מחפשים את פעולות המשתמשים שזיהיתם בשלב הקודם.

תרשים של עיבוד נתונים חזותי שמציג את זמני האחזור של עיבוד המשתמשים לפי שלב בפייפליין זורם.

הזמן בכל מצב של פריט עבודה פעיל

המדד הזה רלוונטי רק למשימות סטרימינג.

המדד Time per active work item state (worker/time_per_active_work_item_state) מספק מידע על זמן האחזור בשלבים העיקריים של מחזור החיים של פריט העבודה. בניגוד למדדים מצטברים ברמה גבוהה, ההערכה הזו מאפשרת לשייך במדויק את זמן האחזור על ידי פירוק זמני האחזור ברמת השלב לשלבים נפרדים. לדוגמה, אפשר לבדוק את זמן האחזור לפי שלבים כמו אחזור נתונים (READ), הרצת קוד משתמש (ACTIVE) ושמירת מצב (COMMIT).

תמיכה בגרסת Runner

המדד נתמך באופן מלא ב-Streaming Java Runner, אבל נתמך באופן חלקי ב-Portable Runner.

בטבלה הבאה מפורטים מצבי זמן האחזור והתמיכה בהם לפי מריץ.

מצב זמן האחזור תמיכה ב-Streaming Java Runner תמיכה ב-Portable Runner
GET_WORK נתמך לא נתמך
QUEUED נתמך נתמך
ACTIVE נתמך נתמך
READ נתמך נתמך
COMMIT נתמך נתמך

הגדרות של מצבי זמן אחזור ופתרון בעיות

בקטעים הבאים מוגדר כל מצב של זמן אחזור, ומופיע מידע על פתרון בעיות.

GET_WORK

  • זה הזמן שלוקח ל-worker של המשתמש לבקש פריטי עבודה, ול-backend של Dataflow להקצות ולשלוח אותם.
  • בשלבי ETL רגילים, זמן יציב של 0-1 שניות מצביע על חיבור תקין. הערכים בפועל משתנים בהתאם למורכבות של עומס העבודה ולנפח הנתונים.

QUEUED

  • זהו משך הזמן שפריט עבודה נמצא במאגר הנתונים הזמני המקומי של ה-worker לפני ששרשור זמין לעיבוד.
  • אם זמני האחזור של QUEUED חורגים משנייה אחת, העבודה מגיעה מהר יותר מהקצב שבו ה-threads יכולים לעבד אותה. בשלבי ETL רגילים, זמני אחזור של פחות משנייה נחשבים תקינים. הערכים בפועל משתנים בהתאם למורכבות של עומס העבודה ולנפח הנתונים.

ACTIVE

  • זה הזמן שנדרש להרצת קוד DoFn.
  • זמן האחזור של ACTIVE מתייחס לזמן שנדרש לעיבוד חבילה של רכיבים, ולא רכיב בודד.
  • עליות פתאומיות בערך זמן האחזור הזה עשויות להצביע על ויסות נתונים על ידי קריאות RPC חיצוניות או על מקרי קצה שדורשים משאבי מחשוב רבים. משתמשים במדדי DoFn כדי לזהות את הDoFns הספציפי שגורם לעיכוב.

READ

  • זהו משך הזמן שנדרש לאחזור נתונים, כולל קריאות מצב מפורשות וקריאות משתמעות במהלך פעולת GroupByKey.
  • זמן READ ארוך נגרם בדרך כלל מקריאות גדולות במפתח יחיד. כדי להימנע מחסימת שרשורים, כדאי לבדוק את דפוסי הגישה למצב או להשתמש במצב ובטיימרים.

COMMIT

  • זה הזמן שלוקח לשלוח תוצאות (עדכוני מצב ורכיבי פלט) לקצה העורפי של Dataflow ולקבל אישור.
  • זמן COMMIT ארוך נגרם בדרך כלל מכתיבת מטען ייעודי (payload) גדול או מעדכון של אובייקטים גדולים של מצב. בודקים אם יש מפתחות חמים באמצעות סטטוס צוואר הבקבוק.

מקביליות

המדד הזה רלוונטי רק למשימות של Streaming Engine.

בתרשים Parallel processing מוצג המספר המשוער של המפתחות שמשמשים לעיבוד נתונים בכל שלב. ‫Dataflow משתנה בהתאם למקביליות של צינור עיבוד הנתונים.

כש-Dataflow מריץ צינור עיבוד נתונים, העיבוד מופץ בין כמה מכונות וירטואליות (VM) של Compute Engine, שנקראות גם "רכיבי worker". שירות Dataflow מבצע באופן אוטומטי הקבלה והפצה של לוגיקת העיבוד בצינור עיבוד הנתונים ל-workers. העיבוד של כל מפתח נתון מתבצע בסדרה, כך שהמספר הכולל של המפתחות בשלב מסוים מייצג את המקביליות המקסימלית הזמינה באותו שלב.

מדדי המקביליות יכולים לעזור לכם למצוא מפתחות חמים או צווארי בקבוק בצינורות עיבוד נתונים איטיים או תקועים.

תרשים של עיבוד מקביל בפייפליין זורם.

התמדה

המדד הזה רלוונטי רק למשימות סטרימינג.

בלוח הבקרה Persistence מוצג מידע על הקצב שבו מתבצעת כתיבה וקריאה של אחסון מתמיד בשלב מסוים בצינור עיבוד הנתונים, בבייטים לשנייה. הבייטים שנקראו ונכתבו כוללים פעולות של מצב משתמש ומצב של ערבובים מתמידים, הסרת כפילויות, קלט צדדי ומעקב אחרי סימני מים. מקודדי צינור עיבוד הנתונים והשמירה במטמון משפיעים על הבייטים שנקראים ונכתבים. יכול להיות שיהיה הבדל בין מספר הבייטים באחסון לבין מספר הבייטים שעובדו, בגלל השימוש באחסון הפנימי ובמטמון.

מרכז הבקרה כולל את שני התרשימים הבאים:

  • כתיבה באחסון
  • קריאת נתוני האחסון

תרשים של כתיבה לאחסון של פייפליין זורם.

כפילויות

המדד הזה רלוונטי רק למשימות סטרימינג.

בתרשים Duplicates (כפילויות) מוצג מספר ההודעות שעובדו בשלב מסוים וסוננו ככפילויות. ‫Dataflow תומך בהרבה מקורות וכיורים שמבטיחים העברה של at least once. החיסרון של מסירה at least once הוא שהיא עלולה לגרום לכפילויות. ‫Dataflow משתמש במסירה exactly once, כלומר כפילויות מסוננות באופן אוטומטי. השלבים הבאים בתהליך לא צריכים לעבד מחדש את אותם רכיבים, וכך המצב והפלט לא מושפעים. כדי לבצע אופטימיזציה של המשאבים והביצועים של צינור עיבוד הנתונים, אפשר לצמצם את מספר הכפילויות שנוצרות בכל שלב.

תרשים כפילויות בפייפליין זורם.

טיימרים

המדד הזה רלוונטי רק למשימות סטרימינג.

בלוח הבקרה Timers מוצג מידע על מספר הטיימרים בהמתנה ומספר הטיימרים שכבר עובדו בשלב מסוים בצינור עיבוד הנתונים. חלונות מסתמכים על טיימרים, ולכן המדד הזה מאפשר לעקוב אחרי ההתקדמות של החלונות.

מרכז הבקרה כולל את שני התרשימים הבאים:

  • טיימרים בהמתנה לפי שלב
  • עיבוד הטיימרים לפי שלב

התרשימים האלה מראים את קצב ההמתנה או העיבוד של החלונות בנקודת זמן מסוימת. בתרשים Timers pending by stage מוצג מספר החלונות שמתעכבים בגלל צווארי בקבוק. בתרשים Timers processing by stage אפשר לראות כמה חלונות אוספים רכיבים.

בתרשימים האלה מוצגים כל הטיימרים של המשימות, כך שאם נעשה שימוש בטיימרים במקום אחר בקוד, הם יופיעו גם בתרשימים האלה.

תצוגה חזותית של נתונים שמראה את מספר הטיימרים בהמתנה בשלב מסוים.

תצוגה חזותית של נתונים שמראה את מספר הטיימרים שכבר עובדו בשלב מסוים.

מדדי משאבים

המדדים הבאים מופיעים בקטע Resource metrics.

ניצול יחידת העיבוד המרכזית (CPU)

ניצול המעבד (CPU) הוא כמות המעבד שנעשה בה שימוש חלקי כמות המעבד שזמינה לעיבוד. המדד הזה מוצג באחוזים לכל עובד. מרכז הבקרה כולל את ארבעת התרשימים הבאים:

  • ניצול המעבד (כל העובדים)
  • ניצול המעבד (נתונים סטטיסטיים)
  • ניצול המעבד (CPU) (4 המובילים)
  • ניצול המעבד (CPU) (4 הנמוכים ביותר)

הדמיית נתונים באנימציה שמראה את ניצול ה-CPU של וורקר אחד ב-Dataflow.

שימוש בזיכרון

ניצול הזיכרון הוא הכמות המשוערת של הזיכרון שמשמש את ה-workers, בבייטים לשנייה. מרכז הבקרה כולל את שני התרשימים הבאים:

  • ניצול הזיכרון המקסימלי של ה-worker (מספר משוער של בייטים לשנייה)
  • ניצול הזיכרון (בייטים משוערים לשנייה)

בתרשים Max worker memory utilization מוצג מידע על ה-workers שמשתמשים בהכי הרבה ניצול זיכרון ב-Dataflow בכל נקודת זמן. אם בנקודות שונות במהלך העבודה, ה-worker שמשתמש בכמות הזיכרון המקסימלית משתנה, אותו קו בתרשים מציג נתונים של כמה workers. כל נקודה על הגרף מציגה נתונים של ה-worker שמשתמש בכמות הזיכרון המקסימלית באותו זמן. בתרשים מוצגת השוואה בין הזיכרון המשוער שבו משתמש ה-worker לבין מגבלת הזיכרון בבייטים.

אתם יכולים להשתמש בתרשים הזה כדי לפתור בעיות של מחסור בזיכרון (OOM). קריסות של Worker בגלל מחסור בזיכרון לא מוצגות בתרשים הזה.

בתרשים ניצול זיכרון מוצג אומדן של הזיכרון שבו משתמשים כל ה-workers במשימת Dataflow, בהשוואה למגבלת הזיכרון בבייטים.

מדדי קלט ופלט

אם משימת הסטרימינג ב-Dataflow קוראת או כותבת רשומות באמצעות Pub/Sub, בכרטיסייה Job metrics מוצגים מדדים של קריאות או כתיבות ב-Pub/Sub.

כל מדדי הקלט מאותו סוג משולבים, וגם כל מדדי הפלט משולבים. לדוגמה, כל המדדים של Pub/Sub מקובצים בקטע אחד. כל סוג של מדד מאורגן בקטע נפרד. כדי לשנות את המדדים שמוצגים, בוחרים בקטע שמימין את המדדים שרוצים לראות. בתמונות הבאות מוצגים כל הקטעים הזמינים.

תמונה לדוגמה שבה מוצגים הקטעים הנפרדים של הקלט והפלט של משימת Dataflow.

שני התרשימים הבאים מוצגים גם בקטע מדדי קלט וגם בקטע מדדי פלט.

סדרה של תרשימים שמציגים מדדי קלט ופלט של משימת Dataflow.

בקשות לשנייה

בקשות לשנייה הוא קצב בקשות ה-API לקריאה או לכתיבה של נתונים על ידי המקור או הכיור לאורך זמן. אם הקצב הזה יורד לאפס או יורד באופן משמעותי לתקופה ארוכה ביחס להתנהגות הצפויה, יכול להיות שהצינור חסום לביצוע פעולות מסוימות. יכול להיות גם שאין נתונים לקריאה. במקרה כזה, בדקו את שלבי המשימה שיש להם סימן מים גבוה של המערכת. בנוסף, כדאי לבדוק אם יש שגיאות או סימנים לעיבוד איטי ביומני ה-worker.

תרשים שמציג את מספר בקשות ה-API לקריאה או לכתיבה של נתונים לפי המקור או המקלט לאורך זמן.

שגיאות בתגובות לשנייה לפי סוג השגיאה

המדד "שגיאות בתגובה לשנייה לפי סוג השגיאה" מייצג את הקצב של בקשות ה-API שנכשלו בקריאה או בכתיבה של נתונים לפי המקור או המקלט לאורך זמן. אם שגיאות כאלה מתרחשות לעיתים קרובות, בקשות ה-API האלה עלולות להאט את העיבוד. צריך לבדוק את בקשות ה-API שנכשלו. כדי לפתור את הבעיות האלה, כדאי לעיין בקודי השגיאה הכלליים של קלט ופלט. כדאי גם לעיין במסמכי התיעוד הספציפיים של קודי השגיאה שבהם משתמשים המקור או המקלט, כמו קודי השגיאה של Pub/Sub.

תרשים שמציג את שיעור בקשות ה-API שנכשלו לקריאה או לכתיבה של נתונים לפי המקור או המקלט לאורך זמן.

למידע נוסף על תרחישים שבהם אפשר להשתמש במדדים האלה לצורך ניפוי באגים, קראו את המאמר כלים לניפוי באגים בקטע "פתרון בעיות של משימות איטיות או תקועות".

שימוש ב-Cloud Monitoring

‫Dataflow משולב באופן מלא ב-Cloud Monitoring. אתם יכולים להשתמש ב-Cloud Monitoring למשימות הבאות:

  • ליצור התראות כשהמשימה חורגת מסף שהוגדר על ידי המשתמש.
  • משתמשים ב-Metrics Explorer כדי ליצור שאילתות ולשנות את טווח הזמן של המדדים.
  • לצפות במדדים שלא מופיעים בממשק המעקב של Dataflow.

איך יוצרים התראות ומשתמשים ב-Metrics Explorer ב-Cloud Monitoring לצינורות עיבוד נתונים ב-Dataflow

לרשימה המלאה של מדדי Dataflow, קראו את Google Cloud מסמכי התיעוד של המדדים.

יצירת התראות ב-Cloud Monitoring

בעזרת Cloud Monitoring אתם יכולים ליצור התראות כשמשימת Dataflow חורגת מסף שהגדרתם. כדי ליצור מדיניות התראות ב-Cloud Monitoring מתרשים של מדדים, לוחצים על Create alerting policy.

אם אתם לא מצליחים לראות את תרשימי המעקב או ליצור התראות, יכול להיות שאתם צריכים הרשאות מעקב נוספות.

הצגה ב-Metrics Explorer

אתם יכולים לראות את תרשימי המדדים של Dataflow ב-Metrics Explorer, שבו אפשר ליצור שאילתות ולשנות את טווח הזמן של המדדים.

כדי לראות את התרשימים של Dataflow ב-Metrics Explorer, בתצוגה Job metrics פותחים את More chart options ולוחצים על View in Metrics Explorer.

כשמשנים את טווח הזמן של המדדים, אפשר לבחור משך זמן מוגדר מראש או מרווח זמן בהתאמה אישית כדי לנתח את המשימה.

כברירת מחדל, במשימות סטרימינג ובמשימות באצווה שפועלות, מוצגים המדדים של שש השעות האחרונות של המשימה. במשימות סטרימינג שהופסקו או הושלמו, כברירת מחדל מוצג כל זמן הריצה של המשימה.

מדדי קלט/פלט ב-Dataflow

ב-Metrics Explorer אפשר לראות את המדדים הבאים של Dataflow I/O:

מדדי DoFn

במשימות סטרימינג שמשתמשות ב-Streaming Engine ולא משתמשות ב-Portable Runner, אפשר לראות את המדדים הבאים לכל DoFns שמוגדר על ידי המשתמש:

  • ‫job/dofn_latency_average: הזמן הממוצע של עיבוד ההודעות של DoFn יחיד בחלון הזמן של 3 הדקות האחרונות, באלפיות השנייה.
  • ‫job/dofn_latency_max: משך הזמן המקסימלי לעיבוד הודעה ב-DoFn יחיד בחלון הזמן של 3 הדקות האחרונות, באלפיות השנייה.
  • ‫job/dofn_latency_min: משך הזמן המינימלי לעיבוד הודעה אחת של DoFn בחלון הזמן של 3 הדקות האחרונות, באלפיות השנייה.
  • ‫job/dofn_latency_num_messages: מספר ההודעות שעובדו על ידי DoFn יחיד ב-3 הדקות האחרונות.
  • ‫job/dofn_latency_total: זמן העיבוד הכולל של כל ההודעות ב-DoFn אחד בחלון הזמן של 3 הדקות האחרונות, באלפיות השנייה.
  • ‫job/oldest_active_message_age: משך הזמן שבו ההודעה הפעילה הישנה ביותר עובדה בתוך DoFn, באלפיות השנייה.

כדי להשתמש במדדים האלה, צריך להתקין את Apache Beam SDK בגרסה 2.53.0 ואילך. כדי לראות את המדדים האלה, צריך להשתמש ב-Metrics Explorer.

אתם יכולים להשתמש במדדים האלה כדי לזהות אילו DoFns תורמים הכי הרבה לזמן האחזור של העיבוד במשימות שלכם. לדוגמה, אם משימה נתקעה, אפשר להשתמש במדד job/oldest_active_message_age כדי למצוא את ה-DoFn עם ההודעה הפעילה הכי ישנה. בתמונה הבאה מוצג DoFn עם עלייה חדה במדד הזה:

תרשים שמציג DoFn עם חריגה בהודעה הפעילה הישנה ביותר.

כדי לראות את השם של DoFn, מעבירים את הסמן מעל לקו בתרשים.

המאמרים הבאים