הגדרת מדיניות ניסיון חוזר מאפשרת לשלוח מחדש אירועים באופן אוטומטי אחרי כשלים בשליחה. כך אפשר להבטיח עיבוד מהימן של הודעות כשמקבלים אירועים חווים שיבושים זמניים בשירות.
אירוע יכול להידחות בגלל שגיאות זמניות, למשל אם מקבל האירוע לא זמין באופן זמני, נתקל בשגיאה במהלך העיבוד של האירוע או שנגמרו לו משאבי השירות. אפשר לנסות שוב שגיאות זמניות באופן הבא. לעומת זאת, שגיאות מתמשכות מתרחשות כשאירוע לא תואם לסכימה שהוגדרה או כשגישור נכשל לפני שההודעה יכולה להיות מנותבת ליעד שלה.
שגיאות זמניות
Eventarc Advanced מאפשר לכם לטפל בשגיאות זמניות. אפשר לנסות שוב לבצע פעולות שנתקלו בשגיאות זמניות, כולל שגיאות עם קודי השגיאה הבאים:
- HTTP
408 Request Timeout - HTTP
409 Conflict - HTTP
429 Too Many Requests - HTTP
500 Internal Server Error - HTTP
502 Bad Gateway - HTTP
503 Service Unavailable - HTTP
504 Gateway Time-out
שגיאות מתמשכות
בניגוד לשגיאות חולפות, שגיאות קבועות כוללות את הדברים הבאים:
- שגיאות שמתרחשות כשמספר הניסיונות החוזרים שהוגדר מוצה
- שגיאות שמתרחשות כשאירוע נכשל לפני שהוא מנותב ליעד שלו
- שגיאות שמובילות לקוד שגיאה שלא ניתן לנסות שוב; לדוגמה, קודי שגיאה אחרים מאלה שמופיעים ברשימה של שגיאות זמניות
אתם יכולים לזהות ידנית שגיאות חוזרות ולטפל בהן בצורה מתאימה.
ניסיון חוזר לתיקון שגיאות זמניות
ב-Eventarc Advanced נעשה שימוש בהשהיה מעריכית לפני ניסיון חוזר כדי לטפל בשגיאות שאפשר לנסות שוב. מדיניות ברירת המחדל לניסיון חוזר מתחילה בעיכוב של שנייה אחת, והעיכוב מוכפל אחרי כל ניסיון שנכשל (עד מקסימום של 60 שניות וחמישה ניסיונות).
אפשר לשנות את מדיניות ברירת המחדל לניסיון חוזר באמצעות מסוף Google Cloud או הפקודה gcloud eventarc pipelines update.
שימו לב שאי אפשר לשנות את מקדם ההשהיה (backoff) שמוגדר כברירת מחדל 2.
המסוף
במסוף Google Cloud , נכנסים לדף Eventarc > Pipelines.
לוחצים על שם הצינור.
בדף פרטי צינור, לוחצים על עריכה.
בדף עריכת צינור, בקטע מדיניות ניסיון חוזר, משנים את השדות הבאים:
- מספר ניסיונות מקסימלי: מספר ניסיונות המסירה. ברירת המחדל היא
5ניסיונות. יכול להיות כל מספר שלם חיובי. אם הערך הוא1, לא מוחלת מדיניות ניסיון חוזר ומתבצע רק ניסיון אחד למסירת ההודעה. - השהיה מינימלית (בשניות): ההשהיה הראשונית בשניות. ברירת המחדל היא
1שניות. הערך חייב להיות בין1ל-600. - השהיה מקסימלית (בשניות): ההשהיה המקסימלית בשניות. ברירת המחדל היא
60שניות. הערך חייב להיות בין1ל-600.
כדי להגדיר נסיגה לינארית, צריך להגדיר את הערך של העיכוב המינימלי והעיכוב המקסימלי לאותו ערך.
- מספר ניסיונות מקסימלי: מספר ניסיונות המסירה. ברירת המחדל היא
לוחצים על Save.
gcloud
gcloud eventarc pipelines update PIPELINE_NAME \
--min-retry-delay=MIN_DELAY \
--max-retry-delay=MAX_DELAY \
--max-retry-attempts=MAX_ATTEMPTS
מחליפים את מה שכתוב בשדות הבאים:
-
PIPELINE_NAME: המזהה או המזהה המוגדר במלואו של הצינור. -
MIN_DELAY: העיכוב הראשוני בשניות. ברירת המחדל היא1שניות. הערך חייב להיות בין1ל-600. -
MAX_DELAY: ההשהיה המקסימלית בשניות. ברירת המחדל היא60שניות. הערך חייב להיות בין1ל-600. -
MAX_ATTEMPTS: מספר ניסיונות המסירה; ברירת המחדל היא5ניסיונות. יכול להיות כל מספר שלם חיובי. אם המדיניות מוגדרת לערך1, לא מוחלת מדיניות ניסיון חוזר ומתבצע רק ניסיון אחד למסירת הודעה.
בדוגמה הבאה מוגדרת נסיגה לינארית על ידי הגדרת הערכים המינימליים והמקסימליים של ההשהיות לאותו ערך:
gcloud eventarc pipelines update my-pipeline \
--min-retry-delay=4 \
--max-retry-delay=4 \
--max-retry-attempts=5
העברה לארכיון של הודעות כדי לטפל בשגיאות חוזרות
אתם יכולים לכתוב הודעות לטבלה ב-BigQuery כשהן מתקבלות. כך תוכלו לזהות שגיאות באופן ידני ולטפל בהן בהתאם.
בהמשך מפורטים השלבים שצריך לבצע כדי לארכב את הודעות האירועים, לזהות שגיאות חוזרות ולנסות שוב את האירועים המושפעים.
- יצירת אפיק. מגדירים את ה-bus בהתאם לצורך, למשל כדי לפרסם אירועים ממקורות של Google.
- יצירת נושא Pub/Sub נושא ה-Pub/Sub הזה יהיה יעד היעד של צינור הנתונים.
- יוצרים מינוי ל-BigQuery לנושא Pub/Sub. מינוי ל-BigQuery הוא סוג של מינוי לייצוא שכותב הודעות לטבלה קיימת ב-BigQuery כשהן מתקבלות. אפשרות אחרת היא ליצור את הטבלה כשיוצרים את המינוי ל-BigQuery.
יוצרים צינור עיבוד נתונים ורישום שמנתב כל הודעה שמתקבלת באפיק (באמצעות
--cel-match="true") לנושא Pub/Sub. מגדירים מדיניות ניסיון חוזר לצינור עיבוד הנתונים.לדוגמה, הפקודות הבאות יוצרות צינור ורישום:
gcloud eventarc pipelines create my-archive-pipeline \ --destinations=pubsub_topic='my-archive-topic' \ --min-retry-delay=1 \ --max-retry-delay=20 \ --max-retry-attempts=6 \ --location=us-central1gcloud eventarc enrollments create my-archive-enrollment \ --cel-match="true" \ --destination-pipeline=my-archive-pipeline \ --message-bus=my-message-bus \ --message-bus-project=my-google-cloud-project \ --location=us-central1העברת יומני צינורות למערך נתונים אחר ב-BigQuery.
עכשיו אמורים להיות לכם שני מערכי נתונים נפרדים ב-BigQuery: אחד לאחסון כל ההודעות שמתקבלות באפיק (bus) של Eventarc Advanced, ואחד לאחסון יומני הפייפליין.
כדי לזהות הודעות שנכשלו, משתמשים בהצהרת שאילתה כדי לצרף את שני מערכי הנתונים ב-BigQuery בשדה
message_uid.אחרי שמזהים את ההודעות שנכשלו, אפשר לפרסם אותן שוב באוטובוס באמצעות Eventarc Publishing API. לדוגמה, אתם יכולים לפרוס שירות או משימה של Cloud Run כדי לקרוא את ההודעות מ-BigQuery ולפרסם אותן ישירות באוטובוס המתקדם של Eventarc.
הפיכת הגורמים שמטפלים באירועים לאידמפוטנטיים
הגורמים שמטפלים באירועים שאפשר לנסות שוב צריכים להיות אידמפוטנטיים, בהתאם להנחיות הכלליות הבאות:
- הרבה ממשקי API חיצוניים מאפשרים לספק מפתח אידמפוטנטיות כפרמטר. אם אתם משתמשים ב-API כזה, עליכם להשתמש במקור האירוע ובמזהה שלו כמפתח האידמפוטנטיות. (המפיקים צריכים לוודא שכל אירוע שונה כולל מקור + מזהה ייחודיים).
- בנוסף, אפשר להשתמש במאפיין CloudEvents,
xgooglemessageuid, כדי לספק אידמפוטנטיות. הערך של המאפיין הזה זהה לערך בשדהmessage_uidבהודעות Eventarc Advanced. הוא מזהה באופן ייחודי את הפעולה של פרסום אירוע. לדוגמה, אם אותו אירוע מתפרסם פעמיים באפיק (bus), לכל אירוע יהיה ערךxgooglemessageuidשונה כשהוא נשלח לגורם מטפל באירועים. - אידמפוטנטיות פועלת היטב עם מסירה אחת לפחות, כי היא מאפשרת ניסיון חוזר בבטחה. לכן, שיטה מומלצת כללית לכתיבת קוד אמין היא לשלב בין אידמפוטנטיות לבין ניסיונות חוזרים.
- חשוב לוודא שהקוד הוא אידמפוטנטי באופן פנימי. לדוגמה:
- מוודאים שהמוטציות יכולות לקרות יותר מפעם אחת בלי לשנות את התוצאה.
- שליחת שאילתה למצב מסד הנתונים בעסקה לפני שינוי המצב.
- חשוב לוודא שכל תופעות הלוואי הן אידמפוטנטיות.
- להטיל בדיקה טרנזקציונלית מחוץ לשירות, ללא קשר לקוד. לדוגמה, אפשר לשמור את הסטטוס במקום כלשהו שבו מתועד שמזהה אירוע מסוים כבר עבר עיבוד.
- טיפול בשיחות כפולות מחוץ לפס. לדוגמה, אפשר להגדיר תהליך ניקוי נפרד שמנקה אחרי שיחות כפולות.