סקירה כללית של ייצוא נתוני מעקב

בדף הזה מוסברת סקירה כללית של ייצוא נתוני מעקב באמצעות Cloud Trace. יכול להיות שתרצו לייצא נתוני מעקב מהסיבות הבאות:

  • כדי לאחסן נתוני מעקב לתקופה ארוכה יותר מתקופת השמירה שמוגדרת כברירת מחדל (30 יום).
  • כדי לאפשר לכם להשתמש בכלים של BigQuery לניתוח נתוני העקבות. לדוגמה, באמצעות BigQuery אפשר לזהות את מספר הטווחים ואת הכמויות. מידע על השאילתה ששימשה ליצירת הטבלה הבאה מופיע במאמר שאילתת HipsterShop.

    הצגת התשובה לשאילתה הקודמת.

איך פועל ייצוא

הייצוא כולל יצירה של יעד לפרויקט ב- Google Cloud . יעד מגדיר מערך נתונים ב-BigQuery כיעד.

אפשר ליצור יעד באמצעות Cloud Trace API או באמצעות Google Cloud CLI.

מאפיינים ומינוח של יעד

יעדים מוגדרים עבור פרויקט Google Cloud ויש להם את המאפיינים הבאים:

  • Name: שם של יעד. לדוגמה, שם יכול להיות:

    "projects/PROJECT_NUMBER/traceSinks/my-sink"
    

    כאשר PROJECT_NUMBER הוא מספר הפרויקט של יעד הנתונים, ו-my-sink הוא מזהה יעד הנתונים. Google Cloud

  • הורה: המשאב שבו יוצרים את מאגר הנתונים. ההורה חייב להיות פרויקט Google Cloud :

    "projects/PROJECT_ID"
    

    הערך PROJECT_ID יכול להיות מזהה או מספר של פרויקט. Google Cloud

  • יעד: מקום יחיד לשליחת טווחים של מעקב. ‫Trace תומך בייצוא של עקבות ל-BigQuery. יעד יכול להיות פרויקט של מאגר נתונים Google Cloud או כל פרויקט אחר Google Cloud באותו ארגון.

    לדוגמה, יעד תקין הוא:

    bigquery.googleapis.com/projects/DESTINATION_PROJECT_NUMBER/datasets/DATASET_ID
    

    DESTINATION_PROJECT_NUMBER הואGoogle Cloud מספר הפרויקט של היעד, ו-DATASET_ID הוא מזהה מערך הנתונים ב-BigQuery.

  • זהות הכותב: שם של חשבון שירות. הבעלים של יעד הייצוא צריך לתת לחשבון השירות הזה הרשאות כתיבה ליעד הייצוא. כשמייצאים עקבות, Trace משתמש בזהות הזו לצורך הרשאה. כדי להגביר את האבטחה, מאגרי נתונים חדשים מקבלים חשבון שירות ייחודי:

    export-PROJECT_NUMBER-GENERATED_VALUE@gcp-sa-cloud-trace.iam.gserviceaccount.com
    

    כאשר PROJECT_NUMBER הוא מספר הפרויקט בפורמט הקסדצימלי, ו-GENERATED_VALUE הוא ערך שנוצר באופן אקראי. Google Cloud

    אתם לא יוצרים, לא בבעלותכם ולא מנהלים את חשבון השירות שמזוהה על ידי זהות הכותב של יעד. כשיוצרים מאגר, Trace יוצר את חשבון השירות שנדרש למאגר. חשבון השירות הזה לא ייכלל ברשימת חשבונות השירות של הפרויקט עד שיהיה לו לפחות קישור אחד לניהול זהויות והרשאות גישה. אתם מוסיפים את הקישור הזה כשאתם מגדירים יעד של מאגר.

    מידע על שימוש בזהות הכותב זמין במאמר בנושא הרשאות יעד.

איך כיורים עובדים

בכל פעם שיחידה לוגית למעקב מגיעה לפרויקט, Trace מייצא עותק של היחידה הלוגית למעקב.

אי אפשר לייצא עקבות ש-Trace קיבל לפני שנוצר היעד.

בקרת גישה

כדי ליצור או לשנות יעד, צריך להיות לכם אחד מהתפקידים הבאים בניהול זהויות והרשאות גישה (IAM):

  • Trace Admin
  • מעקב אחרי משתמש
  • Project Owner
  • עריכת פרויקטים

מידע נוסף מופיע במאמר בקרת גישה.

כדי לייצא עקבות ליעד, לחשבון השירות של יעד הייצוא צריכות להיות הרשאות כתיבה ליעד. מידע נוסף על זהויות של כותבים זמין בקטע מאפייני יעד שבדף הזה.

מכסות ומגבלות

‫Cloud Trace משתמש ב-BigQuery streaming API כדי לשלוח את טווחי המעקב ליעד. ‫Cloud Trace מבצע קריאות ל-API בקבוצות. ב-Cloud Trace לא מוטמע מנגנון של ניסיונות חוזרים או של הגבלת קצב (throttling). יכול להיות שייצוא של טווחים של מעקב לא יצליח אם כמות הנתונים חורגת מהמכסות של היעד.

פרטים על המכסות והמגבלות ב-BigQuery זמינים במאמר מכסות ומגבלות.

תמחור

אין חיובים על ייצוא של מעקבים ב-Cloud Trace. עם זאת, יכול להיות שתצברו חיובים ב-BigQuery. מידע נוסף זמין במאמר תמחור ב-BigQuery.

אומדן העלויות

החיובים ב-BigQuery הם על הטמעת נתונים ואחסון. כדי לאמוד את העלויות החודשיות ב-BigQuery:

  1. הערכה של המספר הכולל של טווחי מעקב שנקלטים בחודש.

    מידע על צפייה בשימוש זמין במאמר צפייה בשימוש לפי חשבון לחיוב.

  2. אומדים את דרישות הסטרימינג על סמך מספר טווחי המעקב שנבלעו.

    כל יחידה לוגית למעקב נכתבת לשורה בטבלה. כל שורה ב-BigQuery צריכה להיות בגודל של לפחות 1,024 בייט. לכן, הגבול התחתון של הדרישות לסטרימינג ב-BigQuery הוא הקצאה של 1,024 בייטים לכל יחידה לוגית למעקב. לדוגמה, אם בפרויקט שלכם נבלעו 200 טווחים, הטווחים האלה דורשים לפחות 20,400 בייט להוספה באמצעות סטרימינג. Google Cloud

  3. כדי לחשב אומדנים של עלויות האחסון, הזנת זרם הנתונים והשאילתות ב-BigQuery, אפשר להשתמש במחשבון התמחור.

צפייה בשימוש ב-BigQuery וניהול שלו

אתם יכולים להשתמש ב'סייר המדדים' כדי לראות את השימוש שלכם ב-BigQuery. אפשר גם ליצור כללי מדיניות התראות שישלחו לכם התראה אם השימוש שלכם ב-BigQuery חורג ממגבלות שהוגדרו מראש. בטבלה הבאה מפורטות ההגדרות ליצירת מדיניות התראות. אתם יכולים להשתמש בהגדרות בטבלה של חלונית היעד כשיוצרים תרשים או כשמשתמשים בMetrics Explorer.

כדי ליצור מדיניות התראות שמופעלת כשמדדי BigQuery שהמערכת קולטת חורגים מרמה שהוגדרה על ידי המשתמש, צריך להשתמש בהגדרות הבאות.

תנאי חדש
שדה

ערך
משאב ומדד בתפריט Resources, בוחרים באפשרות BigQuery Dataset.
בתפריט Metric categories בוחרים באפשרות Storage.
בוחרים מדד מהתפריט מדדים. מדדים שקשורים ספציפית לשימוש כוללים את Stored bytes, Uploaded bytes ו-Uploaded bytes billed. רשימה מלאה של המדדים הזמינים מופיעה במאמר מדדים של BigQuery.
מסנן project_id: מזהה הפרויקט ב- Google Cloud .
dataset_id: מזהה מערך הנתונים.
בסדרות עיתיות
קיבוץ לפי סדרות עיתיות
dataset_id: מזהה מערך הנתונים.
בסדרות עיתיות
צבירה של סדרות עיתיות
sum
חלון נע 1 m
פונקציה אנליטית (window function) mean
הגדרת טריגר להתראה
שדה

ערך
סוג התנאי Threshold
טריגר להתראה Any time series violates
מיקום הסף Above threshold
ערך הסף אתם קובעים את הערך הקביל.
חלון הבדיקה מחדש 1 minute

המאמרים הבאים

הוראות להגדרת אובייקט מסוג sink מופיעות במאמר ייצוא של נתוני מעקב.