בדף הזה מוסברת סקירה כללית של ייצוא נתוני מעקב באמצעות Cloud Trace. יכול להיות שתרצו לייצא נתוני מעקב מהסיבות הבאות:
- כדי לאחסן נתוני מעקב לתקופה ארוכה יותר מתקופת השמירה שמוגדרת כברירת מחדל (30 יום).
כדי לאפשר לכם להשתמש בכלים של BigQuery לניתוח נתוני העקבות. לדוגמה, באמצעות BigQuery אפשר לזהות את מספר הטווחים ואת הכמויות. מידע על השאילתה ששימשה ליצירת הטבלה הבאה מופיע במאמר שאילתת HipsterShop.

איך פועל ייצוא
הייצוא כולל יצירה של יעד לפרויקט ב- Google Cloud . יעד מגדיר מערך נתונים ב-BigQuery כיעד.
אפשר ליצור יעד באמצעות Cloud Trace API או באמצעות Google Cloud CLI.
מאפיינים ומינוח של יעד
יעדים מוגדרים עבור פרויקט Google Cloud ויש להם את המאפיינים הבאים:
Name: שם של יעד. לדוגמה, שם יכול להיות:
"projects/PROJECT_NUMBER/traceSinks/my-sink"
כאשר
PROJECT_NUMBERהוא מספר הפרויקט של יעד הנתונים, ו-my-sinkהוא מזהה יעד הנתונים. Google Cloudהורה: המשאב שבו יוצרים את מאגר הנתונים. ההורה חייב להיות פרויקט Google Cloud :
"projects/PROJECT_ID"
הערך
PROJECT_IDיכול להיות מזהה או מספר של פרויקט. Google Cloudיעד: מקום יחיד לשליחת טווחים של מעקב. Trace תומך בייצוא של עקבות ל-BigQuery. יעד יכול להיות פרויקט של מאגר נתונים Google Cloud או כל פרויקט אחר Google Cloud באותו ארגון.
לדוגמה, יעד תקין הוא:
bigquery.googleapis.com/projects/DESTINATION_PROJECT_NUMBER/datasets/DATASET_ID
DESTINATION_PROJECT_NUMBERהואGoogle Cloud מספר הפרויקט של היעד, ו-DATASET_IDהוא מזהה מערך הנתונים ב-BigQuery.זהות הכותב: שם של חשבון שירות. הבעלים של יעד הייצוא צריך לתת לחשבון השירות הזה הרשאות כתיבה ליעד הייצוא. כשמייצאים עקבות, Trace משתמש בזהות הזו לצורך הרשאה. כדי להגביר את האבטחה, מאגרי נתונים חדשים מקבלים חשבון שירות ייחודי:
export-PROJECT_NUMBER-GENERATED_VALUE@gcp-sa-cloud-trace.iam.gserviceaccount.com
כאשר
PROJECT_NUMBERהוא מספר הפרויקט בפורמט הקסדצימלי, ו-GENERATED_VALUEהוא ערך שנוצר באופן אקראי. Google Cloudאתם לא יוצרים, לא בבעלותכם ולא מנהלים את חשבון השירות שמזוהה על ידי זהות הכותב של יעד. כשיוצרים מאגר, Trace יוצר את חשבון השירות שנדרש למאגר. חשבון השירות הזה לא ייכלל ברשימת חשבונות השירות של הפרויקט עד שיהיה לו לפחות קישור אחד לניהול זהויות והרשאות גישה. אתם מוסיפים את הקישור הזה כשאתם מגדירים יעד של מאגר.
מידע על שימוש בזהות הכותב זמין במאמר בנושא הרשאות יעד.
איך כיורים עובדים
בכל פעם שיחידה לוגית למעקב מגיעה לפרויקט, Trace מייצא עותק של היחידה הלוגית למעקב.
אי אפשר לייצא עקבות ש-Trace קיבל לפני שנוצר היעד.
בקרת גישה
כדי ליצור או לשנות יעד, צריך להיות לכם אחד מהתפקידים הבאים בניהול זהויות והרשאות גישה (IAM):
- Trace Admin
- מעקב אחרי משתמש
- Project Owner
- עריכת פרויקטים
מידע נוסף מופיע במאמר בקרת גישה.
כדי לייצא עקבות ליעד, לחשבון השירות של יעד הייצוא צריכות להיות הרשאות כתיבה ליעד. מידע נוסף על זהויות של כותבים זמין בקטע מאפייני יעד שבדף הזה.
מכסות ומגבלות
Cloud Trace משתמש ב-BigQuery streaming API כדי לשלוח את טווחי המעקב ליעד. Cloud Trace מבצע קריאות ל-API בקבוצות. ב-Cloud Trace לא מוטמע מנגנון של ניסיונות חוזרים או של הגבלת קצב (throttling). יכול להיות שייצוא של טווחים של מעקב לא יצליח אם כמות הנתונים חורגת מהמכסות של היעד.
פרטים על המכסות והמגבלות ב-BigQuery זמינים במאמר מכסות ומגבלות.
תמחור
אין חיובים על ייצוא של מעקבים ב-Cloud Trace. עם זאת, יכול להיות שתצברו חיובים ב-BigQuery. מידע נוסף זמין במאמר תמחור ב-BigQuery.
אומדן העלויות
החיובים ב-BigQuery הם על הטמעת נתונים ואחסון. כדי לאמוד את העלויות החודשיות ב-BigQuery:
הערכה של המספר הכולל של טווחי מעקב שנקלטים בחודש.
מידע על צפייה בשימוש זמין במאמר צפייה בשימוש לפי חשבון לחיוב.
אומדים את דרישות הסטרימינג על סמך מספר טווחי המעקב שנבלעו.
כל יחידה לוגית למעקב נכתבת לשורה בטבלה. כל שורה ב-BigQuery צריכה להיות בגודל של לפחות 1,024 בייט. לכן, הגבול התחתון של הדרישות לסטרימינג ב-BigQuery הוא הקצאה של 1,024 בייטים לכל יחידה לוגית למעקב. לדוגמה, אם בפרויקט שלכם נבלעו 200 טווחים, הטווחים האלה דורשים לפחות 20,400 בייט להוספה באמצעות סטרימינג. Google Cloud
כדי לחשב אומדנים של עלויות האחסון, הזנת זרם הנתונים והשאילתות ב-BigQuery, אפשר להשתמש במחשבון התמחור.
צפייה בשימוש ב-BigQuery וניהול שלו
אתם יכולים להשתמש ב'סייר המדדים' כדי לראות את השימוש שלכם ב-BigQuery. אפשר גם ליצור כללי מדיניות התראות שישלחו לכם התראה אם השימוש שלכם ב-BigQuery חורג ממגבלות שהוגדרו מראש. בטבלה הבאה מפורטות ההגדרות ליצירת מדיניות התראות. אתם יכולים להשתמש בהגדרות בטבלה של חלונית היעד כשיוצרים תרשים או כשמשתמשים בMetrics Explorer.
כדי ליצור מדיניות התראות שמופעלת כשמדדי BigQuery שהמערכת קולטת חורגים מרמה שהוגדרה על ידי המשתמש, צריך להשתמש בהגדרות הבאות.
| תנאי חדש שדה |
ערך |
|---|---|
| משאב ומדד | בתפריט Resources, בוחרים באפשרות BigQuery Dataset. בתפריט Metric categories בוחרים באפשרות Storage. בוחרים מדד מהתפריט מדדים. מדדים שקשורים ספציפית לשימוש כוללים את Stored bytes, Uploaded bytes ו-Uploaded bytes billed. רשימה מלאה של המדדים הזמינים מופיעה במאמר מדדים של BigQuery.
|
| מסנן | project_id: מזהה הפרויקט ב- Google Cloud . dataset_id: מזהה מערך הנתונים. |
| בסדרות עיתיות קיבוץ לפי סדרות עיתיות |
dataset_id: מזהה מערך הנתונים. |
| בסדרות עיתיות צבירה של סדרות עיתיות |
sum |
| חלון נע | 1 m |
| פונקציה אנליטית (window function) | mean |
| הגדרת טריגר להתראה שדה |
ערך |
|---|---|
| סוג התנאי | Threshold |
| טריגר להתראה | Any time series violates |
| מיקום הסף | Above threshold |
| ערך הסף | אתם קובעים את הערך הקביל. |
| חלון הבדיקה מחדש | 1 minute |
המאמרים הבאים
הוראות להגדרת אובייקט מסוג sink מופיעות במאמר ייצוא של נתוני מעקב.