מוצרי נתונים ב-Knowledge Catalog (לשעבר Dataplex Universal Catalog) מאפשרים לארוז נכסי נתונים קשורים ליחידה אחת שניתן לגלות. לאחר מכן תוכלו להגדיר קבוצות גישה, לצרף חוזי רענון והיבטים של מטא-נתונים ולהוסיף מסמכים כדי שהצרכנים יוכלו להעריך את הנכסים האלה ולבקש גישה אליהם.
המסמך הזה מיועד לבעלים של מוצרי נתונים. למידע נוסף על הארכיטקטורה ומושגי המפתח של מוצרי נתונים, קראו את המאמר מידע על מוצרי נתונים.
לפני שמתחילים
לפני שיוצרים מוצרי נתונים, צריך לבצע את הפעולות הבאות.
הפעלה של Gemini
הגדרת Gemini בנכס הנתונים היא שלב אופציונלי, אבל מומלץ מאוד לבצע אותו לפני שיוצרים את מוצר הנתונים הראשון.
כברירת מחדל, כדי ליצור מוצר נתונים צריך להזין באופן ידני תיאורים עסקיים, הגדרות טכניות ומסמכי תיעוד להצטרפות לנכסים. כשמפעילים את השילוב של Gemini, Knowledge Catalog משתמש בעזרה מבוססת-AI כדי לנתח באופן אוטומטי את הסכימות ואת תוצאות סריקת הנתונים, וליצור את הדברים הבאים:
- תיעוד עסקי: יוצר תבניות תיעוד ותיאורים ברורים של מוצר הנתונים ונכסי הנתונים הנפרדים שלו.
- תובנות ושאילתות לדוגמה: יוצר שאילתות לדוגמה שמוכנות לשימוש על סמך פריסת הסכימה של הנכס, וכך מאפשר לצרכני הנתונים להתחיל מיד לשלוח שאילתות לגבי המוצר אחרי האישור.
אם אתם לא רוצים להפעיל את Gemini, אתם יכולים לדלג על הקטע הזה. עם זאת, צריך לספק באופן ידני את כל המטא-נתונים של הנכסים ואת תבניות השאילתות במהלך היצירה.
איך מגדירים את Gemini ב-BigQuery
הפעלת ממשקי ה-API
מפעילים את Dataplex, BigQuery ו-Gemini for Google Cloud API, אם הם עדיין לא מופעלים.
התפקידים שנדרשים כדי להפעיל ממשקי API
כדי להפעיל ממשקי API, צריך את ההרשאה serviceusage.services.enable. אם אתם יצרתם את הפרויקט, סביר להניח שכבר יש לכם את ההרשאה הזו דרך התפקיד "בעלים" (roles/owner). אחרת, אתם יכולים לקבל את ההרשאה הזו דרך התפקיד "אדמין בממשק 'שימוש בשירות'" (roles/serviceusage.serviceUsageAdmin). איך מקצים תפקידים?
יצירת נכסי נתונים
מוודאים שנכסי הנתונים (לדוגמה, מערכי נתונים, טבלאות ותצוגות ב-BigQuery) נוצרו ומאוכלסים.
מידע נוסף על יצירת נכסי נתונים זמין במאמרים הבאים:
- יצירת מערכי נתונים ב-BigQuery
- יצירה ושימוש בטבלאות ב-BigQuery
- יצירת תצוגות לוגיות ב-BigQuery
- יצירת תצוגות מהותיות ב-BigQuery
הגדרת זהויות
מאתרים או יוצרים את קבוצות Google או את חשבונות השירות שרוצים להגדיר במוצר הנתונים.
אופציונלי: הגדרת Looker (Google Cloud core) למוצרי נתונים
אם אתם מתכננים לכלול נכסי Looker (Google Cloud core) במוצר הנתונים, בצעו את השלבים הנוספים הבאים:
- מוודאים שהרשומה בקטלוג של המשאב של Looker (Google Cloud core) כבר קיימת ב-Knowledge Catalog באותו אזור שבו נמצא מוצר הנתונים. מידע נוסף מופיע במאמר ניהול משאבי Looker (Google Cloud core) באמצעות Knowledge Catalog.
- מגדירים את Google OAuth ומפעילים קבוצות משוכפלות במכונה של Looker (Google Cloud core) כדי ליצור קבוצת Looker לקריאה בלבד לקבוצה שלכם ב-Google.
- מקצים רמות גישה לתיקיות ותפקידים ב-Looker לקבוצה המקבילה ב-Looker.
התפקידים הנדרשים
בקטע הזה מפורטים תפקידי ה-IAM המינימליים שנדרשים לחלקים העיקריים הבאים:
בעלי מוצרי נתונים: משתמשים שיוצרים, מגדירים ומנהלים מוצרי נתונים והנכסים שמשויכים אליהם
צרכני מוצרי נתונים: משתמשים שמחפשים מוצרי נתונים שפורסמו, צופים בהם ומבקשים גישה אליהם
התפקידים הנדרשים לבעלי מוצרי נתונים
כדי לקבל את ההרשאות שדרושות ליצירה ולניהול של מוצרי נתונים, בקשו מהאדמין להקצות לכם את התפקידים הבאים ב-IAM בפרויקט:
-
הרשאות מלאות ליצור, לעדכן, למחוק ולנהל הרשאות, ולאשר או לדחות בקשות גישה למוצרי נתונים:
אדמין של מוצרי נתונים ב-Dataplex (
roles/dataplex.dataProductsAdmin) -
עדכון וניהול של הרשאות, ואישור או דחייה של בקשות גישה למוצרי נתונים:
עריכת מוצרי נתונים ב-Dataplex (
roles/dataplex.dataProductsEditor) -
הוספת היבטים של מטא-נתונים (כמו
schema,overview,contactsו-queries): הבעלים של Dataplex Entry ו-EntryLink (roles/dataplex.entryOwner) -
חיפוש והוספה של נכסים:
צפייה בקטלוג Dataplex (
roles/dataplex.catalogViewer) -
עריכת סוגי היבטים של המערכת (כמו
overview,contact,contractו-queries): Dataplex Catalog Editor (roles/dataplex.catalogEditor) -
יצירה או אחזור של סריקות נתונים של תובנות לצורך תיעוד אוטומטי ויצירת תובנות:
אדמין של Dataplex DataScan (
roles/dataplex.dataScanAdmin) -
גישה למטא-נתונים של Looker (Google Cloud core) ב-Knowledge Catalog:
Looker Schema Viewer (
roles/looker.schemaViewer) – בפרויקט שמארח את המכונה של Looker (Google Cloud core) -
מקצים את התפקיד
roles/looker.instanceUserלקבוצת Google של קבוצת הגישה: אדמין IAM של פרויקט (roles/resourcemanager.projectIamAdmin) – בפרויקט שמארח את המכונה של Looker (Google Cloud core)
להסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.
התפקידים המוגדרים מראש האלה כוללים את ההרשאות שנדרשות כדי ליצור ולנהל מוצרי נתונים. כדי לראות בדיוק אילו הרשאות נדרשות, אפשר להרחיב את הקטע ההרשאות הנדרשות:
ההרשאות הנדרשות
כדי ליצור ולנהל מוצרי נתונים, נדרשות ההרשאות הבאות:
-
יצירת מוצר נתונים:
dataplex.dataProducts.create -
הצגת רשימה של מוצרי נתונים בפרויקט:
dataplex.dataProducts.list -
קבלת או הצגת מוצר נתונים:
dataplex.dataProducts.get -
עריכת מוצר נתונים קיים:
dataplex.dataProducts.update -
מחיקת מוצר הנתונים:
dataplex.dataProducts.delete -
אישור בקשת גישה למוצר נתונים:
dataplex.dataProducts.approve -
חיפוש מוצר נתונים באמצעות Knowledge Catalog:
-
dataplex.dataProducts.get -
dataplex.projects.search
-
-
יצירת בקשת גישה למוצר נתונים:
dataplex.dataProducts.get -
יוצרים נכס נתונים:
dataplex.dataAssets.create -
הצגת רשימה של נכסי נתונים במוצר נתונים:
dataplex.dataAssets.list -
קבלת נכס נתונים:
dataplex.dataAssets.get -
עריכת נכס נתונים קיים:
dataplex.dataAssets.update -
מחיקת נכס נתונים:
dataplex.dataAssets.delete -
יצירת סריקת נתונים:
dataplex.datascans.create -
הצגת רשימה של כל סריקות הנתונים:
dataplex.datascans.list -
סריקת נתונים:
dataplex.datascans.get -
מריצים סריקת נתונים:
dataplex.datascans.run -
עורכים את סוג ההיבט של המערכת
overview:dataplex.entryGroups.useOverviewAspect -
עורכים את סוג ההיבט של המערכת
refresh cadence:dataplex.entryGroups.useRefreshCadenceAspect -
עורכים את סוג ההיבט של המערכת
queries:dataplex.entryGroups.useQueriesAspect
יכול להיות שתקבלו את ההרשאות האלה באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש אחרים.
התפקידים הנדרשים לצרכנים של מוצרי נתונים
כדי שצרכני מוצרי הנתונים יוכלו לחפש מוצרי נתונים, לצפות בהם ולבקש גישה אליהם, אתם צריכים לוודא שמוצר הנתונים ניתן לגילוי. כדי לעשות את זה, מקצים לצרכני מוצר הנתונים את תפקידי ה-IAM הבאים במוצר הנתונים:
- חיפוש מוצרי נתונים ובקשת גישה אליהם: צרכן של מוצר נתונים ב-Dataplex (
roles/dataplex.dataProductsConsumer) וצפייה בקטלוג של Dataplex (roles/dataplex.catalogViewer) - גישה לקריאה בלבד כדי להציג הגדרות ומטא-נתונים של מוצרי נתונים:
Dataplex Data Product Viewer (
roles/dataplex.dataProductsViewer)
יצירה והגדרה של מוצר נתונים
כדי ליצור מוצר נתונים, צריך לבצע את המשימות הכלליות הבאות:
יצירת מוצר נתונים
בשלב הראשוני הזה, שהוא חובה, צריך להגדיר פרטים בסיסיים כמו שם ייחודי למוצר הנתונים, תיאור, האזור שבו נוצר מוצר הנתונים ופרטים ליצירת קשר.
אופציונלי: הוספת נכסים
בשלב הזה בוחרים את הנכסים שרוצים לכלול במוצר הנתונים. אילוץ מרכזי הוא שהנכסים חייבים להיות באותו אזור שבו נמצא מוצר הנתונים עצמו. אפשר להוסיף עד 10 נכסים בכל פעם, ועד 50 נכסים לכל מוצר נתונים.
כאן מפורטים הנכסים הנתמכים.
אופציונלי: הגדרת קבוצות גישה והרשאות לנכסים
בשלב האופציונלי הזה, אתם יכולים לפשט את בקרת הגישה על ידי יצירת קבוצות גישה. קבוצות הגישה האלה פועלות כשמות סודיים ידידותיים למשתמש (לדוגמה,
AnalystאוReader) לקבוצות Google ולחשבונות השירות הבסיסיים. אחר כך מקצים הרשאות על ידי בחירת תפקיד ספציפי ב-IAM ומיפוי שלו לקבוצת גישה לנכס ספציפי.אופציונלי: הוספת פרטים על החוזה ועל ההיבטים
בשלב הזה, אתם משפרים את יכולת הגילוי של הנתונים ואת הפיקוח עליהם באמצעות צירוף של מסגרות מטא-נתונים. אתם יכולים להוסיף חוזה כדי להעביר באופן רשמי את קצב רענון הנתונים, ולציין פרמטרים כמו תדירות הרענון, התזמון וספי השונות. אתם יכולים גם לצרף היבטים בהתאמה אישית כדי לספק מטא-נתונים עסקיים או טכניים נוספים למוצר הנתונים.
אופציונלי: הוספת פרטים נוספים
בשלב האחרון הזה, מוסיפים מסמכי תיעוד בטקסט עשיר, כמו מדריכים להכשרת עובדים חדשים, הגדרות עסקיות ושאילתות לדוגמה, כדי לעזור לצרכנים להשתמש במוצר הנתונים מיד אחרי האישור.
כדי ליצור ולהגדיר מוצר נתונים, מבצעים את השלבים שבקטעים הבאים:
יצירת מוצר נתונים
מגדירים את הפרטים העיקריים של מוצר הנתונים, כמו המזהה, המיקום ואנשי הקשר שלו. כשמגדירים מוצרי נתונים ואת הנכסים שלהם, חשוב לוודא שהמזהים שלהם תואמים להנחיות למתן שמות למשאבים ב-Knowledge Catalog.
המסוף
במסוף Google Cloud , נכנסים לדף Data products ב-Knowledge Catalog.
לוחצים על יצירה.
בחלונית Create data products, מזינים את הפרטים הבאים:
- שם מוצר הנתונים: מזינים שם ייחודי למוצר הנתונים.
- מזהה מוצר הנתונים: מזהה ייחודי שנוצר אוטומטית. אפשר לערוך את השדה הזה.
- מזהה הפרויקט: המזהה הייחודי של הפרויקט שבו נוצר מוצר הנתונים. מחפשים את הפרויקט ובוחרים אותו.
- Region: בוחרים את האזור או את מספר האזורים שבהם נוצר מוצר הנתונים.
- סמל מוצר הנתונים: מחפשים ובוחרים סמל לזיהוי חזותי של מוצר הנתונים. הפעולה הזאת אופציונלית.
- תיאור: מזינים תיאור קצר של מוצר הנתונים.
אנשי קשר: הפרטים של איש הקשר שאחראי על תהליכי הניהול והאישור:
- כתובת האימייל של בעלי מוצר הנתונים: הזינו את כתובת האימייל של בעלי מוצר הנתונים.
- כתובת האימייל של הגורמים שמאשרים את מוצר הנתונים: מזינים את כתובת האימייל של הגורמים שמאשרים את בקשות הגישה או השינויים.
תוויות: הוספת תוויות של מפתח/ערך כדי לארגן את המשאבים. זה אופציונלי.
לוחצים על Create data product.
Terraform
כדי ליצור מוצר נתונים, משתמשים במשאבים של google_dataplex_data_product ו-IAM.
resource "google_dataplex_data_product" "default" {
project = "PROJECT_ID"
location = "LOCATION"
data_product_id = "DATA_PRODUCT_ID"
display_name = "DISPLAY_NAME"
description = "DESCRIPTION"
owner_emails = ["EMAIL_IDs"]
# Optional: Configures designated approvers for access requests
access_approval_config {
approver_emails = ["APPROVER_EMAIL_IDs"]
}
# Optional: Base64-encoded icon (Max 3.0MiB)
icon = "ICON_BASE64_STRING"
}
resource "google_dataplex_data_product_iam_member" "consumer_binding" {
project = "PROJECT_ID"
location = "LOCATION"
data_product_id = "DATA_PRODUCT_ID"
role = "roles/dataplex.dataProductsConsumer"
member = "MEMBER"
}
מחליפים את מה שכתוב בשדות הבאים:
- PROJECT_ID: מזהה הפרויקט ב- Google Cloud .
- LOCATION: האזור שבו רוצים ליצור את מוצר הנתונים.
- DATA_PRODUCT_ID: מזהה ייחודי של מוצר הנתונים.
- DISPLAY_NAME: שם ידידותי למשתמש של מוצר הנתונים.
- DESCRIPTION: תיאור קצר של מוצר הנתונים.
- EMAIL_IDs: כתובות אימייל מופרדות בפסיקים של בעלי מוצר הנתונים, לדוגמה
["user1@example.com", "user2@example.com"]. - APPROVER_EMAIL_IDs: כתובות אימייל מופרדות בפסיקים של הגורמים המאשרים שאחראים לאשר בקשות גישה או שינויים במוצר הנתונים הזה.
- ICON_BASE64_STRING: נתוני התמונה הגולמיים בקידוד base64 שמייצגים את מוצר הנתונים. הגודל המקסימלי הוא 3.0 MiB. אל תכללו את הקידומת של סכמת כתובת ה-URL של הנתונים.
- MEMBER: המשתמש, חשבון השירות או הקבוצה שמקבלים את תפקיד הצרכן (לדוגמה,
group:all-analysts@example.com).
C#
C#
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של C# במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog C# API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
המשך
Go
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Go במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog Go API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Java
Java
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Java במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog Java API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Node.js
Node.js
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Node.js במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog Node.js API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Python
Python
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Python במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog Python API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
REST
כדי ליצור מוצר נתונים, משתמשים ב-method dataProducts.create.
לדוגמה, שולחים את בקשת ה-POST הבאה:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d '{"display_name": "DISPLAY_NAME", "owner_emails": ["EMAIL_IDs"], "access_approval_config": { "approver_emails": ["APPROVER_EMAIL_IDs"]} }' \
https://dataplex.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/dataProducts?data_product_id=DATA_PRODUCT_ID
מחליפים את מה שכתוב בשדות הבאים:
- DISPLAY_NAME: שם ידידותי למשתמש של מוצר הנתונים
- EMAIL_IDs: כתובות אימייל מופרדות בפסיקים של בעלי מוצר הנתונים
- APPROVER_EMAIL_IDs: כתובות אימייל מופרדות בפסיקים של הגורמים המאשרים שאחראים לאשר בקשות גישה או שינויים.
- PROJECT_ID: מזהה הפרויקט ב- Google Cloud
- LOCATION: האזור שבו רוצים ליצור את מוצר הנתונים
- DATA_PRODUCT_ID: מזהה ייחודי של מוצר הנתונים
אופציונלי: הוספת נכסים
אתם יכולים להוסיף למוצר הנתונים נכסי נתונים שונים, כמו טבלאות ב-BigQuery, תצוגות, מערכי נתונים ומודלים. כאן מפורטים הנכסים הנתמכים.
המסוף
בחלונית הוספת נכסים, לוחצים על +הוספה.
מחפשים ובוחרים את הנכסים שרוצים להוסיף למוצר הנתונים. הנכסים שבוחרים חייבים להיות באותו אזור שבו נמצא מוצר הנתונים.
בלוחות הבקרה של Looker (Google Cloud core), יש תמיכה רק בלוחות בקרה בהגדרת המשתמש וברכיבים בלוח הבקרה בהגדרת המשתמש. מרכזי שליטה של LookML ורכיבים בלוח הבקרה של LookML לא נתמכים כנכסי נתונים, למרות שהם עשויים להופיע ברשימת הנכסים שאפשר להוסיף. כדי לכלול מרכז בקרה של LookML במוצר נתונים, צריך להעתיק אותו כמרכז בקרה בהגדרת המשתמש (ראו המרת מרכזי בקרה של LookML למרכזי בקרה בהגדרת המשתמש).
אם יש לכם את ההרשאות הנדרשות, אתם יכולים ללחוץ על הנכס כדי לראות את המטא-נתונים שלו.
כדי לצמצם את תוצאות החיפוש, משתמשים במסננים.
אחרי שבוחרים את הנכסים, לוחצים על הוספה.
לוחצים על Continue.
Terraform
כדי להוסיף נכס נתונים למוצר הנתונים, משתמשים במשאב google_dataplex_data_product_data_asset.
resource "google_dataplex_data_product_data_asset" "example_asset" {
project = "PROJECT_ID"
location = "LOCATION"
data_product_id = "DATA_PRODUCT_ID"
data_asset_id = "DATA_ASSET_ID"
resource = "RESOURCE_NAME"
}
מחליפים את מה שכתוב בשדות הבאים:
- PROJECT_ID: מזהה הפרויקט ב- Google Cloud
- LOCATION: האזור שבו נמצא מוצר הנתונים
- DATA_PRODUCT_ID: המזהה של מוצר הנתונים
- DATA_ASSET_ID: מזהה ייחודי של נכס הנתונים הזה בתוך מוצר הנתונים
- RESOURCE_NAME: שם המשאב המלא של נכס הנתונים (לדוגמה,
//bigquery.googleapis.com/projects/PROJECT_ID/datasets/DATASET_ID/tables/TABLE_ID)
C#
C#
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של C# במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog C# API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
המשך
Go
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Go במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog Go API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Java
Java
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Java במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog Java API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Node.js
Node.js
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Node.js במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog Node.js API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Python
Python
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Python במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog Python API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
REST
כדי להוסיף נכס נתונים למוצר הנתונים, משתמשים ב-method dataAssets.create.
לדוגמה, שולחים את בקשת ה-POST הבאה:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d '{"resource": "RESOURCE_NAME"}' \
https://dataplex.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/dataProducts/DATA_PRODUCT_ID/dataAssets?data_asset_id=DATA_ASSET_ID
מחליפים את מה שכתוב בשדות הבאים:
- RESOURCE_NAME: שם המשאב המלא של נכס הנתונים (לדוגמה,
//bigquery.googleapis.com/projects/PROJECT_ID/datasets/DATASET_ID/tables/TABLE_ID) - PROJECT_ID: מזהה הפרויקט ב- Google Cloud
- LOCATION: האזור שבו נמצא מוצר הנתונים
- DATA_PRODUCT_ID: המזהה של מוצר הנתונים
- DATA_ASSET_ID: מזהה ייחודי של נכס הנתונים הזה בתוך מוצר הנתונים
אופציונלי: הגדרת קבוצות גישה והרשאות לנכסים
בחלונית הגדרת קבוצות גישה והרשאות לנכסים, אתם יכולים ליצור קבוצות גישה ולהקצות הרשאות לנכסים.
הגדרת קבוצות גישה
המסוף
לוחצים על הוספת קבוצת גישה.
בשדה Access group name, מזינים שם לקבוצת הגישה. לדוגמה,
Analyst.בשדה Access group description, מזינים תיאור לקבוצת הגישה.
בשדה Access group identifier, מזינים את כתובת האימייל של קבוצת Google שרוצים להקצות לקבוצת הגישה הזו.
צרכני מוצרי נתונים שמבקשים גישה לעצמם מתווספים כחברים לקבוצה הממופה ב-Google Groups.
מידע נוסף על יצירת קבוצות Google זמין במאמר יצירה וניהול של קבוצות Google במסוף Google Cloud .
בשדה Access group service account, מזינים את כתובת האימייל של חשבון השירות שרוצים להקצות לקבוצת הגישה הזו.
צרכני מוצרי נתונים שמבקשים גישה לחשבונות השירות שלהם מקבלים את התפקיד יצירת אסימונים בחשבון שירות (
roles/iam.serviceAccountTokenCreator) ב-IAM, כדי להתחזות לחשבון השירות של יוצר הנתונים שממופה לקבוצת הגישה.מידע נוסף על יצירת חשבונות שירות זמין במאמר יצירת חשבונות שירות.
אופציונלי: בשדה Default role, בוחרים תפקיד IAM שמוגדר כברירת מחדל (לדוגמה,
BigQuery Data Viewer) לקבוצת הגישה הזו. התפקיד הזה מוקצה באופן אוטומטי לכל הנכסים הנתמכים הקיימים והחדשים שנוספו במוצר הנתונים, אלא אם משנים אותו ברמת הנכס.לוחצים על סיום.
כדי להוסיף עוד קבוצת גישה, לוחצים על Add access group וחוזרים על השלבים.
אפשר להוסיף עד שלוש קבוצות גישה לכל מוצר נתונים.
לוחצים על Save.
Terraform
כדי להגדיר קבוצות גישה למוצר הנתונים, משתמשים בבלוק המקונן access_groups בתוך המשאב google_dataplex_data_product.
לדוגמה, משתמשים בהגדרות הבאות:
resource "google_dataplex_data_product" "example_data_product" {
project = "PROJECT_ID"
location = "LOCATION"
data_product_id = "DATA_PRODUCT_ID"
display_name = "DISPLAY_NAME"
owner_emails = ["EMAIL_IDs"]
access_groups {
id = "analyst" # Internal identifier for configuration
group_id = "analyst" # Unique identifier of the access group, should be same as the 'id'
display_name = "Business Analyst"
description = "Access group for regional analysts"
principal {
google_group = "analyst-team@example.com"
}
}
# Service account principal
access_groups {
id = "scientist"
group_id = "scientist"
display_name = "Data Scientist"
principal {
service_account = "SERVICE_ACCOUNT_EMAIL_ADDRESS"
}
}
}
מחליפים את מה שכתוב בשדות הבאים:
- PROJECT_ID: מזהה הפרויקט ב- Google Cloud
- LOCATION: האזור שבו נמצא מוצר הנתונים
- DATA_PRODUCT_ID: מזהה ייחודי של מוצר הנתונים
- DISPLAY_NAME: שם ידידותי למשתמש של מוצר הנתונים
- EMAIL_IDs: כתובות אימייל מופרדות בפסיקים של בעלי מוצר הנתונים, לדוגמה:
["user1@example.com", "user2@example.com"] - SERVICE_ACCOUNT_EMAIL_ADDRESS: כתובת האימייל של חשבון השירות
C#
C#
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של C# במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog C# API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
המשך
Go
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Go במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog Go API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Java
Java
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Java במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog Java API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Node.js
Node.js
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Node.js במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog Node.js API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Python
Python
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Python במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog Python API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
REST
כדי להגדיר קבוצת גישה למוצר הנתונים, משתמשים ב-method dataProducts.patch.
לדוגמה, שולחים את בקשת ה-PATCH הבאה:
curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d '{"access_groups": ACCESS_GROUPS_MAP}' \
https://dataplex.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/dataProducts/DATA_PRODUCT_ID?update_mask="access_groups"
מחליפים את מה שכתוב בשדות הבאים:
ACCESS_GROUPS_MAP: אובייקט JSON שמייצג מפה שבה כל מפתח הוא מזהה של קבוצת גישה, והערך הוא אובייקט AccessGroup. לדוגמה:
{ "analyst": { "id": "analyst", "display_name": "Analyst access group", "description": "Access group for analysts", "principal": { "google_group": "analyst-team@example.com", "service_account": "analyst-svc@gserviceaccount.com" }, "default_iam_role_config": { "role": "roles/bigquery.dataViewer" } } }PROJECT_ID: מזהה הפרויקט ב- Google Cloud
LOCATION: האזור שבו נמצא מוצר הנתונים
DATA_PRODUCT_ID: המזהה של מוצר הנתונים
הגדרת הרשאות גישה לנכסים
אחרי שמגדירים קבוצות גישה, אפשר להגדיר הרשאות לנכסים במוצר הנתונים.
אם הגדרתם תפקיד IAM כברירת מחדל לקבוצת גישה, הנכסים הנתמכים יקבלו בירושה את התפקיד הזה באופן אוטומטי (הדבר מצוין באמצעות התווית Default בעמודה Permissions). אפשר לשנות את תפקיד ברירת המחדל לנכסים ספציפיים על ידי הקצאת תפקיד אחר.
המסוף
בקטע Asset permissions, בוחרים את הנכס שרוצים להגדיר לו הרשאות. אפשר לבחור ולהגדיר הרשאות לעד 10 נכסים בכל פעם.
לוחצים על הגדרת הרשאות.
בשדה בחירת קבוצת גישה, בוחרים קבוצת גישה.
בשדה Assign IAM role, בוחרים את תפקיד ה-IAM שרוצים להקצות לקבוצת הגישה.
לדוגמה, אם הנכס הוא טבלה ב-BigQuery בשם
Sales, ובחרתם בקבוצת הגישהAnalystוהקציתם לה את התפקידBigQuery Metadata Viewer, לצרכני מוצר הנתונים ששייכים לקבוצת הגישהAnalystיש הרשאה מסוגBigQuery Metadata ViewerבטבלהSales.אפשר להוסיף כמה תפקידים לנכס.
לוחצים על Configure (הגדרה). בעמודה Permissions בטבלת הנכסים מוצגות ההרשאות שהוקצו ומצב ההגדרה שלהן לכל קבוצת גישה:
- הוחל: תפקיד ה-IAM (שעבר בירושה מתפקיד ברירת המחדל של קבוצת הגישה או שהוגדר במיוחד לנכס) פעיל במשאב הבסיסי.
- נכשל: לא הצלחנו להחיל את תפקיד ה-IAM על המשאב הבסיסי. הסיבה המפורטת לכישלון מופיעה ב-Cloud Logging.
- לא נתמך: אי אפשר להחיל הרשאות על סוג המשאב של הנכס הזה.
כדי להגדיר הרשאות לנכסים אחרים, חוזרים על השלבים.
לוחצים על Continue.
Terraform
מקצים תפקידי IAM לקבוצות הגישה לנכסים ספציפיים באמצעות הבלוק access_group_configs במשאב google_dataplex_data_product_data_asset.
לדוגמה, משתמשים בהגדרות הבאות:
resource "google_dataplex_data_product_data_asset" "example_data_asset" {
project = "PROJECT_ID"
location = "LOCATION"
data_product_id = "DATA_PRODUCT_ID"
data_asset_id = "DATA_ASSET_ID"
resource = "RESOURCE_NAME"
access_group_configs {
access_group = "analyst" # Must match the 'id' defined in google_dataplex_data_product
iam_roles = ["roles/bigquery.dataViewer"]
}
}
מחליפים את מה שכתוב בשדות הבאים:
- PROJECT_ID: מזהה הפרויקט ב- Google Cloud
- LOCATION: האזור שבו נמצא מוצר הנתונים
- DATA_PRODUCT_ID: המזהה של מוצר הנתונים
- DATA_ASSET_ID: מזהה ייחודי של נכס הנתונים הזה בתוך מוצר הנתונים
- RESOURCE_NAME: שם המשאב המלא של נכס הנתונים (לדוגמה,
//bigquery.googleapis.com/projects/PROJECT_ID/datasets/DATASET_ID/tables/TABLE_ID)
C#
C#
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של C# במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog C# API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
המשך
Go
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Go במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog Go API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Java
Java
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Java במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog Java API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Node.js
Node.js
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Node.js במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog Node.js API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Python
Python
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Python במדריך למתחילים של Knowledge Catalog באמצעות ספריות לקוח. מידע נוסף מופיע במאמרי העזרה של Knowledge Catalog Python API.
כדי לבצע אימות ב-Knowledge Catalog, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
REST
כדי להגדיר הרשאות לנכסים במוצר הנתונים, משתמשים ב-method dataAssets.patch.
לדוגמה, שולחים את בקשת ה-PATCH הבאה:
curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d '{"access_group_configs": ACCESS_GROUP_CONFIGS_MAP}' \
https://dataplex.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/dataProducts/DATA_PRODUCT_ID/dataAssets/DATA_ASSET_ID?update_mask="access_group_configs"
מחליפים את מה שכתוב בשדות הבאים:
ACCESS_GROUP_CONFIGS_MAP: אובייקט JSON שמייצג מפה שבה כל מפתח הוא מזהה של קבוצת גישה, והערך הוא אובייקט AccessGroupConfig. לדוגמה:
{ "analyst": { iam_roles: ["roles/bigquery.dataViewer"] } }PROJECT_ID: מזהה הפרויקט ב- Google Cloud
LOCATION: האזור שבו נמצא מוצר הנתונים
DATA_PRODUCT_ID: המזהה של מוצר הנתונים
DATA_ASSET_ID: מזהה הנכס שרוצים להגדיר לו הרשאות
אופציונלי: הוספת פרטים על החוזה וההיבטים
אתם יכולים להוסיף חוזים והיבטים למוצר נתונים.
הוספת חוזה
כדי לבסס אמון בין יוצרי הנתונים לבין הצרכנים, אתם יכולים לצרף חוזה למוצר הנתונים. כשמציינים פרמטרים כמו זמן רענון וספי נתונים, מספקים לצרכנים את ההקשר הדרוש כדי להבין מתי הנתונים מתעדכנים ואם הם עומדים בדרישות העסקיות הספציפיות שלהם.
המסוף
בחלונית הוספת פרטי חוזה והיבט, לוחצים על הוספת חוזה.
בשדה בחירת חוזה, בוחרים באפשרות
Refresh cadence.בשדה Frequency, בוחרים את התדירות המוסכמת לעדכון או לשליחת הנתונים, כדי להבטיח זרימה צפויה של נתונים מיצרן הנתונים לצרכן הנתונים. לדוגמה,
Weekly.בשדה Refresh time, מזינים את הזמן המקסימלי הקביל בין עדכון הנתונים במקור לבין הזמן שבו הם זמינים לצרכן. לדוגמה,
23:00 PST.בשדה Threshold (in minutes), מזינים את מגבלת הזמן המקסימלית (בדקות) לעיכוב קביל בהעברת הנתונים. לדוגמה, מזינים
30כדי להגדיר סף של 30 דקות.אופציונלי: בשדה Cron schedule, מזינים ביטוי cron שמגדיר את לוח הזמנים ליצירת הנתונים ולשליחה שלהם בפורמט:
MINUTE HOUR DAY_OF_MONTH MONTH DAY_OF_WEEKאלה הערכים המקובלים:
- MINUTE:
0-59 - HOUR:
0-23 - DAY_OF_MONTH:
1-31 - MONTH:
1-31אוJAN-DEC - DAY_OF_WEEK:
0-6אוSUN-SAT
לדוגמה,
0 8 * * 1-5פועל בשעה 8:00 בימי חול (שני עד שישי).- MINUTE:
לוחצים על Save.
REST
החוזים מיוצגים כהיבטים במוצר הנתונים.
כדי להוסיף חוזה Refresh Cadence למוצר נתונים, משתמשים ב-method entries.patch.
לדוגמה, שולחים את בקשת ה-PATCH הבאה:
curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d \
'{
"aspects": {
"dataplex-types.global.refresh-cadence": {
"aspectType": "projects/dataplex-types/locations/global/aspectTypes/refresh-cadence",
"data": {
"frequency": "REFRESH_FREQUENCY"
}
}
}
}' \
"https://dataplex.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/entryGroups/@dataplex/entries/projects/DATA_PRODUCT_PROJECT_NUMBER/locations/DATA_PRODUCT_LOCATION/dataProducts/DATA_PRODUCT_ID?updateMask=aspects"
מחליפים את מה שכתוב בשדות הבאים:
- REFRESH_FREQUENCY: לוח הזמנים המוסכם לתדירות העדכון או השליחה של הנתונים, כדי להבטיח זרימה צפויה של נתונים מיצרן הנתונים לצרכן הנתונים. לדוגמה:
Weekly - PROJECT_ID: מזהה הפרויקט ב- Google Cloud שבו מתבצעת הקריאה ל-API
- LOCATION: האזור של נקודת הקצה של שירות Knowledge Catalog שאליו מתבצעת הקריאה (לדוגמה,
us-central1) - DATA_PRODUCT_PROJECT_NUMBER: מספר הפרויקט שבו נמצא המשאב של מוצר הנתונים
- DATA_PRODUCT_LOCATION: המיקום של המשאב של מוצר הנתונים
- DATA_PRODUCT_ID: המזהה של מוצר הנתונים
Terraform
החוזים מיוצגים כהיבטים במוצר הנתונים.
כדי לנהל חוזה, צריך לנהל את הרשומה הבסיסית ב-Knowledge Catalog. Terraform לא מגלה באופן אוטומטי היבטים קיימים, לכן קודם צריך לייבא את google_dataplex_entry.
כדי לייבא את הרשומה, משתמשים בפקודה הבאה:
terraform import google_dataplex_entry.data_product_metadata "projects/DATA_PRODUCT_PROJECT_NUMBER/locations/LOCATION/entryGroups/@dataplex/entries/projects/DATA_PRODUCT_PROJECT_NUMBER/locations/LOCATION/dataProducts/DATA_PRODUCT_ID"
הגדרות Terraform:
resource "google_dataplex_entry" "data_product_metadata" {
project = "DATA_PRODUCT_PROJECT_NUMBER"
location = "LOCATION"
entry_group_id = "@dataplex"
entry_id = "projects/DATA_PRODUCT_PROJECT_NUMBER/locations/LOCATION/dataProducts/DATA_PRODUCT_ID"
entry_type = "projects/655216118709/locations/global/entryTypes/data-product"
aspects {
aspect_key = "655216118709.global.refresh-cadence"
aspect {
data = jsonencode({
frequency = "REFRESH_FREQUENCY"
})
}
}
}
מחליפים את מה שכתוב בשדות הבאים:
- DATA_PRODUCT_PROJECT_NUMBER: מספר הפרויקט שבו נמצא המשאב של מוצר הנתונים
- LOCATION: האזור של נקודת הקצה של שירות Knowledge Catalog שאליו מתבצעת הקריאה (לדוגמה,
us-central1) - DATA_PRODUCT_ID: המזהה של מוצר הנתונים
- REFRESH_FREQUENCY: לוח הזמנים המוסכם לתדירות העדכון או השליחה של הנתונים, כדי להבטיח זרימה צפויה של נתונים מיצרן הנתונים לצרכן הנתונים. לדוגמה:
Weekly
מידע כללי על תהליך הייבוא מופיע במסמכי התיעוד של Terraform בנושא ייבוא.
הוספת היבטים
אתם יכולים להשתמש בהיבטים כדי להעשיר את מוצר הנתונים במטא-נתונים מובְנים שניתן לעשות בהם שימוש חוזר. התבניות האלה מספקות דרך סטנדרטית שבה יוצרי הנתונים יכולים להעביר את האיכות וההתאמה של מוצר נתונים, לשפר את הפיקוח ולעזור לצרכנים לקבוע אם המוצר עונה על הצרכים העסקיים שלהם.
כדי להוסיף היבטים למוצר הנתונים:
המסוף
בחלונית Add contract and aspect details, לוחצים על + Add aspect.
בשדה Select aspect type, מחפשים ובוחרים סוג היבט מהרשימה. לדוגמה,
Geo context.לוחצים על Save.
REST
כדי להוסיף היבטים למוצר נתונים, משתמשים ב-method entries.patch.
לדוגמה, שולחים את בקשת ה-PATCH הבאה:
curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d \
'{
"aspects": {
"ASPECT_PROJECT_ID.ASPECT_LOCATION.ASPECT_NAME": {
"aspectType": "projects/ASPECT_PROJECT_ID/locations/ASPECT_LOCATION/aspectTypes/ASPECT_NAME",
"data": {}
}
}
}' \
"https://dataplex.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/entryGroups/@dataplex/entries/projects/DATA_PRODUCT_PROJECT_NUMBER/locations/DATA_PRODUCT_LOCATION/dataProducts/DATA_PRODUCT_ID?updateMask=aspects"
מחליפים את מה שכתוב בשדות הבאים:
- ASPECT_PROJECT_ID: מזהה הפרויקט ב- Google Cloudשבו נוצר ההיבט
- ASPECT_LOCATION: האזור של נקודת הקצה של שירות Knowledge Catalog שבו נוצר ההיבט (לדוגמה,
us-central1) - ASPECT_NAME: שם ההיבט שרוצים לצרף למוצר הנתונים
- PROJECT_ID: מזהה הפרויקט ב- Google Cloud שבו מתבצעת הקריאה ל-API
- LOCATION: האזור של נקודת הקצה של שירות Knowledge Catalog שאליו מתבצעת הקריאה (לדוגמה,
us-central1) - DATA_PRODUCT_PROJECT_NUMBER: מספר הפרויקט שבו נמצא המשאב של מוצר הנתונים
- DATA_PRODUCT_LOCATION: המיקום של המשאב של מוצר הנתונים
- DATA_PRODUCT_ID: המזהה של מוצר הנתונים
Terraform
כדי לנהל היבטים, צריך לנהל את הרשומה הבסיסית ב-Knowledge Catalog.
מכיוון ש-Terraform לא מגלה באופן אוטומטי היבטים קיימים, קודם צריך לייבא את google_dataplex_entry.
כדי לייבא את הרשומה, משתמשים בפקודה הבאה:
terraform import google_dataplex_entry.data_product_metadata "projects/DATA_PRODUCT_PROJECT_NUMBER/locations/LOCATION/entryGroups/@dataplex/entries/projects/DATA_PRODUCT_PROJECT_NUMBER/locations/LOCATION/dataProducts/DATA_PRODUCT_ID"
הגדרות Terraform:
resource "google_dataplex_entry" "data_product_metadata" {
project = "DATA_PRODUCT_PROJECT_NUMBER"
location = "LOCATION"
entry_group_id = "@dataplex"
entry_id = "projects/DATA_PRODUCT_PROJECT_NUMBER/locations/LOCATION/dataProducts/DATA_PRODUCT_ID"
entry_type = "projects/655216118709/locations/global/entryTypes/data-product"
aspects {
aspect_key = "ASPECT_PROJECT_NUMBER.ASPECT_LOCATION.ASPECT_NAME"
aspect {
data = {}
}
}
}
מחליפים את מה שכתוב בשדות הבאים:
- DATA_PRODUCT_PROJECT_NUMBER: מספר הפרויקט שבו נמצא המשאב של מוצר הנתונים
- LOCATION: האזור של נקודת הקצה של שירות Knowledge Catalog שאליו מתבצעת הקריאה (לדוגמה,
us-central1) - DATA_PRODUCT_ID: המזהה של מוצר הנתונים
- ASPECT_PROJECT_NUMBER: Google Cloud מספר הפרויקט שבו נוצר ההיבט
- ASPECT_LOCATION: האזור של נקודת הקצה של שירות Knowledge Catalog שבו נוצר ההיבט (לדוגמה,
us-central1) - ASPECT_NAME: שם ההיבט שרוצים לצרף למוצר הנתונים
מידע כללי על תהליך הייבוא מופיע במסמכי התיעוד של Terraform בנושא ייבוא.
אופציונלי: הוספת פרטים נוספים
אתם יכולים להוסיף מסמכי תיעוד ושאילתות לדוגמה למוצר הנתונים כדי לספק הקשר חיוני, תיאורים של לוגיקה עסקית ומדריכים למשתמשים. ב-Knowledge Catalog, התיעוד מנוהל באמצעות ההיבט של מערכת overview.
אתם יכולים ליצור את התיעוד הזה באופן ידני או להשתמש בתובנות מנתונים של Knowledge Catalog כדי ליצור אותו באופן אוטומטי.
הוספה ידנית של מסמכים ושאילתות לדוגמה
המסוף
כדי להוסיף מסמכים למוצר הנתונים:
בחלונית Add additional details, לוחצים על Edit ליד Documentation.
מקלידים את התוכן בכלי לעריכת טקסט עשיר.
לוחצים על Save.
כדי להוסיף שאילתות לדוגמה למוצר הנתונים:
בחלונית Add additional details, לוחצים על Add queries בקטע Query recommendation.
מקלידים את השאילתות לדוגמה.
לוחצים על Save.
מוצר הנתונים החדש שנוצר מופיע בדף Data products ב-Knowledge Catalog.
REST
התיעוד מיוצג כהיבטים במוצר הנתונים.
כדי להוסיף מסמכים, משתמשים ב-method entries.patch.
לדוגמה, שולחים את בקשת ה-PATCH הבאה:
curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d \
'{
"aspects": {
"dataplex-types.global.overview": {
"aspectType": "projects/dataplex-types/locations/global/aspectTypes/overview",
"data": {
"content": "DOCUMENTATION"
}
}
}
}' \
"https://dataplex.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/entryGroups/@dataplex/entries/projects/DATA_PRODUCT_PROJECT_NUMBER/locations/DATA_PRODUCT_LOCATION/dataProducts/DATA_PRODUCT_ID?updateMask=aspects"
מחליפים את מה שכתוב בשדות הבאים:
- PROJECT_ID: מזהה הפרויקט ב- Google Cloud שבו מתבצעת הקריאה ל-API
- LOCATION: האזור של נקודת הקצה של שירות Knowledge Catalog שאליו מתבצעת הקריאה (לדוגמה,
us-central1) - DATA_PRODUCT_PROJECT_NUMBER: מספר הפרויקט שבו נמצא המשאב של מוצר הנתונים
- DATA_PRODUCT_LOCATION: המיקום של המשאב של מוצר הנתונים
- DATA_PRODUCT_ID: המזהה של מוצר הנתונים
- DOCUMENTATION: התוכן שרוצים לצרף למוצר הנתונים
Terraform
התיעוד מיוצג כהיבטים במוצר הנתונים.
כדי לנהל את התיעוד, צריך לנהל את הרשומה הבסיסית ב-Knowledge Catalog. Terraform לא מגלה באופן אוטומטי היבטים קיימים, לכן קודם צריך לייבא את google_dataplex_entry.
כדי לייבא את הרשומה, משתמשים בפקודה הבאה:
terraform import google_dataplex_entry.data_product_metadata "projects/DATA_PRODUCT_PROJECT_NUMBER/locations/LOCATION/entryGroups/@dataplex/entries/projects/DATA_PRODUCT_PROJECT_NUMBER/locations/LOCATION/dataProducts/DATA_PRODUCT_ID"
הגדרות Terraform:
resource "google_dataplex_entry" "data_product_metadata" {
project = "DATA_PRODUCT_PROJECT_NUMBER"
location = "LOCATION"
entry_group_id = "@dataplex"
entry_id = "projects/DATA_PRODUCT_PROJECT_NUMBER/locations/LOCATION/dataProducts/DATA_PRODUCT_ID"
entry_type = "projects/655216118709/locations/global/entryTypes/data-product"
aspects {
aspect_key = "655216118709.global.overview"
aspect {
data = jsonencode({
content = "DOCUMENTATION"
})
}
}
}
מחליפים את מה שכתוב בשדות הבאים:
- DATA_PRODUCT_PROJECT_NUMBER: מספר הפרויקט שבו נמצא המשאב של מוצר הנתונים
- LOCATION: האזור של נקודת הקצה של שירות Knowledge Catalog שאליו מתבצעת הקריאה (לדוגמה,
us-central1) - DATA_PRODUCT_ID: המזהה של מוצר הנתונים
- DOCUMENTATION: התוכן שרוצים לצרף למוצר הנתונים
מידע כללי על תהליך הייבוא מופיע במסמכי התיעוד של Terraform בנושא ייבוא.
יצירת תיעוד אוטומטי ושאילתות לדוגמה באמצעות תובנות מנתונים
לפני שיוצרים מסמכים ושאילתות לדוגמה באמצעות Gemini, צריך לבצע את הפעולות הבאות:
מפעילים את Gemini for Google Cloud API בפרויקט שבו יוצרים את מוצר הנתונים.
הקצאת תפקידי משתמשים ספציפיים לתובנות: בקשו מהאדמין להקצות לזהות שלכם את התפקידים וההרשאות הבאים בפרויקט של מוצר הנתונים:
- יצירה וניהול של תובנות מנתונים: עריכת Dataplex DataScan (
roles/dataplex.dataScanEditor) או ניהול Dataplex DataScan (roles/dataplex.dataScanAdmin) בפרויקט שבו נמצא מוצר הנתונים - צפייה בתובנות שנוצרו על ידי AI: Dataplex DataScan DataViewer (
roles/dataplex.dataScanDataViewer) בפרויקט שבו נמצא מוצר הנתונים
- יצירה וניהול של תובנות מנתונים: עריכת Dataplex DataScan (
מגדירים את ההרשאות של סוכן השירות בפרויקטים שונים. אם נכסי הנתונים הבסיסיים נמצאים בפרויקט ב- Google Cloud שונה מהפרויקט של מוצר הנתונים, צריך לתת לסוכן השירות של Knowledge Catalog (P4SA) גישה לנכסים האלה:
כדי ליצור או לאחזר את מזהה סוכן השירות של הפרויקט של מוצר הנתונים, מריצים את הפקודה הבאה ב-Google Cloud CLI:
gcloud beta services identity create --service=dataplex.googleapis.com --project=DATA_PRODUCT_PROJECT_IDמחליפים את DATA_PRODUCT_PROJECT_ID במזהה הפרויקט ב-Google Cloud שבו נמצא מוצר הנתונים.
בכל פרויקט חיצוני שבו נמצאים הנכסים, מקצים לסוכן השירות של פרויקט מוצר הנתונים את התפקידים הבאים:
עריכת נתונים ב-BigQuery (
roles/bigquery.dataEditor) בטבלאות ובמערכי הנתונים הבסיסייםאדמין של BigQuery Studio (
roles/bigquery.studioAdmin) בפרויקט של הנכס
כדי ליצור תיעוד ושאילתות לדוגמה למוצר הנתונים באמצעות תובנות מנתונים:
בחלונית Add additional details, בסרגל Generate insights with Gemini, לוחצים על Generate.
ממתינים כמה דקות עד שתהליך יצירת התובנות יסתיים.
כדי לבדוק את התוכן שנוצר, לוחצים על הצגה.
הערכת התוכן שנוצר:
אם התוכן מדויק, לוחצים על שמירה. הפעולה הזו מאכלסת את כלי עריכת הטקסט העשיר בתבנית מאמרי עזרה מוגדרת מראש ומוסיפה שאילתות לדוגמה לקטע Insights.
אם התוכן לא עומד בציפיות, לוחצים על מחיקה.
לוחצים על שמירה כדי לסיים.
תמחור
כדי ליצור תובנות שנוצרו על ידי AI במוצרי נתונים, המערכת משתמשת בתובנות מנתונים של Knowledge Catalog. למידע נוסף על התמחור של תובנות מנתונים, קראו את המאמר תמחור של תובנות מנתונים.
המאמרים הבאים
- מידע נוסף על ניהול מוצרי נתונים
- איך מחפשים מוצרי נתונים
- כצרכני נתונים, אתם יכולים לקרוא איך מבקשים גישה למוצרי נתונים.