הצגת טווחים של מעקב אחר הגנה מוגברת על המודל

במאמר הזה מוסבר על המקטעים של Model Armor במעקבים ואיך לראות את הפרטים שלהם. מידע נוסף על מעקבים זמין במאמר הצגת מעקבים של נציגים.

מידע על Cloud Trace ויכולת התבוננות לעומק בסוכנים

מעקב מייצג את הנתיב של בקשה בחלקים של האפליקציה המבוזרת. כלומר, כל מעקב מייצג פעולה אחת מקצה לקצה. המעקבים מורכבים מטווחים, שהם רשומות של פונקציה או פעולה אחת, ולכן הם מאפשרים לעקוב אחרי זרימת הבקשות ולבחון את נתוני זמן האחזור. המידע הזה יכול לעזור לכם לזהות את שורש הבעיה.

‫Cloud Trace היא מערכת המעקב המבוזרת של Google Cloud, שכוללת תכונות לבדיקת נתוני מעקב או לניתוח נתוני מעקב באמצעות SQL. עם זאת, שירותים רבים שלGoogle Cloud , כמו Application Monitoring ו-Agent Registry, יכולים להציג את הנתונים שמנוהלים על ידי Cloud Trace. השירותים האלה מאפשרים לכם להציג נתוני מעקב בהקשר של השירות שבו אתם משתמשים.

לפני שמתחילים

  1. מפעילים את Cloud Trace,‏ Cloud Logging,‏ Telemetry ו-Model Armor, אם הם עדיין לא מופעלים.

    התפקידים שנדרשים כדי להפעיל ממשקי API

    כדי להפעיל ממשקי API, צריך את ההרשאה serviceusage.services.enable. אם אתם יצרתם את הפרויקט, סביר להניח שכבר יש לכם את ההרשאה הזו דרך התפקיד "בעלים" (roles/owner). אחרת, אתם יכולים לקבל את ההרשאה הזו דרך התפקיד "אדמין בממשק 'שימוש בשירות'" (roles/serviceusage.serviceUsageAdmin). איך מקצים תפקידים?

    הפעלת ממשקי ה-API

  2. מגדירים מעקב לסוכן.
  3. מגדירים את Model Armor בשער או בשרת MCP שלGoogle Cloud.

התפקידים הנדרשים

כדי לקבל את ההרשאות שדרושות לצפייה בנתוני המעקב, בקשו מהאדמין לתת לכם את התפקידים הבאים ב-IAM ברמת הפרויקט:

להסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

יכול להיות שאפשר לקבל את ההרשאות הנדרשות גם באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש.

במאמרים בקרת גישה ל-Cloud Trace ובקרת גישה ל-Cloud Logging מפורט מידע על תפקידים אחרים שאולי תצטרכו.

מטענים ייעודיים (payloads) נתמכים

כאן אפשר למצוא רשימה של המטענים הייעודיים הנתמכים והלא נתמכים.

אם הבקשה מכילה מטען ייעודי (payload) שלא נתמך, Model Armor יוצר span עם שגיאה.

שמות ומאפיינים של טווחי Model Armor

אלה טווחי הזמן שזמינים ב-Model Armor:

  • טווח הורה: apply_guardrail "Google Cloud Model Armor"
  • טווח צאצא: Request Path
  • טווח צאצא: Response Path

בקטעים הבאים מפורטים כל המאפיינים האפשריים של span ב-Model Armor. לא כל המאפיינים קיימים בכל span. שמות המאפיינים האלה עשויים להשתנות.

מאפייני span הורה

ל-span ההורה, apply_guardrail "Google Cloud Model Armor", יש את המאפיינים הבאים:

  • ‫cloud.provider: ספק שירותי הענן שמשויך לפעולה.
  • ‫cloud.region: האזור ( Google Cloud ) שבו בוצעה הפעולה.
  • ‫gcp.project_id: מזהה הפרויקט שבו בוצעה הפעולה.
  • ‫rpc.system: הפרוטוקול או המסגרת של הקריאה לשירות מרוחק (RPC) ששימשו לפעולה, לדוגמה grpc.
  • ‫service.name: השירות של Google Cloud שמשויך לפעולה. ב-Model Armor, הערך של השדה הזה הוא modelarmor.

מאפייני נתיב הבקשה

ל-span הצאצא Request Path יש את המאפיינים הבאים:

  • ‫gen_ai.security.target.type: סוג התוכן או הפעולה שעליהם חל מעקה הבטיחות. ב-Request Path, הערך הזה הוא תמיד input.
  • ‫gen_ai.security.decision.type: ההחלטה או הפעולה שהתקבלה על ידי Model Armor. הערך modify מציין ש-Model Armor צינזר (הסיר את פרטי הזיהוי) מידע אישי רגיש מהתוכן, בהתאם לתבנית שסופקה.
  • ‫gen_ai.security.decision.code: קוד מספרי להחלטה בנושא אבטחה.
  • ‫gen_ai.security.decision.reason: סיבה להחלטה שקריאה למשתמשים.
  • ‫gen_ai.security.policy.id: שם המשאב המלא של התבנית של Model Armor בפורמט projects/PROJECT_ID/locations/LOCATION/templates/MODEL_ARMOR_TEMPLATE_ID.
  • ‫gen_ai.security.policy.name: השם של התבנית של Model Armor ששימשה לפעולה.
  • ‫gcp.modelarmor.filter.match.state: אם התוכן הפר את אחד מהמסננים של Model Armor (שנקראים גם גלאים).
  • ‫gcp.modelarmor.violations: המסננים של Model Armor שהתוכן הפר. הערך deidentified מציין ש-Model Armor צנזר מידע רגיש מהתוכן בהתאם לתבנית שסופקה.
  • ‫gcp.modelarmor.rai.violations: הקטגוריות של שימוש אחראי ב-AI שהתוכן הפר. מידע נוסף זמין במאמר מסנן בטיחות של AI אחראי.
  • ‫gcp.modelarmor.sdp.info_types: סוגי המידע הרגיש (כמו EMAIL_ADDRESS או PHONE_NUMBER) שזוהו על ידי מסנני Sensitive Data Protection.
  • ‫error.type: מזהה של השגיאה שנתקלתם בה.

מאפייני Response Path

ל-span הצאצא Response Path יש את המאפיינים הבאים:

  • ‫gen_ai.security.target.type: סוג התוכן או הפעולה שעליהם חל מעקה הבטיחות. בטווח Response Path, הערך הוא תמיד output.
  • ‫gen_ai.security.decision.type: ההחלטה או הפעולה שהתקבלה על ידי Model Armor. הערך modify מציין ש"הגנה מוגברת על המודל" צינזרה (הסירה את פרטי הזיהוי) נתונים רגישים מהתוכן, בהתאם לתבנית שסופקה.
  • ‫gen_ai.security.decision.code: קוד מספרי להחלטה בנושא אבטחה.
  • ‫gen_ai.security.decision.reason: סיבה להחלטה שקריאה למשתמשים.
  • ‫gen_ai.security.policy.id: שם המשאב המלא של התבנית של Model Armor בפורמט projects/PROJECT_ID/locations/LOCATION/templates/MODEL_ARMOR_TEMPLATE_ID.
  • ‫gen_ai.security.policy.name: השם של התבנית של Model Armor ששימשה לפעולה.
  • ‫gcp.modelarmor.filter.match.state: אם התוכן הפר את אחד מהמסננים של Model Armor (שנקראים גם גלאים).
  • ‫gcp.modelarmor.violations: המסננים של Model Armor שהתוכן הפר. הערך deidentified מציין ש-Model Armor צנזר מידע רגיש מהתוכן בהתאם לתבנית שסופקה.
  • ‫gcp.modelarmor.rai.violations: הקטגוריות של שימוש אחראי ב-AI שהתוכן הפר. מידע נוסף זמין במאמר מסנן בטיחות של AI אחראי.
  • ‫gcp.modelarmor.sdp.info_types: סוגי המידע הרגיש (כמו EMAIL_ADDRESS או PHONE_NUMBER) שזוהו על ידי מסנני Sensitive Data Protection.
  • ‫error.type: מזהה של השגיאה שנתקלתם בה.

הצגת הפרטים של span ב-Model Armor

כדי לראות את ה-span של Model Armor ואת הפרטים שלו, כולל המאפיינים וה-DAG, מבצעים את השלבים הבאים:

  1. במסוף Google Cloud , נכנסים אל Agent Registry.

    כניסה ל-Agent Registry

  2. בוחרים את הפרויקט הרצוי.
  3. לוחצים על שם הנציג.
  4. לוחצים על הכרטיסייה Traces.
  5. לוחצים על המזהה של המעקב שרוצים לראות. אם המעקב כולל span של Model Armor, המעקב כולל את ה-span של apply_guardrail "Google Cloud Model Armor".

  6. בדיקת המעקב:

    • כדי להציג את המעקב כגרף אציקלי מכוון (DAG), לוחצים על התצוגה Graph. בתצוגה הזו מוצג מעקב הביצוע של הנציג בתרשים של צומת-קישור. תרשימי DAG מדגישים את הקשרים הסיבתיים ואת יחסי התלות בין טווחי מעקב שונים, ומראים איך פעולה אחת מפעילה את הפעולה הבאה. כל צומת בתרשים הוא span.
    • כדי להציג את המעקב כציר זמן, לוחצים על התצוגה Timeline. כל עמודה בציר הזמן מייצגת span.

  7. לוחצים על span כדי לראות את המאפיינים שלו.

לחלופין, אפשר ללחוץ על View in Cloud Trace כדי לראות את כל הטווחים בפרויקט באמצעות Trace explorer. מפעילים מסננים כדי לחפש את ה-span של apply_guardrail "Google Cloud Model Armor".

המאמרים הבאים