הפעלת הגנה מוגברת על המודל ב-Gemini Enterprise

במאמר הזה מוסבר איך להפעיל את Model Armor ב-Gemini Enterprise. ‫הגנה מוגברת על המודל הוא Google Cloud שירות שמשפר את האבטחה והבטיחות של אפליקציות ה-AI שלכם על ידי סינון יזום של הפרומפטים והתשובות שניתנות על ידי העוזר של Gemini Enterprise. כך אפשר להגן מפני סיכונים שונים ולהבטיח שימוש אחראי ב-AI. ‫Model Armor נתמך בכל מהדורות Gemini Enterprise ללא עלות נוספת.

‫Model Armor לא מסיר או משנה פרטים אישיים מזהים (PII) ולא מסתיר נתונים רגישים. עם זאת, Gemini Enterprise חוסם כל תשובה של העוזר הדיגיטלי של Gemini Enterprise שמפעילה מסננים של Sensitive Data Protection (SDP).

הערה: הפעלת Model Armor ב-Gemini Enterprise עלולה להגדיל את זמן האחזור.

התשובה של Model Armor לבעיות פוטנציאליות בשאילתות של משתמשים או בתשובות של עוזר Gemini Enterprise כפופה לסוג האכיפה של התבנית. מידע נוסף זמין במאמר בנושא הגדרת סוג האכיפה.

• אם סוג האכיפה הוא בדיקה וחסימה,‏ Gemini Enterprise חוסם את הבקשה ומציג הודעת שגיאה. זהו סוג האכיפה שמוגדר כברירת מחדל כשיוצרים תבנית Model Armor באמצעות המסוף.

• אם סוג האכיפה הוא בדיקה בלבד, Gemini Enterprise לא חוסם את הבקשות או התשובות.

כששירות הסינון הגנה מוגברת על המודל לא זמין, אתם יכולים להגדיר את Gemini Enterprise כך שיתנהג באחת מהדרכים הבאות:

מצב	תיאור
הפעלת אינטראקציות של משתמשים	במצב הזה, Gemini Enterprise מאפשר לבקשות ולתשובות לעבור בלי סינון יזום, אם שירות הסינון הגנה מוגברת על המודל לא זמין. כך מובטח שהתקשורת עם משתמשי הקצה תהיה רציפה. עם זאת, מדי פעם יכול להיות שיוצגו הודעות שלא נבדקו או שיינתנו תשובות לשאילתות שלא נבדקו.
חסימת כל האינטראקציות של המשתמשים	במצב הזה, אם שירות הסינון Model Armor לא זמין, Gemini Enterprise חוסם את כל הבקשות והתשובות, כולל בקשות ותשובות לגיטימיות.

לפני שמתחילים

• מוודאים שהתפקידים הנדרשים מוקצים לכם ולחשבון השירות:

  • כדי להפעיל את הגנה מוגברת על המודל ב-Gemini Enterprise, צריך את התפקיד Gemini Enterprise Admin (roles/discoveryengine.agentspaceAdmin).

  • כדי ליצור את התבניות של Model Armor, צריך את התפקיד Model Armor Admin (roles/modelarmor.admin).

  • כדי להפעיל את ממשקי Model Armor API, צריך את התפקיד Model Armor User ‏(roles/modelarmor.user).

  הערה: כדי להקצות כמה תפקידי IAM לחשבון שירות, אפשר לעיין במאמר בנושא הקצאה או ביטול של כמה תפקידי IAM באמצעות מסוף Google Cloud .
  • אם תבנית הגנה מוגברת על המודל נמצאת בפרויקט אחר מהאפליקציה של Gemini Enterprise, בפרויקט של התבנית צריך להעניק את התפקיד Model Armor User (roles/modelarmor.user) לחשבון השירות של אפליקציית Gemini Enterprise. מזהה חשבון השירות הוא [e-mail], כאשר PROJECT_NUMBER הוא מספר הפרויקט של אפליקציית Gemini Enterprise.

• מוודאים שיצרתם אפליקציית Gemini Enterprise. כדי ליצור אחת, אפשר לעיין במאמר בנושא יצירת אפליקציה.

יצירת תבנית של הגנה מוגברת על המודל

אתם יכולים ליצור תבנית Model Armor אחת ולהשתמש בה להנחיות של משתמשים ולתשובות של העוזר הדיגיטלי, או ליצור שתי תבניות Model Armor נפרדות. מידע נוסף זמין במאמר בנושא יצירת תבנית Model Armor.

כשיוצרים תבנית Model Armor לאפליקציות Gemini Enterprise, כדאי לשקול את ההגדרות הבאות:

• אפשר ליצור תבניות של Model Armor באופן מרכזי בפרויקט אחד ולעשות בהן שימוש חוזר בפרויקטים שונים. אם משתמשים בתבנית חוצת-פרויקטים, צריך לוודא שההרשאות חוצות-הפרויקטים מוגדרות כמו שמתואר בקטע לפני שמתחילים.

• בוחרים באפשרות Multi-region בשדה Regions. בטבלה הבאה מוסבר איך למפות אזורים בתבנית הגנה מוגברת על המודל לאזורים באפליקציית Gemini Enterprise:

  הערה: אחרי שיוצרים תבנית של Model Armor או אפליקציית Gemini Enterprise, אי אפשר לשנות את האזורים.

  אפליקציית Gemini Enterprise בכמה אזורים	הגנה מוגברת על המודל במספר אזורים
  עולמי	ארצות הברית (מספר אזורים בארצות הברית) האיחוד האירופי (מספר אזורים באיחוד האירופי)
  ארצות הברית (מספר אזורים בארצות הברית)	ארצות הברית (מספר אזורים בארצות הברית)
  האיחוד האירופי (מספר אזורים באיחוד האירופי)	האיחוד האירופי (מספר אזורים באיחוד האירופי)

• ‫Google לא ממליצה להגדיר Cloud Logging בתבנית הגנה מוגברת על המודל לאפליקציות Gemini Enterprise. ההגדרה הזו עלולה לחשוף מידע אישי רגיש למשתמשים עם תפקיד IAM של צפייה ביומנים פרטיים (roles/logging.privateLogViewer). במקום זאת, אפשר לנסות את האפשרויות הבאות:

  • אם אתם צריכים לרשום ביומן את הנתונים שעוברים דרך תבנית Model Armor, אתם יכולים לנתב מחדש את היומנים לאחסון מאובטח כמו BigQuery, שמציע אמצעי בקרה מחמירים יותר על הגישה. מידע נוסף זמין במאמר ניתוב יומנים ליעדים נתמכים.

  • אתם יכולים להגדיר יומני ביקורת של גישה לנתונים כדי לנתח את תוצאות הבדיקה של הבקשות והתגובות שנוצרו על ידי Model Armor ולדווח עליהן. מידע נוסף זמין במאמר בנושא הגדרת יומני ביקורת.

הגדרת אפליקציית Gemini Enterprise באמצעות תבניות הגנה מוגברת על המודל

בשלבים הבאים מוסבר איך להוסיף את התבניות של Model Armor לאפליקציית Gemini Enterprise.

המסוף

1. נכנסים לדף Gemini Enterprise במסוף Google Cloud .

   ‫Gemini Enterprise

2. לוחצים על שם האפליקציה שרוצים להגדיר.

3. לוחצים על Configurations (הגדרות) > Assistant (אסיסטנט).

4. כדי להפעיל את הגנה מוגברת על המודל, לוחצים על הפעלת הגנה מוגברת על המודל.

5. בשדות Model Armor template for user prompts (תבנית Model Armor להנחיות משתמש) ו-Model Armor templates for response outputs (תבניות Model Armor לפלט של תשובות), מזינים את שם המשאב של תבניות Model Armor שיצרתם.

   הערה: כדי לקבל את שם המשאב, פועלים לפי השלבים במאמר הצגת תבנית של Model Armor ומעתיקים את הערך של שם המשאב. אתם יכולים להשתמש בתבניות של Model Armor שנוצרו באותו פרויקט כמו אפליקציית Gemini Enterprise, או להשתמש בתבניות של Model Armor מפרויקט אחר. אם משתמשים בתבנית מפרויקט אחר, צריך לוודא שההרשאות בין הפרויקטים מוגדרות כמו שמתואר בקטע לפני שמתחילים.

6. אם רוצים לחסום אינטראקציות של משתמשים במהלך כשלים בעיבוד של Model Armor, לוחצים על המתג Allow user interactions during Model Armor processing failure (התרת אינטראקציות של משתמשים במהלך כשלים בעיבוד של Model Armor) כדי להעביר אותו למצב מושבת. מידע נוסף זמין במאמר בנושא שני המצבים שנתמכים על ידי Gemini Enterprise כש-הגנה מוגברת על המודל לא זמין.

7. לוחצים על שמירה ופרסום.

REST

כדי להוסיף את תבניות Model Armor לאפליקציית Gemini Enterprise, מריצים את הפקודה הבאה :

מונח חשוב: ב-Gemini Enterprise, המונח אפליקציה יכול לשמש לחלופין למונח מנוע בהקשר של ממשקי API. מנוע Gemini Enterprise הוא מנוע חיפוש כללי שבו השדה app_type מוגדר לערך APP_TYPE_INTRANET.

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "QUERY_PROMPT_TEMPLATE",
      "responseTemplate": "RESPONSE_PROMPT_TEMPLATE",
      "failureMode": "FAIL_MODE"
    }
  }
}'

מחליפים את מה שכתוב בשדות הבאים:

• ‫PROJECT_ID: מזהה הפרויקט.
• ‫ENDPOINT_LOCATION: האזור הרב-אזורי של בקשת ה-API. מציינים אחד מהערכים הבאים:
  • ‫us לאזור עם מספר אזורים בארה"ב
  • ‫eu לאזור עם מספר אזורים באיחוד האירופי
  • global למיקום הגלובלי
  מידע נוסף זמין במאמר בנושא הגדרת אזור גיאוגרפי מרובה למאגר הנתונים.
• ‫LOCATION: האזור המרובה של מאגר הנתונים: global,‏ us או eu
• ‫APP_ID: המזהה של האפליקציה שרוצים להגדיר.

• ‫QUERY_PROMPT_TEMPLATE: שם המשאב של תבניות Model Armor שיצרתם.
  כדי לקבל את שם המשאב, פועלים לפי השלבים במאמר הצגת תבנית של Model Armor ומעתיקים את הערך של שם המשאב.

  הערה: אתם יכולים להשתמש בתבניות של הגנה מוגברת על המודל שנוצרו באותו פרויקט כמו אפליקציית Gemini Enterprise, או להשתמש בתבניות של הגנה מוגברת על המודל מפרויקט אחר. אם משתמשים בתבנית מפרויקט אחר, צריך לוודא שההרשאות בין הפרויקטים מוגדרות כמו שמתואר בקטע לפני שמתחילים.

• ‫RESPONSE_PROMPT_TEMPLATE: שם המשאב של תבניות Model Armor שיצרתם. אפשר להשתמש בתבניות של הגנה מוגברת על המודל שנוצרו באותו פרויקט או בפרויקט אחר.

• ‫FAIL_MODE: מצב הפעולה כש-Model Armor לא זמין: FAIL_CLOSED או FAIL_OPEN.
  אם לא מוגדר FAIL_MODE, מצב ברירת המחדל הוא FAIL_CLOSED, שבו כל האינטראקציות עם העוזר הדיגיטלי של Gemini Enterprise נחסמות כשיש כשלים בעיבוד של הגנה מוגברת על המודל. מידע נוסף זמין במאמר בנושא שני המצבים שנתמכים ב-Gemini Enterprise כש-Model Armor לא זמין

דוגמה לפקודה ולתוצאה

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: my-project-123" \
"https://discoveryengine.googleapis.com/v1/projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "responseTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "failureMode": "FAIL_OPEN"
    }
  }
}'

{
  "name": "projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant",
  "displayName": "Default Assistant",
  "webGroundingType": "WEB_GROUNDING_TYPE_GOOGLE_SEARCH",
  "googleSearchGroundingEnabled": true,
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "responseTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "failureMode": "FAIL_OPEN"
    }
  }
}

בדיקה אם תבנית הגנה מוגברת על המודל מופעלת

אחרי שמגדירים את תבנית Model Armor, בודקים אם אפליקציית Gemini Enterprise סורקת באופן יזום את הפרומפטים של המשתמשים ואת התשובות של Gemini Enterprise Assistant וחוסמת אותם, בהתאם לרמות הביטחון שהוגדרו במסננים של Model Armor.

אם תבנית Model Armor מוגדרת לבדיקה וחסימה של בקשות שמפירות את המדיניות, תוצג ההודעה הבאה על הפרת המדיניות:

המסוף

לדוגמה, מוצגת הודעה על הפרת מדיניות:

הודעה על הפרת מדיניות Model Armor

REST

תגובת JSON שכוללת את הפרטים הבאים:

answer.state = SKIPPED
answer.assist_skipped_reasons: [CUSTOMER_POLICY_VIOLATION]

הסרת תבניות של Model Armor מאפליקציית Gemini Enterprise

כדי להסיר את תבניות הגנה מוגברת על המודל מאפליקציית Gemini Enterprise, משתמשים Google Cloud במסוף או ב-API בארכיטקטורת REST.

המסוף

כדי להסיר את תבניות הגנה מוגברת על המודל מאפליקציית Gemini Enterprise, פועלים לפי השלבים הבאים:

1. נכנסים לדף Gemini Enterprise במסוף Google Cloud .

   ‫Gemini Enterprise

2. לוחצים על שם האפליקציה שרוצים להגדיר.

3. לוחצים על Configurations (הגדרות) > Assistant (אסיסטנט).

4. כדי להשבית את הגנה מוגברת על המודל, לוחצים על המתג Enable Model Armor (הפעלת הגנה מוגברת על המודל) כדי להעביר אותו למצב מושבת.

5. לוחצים על שמירה ופרסום.

REST

כדי להסיר את תבניות הגנה מוגברת על המודל מאפליקציית Gemini Enterprise, מריצים את הפקודה הבאה:

מונח חשוב: ב-Gemini Enterprise, המונח אפליקציה יכול לשמש לחלופין למונח מנוע בהקשר של ממשקי API. מנוע Gemini Enterprise הוא מנוע חיפוש כללי שבו השדה app_type מוגדר לערך APP_TYPE_INTRANET.

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
    }
  }
}'

מחליפים את מה שכתוב בשדות הבאים:

• ‫PROJECT_ID: מזהה הפרויקט.
• ‫PROJECT_NUMBER: מספר הפרויקט ב- Google Cloud .
• ‫ENDPOINT_LOCATION: האזור הרב-אזורי של בקשת ה-API. מציינים אחד מהערכים הבאים:
  • ‫us לאזור עם מספר אזורים בארה"ב
  • ‫eu לאזור עם מספר אזורים באיחוד האירופי
  • global למיקום הגלובלי
  מידע נוסף זמין במאמר בנושא הגדרת אזור גיאוגרפי מרובה למאגר הנתונים.
• ‫LOCATION: האזור המרובה של מאגר הנתונים: global,‏ us או eu.
• ‫APP_ID: המזהה של האפליקציה שרוצים להגדיר.

דוגמה לפקודה ולתוצאה

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: my-project-123" \
"https://discoveryengine.googleapis.com/v1/projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
    }
  }
}'

{
  "name": "projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant",
  "displayName": "Default Assistant",
  "webGroundingType": "WEB_GROUNDING_TYPE_GOOGLE_SEARCH",
  "googleSearchGroundingEnabled": true,
  "customerPolicy": {
    "modelArmorConfig": {}
  },
  "generationConfig": {
    "systemInstruction": {}
  }
}

הגדרת יומני ביקורת

‫הגנה מוגברת על המודל יכולה לכתוב יומני ביקורת של גישה לנתונים, שבהם אפשר להשתמש כדי לנתח את תוצאות הבדיקה של הבקשות והתשובות שנוצרו על ידי הגנה מוגברת על המודל ולדווח עליהן. היומנים האלה לא מכילים את השאילתות של המשתמשים או את התשובות של העוזר הדיגיטלי של Gemini Enterprise, ולכן אפשר להשתמש בהם בבטחה לדיווח ולניתוח. מידע נוסף זמין במאמר בנושא רישום ביומן ביקורת של הגנה מוגברת על המודל.

כדי לגשת ליומנים האלה, צריך לקבל את תפקיד ה-IAM‏ Private Logs Viewer (roles/logging.privateLogViewer).

הפעלת יומני ביקורת של גישה לנתונים

כדי להפעיל את יומני הביקורת Data Access, פועלים לפי השלבים הבאים:

1. במסוף Google Cloud , נכנסים אל IAM & Admin > Audit Logs.

2. בוחרים באפשרות Model Armor API.

3. בקטע Permission type, בוחרים את סוג ההרשאה Data read.

4. לוחצים על Save.

בדיקת יומני ביקורת של גישה לנתונים

כדי לבדוק את יומני הביקורת לגבי גישה לנתונים:

1. במסוף Google Cloud , עוברים אל Logs Explorer.

2. מחפשים ביומנים את שמות השיטות הבאים:

   • methodName: "google.cloud.modelarmor.v1.ModelArmor.SanitizeUserPrompt" כדי לראות את בקשות המשתמשים שנבדקו.

   • google.cloud.modelarmor.v1.ModelArmor.SanitizeModelResponse כדי לראות את התשובות שנבדקו.

שיקולים לשימוש בהגנה מוגברת על המודל

כשמשתמשים ב-Model Armor עם Gemini Enterprise, חשוב לשים לב לנקודות הבאות:

מגבלות ומכסות של טוקנים	למרות שאין מגבלות ישירות על טוקנים כשמשתמשים ב-Model Armor עם Gemini Enterprise, התפוקה הכוללת של ההערכות של Model Armor עדיין כפופה באופן עקיף למכסות המערכת של Gemini Enterprise ולמגבלות הקצב של Model Armor API.
הסכם רמת שירות (SLA)	‫Gemini Enterprise מספק הסכם רמת שירות. כש-Gemini Enterprise מוגדר להשתמש ב-Model Armor, שאילתות שנחסמות לא נספרות כהפרות של הסכם רמת השירות (SLA), בלי קשר למצב fail-open או fail-closed שבו נעשה שימוש.
עמידה בדרישות	‫Gemini Enterprise ו-Model Armor מציעים מגוון אישורים לתאימות. כשמשתמשים בשני המוצרים יחד, אישורי התאימות הרלוונטיים הם קבוצת המשנה המשותפת לשני המוצרים. ‫Google ממליצה לבדוק את אישורי התאימות של שני המוצרים כדי לוודא שהם עומדים בדרישות הרגולטוריות שלכם.
בדיקת מסמכים	אם תבנית הגנה מוגברת על המודל מוגדרת לסריקת בקשות של משתמשים, המסמכים שנכללים בבקשה נסרקים. הבדיקה מתבצעת כשמוסיפים מסמך לבקשה. אם מסמך מפר את המדיניות בתבנית שהוגדרה, הוא נפסל ולא נכלל בבקשה. במאמר בדיקת מסמכים מופיעה רשימה של סוגי המסמכים הנתמכים.
אינטראקציות וסוכנים שנבדקו	אם תבנית הגנה מוגברת על המודל מוגדרת לסריקת בקשות של משתמשים, רק אינטראקציות עם הסוכנים הבאים נסרקות ב-Gemini Enterprise: העוזר של Gemini Enterprise סוכנים שנוצרו על ידי עובדים, שנוצרו באפליקציית Gemini Enterprise באמצעות הכלי לתכנון סוכנים. סוכנים מבית Google האינטראקציות עם סוכנים מותאמים אישית מהארגון, כמו ADK, A2A ו-Dialogflow, לא נבדקות.

המאמרים הבאים

• השוואה בין יומני Model Armor לבין יומני Gemini Enterprise