הפעלת הגנה מוגברת על המודל ב-Gemini Enterprise

במאמר הזה מוסבר איך להפעיל את הגנה מוגברת על המודל ב-Gemini Enterprise. ‫הגנה מוגברת על המודל הוא Google Cloud שירות שמשפר את האבטחה של אפליקציות ה-AI שלכם על ידי סינון יזום של ההנחיות והתשובות שניתנות על ידי העוזר של Gemini Enterprise. כך אנחנו מונעים סיכונים שונים ומבטיחים שימוש אחראי ב-AI. התכונה הגנה מוגברת על המודל נתמכת בכל מהדורות Gemini Enterprise ללא עלות נוספת.

הגנה מוגברת על המודל לא מסירה או משנה פרטים אישיים מזהים (PII) ולא מסתירה מידע אישי רגיש. עם זאת, Gemini Enterprise חוסם כל תגובה של העוזר הדיגיטלי של Gemini Enterprise שמפעילה מסננים של Sensitive Data Protection (SDP).

הערה: הפעלת הגנה מוגברת על המודל ב-Gemini Enterprise עלולה להגדיל את זמן האחזור.

התגובה של Model Armor לבעיות פוטנציאליות בשאילתות של משתמשים או בתשובות של העוזר הדיגיטלי של Gemini Enterprise כפופה לסוג האכיפה של התבנית. מידע נוסף זמין במאמר בנושא הגדרת סוג האכיפה.

• אם סוג האכיפה הוא בדיקה וחסימה, Gemini Enterprise חוסם את הבקשה ומציג הודעת שגיאה. זהו סוג האכיפה שמוגדר כברירת מחדל כשיוצרים תבנית הגנה מוגברת על המודל באמצעות המסוף.

• אם סוג האכיפה הוא בדיקה בלבד, Gemini Enterprise לא חוסם את הבקשות או התשובות.

אם שירות הסינון הגנה מוגברת על המודל לא זמין, אפשר להגדיר את Gemini Enterprise כך שיתנהג באחת מהדרכים הבאות:

מצב	תיאור
הפעלת אינטראקציות עם משתמשים	במצב הזה, Gemini Enterprise מאפשר להעביר בקשות ותשובות בלי סינון יזום, כשהשירות הגנה מוגברת על המודל לסינון לא זמין. כך נשמרת תקשורת רציפה עם משתמש הקצה. עם זאת, מדי פעם יכול להיות שיוצגו הודעות שלא נבדקו או שיינתנו תשובות לשאילתות שלא נבדקו.
חסימת כל האינטראקציות של המשתמשים	במצב הזה, אם שירות הסינון הגנה מוגברת על המודל לא זמין, Gemini Enterprise חוסם את כל הבקשות והתשובות, כולל בקשות ותשובות לגיטימיות.

לפני שמתחילים

• מוודאים שהתפקידים הנדרשים הוקצו לכם ולחשבון השירות של Gemini Enterprise:

  • כדי להפעיל את הגנה מוגברת על המודל ב-Gemini Enterprise, צריך את התפקיד אדמין של Discovery Engine (roles/discoveryengine.admin).

  • כדי ליצור את תבניות הגנה מוגברת על המודל, צריך להיות לכם התפקיד אדמין של הגנה מוגברת על המודל (roles/modelarmor.admin).

  • כדי להפעיל את ממשקי ה-API של הגנה מוגברת על המודל, צריך את התפקיד משתמש הגנה מוגברת על המודל (roles/modelarmor.user).

  הערה: כדי להעניק לחשבון שירות כמה תפקידי IAM, אפשר לעיין במאמר בנושא הענקה או ביטול של כמה תפקידי IAM באמצעות מסוף Google Cloud .

• מוודאים שיצרתם אפליקציית Gemini Enterprise. כדי ליצור אחת, אפשר לעיין במאמר בנושא יצירת אפליקציה.

יצירת תבנית הגנה מוגברת על המודל

אתם יכולים ליצור ולהשתמש באותה תבנית של הגנה מוגברת על המודל להנחיות של משתמשים ולתשובות של העוזר הדיגיטלי, או ליצור שתי תבניות נפרדות של הגנה מוגברת על המודל. מידע נוסף זמין במאמר בנושא יצירת תבנית הגנה מוגברת על המודל.

כשיוצרים תבנית הגנה מוגברת על המודל לאפליקציות Gemini Enterprise, כדאי לשקול את ההגדרות הבאות:

• בוחרים באפשרות Multi-region בשדה Regions. בטבלה הבאה מוסבר איך למפות אזורים בתבנית הגנה מוגברת על המודל לאזורים באפליקציית Gemini Enterprise:

  הערה: אחרי שיוצרים תבנית הגנה מוגברת על המודל ואפליקציית Gemini Enterprise, אי אפשר לשנות את האזורים.

  אפליקציית Gemini Enterprise מרובת אזורים	הגנה מוגברת על המודל במספר אזורים
  עולמי	ארה"ב (מספר אזורים בארצות הברית) האיחוד האירופי (מספר אזורים באיחוד האירופי)
  ארה"ב (מספר אזורים בארצות הברית)	ארה"ב (מספר אזורים בארצות הברית)
  האיחוד האירופי (מספר אזורים באיחוד האירופי)	האיחוד האירופי (מספר אזורים באיחוד האירופי)

• ‫Google לא ממליצה להגדיר Cloud Logging בתבנית הגנה מוגברת על המודל לאפליקציות Gemini Enterprise. ההגדרה הזו עלולה לחשוף מידע אישי רגיש למשתמשים עם תפקיד IAM של צפייה ביומנים פרטיים (roles/logging.privateLogViewer). במקום זאת, אפשר לנסות את האפשרויות הבאות:

  • אם אתם צריכים לרשום ביומן את הנתונים שעוברים דרך תבנית הגנה מוגברת על המודל, אתם יכולים להפנות מחדש את היומנים לאחסון מאובטח כמו BigQuery, שמציע בקרת גישה מחמירה יותר. מידע נוסף זמין במאמר ניתוב יומנים ליעדים נתמכים.

  • אתם יכולים להגדיר יומני ביקורת של גישה לנתונים כדי לנתח את תוצאות הבדיקה של הבקשות והתגובות שנוצרו על ידי הגנה מוגברת על המודל ולדווח עליהן. למידע נוסף, ראו הגדרה של יומני ביקורת.

הגדרת אפליקציית Gemini Enterprise באמצעות תבניות הגנה מוגברת על המודל

בשלבים הבאים מוסבר איך להוסיף את תבניות הגנה מוגברת על המודל לאפליקציית Gemini Enterprise.

המסוף

1. במסוף Google Cloud , עוברים לדף Gemini Enterprise.

   ‫Gemini Enterprise

2. לוחצים על שם האפליקציה שרוצים להגדיר.

3. לוחצים על הגדרות > אסיסטנט.

4. כדי להפעיל את הגנה מוגברת על המודל, לוחצים על הפעלת הגנה מוגברת על המודל.

5. בקטעים הגנה מוגברת על המודל template for user prompts ו-הגנה מוגברת על המודל templates for response outputs, מזינים את Resource name (שם המשאב) של תבניות הגנה מוגברת על המודל שיצרתם.

   הערה: כדי לקבל את שם המשאב, פועלים לפי השלבים במאמרי העזרה הצגת תבנית של הגנה מוגברת על המודל ומעתיקים את הערך של שם המשאב.

6. אם רוצים לחסום אינטראקציות של משתמשים במהלך כשלים בעיבוד של הגנה מוגברת על המודל, צריך להעביר את המתג Allow user interactions during Model Armor processing failure למצב מושבת. מידע נוסף זמין במאמר בנושא שני מצבים שנתמכים ב-Gemini Enterprise כש'הגנה מוגברת על המודל' לא זמין.

7. לוחצים על שמירה ופרסום.

REST

כדי להוסיף את תבניות הגנה מוגברת על המודל לאפליקציית Gemini Enterprise, מריצים את הפקודה הבאה :

מונח חשוב: ב-Gemini Enterprise, המונח אפליקציה יכול לשמש לחלופין למונח מנוע בהקשר של ממשקי API. מנוע Gemini Enterprise הוא מנוע חיפוש כללי שבו השדה app_type מוגדר ל-APP_TYPE_INTRANET.

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "QUERY_PROMPT_TEMPLATE",
      "responseTemplate": "RESPONSE_PROMPT_TEMPLATE",
      "failureMode": "FAIL_MODE"
    }
  }
}'

מחליפים את מה שכתוב בשדות הבאים:

• ‫PROJECT_ID: מזהה הפרויקט.
• ‫ENDPOINT_LOCATION: האזור במספר אזורים של בקשת ה-API. מציינים אחד מהערכים הבאים:
  • ‫us בארה"ב במספר אזורים
  • ‫eu במספר אזורים באיחוד האירופי
  • global למיקום הגלובלי
  מידע נוסף זמין במאמר בנושא ציון מספר אזורים למאגר הנתונים.
• ‫LOCATION: האזור המרובה של מאגר הנתונים: global,‏ us או eu
• ‫APP_ID: המזהה של האפליקציה שרוצים להגדיר.
• ‫QUERY_PROMPT_TEMPLATE: שם המשאב של תבניות הגנה מוגברת על המודל שיצרתם.
  כדי לקבל את שם המשאב, פועלים לפי השלבים במאמרי העזרה הצגת תבנית של הגנה מוגברת על המודל ומעתיקים את הערך של שם המשאב.
• ‫RESPONSE_PROMPT_TEMPLATE: שם המשאב של תבניות הגנה מוגברת על המודל שיצרתם.
• FAIL_MODE: מצב הפעולה כש-הגנה מוגברת על המודל לא זמין: FAIL_CLOSED או FAIL_OPEN.
  אם FAIL_MODE לא מוגדר, FAIL_CLOSE הוא מצב ברירת המחדל שבו כל האינטראקציות עם העוזר הדיגיטלי של Gemini Enterprise נחסמות כשיש כשלים בעיבוד של Model Armor. מידע נוסף זמין במאמר על שני המצבים שנתמכים ב-Gemini Enterprise כש-הגנה מוגברת על המודל לא זמין

דוגמה לפקודה ולתוצאה

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: my-project-123" \
"https://discoveryengine.googleapis.com/v1/projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "responseTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "failureMode": "FAIL_OPEN"
    }
  }
}'

{
  "name": "projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant",
  "displayName": "Default Assistant",
  "webGroundingType": "WEB_GROUNDING_TYPE_GOOGLE_SEARCH",
  "googleSearchGroundingEnabled": true,
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "responseTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "failureMode": "FAIL_OPEN"
    }
  }
}

בדיקה אם תבנית הגנה מוגברת על המודל מופעלת

אחרי שמגדירים את תבנית הגנה מוגברת על המודל, בודקים אם אפליקציית Gemini Enterprise סורקת באופן יזום את ההנחיות והתשובות של המשתמשים ומסננת אותן מהעוזר של Gemini Enterprise, בהתאם לרמות הביטחון שהוגדרו במסננים של הגנה מוגברת על המודל.

כשמגדירים את תבנית הגנה מוגברת על המודל לבדיקה וחסימה של בקשות שמפירות את המדיניות, מוצגת ההודעה הבאה על הפרת מדיניות:

המסוף

לדוגמה, מוצגת הודעה על הפרת מדיניות:

הודעה על הפרת מדיניות של הגנה מוגברת על המודל

REST

תגובת JSON שכוללת את הפרטים הבאים:

answer.state = SKIPPED
answer.assist_skipped_reasons: [CUSTOMER_POLICY_VIOLATION]

הסרת תבניות של הגנה מוגברת על המודל מאפליקציית Gemini Enterprise

כדי להסיר את התבניות של הגנה מוגברת על המודל מאפליקציית Gemini Enterprise, משתמשים במסוףGoogle Cloud או ב-API בארכיטקטורת REST.

המסוף

כדי להסיר את תבניות הגנה מוגברת על המודל מאפליקציית Gemini Enterprise, פועלים לפי השלבים הבאים:

1. במסוף Google Cloud , עוברים לדף Gemini Enterprise.

   ‫Gemini Enterprise

2. לוחצים על שם האפליקציה שרוצים להגדיר.

3. לוחצים על הגדרות > אסיסטנט.

4. כדי להשבית את הגנה מוגברת על המודל, לוחצים על המתג Enable Model Armor (הפעלת הגנה מוגברת על המודל) כדי להעביר אותו למצב מושבת.

5. לוחצים על שמירה ופרסום.

REST

כדי להסיר את תבניות הגנה מוגברת על המודל מאפליקציית Gemini Enterprise, מריצים את הפקודה הבאה:

מונח חשוב: ב-Gemini Enterprise, המונח אפליקציה יכול לשמש לחלופין למונח מנוע בהקשר של ממשקי API. מנוע Gemini Enterprise הוא מנוע חיפוש כללי שבו השדה app_type מוגדר ל-APP_TYPE_INTRANET.

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
    }
  }
}'

מחליפים את מה שכתוב בשדות הבאים:

• ‫PROJECT_ID: מזהה הפרויקט.
• ‫PROJECT_NUMBER: מספר הפרויקט ב- Google Cloud .
• ‫ENDPOINT_LOCATION: האזור במספר אזורים של בקשת ה-API. מציינים אחד מהערכים הבאים:
  • ‫us בארה"ב במספר אזורים
  • ‫eu במספר אזורים באיחוד האירופי
  • global למיקום הגלובלי
  מידע נוסף זמין במאמר בנושא ציון מספר אזורים למאגר הנתונים.
• ‫LOCATION: האזור המרובה של מאגר הנתונים: global,‏ us או eu.
• ‫APP_ID: המזהה של האפליקציה שרוצים להגדיר.

דוגמה לפקודה ולתוצאה

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: my-project-123" \
"https://discoveryengine.googleapis.com/v1/projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
    }
  }
}'

{
  "name": "projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant",
  "displayName": "Default Assistant",
  "webGroundingType": "WEB_GROUNDING_TYPE_GOOGLE_SEARCH",
  "googleSearchGroundingEnabled": true,
  "customerPolicy": {
    "modelArmorConfig": {}
  },
  "generationConfig": {
    "systemInstruction": {}
  }
}

הגדרה של יומני ביקורת

‫הגנה מוגברת על המודל יכול לכתוב יומני ביקורת של גישה לנתונים, שבהם אפשר להשתמש כדי לנתח את תוצאות הבדיקה של הבקשות והתגובות שנוצרו על ידי הגנה מוגברת על המודל ולדווח עליהן. היומנים האלה לא מכילים את השאילתות של המשתמשים או את התשובות של Gemini Enterprise Assistant, ולכן אפשר להשתמש בהם בבטחה לצורך דיווח וניתוח. מידע נוסף זמין במאמר בנושא רישום ביומן ביקורת עבור הגנה מוגברת על המודל.

כדי לגשת ליומנים האלה, צריך לקבל את תפקיד ה-IAM‏ Private Logs Viewer (roles/logging.privateLogViewer).

הפעלת יומני ביקורת של גישה לנתונים

כדי להפעיל את יומני הביקורת לגבי גישה לנתונים, פועלים לפי השלבים הבאים:

1. במסוף Google Cloud , נכנסים אל IAM & Admin ‏> Audit Logs.

2. בוחרים באפשרות הגנה מוגברת על המודל API.

3. בקטע Permission type, בוחרים את סוג ההרשאה Data read.

4. לוחצים על Save.

בדיקת יומני הביקורת Data Access

כדי לבדוק את יומני הביקורת לגבי גישה לנתונים, פועלים לפי השלבים הבאים:

1. במסוף Google Cloud , עוברים אל Logs Explorer.

2. מחפשים ביומנים את שמות השיטות הבאים:

   • methodName: "google.cloud.modelarmor.v1.ModelArmor.SanitizeUserPrompt" כדי לראות את בקשות המשתמשים שנבדקו.

   • google.cloud.modelarmor.v1.ModelArmor.SanitizeModelResponse כדי לראות את התשובות שנבדקו.

שיקולים לשימוש בהגנה מוגברת על המודל

כשמשתמשים בהגנה מוגברת על המודל עם Gemini Enterprise, חשוב לזכור את הנקודות הבאות:

טוקנים	מגבלות הטוקנים באפליקציות של Gemini Enterprise שמשתמשות בהגנה מוגברת על המודל נקבעות לפי המסננים הספציפיים שהוגדרו בהגנה מוגברת על המודל. מידע מפורט על המגבלות האלה זמין במאמר מגבלות הטוקנים הרלוונטיות במאמרי העזרה של הגנה מוגברת על המודל.
הסכם רמת שירות (SLA)	‫Gemini Enterprise מספק הסכם רמת שירות. כש-Gemini Enterprise מוגדר להשתמש בהגנה מוגברת על המודל, שאילתות שנחסמות לא נספרות כהפרות של הסכם רמת השירות, בלי קשר למצב fail-open או fail-closed שבו נעשה שימוש.
תאימות	‫Gemini Enterprise והגנה מוגברת על המודל מציעים מגוון אישורים בנושא תאימות. כשמשתמשים בשני המוצרים יחד, אישורי התאימות בפועל הם קבוצת המשנה המשותפת של שני המוצרים. ‫Google ממליצה לבדוק את אישורי התאימות של שני המוצרים כדי לוודא שהם עומדים בדרישות הרגולטוריות שלכם.
בדיקת מסמכים	אם תבנית הגנה מוגברת על המודל מוגדרת לסריקת בקשות של משתמשים, המסמכים שנכללים בבקשה נסרקים. הבדיקה מתבצעת כשמוסיפים מסמך לבקשה. אם מסמך מפר את המדיניות בתבנית שהוגדרה, הוא נפסל ולא נכלל בבקשה. רשימת סוגי המסמכים הנתמכים מופיעה במאמר בדיקת מסמכים.