הפעלת הגנה מוגברת על המודל ב-Gemini Enterprise

במאמר הזה מוסבר איך להפעיל את הגנה מוגברת על המודל ב-Gemini Enterprise. ‫הגנה מוגברת על המודל הוא Google Cloud שירות שמשפר את האבטחה והבטיחות של אפליקציות ה-AI שלכם על ידי סינון יזום של ההנחיות והתשובות שניתנות על ידי העוזר של Gemini Enterprise. כך אפשר להגן מפני סיכונים שונים ולהבטיח שימוש אחראי ב-AI. ‫Model Armor נתמך בכל מהדורות Gemini Enterprise ללא עלות נוספת.

‫הגנה מוגברת על המודל לא מסיר או משנה פרטים אישיים מזהים (PII) ולא מסתיר מידע אישי רגיש. עם זאת, Gemini Enterprise חוסם כל תשובה של העוזר הדיגיטלי של Gemini Enterprise שמפעילה מסננים של Sensitive Data Protection (SDP).

הערה: הפעלת Model Armor ב-Gemini Enterprise עלולה להגדיל את זמן האחזור.

התשובה של Model Armor לבעיות פוטנציאליות בשאילתות של משתמשים או בתשובות של עוזר Gemini Enterprise כפופה לסוג האכיפה של התבנית. מידע נוסף זמין במאמר בנושא הגדרת סוג האכיפה.

• אם סוג האכיפה הוא בדיקה וחסימה,‏ Gemini Enterprise חוסם את הבקשה ומציג הודעת שגיאה. זהו סוג האכיפה שמוגדר כברירת מחדל כשיוצרים תבנית הגנה מוגברת על המודל באמצעות המסוף.

• אם סוג האכיפה הוא בדיקה בלבד, Gemini Enterprise לא חוסם את הבקשות או התשובות.

כששירות הסינון הגנה מוגברת על המודל לא זמין, אתם יכולים להגדיר את Gemini Enterprise כך שיתנהג באחת מהדרכים הבאות:

מצב	תיאור
הפעלת אינטראקציות של משתמשים	במצב הזה, Gemini Enterprise מאפשר לבקשות ולתשובות לעבור בלי סינון יזום, אם שירות הסינון הגנה מוגברת על המודל לא זמין. כך נשמרת תקשורת רציפה עם משתמשי הקצה. עם זאת, מדי פעם יכול להיות שיוצגו הודעות שלא נבדקו או שיינתנו תשובות לשאילתות שלא נבדקו.
חסימת כל האינטראקציות של המשתמשים	במצב הזה, אם שירות הסינון הגנה מוגברת על המודל לא זמין, Gemini Enterprise חוסם את כל הבקשות והתשובות, כולל בקשות ותשובות לגיטימיות.

לפני שמתחילים

• מוודאים שהתפקידים הנדרשים הוקצו לכם ולחשבון השירות של Gemini Enterprise:

  • כדי להפעיל את הגנה מוגברת על המודל ב-Gemini Enterprise, צריך את התפקיד Gemini Enterprise Admin ‏(roles/discoveryengine.agentspaceAdmin).

  • כדי ליצור את התבניות של הגנה מוגברת על המודל, צריך את התפקיד אדמין של הגנה מוגברת על המודל (roles/modelarmor.admin).

  • כדי להפעיל את ממשקי API של הגנה מוגברת על המודל, צריך את התפקיד Model Armor User (roles/modelarmor.user).

  הערה: כדי להקצות כמה תפקידי IAM לחשבון שירות, אפשר לעיין במאמר בנושא הקצאה או ביטול של כמה תפקידי IAM באמצעות מסוף Google Cloud .

• מוודאים שיצרתם אפליקציית Gemini Enterprise. כדי ליצור אחת, אפשר לעיין במאמר בנושא יצירת אפליקציה.

יצירת תבנית של הגנה מוגברת על המודל

אתם יכולים ליצור תבנית הגנה מוגברת על המודל אחת ולהשתמש בה להנחיות של משתמשים ולתשובות של העוזר הדיגיטלי, או ליצור שתי תבניות הגנה מוגברת על המודל נפרדות. מידע נוסף זמין במאמר בנושא יצירת תבנית הגנה מוגברת על המודל.

כשיוצרים תבנית Model Armor לאפליקציות Gemini Enterprise, כדאי לשקול את ההגדרות הבאות:

• בוחרים באפשרות Multi-region בשדה Regions. בטבלה הבאה מפורט המיפוי של אזורי תבניות הגנה מוגברת על המודל לאזורים של אפליקציית Gemini Enterprise:

  הערה: אחרי שיוצרים תבנית של הגנה מוגברת על המודל ואפליקציית Gemini Enterprise, אי אפשר לשנות את האזורים.

  אפליקציית Gemini Enterprise – ריבוי אזורים	הגנה מוגברת על המודל במספר אזורים
  עולמי	ארצות הברית (מספר אזורים בארצות הברית) האיחוד האירופי (מספר אזורים באיחוד האירופי)
  ארצות הברית (מספר אזורים בארצות הברית)	ארצות הברית (מספר אזורים בארצות הברית)
  האיחוד האירופי (מספר אזורים באיחוד האירופי)	האיחוד האירופי (מספר אזורים באיחוד האירופי)

• ‫Google לא ממליצה להגדיר Cloud Logging בתבנית הגנה מוגברת על המודל לאפליקציות Gemini Enterprise. ההגדרה הזו עלולה לחשוף מידע אישי רגיש למשתמשים עם תפקיד IAM מסוג Private Logs Viewer (roles/logging.privateLogViewer). במקום זאת, אפשר לנסות את האפשרויות הבאות:

  • אם אתם צריכים לרשום ביומן את הנתונים שעוברים דרך תבנית הגנה מוגברת על המודל, אתם יכולים לנתב מחדש את היומנים לאחסון מאובטח כמו BigQuery, שמציע אמצעי בקרת גישה מחמירים יותר. מידע נוסף זמין במאמר ניתוב יומנים ליעדים נתמכים.

  • אתם יכולים להגדיר יומני ביקורת של גישה לנתונים כדי לנתח את תוצאות הסינון של הבקשות והתגובות שנוצרו על ידי הגנה מוגברת על המודל ולדווח עליהן. מידע נוסף זמין במאמר בנושא הגדרת יומני ביקורת.

הגדרת אפליקציית Gemini Enterprise באמצעות תבניות של הגנה מוגברת על המודל

בשלבים הבאים מוסבר איך להוסיף את התבניות של Model Armor לאפליקציית Gemini Enterprise.

המסוף

1. נכנסים לדף Gemini Enterprise במסוף Google Cloud .

   ‫Gemini Enterprise

2. לוחצים על שם האפליקציה שרוצים להגדיר.

3. לוחצים על Configurations (הגדרות) > Assistant (אסיסטנט).

4. כדי להפעיל את הגנה מוגברת על המודל, לוחצים על הפעלת הגנה מוגברת על המודל.

5. בשדות Model Armor template for user prompts (תבנית Model Armor להנחיות משתמש) ו-Model Armor templates for response outputs (תבניות Model Armor לפלט של תשובות), מזינים את שם המשאב של תבניות Model Armor שיצרתם.

   הערה: כדי לקבל את שם המשאב, פועלים לפי השלבים במאמר הצגת תבנית של Model Armor ומעתיקים את הערך של שם המשאב.

6. אם רוצים לחסום אינטראקציות של משתמשים במהלך כשלים בעיבוד של הגנה מוגברת על המודל, לוחצים על המתג Allow user interactions during Model Armor processing failure (התרת אינטראקציות של משתמשים במהלך כשלים בעיבוד של הגנה מוגברת על המודל) כדי להעביר אותו למצב מושבת. מידע נוסף זמין במאמר בנושא שני המצבים שנתמכים על ידי Gemini Enterprise כש-הגנה מוגברת על המודל לא זמין.

7. לוחצים על שמירה ופרסום.

REST

כדי להוסיף את תבניות הגנה מוגברת על המודל לאפליקציית Gemini Enterprise, מריצים את הפקודה הבאה :

מונח חשוב: ב-Gemini Enterprise, אפשר להשתמש במונח אפליקציה לסירוגין עם המונח מנוע בהקשר של ממשקי API. מנוע Gemini Enterprise הוא מנוע חיפוש כללי שבו השדה app_type מוגדר לערך APP_TYPE_INTRANET.

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "QUERY_PROMPT_TEMPLATE",
      "responseTemplate": "RESPONSE_PROMPT_TEMPLATE",
      "failureMode": "FAIL_MODE"
    }
  }
}'

מחליפים את מה שכתוב בשדות הבאים:

• ‫PROJECT_ID: מזהה הפרויקט.
• ‫ENDPOINT_LOCATION: האזור הרב-אזורי של בקשת ה-API. מציינים אחד מהערכים הבאים:
  • ‫us לאזור עם מספר אזורים בארה"ב
  • ‫eu לאזור עם מספר אזורים באיחוד האירופי
  • global למיקום הגלובלי
  מידע נוסף זמין במאמר בנושא הגדרת אזור רב-אזורי לאחסון הנתונים.
• ‫LOCATION: האזור המרובה של מאגר הנתונים: global,‏ us או eu
• ‫APP_ID: המזהה של האפליקציה שרוצים להגדיר.
• ‫QUERY_PROMPT_TEMPLATE: שם המשאב של תבניות Model Armor שיצרתם.
  כדי לקבל את שם המשאב, פועלים לפי השלבים במאמרי העזרה של הגנה מוגברת על המודל ומעתיקים את הערך של שם המשאב.
• ‫RESPONSE_PROMPT_TEMPLATE: שם המשאב של תבניות Model Armor שיצרתם.
• FAIL_MODE: מצב הפעולה כש-הגנה מוגברת על המודל לא זמין: FAIL_CLOSED או FAIL_OPEN.
  אם לא מוגדר FAIL_MODE, מצב ברירת המחדל הוא FAIL_CLOSE, שבו כל האינטראקציות עם העוזר הדיגיטלי של Gemini Enterprise נחסמות כשיש כשלים בעיבוד של הגנה מוגברת על המודל. מידע נוסף זמין במאמר בנושא שני המצבים שנתמכים ב-Gemini Enterprise כש-הגנה מוגברת על המודל לא זמין

דוגמה לפקודה ולתוצאה

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: my-project-123" \
"https://discoveryengine.googleapis.com/v1/projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "responseTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "failureMode": "FAIL_OPEN"
    }
  }
}'

{
  "name": "projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant",
  "displayName": "Default Assistant",
  "webGroundingType": "WEB_GROUNDING_TYPE_GOOGLE_SEARCH",
  "googleSearchGroundingEnabled": true,
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "responseTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "failureMode": "FAIL_OPEN"
    }
  }
}

בדיקה אם תבנית הגנה מוגברת על המודל מופעלת

אחרי שמגדירים את תבנית הגנה מוגברת על המודל, בודקים אם אפליקציית Gemini Enterprise מסננת וחוסמת באופן יזום הנחיות ותשובות של משתמשים מהעוזר הדיגיטלי של Gemini Enterprise, בהתאם לרמות הביטחון שהוגדרו במסננים של הגנה מוגברת על המודל.

אם תבנית הגנה מוגברת על המודל מוגדרת לבדיקה וחסימה של בקשות שמפירות את המדיניות, תוצג הודעת הפרת המדיניות הבאה:

המסוף

לדוגמה, מוצגת לכם הודעה על הפרת מדיניות:

הודעה על הפרת מדיניות של הגנה מוגברת על המודל

REST

תגובת JSON שכוללת את הפרטים הבאים:

answer.state = SKIPPED
answer.assist_skipped_reasons: [CUSTOMER_POLICY_VIOLATION]

הסרת תבניות של הגנה מוגברת על המודל מאפליקציית Gemini Enterprise

כדי להסיר את תבניות הגנה מוגברת על המודל מאפליקציית Gemini Enterprise, משתמשים Google Cloud במסוף או ב-API בארכיטקטורת REST.

המסוף

כדי להסיר את תבניות הגנה מוגברת על המודל מאפליקציית Gemini Enterprise, פועלים לפי השלבים הבאים:

1. נכנסים לדף Gemini Enterprise במסוף Google Cloud .

   ‫Gemini Enterprise

2. לוחצים על שם האפליקציה שרוצים להגדיר.

3. לוחצים על Configurations (הגדרות) > Assistant (אסיסטנט).

4. כדי להשבית את הגנה מוגברת על המודל, לוחצים על המתג Enable Model Armor (הפעלת הגנה מוגברת על המודל) כדי להעביר אותו למצב מושבת.

5. לוחצים על שמירה ופרסום.

REST

כדי להסיר את תבניות הגנה מוגברת על המודל מאפליקציית Gemini Enterprise, מריצים את הפקודה הבאה:

מונח חשוב: ב-Gemini Enterprise, אפשר להשתמש במונח אפליקציה לסירוגין עם המונח מנוע בהקשר של ממשקי API. מנוע Gemini Enterprise הוא מנוע חיפוש כללי שבו השדה app_type מוגדר לערך APP_TYPE_INTRANET.

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
    }
  }
}'

מחליפים את מה שכתוב בשדות הבאים:

• ‫PROJECT_ID: מזהה הפרויקט.
• ‫PROJECT_NUMBER: מספר הפרויקט ב- Google Cloud .
• ‫ENDPOINT_LOCATION: האזור הרב-אזורי של בקשת ה-API. מציינים אחד מהערכים הבאים:
  • ‫us לאזור עם מספר אזורים בארה"ב
  • ‫eu לאזור עם מספר אזורים באיחוד האירופי
  • global למיקום הגלובלי
  מידע נוסף זמין במאמר בנושא הגדרת אזור רב-אזורי לאחסון הנתונים.
• ‫LOCATION: האזור המרובה של מאגר הנתונים: global,‏ us או eu.
• ‫APP_ID: המזהה של האפליקציה שרוצים להגדיר.

דוגמה לפקודה ולתוצאה

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: my-project-123" \
"https://discoveryengine.googleapis.com/v1/projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
    }
  }
}'

{
  "name": "projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant",
  "displayName": "Default Assistant",
  "webGroundingType": "WEB_GROUNDING_TYPE_GOOGLE_SEARCH",
  "googleSearchGroundingEnabled": true,
  "customerPolicy": {
    "modelArmorConfig": {}
  },
  "generationConfig": {
    "systemInstruction": {}
  }
}

הגדרת יומני ביקורת

‫הגנה מוגברת על המודל יכולה לכתוב יומני ביקורת של גישה לנתונים, שבהם אפשר להשתמש כדי לנתח את תוצאות הבדיקה של הבקשות והתשובות שנוצרו על ידי הגנה מוגברת על המודל ולדווח עליהן. היומנים האלה לא מכילים את השאילתות של המשתמשים או את התשובות של העוזר הדיגיטלי של Gemini Enterprise, ולכן אפשר להשתמש בהם בבטחה לדיווח ולניתוח. מידע נוסף זמין במאמר בנושא רישום ביומן ביקורת של הגנה מוגברת על המודל.

כדי לגשת ליומנים האלה, צריך לקבל את תפקיד ה-IAM‏ Private Logs Viewer (roles/logging.privateLogViewer).

הפעלת יומני ביקורת של גישה לנתונים

כדי להפעיל את יומני הביקורת לגבי גישה לנתונים, פועלים לפי השלבים הבאים:

1. במסוף Google Cloud , נכנסים אל IAM & Admin > Audit Logs.

2. בוחרים באפשרות Model Armor API.

3. בקטע Permission type, בוחרים את סוג ההרשאה Data read.

4. לוחצים על Save.

בדיקת יומני ביקורת של גישה לנתונים

כדי לבדוק את יומני הביקורת לגבי גישה לנתונים:

1. במסוף Google Cloud , עוברים אל Logs Explorer.

2. מחפשים ביומנים את שמות השיטות הבאים:

   • methodName: "google.cloud.modelarmor.v1.ModelArmor.SanitizeUserPrompt" כדי לראות את בקשות המשתמשים שנבדקו.

   • google.cloud.modelarmor.v1.ModelArmor.SanitizeModelResponse כדי לראות את התשובות שנבדקו.

שיקולים לשימוש בהגנה מוגברת על המודל

כשמשתמשים בהגנה מוגברת על המודל עם Gemini Enterprise, חשוב לשים לב לנקודות הבאות:

טוקנים	מגבלות הטוקנים באפליקציות Gemini Enterprise שמשתמשות ב-Model Armor נקבעות לפי המסננים הספציפיים שהוגדרו ב-Model Armor. מידע מפורט על המגבלות האלה זמין במאמר מגבלות הטוקנים הרלוונטיות במאמרי העזרה בנושא הגנה מוגברת על המודל.
הסכם רמת שירות (SLA)	‫Gemini Enterprise מספק הסכם רמת שירות. כש-Gemini Enterprise מוגדר להשתמש בהגנה מוגברת על המודל, שאילתות שנחסמות לא נספרות כהפרות של הסכם רמת השירות (SLA), בלי קשר למצב fail-open או fail-closed שבו נעשה שימוש.
עמידה בדרישות	‫Gemini Enterprise ו-Model Armor מציעים מגוון אישורים לתאימות. כשמשתמשים בשני המוצרים יחד, האישורים הרלוונטיים לתאימות הם קבוצת המשנה המשותפת של שני המוצרים. ‫Google ממליצה לבדוק את אישורי התאימות של שני המוצרים כדי לוודא שהם עומדים בדרישות הרגולטוריות שלכם.
בדיקת מסמכים	אם תבנית הגנה מוגברת על המודל מוגדרת לסריקת בקשות של משתמשים, המסמכים שנכללים בבקשה נסרקים. הבדיקה מתבצעת כשמוסיפים מסמך לבקשה. אם מסמך מפר את המדיניות בתבנית שהוגדרה, הוא נפסל ולא נכלל בבקשה. במאמר בדיקת מסמכים מופיעה רשימה של סוגי המסמכים הנתמכים.