איך משלבים את הגנה מוגברת על המודל עם Gemini Enterprise

שילוב של Model Armor עם Gemini Enterprise מאפשר לכם לסנן את ההנחיות של המשתמשים ואת התשובות של סוכני ה-AI, וכך לצמצם את הסיכונים כמו החדרת הנחיות, תוכן מזיק ודליפת נתונים רגישים. אחרי שמגדירים את השילוב, הוא חל על כל האינטראקציות של המשתמשים.

לפני שמתחילים

יוצרים תבנית הגנה מוגברת על המודל ומוודאים שהיא נמצאת באותו פרויקט Google Cloudכמו Gemini Enterprise. המיקום של התבנית ושל מופע Gemini Enterprise חייבים להיות זהים. מידע נוסף על מיקומים נתמכים זמין במאמרים מיקומים של Model Armor ומיקומים של Gemini Enterprise.

התפקידים הנדרשים

לפני שמשלבים את Model Armor עם Gemini Enterprise, צריך לוודא שיש לכם את התפקיד הנדרש.

כדי לקבל את ההרשאות שנדרשות ליצירה ולניהול של תבניות Model Armor, צריך לבקש מהאדמין להקצות לכם את התפקיד Model Armor Admin (roles/modelarmor.admin) ב-IAM בתבניות Model Armor. כדי לקרוא הסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

יכול להיות שאפשר לקבל את ההרשאות הנדרשות גם באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש.

הפעלת השילוב

כדי להפעיל את Gemini Enterprise עם Model Armor, מנהל האבטחה יוצר מדיניות ב-Model Armor ומנהל Gemini Enterprise מחיל את המדיניות הזו על המופע של Gemini Enterprise.

  1. יוצרים תבנית Model Armor.
  2. הפעלה והגדרה של Model Armor ב-Gemini Enterprise.

מגבלות ושיקולים

כשמשלבים את Model Armor עם Gemini Enterprise, חשוב להביא בחשבון את המגבלות והשיקולים הבאים:

  • הסרת פרטים מזהים והסתרת מידע: כש-Model Armor משתמש בתבנית של Sensitive Data Protection כדי לסרוק פרומפטים או תשובות, הוא בודק אם התוכן תואם לקריטריונים של גלאי סוגי המידע שמוגדרים בתבנית. למרות ש-Sensitive Data Protection תומך בהסרת פרטי הזיהוי על סמך הגדרת התבנית, הגנה מוגברת על המודל לא מעביר נתונים שעברו הסרת פרטי הזיהוי או מיסוך בחזרה ל-Gemini Enterprise. אם התוכן מפעיל גלאי infoType כלשהו מ-Sensitive Data Protection וסוג האכיפה הוא INSPECT_AND_BLOCK, Gemini Enterprise חוסם את הבקשה או התשובה במקום להסיר את הפרטים המזהים.

  • בדיקת מסמכים ותמונות: בנוסף להנחיות טקסט, השילוב תומך במסמכים (כמו קובצי PDF) ובתמונות. השילוב בודק את הקבצים הבאים רק כשמעלים אותם אל העוזר של Gemini Enterprise:

    • תמונות שאתם מעלים ישירות.
    • תמונות שנמצאות בתוך קבצים ומסמכים אחרים שאתם מעלים ישירות.

    אם קובץ או תמונה בתוך מסמך מפרים את כללי המדיניות שהגדרתם, המערכת תדחה את הקובץ או המסמך כולו ותוציא אותו מהבקשה.

  • סוכנים ואינטראקציות שנבדקו: הבדיקה חלה על העוזר הדיגיטלי של Gemini Enterprise, על סוכנים שנוצרו על ידי עובדים (ב-Workflow Builder באפליקציית Gemini Enterprise) ועל סוכנים שנוצרו על ידי Google. האינטראקציות עם סוכנים בהתאמה אישית מהארגון שלכם (כמו ADK,‏ A2A ו-Dialogflow) לא נבדקות.

  • מגבלות ומכסות של טוקנים: אין מגבלות על טוקנים כשמשתמשים בהגנה מוגברת על המודל עם Gemini Enterprise. עם זאת, התפוקה הכוללת של הערכות Model Armor כפופה למכסות של מערכת Gemini Enterprise ולמגבלות הקצב של Model Armor API.

  • הסכם רמת שירות (SLA): Gemini Enterprise מספק הסכם רמת שירות. כש-Gemini Enterprise מוגדר להשתמש בהגנה מוגברת על המודל, שאילתות חסומות לא נחשבות להפרות של הסכם רמת השירות (SLA), בלי קשר למצב fail-open או fail-closed שבו נעשה שימוש.

  • תאימות: גם Gemini Enterprise וגם Model Armor מציעים אישורים שונים לתאימות. כשמשתמשים בשני המוצרים יחד, אישורי התאימות הרלוונטיים הם קבוצת המשנה המשותפת של שני המוצרים. כדאי לעיין באישורים לתאימות של שני המוצרים כדי לוודא שהם עומדים בדרישות הרגולטוריות שלכם.

איך זה עובד

אחרי שמגדירים את השילוב, Gemini Enterprise מעביר את הקלט של המשתמשים ואת הפלט של העוזר הדיגיטלי דרך API הגנה מוגברת על המודל כדי לבצע סינון באמצעות התבניות שנבחרו. סוכן Gemini Enterprise מאמת את עצמו ב-Model Armor באמצעות סוכן השירות. ‫Model Armor מגיב על סמך הגדרת המסנן שמוגדרת בתבנית, ו-Gemini Enterprise פועל על פיה על ידי חסימת הבקשה או התגובה או אישור שלהן.

לדוגמה, יכול להיות ש-Gemini Enterprise יזהה בקשה שמכילה פרטים אישיים מזהים (PII) ויעביר אותה ל-Model Armor לבדיקה. אם תבנית הגנה מוגברת על המודל מוגדרת לחסימת פרטים אישיים מזהים (PII), היא מורה ל-Gemini Enterprise לחסום את הבקשה.

רישום ביומן

‫Model Armor יוצר יומנים של הפלטפורמה לבקשות לניקוי ולתגובות שלהן ב-Cloud Logging. כדי לראות את יומני הביקורת של Model Armor, צריך את תפקיד IAM ‏Private Logs Viewer (roles/logging.privateLogViewer). מידע נוסף על יומני הביקורת שנוצרים אוטומטית זמין במאמר בנושא רישום ביומן ביקורת של Model Armor.

כדי לרשום ביומן את פעולות הניקוי, צריך להגדיר את השדה templateMetadata.logSanitizeOperations לערך true. מידע נוסף זמין במאמר הגדרת רישום ביומן בתבניות.

המאמרים הבאים