שילוב של הגנה מוגברת על המודל עם שרתי Google ו-Google Cloud MCP

במאמר הזה מוסבר איך להגדיר את Model Armor כדי להגן על הנתונים שלכם ולשמור על התוכן כששולחים בקשות ל Google Cloudשירותים שחושפים כלים ושרתים של Model Context Protocol‏ (MCP).

הגנה מוגברת על המודל עוזרת לאבטח את אפליקציות ה-AI האקטיביות שלכם על ידי הסרת תוכן זדוני או רגיש מהקריאות והתשובות של כלי ה-MCP. התהליך הזה מצמצם סיכונים כמו החדרת פרומפטים וגילוי של נתונים רגישים.

שרתי MCP נתמכים

במאמר מוצרים שתומכים ב-Model Armor מפורטים שרתי Google ו- Google Cloud MCP שנתמכים.

הגדרות האבטחה המינימליות של Model Armor לא יחולו אם תשלחו קריאה לשרתי Google ו- Google Cloud MCP שלא נתמכים.

גרסת המסנן

לצורך השילוב עם Google ועם Google Cloud שרתי MCP, Model Armor משתמשת בv1גרסת המסנן. אי אפשר לשנות את ההגדרה הזו.

שיקולים לגבי מיקום אחסון הנתונים

יכול להיות שהדרישות שלכם לגבי מיקום אחסון הנתונים יושפעו, בהתאם לשאלה אם השירות שנתמך על ידי MCP משתמש בניתוב חוצה סמכויות שיפוט או בניתוב שעומד בדרישות לגבי מיקום אחסון הנתונים. מידע נוסף זמין במאמר שילוב עם שרתי Google ו-Google Cloud שרתי MCP.

לפני שמתחילים

  1. מפעילים את ה-API שרוצים לגשת אליו דרך MCP. מידע נוסף מופיע במאמר הפעלת מוצרים נתמכים.
  2. מפעילים את Model Armor API בפרויקט. מידע נוסף זמין במאמר הפעלת ממשקי API.
  3. אם יש לכם דרישות לגבי מיקום הנתונים, אתם צריכים להגדיר אובייקט מסוג sink לניתוב יומנים למיקום אחסון שעומד בדרישות לפני שתפעילו את Cloud Logging בהליך הבא. הגדרת sink ביומן עוזרת לוודא שהיומנים של הגנה מוגברת על המודל מאוחסנים בקטגוריות בתחום השיפוט המתאים. מידע נוסף מופיע במאמר הגדרת אזור ליומנים.

מטענים ייעודיים נתמכים ולא נתמכים של MCP

‫Model Armor מסיר תוכן זדוני או רגיש רק מהמטענים הייעודיים הבאים של MCP:

  • בקשה ותגובה של tools/call
  • בקשה ותגובה של prompts/get
  • שגיאות בהפעלת כלי MCP (יעד להחדרת פרומפטים על ידי יוצרים זדוניים של כלי MCP)

הגנה מוגברת על המודל מאפשרת את המטענים הייעודיים הבאים ללא הסרת תוכן זדוני או רגיש:

  • tools/list
  • resources/*
  • notifications/*
  • ‫HTTP/SSE ל-MCP עם אפשרות לסטרימינג
  • שגיאות בפרוטוקול MCP (לדוגמה, כל השגיאות מלבד שגיאות בהרצת כלי)

הגדרת הגנה לשרתי MCP של Google ושרתי Google Cloud MCP מרוחקים

כדי להגן על הקריאות והתשובות של כלי ה-MCP, אתם יכולים להשתמש בהגדרות האבטחה המינימליות של Model Armor. הגדרת אבטחה מינימלית קובעת את מסנני האבטחה המינימליים שחלים על כל הפרויקט. ההגדרה הזו מחילה קבוצה עקבית של מסננים על כל הקריאות והתשובות של כלי MCP בפרויקט.

מגדירים את הגדרות האבטחה המינימליות של "הגנה מוגברת על המודל" עם הסרת תוכן זדוני או רגיש ב-MCP. מידע נוסף זמין במאמר בנושא הגדרת ערכי סף ב-Model Armor.

דוגמה לפקודה:

gcloud model-armor floorsettings update \
--full-uri='projects/PROJECT_ID/locations/global/floorSetting' \
--enable-floor-setting-enforcement=TRUE \
--add-integrated-services=GOOGLE_MCP_SERVER \
--google-mcp-server-enforcement-type=INSPECT_AND_BLOCK \
--enable-google-mcp-server-cloud-logging \
--malicious-uri-filter-settings-enforcement=ENABLED \
--add-rai-settings-filters='[{"confidenceLevel": "MEDIUM_AND_ABOVE", "filterType": "DANGEROUS"}]'

מחליפים את PROJECT_ID במזהה הפרויקט ב- Google Cloud .

שימו לב להגדרות הבאות:

  • ‫INSPECT_AND_BLOCK: סוג האכיפה שבודק את התוכן בשרת MCP של Google וחוסם הנחיות ותשובות שתואמות למסננים.
  • ‫ENABLED: ההגדרה שמפעילה סינון או אכיפה.
  • ‫MEDIUM_AND_ABOVE: רמת הסמך של הגדרות הסינון של "אתיקה של בינה מלאכותית – תוכן מסוכן". אפשר לשנות את ההגדרה הזו, אבל ערכים נמוכים יותר עלולים להוביל ליותר תוצאות חיוביות כוזבות. מידע נוסף זמין במאמר בנושא רמות הסמך של Model Armor.

אימות ההגנה המוגברת על המודל

אחרי שמגדירים את ההגנה של Model Armor לשרתי MCP, אפשר לוודא שהיא פועלת: שולחים בקשה עם תוכן שאמור להיחסם ובודקים אם Model Armor חוסם אותו. השלבים הבאים מבוססים על ההנחה שהפעלתם את רישום ביומן ב-Model Armor, כמו שמתואר במאמר הגדרת הגנה לשרתי Google ו- Google Cloud שרתי MCP.

  1. בפרויקט שבו הפעלתם את ההגנה של Model Armor, מפעילים כלי MCP עם ערך מזיק באחד מהפרמטרים שלו. לדוגמה, אם הפעלתם את המסנן של כתובות URI זדוניות, אתם צריכים לכלול כתובת URL לבדיקת פישינג בפרמטר, כמו http://testsafebrowsing.appspot.com/s/phishing.html.
  2. בודקים שהשיחה לכלי ה-MCP חסומה. בהתאם לשרת MCP וללקוח, יכול להיות שתקבלו שגיאה או תשובה ריקה, שמציינת שהבקשה נחסמה על ידי מדיניות אבטחה.

  3. נכנסים לדף Logs Explorer במסוף Google Cloud .

    כניסה לדף Logs Explorer

  4. בחלונית Query, מזינים את השאילתה הבאה:

    resource.type="model-armor_managed_service"
logName="projects/PROJECT_ID/logs/modelarmor.googleapis.com%2Fdetection"

    מחליפים את PROJECT_ID במזהה הפרויקט.

  5. לוחצים על Run query.

  6. בודקים את התוצאות בקטע Query results. אם Model Armor חסם את הבקשה, תופיע רשומה ביומן עם פרטים על האיום שזוהה, כמו MALICIOUS_URI_DETECTED.

השבתת הסריקה של תנועת MCP באמצעות Model Armor

כדי להפסיק את הסריקה האוטומטית של Model Armor לתנועה אל שרתי Google MCP וממנה, על סמך הגדרות האבטחה המינימליות של הפרויקט, מריצים את הפקודה הבאה:

gcloud model-armor floorsettings update \
  --full-uri='projects/PROJECT_ID/locations/global/floorSetting' \
  --remove-integrated-services=GOOGLE_MCP_SERVER

מחליפים את PROJECT_ID במזהה הפרויקט ב- Google Cloud . ‫הגנה מוגברת על המודל לא מחילה באופן אוטומטי את הכללים שמוגדרים בהגדרות אבטחה מינימליות של הפרויקט על תעבורת נתונים בשרת MCP של Google.

ההגדרות של הסף התחתון של Model Armor וההגדרות הכלליות יכולות להשפיע על יותר דברים מאשר רק על MCP. ‫Model Armor משולב עם שירותים כמו Gemini Enterprise Agent Platform, ולכן כל שינוי שתבצעו בהגדרות הסף יכול להשפיע על סריקת התנועה ועל התנהגויות הבטיחות בכל השירותים המשולבים, ולא רק ב-MCP.

המאמרים הבאים