הגדרת גרסת המסנן לתבנית

במסמך הזה מוסבר איך פועלות גרסאות הסינון של Model Armor ואיך להנחות את Model Armor להשתמש בגרסת סינון ספציפית או בכינוי של גרסת סינון בפעולות.

‫הגנה מוגברת על המודל משתמשת במסננים כדי לזהות ולחסום תוכן פוגעני, מידע אישי רגיש, כתובות URL זדוניות והתקפות החדרת הנחיות בהנחיות ובתשובות של LLM. למידע נוסף, אפשר לעיין במאמר בנושא מסנני הגנה מוגברת על המודל.

גרסאות הסינון של Model Armor מספקות יציבות לעומסי עבודה של ייצור וגישה למודלים העדכניים ביותר לזיהוי איומים. מגדירים גרסה אחת של מסנן ברמת התבנית. אי אפשר לציין גרסאות שונות למסננים נפרדים.

כינויי גרסה

בתבנית הגנה מוגברת על המודל, אפשר להשתמש בכינוי כדי לציין את גרסת המסנן המועדפת. שם בדוי מייצג שלב במחזור החיים של הגרסה. כל כינוי מוגדר לגרסה המתאימה ככל שמחזור החיים מתקדם.

אם בוחרים כינוי, התבנית משתמשת בגרסה שהכינוי מוגדר לה. כשמתעדכנת הגרסה הבסיסית של הכינוי (לדוגמה, כשמקודמת גרסה חדשה ל-Stable), תבניות שמשתמשות בכינוי משתמשות אוטומטית בגרסה החדשה. אם לא רוצים שגרסת המסנן תשתנה, צריך להפנות את התבנית לגרסה ספציפית של המסנן.

אפשר לבחור מבין הכינויים הבאים:

• ‫Latest: הכינוי עם המודלים וההגנות העדכניים ביותר, עם עדכונים תכופים נגד איומים חדשים. כינוי כזה מציע יעדים סטנדרטיים למדידת רמת השירות (SLO), אבל היציבות עשויה להשתנות בין הגרסאות. הוא מתאים לבדיקות, לסביבות פיתוח ולעומסי עבודה שבהם יש עדיפות למודלים עדכניים של זיהוי על פני התנהגות עקבית של המסנן.
• ‫Stable: הכינוי שמוגדר כברירת מחדל לגרסאות עם תבניות זמינות. הכינוי הזה מספק לוגיקה אמינה לזיהוי שלא משתנה, והוא מתאים לסביבות ייצור ולעומסי עבודה שבהם נדרש התנהגות סינון שלא משתנה. כשגרסה חדשה הופכת ל-Stable, הגרסה הקודמת שהייתה Stable הופכת ל-Legacy.
• ‫Legacy: הכינוי לגרסה קודמת של Stable שנשארת זמינה למשך 90 ימים אחרי שגרסה חדשה של Stable יוצאת. במהלך התקופה הזו, תוכלו להעביר את מערכות הייצור שלכם לגרסה החדשה של Stable בכל שלב. אי אפשר ליצור תבניות חדשות באמצעות גרסה של Legacy.
• ‫Retired: הכינוי לגרסה שעברו 90 ימים מאז שהיא יצאה משימוש, והיא כבר לא זמינה. ‫הגנה מוגברת על המודל משתמשת בגרסה Stable כדי לבצע סניטציה של קריאות לתבניות שעדיין משתמשות בגרסה Retired.

מסננים שלא משתמשים בגרסאות של מסננים

הגדרת גרסת המסנן לא משפיעה על המסננים של Sensitive Data Protection ושל כתובות URL זדוניות.

מחזור החיים של גרסה

Google Cloud מספקת התראות על שינויים במחזור החיים של הגרסה, כולל מתי גרסה הופכת לLegacy ותאריך ההוצאה שלה משימוש שצפוי בכל תגובת API לניקוי. צריך להעביר כל תבנית שמשתמשת בגרסה Legacy לגרסה Stable או Latest תוך 90 יום.

בדוגמה הבאה מתואר מחזור החיים של הגרסה:

1. גרסה (Latest): Google מפרסמת גרסה חדשה של המסנן (v2) בתור Latest.
2. קידום (מגרסה Latest לגרסה Stable): כשמקדמים את גרסה Latest לגרסה Stable (גרסה v2 הופכת לגרסה Stable), אנחנו מבצעים את הפעולות הבאות:
   1. אנחנו מעבירים את הגרסה הקודמת של Stable (v1) אל Legacy.
   2. גרסה חדשה (v3) הופכת לגרסה החדשה Latest. אנחנו מקדמים גרסה אחרי שהיא עוברת בדיקות קפדניות, אחרי שמוכח שהיא בשימוש עקבי מדי יום, ואחרי שמתגלה שיש בה בעיות מינימליות שקשורות ללקוחות, או כשמתעורר צורך בהגנה מפני איומים קריטיים.
3. יציאה משימוש (Legacy עד Retired): אחרי שגרסת מסנן נשארת במצב Legacy במשך 90 יום, אנחנו מוציאים אותה משימוש והיא כבר לא זמינה.

ציר הזמן של פרסום הגרסה

בטבלה הבאה מפורטים פרטים על גרסאות של מסננים, כולל שמות חלופיים, אזורים נתמכים ותאריכי ההשקה שלהם.

גרסה	כינוי	אזור נתמך
v1	Stable	asia-northeast1 asia-northeast3 asia-south1 asia-southeast1 australia-southeast1 australia-southeast2 europe-southwest1 europe-west9 northamerica-northeast2 us us-central1 us-east4 us-west1
v2	Stable	eu europe-west1 europe-west2 europe-west3 europe-west4 us-east1
v3	Latest	asia-south1 eu europe-west1 europe-west2 europe-west3 europe-west4 europe-southwest1 europe-west9 northamerica-northeast2 us us-central1 us-east1 us-east4 us-east7 us-west1

מידע על השינויים בגרסה האחרונה זמין במאמר בנושא היסטוריית גרסאות.

התנהגות התבנית

ההתנהגות של התבנית תלויה בגרסת המסנן שבה נעשה שימוש, והיא מאופיינת במאפיינים הבאים:

• תבניות ללא גרסה: תבניות ללא גרסה מוגדרת, חדשות או קיימות, מוגדרות כברירת מחדל לגרסה Stable.

• תבניות עם כינויים Latest או Stable: התבניות האלה משתמשות באופן אוטומטי בגרסה שמוקצית לכינויים האלה. לדוגמה, כשגרסה חדשה של מסנן הופכת לגרסה Stable, תבניות שמשתמשות בכינוי Stable עוברות לגרסה החדשה בלי שנדרשים שינויים בתבנית.

  הערה: אי אפשר להגדיר בתבנית את גרסת המסנן Legacy או Retired.

• תבניות שמשתמשות בגרסה ספציפית:

  • אם הגרסה תואמת לגרסה Latest או לגרסה Stable, התבנית פועלת כמצופה.
  • אם הגרסה תואמת לגרסה Legacy, התבנית תפעל כמצופה אם תשתמשו בה לפעולות ניקוי למשך 90 יום. אחרי 90 יום, הגרסה תעבור לשלב Retired. במהלך השלב הזה, תצטרכו להעביר את התבניות לגרסה Latest או לגרסה Stable.

הגדרת גרסה של מסנן

אפשר להגדיר את גרסת המסנן לתבנית באחת משתי דרכים:

• באמצעות כינוי: משתמשים בכינויים דינמיים כמו Stable או Latest כדי שהתבנית תשתמש באופן אוטומטי במספר גרסה שתואם לכינוי המועדף. כך לא תצטרכו לבצע עדכונים ידניים כשהגרסה הבסיסית תשתנה.
• באמצעות מספר גרסה: אפשר להשתמש במספר גרסה כמו v1 כדי להגדיר תבנית לגרסה מסוימת, וכך להבטיח התנהגות קבועה שלא משתנה גם כשמעדכנים כינויים.

יצירת תבנית באמצעות כינוי גרסה

כדי ליצור תבנית באמצעות כינוי גרסה ספציפי, מריצים את הפקודה הבאה:

export TEMPLATE_CONFIG='{
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    }
  },
  "templateMetadata": {
    "filterVersionSelector": {
      "alias": "FILTER_VERSION_ALIAS"
    }
  }
}'

curl -X POST \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d "$TEMPLATE_CONFIG" \
    "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"

מחליפים את מה שכתוב בשדות הבאים:

• ‫FILTER_VERSION_ALIAS: הכינוי של גרסת הפילטר המועדפת. אפשר להשתמש ב-FILTER_VERSION_ALIAS_STABLE או ב-FILTER_VERSION_ALIAS_LATEST.
• ‫PROJECT_ID: מזהה הפרויקט שאליו שייך התבנית.
• ‫TEMPLATE_ID: המזהה של התבנית שרוצים ליצור.
• ‫LOCATION: המיקום של התבנית.

התגובה אמורה להיראות כך:

{
  "name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
  "createTime": "2026-04-05T17:57:46.976854398Z",
  "updateTime": "2026-04-05T17:57:46.976854398Z",
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    }
  },
  "templateMetadata": {
    "filterVersionSelector": {
      "alias": "FILTER_VERSION_ALIAS"
    }
  }
}

יצירת תבנית באמצעות גרסה ספציפית של מסנן

אם אתם צריכים שהמסנן לא ישתנה, אתם יכולים ליצור תבנית שתואמת לגרסה ספציפית. כדי לעשות זאת, מריצים את הפקודה הבאה:

export TEMPLATE_CONFIG='{
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    }
  },
  "templateMetadata": {
    "filterVersionSelector": {
      "version": "FILTER_VERSION_NUMBER"
    }
  }
}'

curl -X POST \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d "$TEMPLATE_CONFIG" \
    "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"

מחליפים את מה שכתוב בשדות הבאים:

• ‫PROJECT_ID: מזהה הפרויקט שאליו שייך התבנית.
• ‫TEMPLATE_ID: המזהה של התבנית שרוצים ליצור.
• ‫LOCATION: המיקום של התבנית.
• ‫FILTER_VERSION_NUMBER: מספר הגרסה המועדפת של המסנן (לדוגמה, v1).

התגובה אמורה להיראות כך:

{
  "name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
  "createTime": "2026-04-05T18:03:29.134974974Z",
  "updateTime": "2026-04-05T18:03:29.134974974Z",
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    }
  },
  "templateMetadata": {
    "filterVersionSelector": {
      "version": "FILTER_VERSION_NUMBER"
    }
  }
}

עדכון גרסת המסנן של תבנית

כדי לעדכן את הגרסה או את הכינוי של מסנן בתבנית קיימת, מריצים את הפקודה הבאה:

export TEMPLATE_CONFIG='{
  "templateMetadata": {
    "filterVersionSelector": {
      "alias": "FILTER_VERSION_ALIAS"
    }
  }
}'

curl -X PATCH \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d "$TEMPLATE_CONFIG" \
    "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID?updateMask=templateMetadata.filterVersionSelector"

מחליפים את מה שכתוב בשדות הבאים:

• ‫FILTER_VERSION_ALIAS: הכינוי של גרסת הפילטר המועדפת. אפשר להשתמש ב-FILTER_VERSION_ALIAS_STABLE או ב-FILTER_VERSION_ALIAS_LATEST.
• ‫PROJECT_ID: מזהה הפרויקט שאליו שייך התבנית.
• ‫TEMPLATE_ID: המזהה של התבנית שרוצים ליצור.
• ‫LOCATION: המיקום של התבנית.

התגובה אמורה להיראות כך:

{
  "name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
  "createTime": "2026-04-05T18:03:29.134974974Z",
  "updateTime": "2026-04-05T18:04:07.711205953Z",
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED"
    }
  },
  "templateMetadata": {
    "filterVersionSelector": {
      "alias": "FILTER_VERSION_ALIAS"
    }
  }
}

הצגת גרסת המסנן שנעשה בה שימוש בפעולות ניקוי

מטא-נתונים של התגובה של Sanitize API כוללים מידע על גרסת המסנן שנעשה בה שימוש במהלך הניקוי. תקבלו אזהרה על הוצאה משימוש בתגובה של Sanitize API‏ 30 יום לפני ש-Google תוציא את הגרסה משימוש.

בדוגמה הבאה מוצגת תגובה של API שכוללת את גרסת המסנן:

"sanitizationResult": {
    "filterMatchState": "NO_MATCH_FOUND",
    "invocationResult": "SUCCESS",
    "filterResults": {
      "csam": {
        "csamFilterFilterResult": {
          "executionState": "EXECUTION_SUCCESS",
          "matchState": "NO_MATCH_FOUND"
        }
      },
      "malicious_uris": {
        "maliciousUriFilterResult": {
          "executionState": "EXECUTION_SUCCESS",
          "matchState": "NO_MATCH_FOUND"
        }
      },
      "rai": {
        "raiFilterResult": {
          "executionState": "EXECUTION_SUCCESS",
          "matchState": "NO_MATCH_FOUND",
          "raiFilterTypeResults": {
            "sexually_explicit": {
              "matchState": "NO_MATCH_FOUND"
            },
            "hate_speech": {
              "matchState": "NO_MATCH_FOUND"
            },
            "harassment": {
              "matchState": "NO_MATCH_FOUND"
            }
          }
        }
      },
      "pi_and_jailbreak": {
        "piAndJailbreakFilterResult": {
          "executionState": "EXECUTION_SUCCESS",
          "matchState": "NO_MATCH_FOUND"
        }
      },
      "sdp": {
        "sdpFilterResult": {
          "inspectResult": {
            "executionState": "EXECUTION_SUCCESS",
            "matchState": "NO_MATCH_FOUND"
          }
        }
      }
    },
  "sanitizationMetadata": {
    "filterVersionConfig": {
      "filterVersion": "v2",
      "filterVersionAlias": "FILTER_VERSION_ALIAS_LEGACY",
      "releaseDate": {
        "year": 2025,
        "month": 5,
        "day": 1
      },
      "projectedDeprecationDate": {
        "year": 2026,
        "month": 5,
        "day": 1
      },
      "messageItems": [
        {
          "messageType": "WARNING",
          "message": "This filter version (v2) is in LEGACY state and will be
          RETIRED on 2026-05-01. Please migrate your template to the STABLE or
          LATEST version to ensure continued protection."
        }
      ]
   }
  },
}

‫Model Armor יוצר יומנים של פלטפורמה לבקשות של ניקוי נתונים ולתגובות שלהן ב-Cloud Logging. למידע נוסף על יומני הביקורת שנוצרים באופן אוטומטי, אפשר לעיין במאמר בנושא רישום ביומן ביקורת של Model Armor.