מכסות ומגבלות מערכת

במאמר הזה מפורטות המכסות והמגבלות של המערכת שחלות על Model Armor.

• המכסות נקבעות כברירת מחדל, אבל בדרך כלל אפשר לבקש לשנות אותן.
• מגבלות המערכת קבועות ואי אפשר לשנות אותן.

המכסות שלGoogle Cloud עוזרות לשמור על הוגנות ולצמצם עליות חדות בשימוש במשאבים ובזמינות שלהם. הן מגבילות את כמות המשאבים שלGoogle Cloud שאפשר להשתמש בהם בפרויקט ב- Google Cloud . המכסות רלוונטיות למגוון רחב של סוגי משאבים, כולל רכיבי חומרה, תוכנה ורשתות. לדוגמה, המכסות יכולות להגביל את מספר הקריאות ל-API בשירות מסוים, את מספר מאזני העומסים שאפשר להשתמש בהם בו-זמנית בפרויקט או את מספר הפרויקטים שאפשר ליצור. בשורה התחתונה, המכסות מגינות על משתמשיGoogle Cloud בכך שהן מונעות עומס יתר על השירותים, אבל גם עוזרות לשלוט על השימוש במשאבי Google Cloud .

מערכת המכסות ב-Cloud:

• עוקבת אחרי השימוש במוצרים ובשירותים של Google Cloud
• מגבילה את השימוש במשאבים האלה
• כוללת כלי שבאמצעותו אפשר לשלוח בקשות לשינוי המכסות ולשנות אותן אוטומטית

ברוב המקרים, כשאתם מנסים להשתמש ביותר משאבים מהמכסה, הגישה למשאב נחסמת ומה שאתם מנסים לעשות נכשל.

בדרך כלל, המכסות ב- Google Cloud הן ברמת הפרויקט. כלומר, השימוש במשאב מסוים בפרויקט כלשהו לא משפיע על המכסה שלכם בפרויקטים אחרים. ברמת הפרויקט ב- Google Cloud , המכסות משותפות לכל האפליקציות וכתובות ה-IP.

לסקירה כללית על מכסות ב-Cloud

מכסות ל-API של הגנה מוגברת על המודל

בטבלה הבאה מפורטות המכסות של Model Armor API.

מכסה	ערך
שאילתות API	‫1,200 שאילתות לדקה (QPM) לכל פרויקט
בקשות אל ExternalProcessor	‫600 שאילתות לדקה לכל פרויקט ^1

אפשר להחיל ערך בין 0 ל-1,200 QPM לכל פרויקט. כדי לבקש שינוי, אפשר לעיין במאמר איך שולחים בקשה לשינוי המכסות. אם אתם צריכים מכסה גדולה יותר מהמכסה שמוגדרת כברירת מחדל, אתם יכולים לפנות אל Cloud Customer Care.

מידע על מכסות שקשורות לשילובים של Model Armor עם שירותים אחרים זמין במאמר ניהול מכסות.

‫¹ רלוונטי אם משלבים את הגנה מוגברת על המודל עם שירותים אחרים של Google Cloud .

מגבלת גודל הקובץ במערכת

בטבלה הבאה מפורטת מגבלת המערכת על הגודל של קובצי הקלט והתמונות. אם קובץ או תמונה חורגים מהמגבלה הזו, הגנה מוגברת על המודל מדלג על הסריקה שלהם.

מגבלת המערכת	ערך
כל הקבצים הנתמכים והתמונות	4 MB

הערה: טקסט שחולץ מקבצים נתמכים כפוף למגבלות של מערכת הטוקנים. ‫הגנה מוגברת על המודל דוחה בקשות לסריקת קבצים שגודלם קטן מ-69 בייט ומחזירה שגיאה InvalidDocumentInputException כי סביר מאוד שהקבצים האלה לא תקינים.

מגבלות מערכת של טוקנים

ל-Model Armor יש מגבלות מערכת שונות על טוקנים בהתאם למסנן הספציפי. המגבלות האלה חלות על טקסט ישיר בהנחיות ובתשובות, וגם על טקסט שחולץ מקבצים נתמכים. ‫Model Armor סורק טקסט של עד 65,536 טוקנים (כ-262,144 תווים) כדי לזהות הזרקת הנחיות ופריצה, כדי לוודא שה-AI אחראי וכדי לסנן תוכן שמתאר התעללות מינית בילדים (CSAM). אסימון שווה בערך ל-4 תווים. מידע נוסף על ספירת האסימונים זמין במדריך לאסימונים של Gemini API.

המגבלות של מערכת הטוקנים לא חלות על זיהוי של כתובות URL זדוניות. במקום זאת, Model Armor אוכף מגבלה על מספר כתובות ה-URL שנסרקות. התכונה הגנה מוגברת על המודל מחלצת כתובות URL עד שהיא מגיעה ל-256 כתובות URL או לסוף המטען הייעודי (payload), וסורקת רק את 256 כתובות ה-URL הראשונות שנמצאו בהנחיות ובתשובות.

הערה: לזיהוי של החדרה פרומפטים ופריצת Jailbreak, אם מספר המילים קטן משלוש, הגנה מוגברת על המודל מחזיר NO_MATCH_FOUND כי אין מספיק מידע בקלט כדי להגדיר אותו כמתקפה.

הערה: מגבלות האסימונים האלה לא חלות על השילוב של Model Armor עם Gemini Enterprise.

מסנן	מגבלת המערכת
זיהוי של החדרת פרומפטים ופריצה	65,536
אתיקה של בינה מלאכותית	65,536
תוכן ויזואלי של התעללות מינית בילדים	65,536
Sensitive Data Protection	130,000

אם מסנן מזהה התאמה, הוא מחזיר את הערך MATCH_FOUND. אם המסנן לא מזהה התאמה, הערך שמוחזר תלוי בשאלה אם ההנחיה או התשובה חורגות ממגבלת האסימונים של המסנן:

• אם ההנחיה או התשובה נמצאות במסגרת מגבלת הטוקנים של המסנן, המסנן מחזיר NO_MATCH_FOUND.
• אם ההנחיה או התשובה חורגות ממגבלת האסימונים של המסנן, המסנן מחזיר EXECUTION_SKIPPED.

מספר בלתי מוגבל של טוקנים במצב סטרימינג בזמן אמת

כשמבצעים סניטציה לטקסט בסטרימינג במצב זמן אמת, Model Armor תומך בטוקנים ללא הגבלה. לעומת זאת, מצב סטרימינג עם מאגר נתונים זמני כפוף למגבלות האסימונים שמפורטות בטבלה הקודמת.

קבלת שמות של מדדים שקשורים למכסות ולמגבלות המערכת

למכסות ולמגבלות המערכת יש שני סוגים של שמות: שמות לתצוגה ושמות של מדדים. השמות המוצגים כוללים רווחים ואותיות רישיות, ולכן קל יותר לקרוא אותם. שמות המדדים לרוב כתובים באותיות קטנות ומופרדים באמצעות קווים תחתונים במקום רווחים. הפורמט המדויק תלוי בשירות.

בהוראות הבאות מוסבר איך מקבלים שמות של מדדים למכסות ולמגבלות מערכת באמצעות המסוף Google Cloud או ה-CLI של gcloud.

המסוף

1. במסוף Google Cloud , נכנסים לדף IAM & Admin > Quotas & System Limits:

   כניסה לדף Quotas & System Limits

   בטבלה שבדף הזה מוצגות מכסות ומגבלות מערכת שנעשה בהן שימוש או שהערכים שלהן שונו, וגם רשומת הפניה למכסות אחרות. הערך בהפניה הוא default (ברירת מחדל) בסוגריים בסוף הרישום בעמודה Name (שם). לדוגמה, SetIAMPolicy requests per minute per region (default) היא רשומת ההפניה למכסת SetIamPolicyRequestsPerMinutePerProject.

2. אם העמודה מדד לא מופיעה, פועלים לפי השלבים הבאים.

   1. לוחצים על Column display options.
   2. בוחרים באפשרות מדד.
   3. לוחצים על OK. העמודה מדד מופיעה בטבלה.

בעמודה Metric (מדד) מוצגים שמות המדדים. כדי לסנן את התוצאות, מזינים שם של מאפיין או ערך בשדה שליד Filter.

gcloud

כדי לקבל את שמות המדדים של שירות Google Cloud מסוים באמצעות ה-CLI של gcloud, מריצים את הפקודה quotas info list. כדי לדלג על שורות שלא מופיעים בהן שמות של מדדים, מעבירים את הפלט לפקודה כמו grep עם metric: בתור מונח החיפוש, או משתמשים בדגל --format של ה-CLI של gcloud:

gcloud beta quotas info list --project=PROJECT_ID_OR_NUMBER \
    --service=SERVICE_NAME --format="value(metric)"

מחליפים את מה שכתוב בשדות הבאים:

• ‫PROJECT_ID_OR_NUMBER: מזהה הפרויקט או מספר הפרויקט.
• ‫SERVICE_NAME: השם של השירות שרוצים לראות את מדדי המכסה שלו. לדוגמה, שם השירות של Compute Engine הוא compute.googleapis.com. צריך לכלול את החלק googleapis.com של שם השירות.