תשלום לפי שימוש (Standard PayGo) הוא אפשרות צריכה לשימוש בחבילת המודלים של AI גנרטיבי של Gemini Enterprise Agent Platform, כולל משפחת המודלים של Gemini.
במסגרת התשלום הרגיל לפי שימוש, אתם משלמים רק על המשאבים שאתם צורכים, בלי שתצטרכו להתחייב מראש להוצאות. כדי לעזור בהרחבת נפח העבודה בקיבולת משותפת, ב-Standard PayGo משולבת מערכת של רמות שימוש. הפלטפורמה לסוכנים מתאימה באופן דינמי את סף התפוקה בעדיפות גבוהה של הארגון על סמך סך ההוצאות שלו על שירותים כשירים של הפלטפורמה לסוכנים במהלך תקופה מתגלגלת של 30 יום. ככל שההוצאות של הארגון גדלות, הוא מקודם אוטומטית לרמות גבוהות יותר עם ספי תפוקה גבוהים יותר בבריכת הקיבולת המשותפת. תשלום לפי שימוש רגיל פועל על משאבים משותפים, ולא שומר קיבולת ייעודית או מספק תפוקה מובטחת בתקופות של עומס גבוה. אם יש לכם עומסי עבודה שדורשים ביצועים עקביים יותר מאלה של תוכנית PayGo רגילה, כדאי לשקול להשתמש בPriority PayGo. מידע על הקצאת משאבים לפי התפוקה שנקבעה זמין במאמר הקצאת משאבים לפי התפוקה שנקבעה.
רמות שימוש ותפוקה
כל רמת שימוש בתוכנית Standard PayGo מגדירה סף של קצב העברת נתונים עם עדיפות ברמת הארגון, שנמדד בטוקנים לדקה (TPM). בקשות עד לסף ה-TPM של הרמה שלכם מקבלות גישה מוקדמת לקיבולת משותפת לפני תנועה עודפת של פרצים, אבל תפוקה וזמינות עדיין תלויים בביקוש בזמן אמת במאגר המשותף, ולא מובטחים. סף התפוקה חל על בקשות שנשלחות לנקודת הקצה global. השימוש בנקודת הקצה global הוא שיטה מומלצת כי היא מספקת גישה למאגר עולמי של קיבולת תפוקה, ומנתבת את הבקשות באופן דינמי למיקום עם הזמינות הגבוהה ביותר.
נקודות קצה מרובות אזורים (כמו us ו-eu ב-aiplatform.us.rep.googleapis.com וב-aiplatform.eu.rep.googleapis.com) מגבילות את העיבוד של למידת מכונה לגבולות שיפוטיים ספציפיים.
למרות שנקודות קצה מרובות אזורים משתמשות בקיבולת משותפת בכמה מרכזי נתונים באזור גיאוגרפי מסוים, הן פועלות ממאגרי קיבולת אזוריים נפרדים ולא משתפות את קיבולת התפוקה העולמית של נקודת הקצה global.
נקודות קצה באזור יחיד (לדוגמה, us-central1 או us-east5) מוגבלות לאשכול אחד של מרכזי נתונים, והן בעלות קיבולת ההרחבה הנמוכה ביותר. אם עומסי העבודה שלכם לא כפופים לדרישות מחמירות של מיקום אחסון הנתונים, תוכלו להשתמש בנקודת הקצה global כדי להשתמש בסף התפוקה המקסימלי של הרמה שלכם ולמקסם את המרווח. מידע נוסף על הגדרת נקודות קצה (endpoint) במספר אזורים זמין במאמר נקודות קצה (endpoint) במספר אזורים.
התנועה שלכם לא מוגבלת באופן מוחלט לסף ה-TPM של הרמה שלכם. אם יש קיבולת משותפת פנויה, פלטפורמת הסוכנים משרתת תנועה שחורגת מהסף הזה באופן אופורטוניסטי. במהלך תקופות של ביקוש גבוה בפלטפורמת הסוכנים, תנועת נתונים עודפת נחסמת לפני תנועת נתונים בתוך סף השכבה, וכל תנועת הנתונים במאגר המשותף עלולה לסבול מהשהיה גבוהה יותר או משגיאות 429. כדי לצמצם את ההגבלה, כדאי לפזר את התעבורה בצורה אחידה ככל האפשר במהלך כל דקה, ולהימנע משליחת בקשות בעליות חדות ברמת השנייה.
תנועה גבוהה ברגע נתון עלולה להוביל להגבלת קצב, גם אם השימוש הממוצע שלכם בדקה נמצא בתוך סף ה-TPM של הרמה שלכם.
החבילות הבאות זמינות בתוכנית Standard PayGo:
| משפחת מודלים | רמה | הוצאות של לקוחות (30 ימים) | מודול TPM לתנועה (ברמת הארגון) |
|---|---|---|---|
| מודלים של Gemini Pro | קבוצה 1 | 10$ – 250$ | 500,000 |
| קבוצה 2 | $250 – $2,000 | 1,000,000 | |
| רמה 3 | $2,000 – $50,000 | 2,000,000 | |
| שכבה 4 | > $50,000 | 10,000,000 | |
| מסלול מותאם אישית | למידע נוסף, אפשר לפנות לצוות המכירות | ||
| מודלים של Gemini Flash ו-Flash-Lite | קבוצה 1 | 10$ – 250$ | 2,000,000 |
| קבוצה 2 | $250 – $2,000 | 4,000,000 | |
| רמה 3 | $2,000 – $50,000 | 10,000,000 | |
| שכבה 4 | > $50,000 | 50,000,000 | |
| מסלול מותאם אישית | למידע נוסף, אפשר לפנות לצוות המכירות | ||
סף התפוקה שמוצג למשפחת מודלים חל באופן עצמאי על כל מודל במשפחה הזו. לדוגמה, לארגון ברמה 3 יש סף תפוקה עם עדיפות של 10,000,000 TPM ל-Gemini 3.5 Flash. השימוש במודל מסוים לא משפיע על קצב העברת הנתונים של מודלים אחרים. אין הגבלה נפרדת על מספר הבקשות לדקה (RPM) לכל רמה. בקשות ל-Gemini עם קלט רב-אופני כפופות למגבלות הקצב של המערכת.
איך פועלים רמות השימוש
רמת השימוש נקבעת באופן אוטומטי לפי סך ההוצאות של הארגון על שירותים כשירים של Agent Platform במהלך תקופה של 30 יום. ככל שההוצאות של הארגון שלכם גדלות, המערכת מעלה אתכם לרמה גבוהה יותר עם ספי תפוקה בעדיפות גבוהה יותר.
חישוב ההוצאות
החישוב הזה כולל מגוון רחב של שירותים, החל מתחזיות בכל משפחות המודלים של Gemini ועד למופעי CPU, GPU ו-TPU של Agent Platform, וגם מק"טים שמבוססים על התחייבות, כמו Provisioned Throughput.
אפשר ללחוץ כדי לקבל מידע נוסף על המק"טים שכלולים בחישוב ההוצאות.
בטבלה הבאה מפורטות הקטגוריות של Google Cloud המק"טים שנכללים בחישוב ההוצאה הכוללת.
| קטגוריה | תיאור של מק"טים כלולים |
|---|---|
| המודלים של Gemini | כל משפחות מודלי Gemini (כמו 2.0, 2.5 ו-3.0 בגרסאות Pro, Flash ו-Lite) לחיזויים בכל האופנים (טקסט, תמונה, אודיו, וידאו), כולל וריאציות של אצווה, הקשר ארוך, כוונון ו "חשיבה" |
| התכונות של המודלים של Gemini | כל המהדורות הרלוונטיות של Gemini לתכונות כמו שמירת נתונים במטמון, אחסון נתונים במטמון ורמות עדיפות, בכל המודלים ובכל הגרסאות |
| Agent Platform CPU | תחזיות אונליין ותחזיות באצווה בכל קבוצות המכונות שמבוססות על CPU (כמו C2, C3, E2, N1, N2 והווריאציות שלהן) |
| Agent Platform GPU | תחזיות אונליין ותחזיות באצווה בכל המקרים שבהם נעשה שימוש ב-GPU של NVIDIA להאצת הביצועים (כמו סדרות A100, H100, H200, B200, L4, T4, V100 ו-RTX) |
| Agent Platform TPU | תחזיות אונליין ותחזיות באצווה בכל המכונות שמבוססות על TPU (כמו TPU-v5e ו-v6e) |
| ניהול ועמלות | כל המק"טים של 'עמלת ניהול' שמשויכים למופעים שונים של תחזיות בפלטפורמת הסוכנים |
| הקצאת משאבים לפי התפוקה שנקבעה | כל המק"טים של הקצאת משאבים לפי התפוקה שנקבעה שמבוססים על התחייבות לשימוש |
| שירותים אחרים | שירותים ייעודיים כמו 'LLM Grounding for Gemini... with כלי חיפוש Google' |
אימות רמת השימוש
כדי לבדוק את רמת השימוש בארגון, עוברים אל לוח הבקרה של Agent Platform במסוף Google Cloud .
כדי לראות את רמת השימוש בלוח הבקרה, צריך את התפקיד Agent Platform Viewer (roles/aiplatform.viewer) בפרויקט ואת התפקיד Billing Account Viewer (roles/billing.viewer) בחשבון לחיוב.
מעבר ללוח הבקרה של Agent Platform
אימות ההוצאות
כדי לבדוק את ההוצאות ב-Agent Platform, נכנסים לחיוב ב-Cloud במסוףGoogle Cloud . ההוצאות מסוכמות ברמת הארגון.
שגיאות של עומס על משאבים (429)
אם מופיעה השגיאה 429, זה לא אומר שהגעתם למכסה קבועה.
היא מציינת שיש תחרות זמנית גבוהה על משאב משותף ספציפי.
כדי לטפל בשגיאות האלה, כדאי להטמיע אסטרטגיה של השהיה מעריכית לפני ניסיון חוזר (exponential backoff), כי הזמינות בסביבה הדינמית הזו יכולה להשתנות במהירות.
בנוסף לאסטרטגיה של ניסיון חוזר, כדאי להעריך את הבחירה של נקודת הקצה:
- endpoint
global(מומלץ): ה-endpointglobalמנתב בקשות באופן דינמי בין מרכזי הנתונים של Google ברחבי העולם, ומאגד את קיבולת התפוקה הגלובלית וממתן עליות חדות מקומיות. כך אפשר להשיג את הזמינות הגבוהה ביותר ולצמצם באופן משמעותי את הסיכוי ל429שגיאות. - נקודות קצה במספר אזורים (כמו
usו-eu): נקודות קצה במספר אזורים מאגדות את הקיבולת של כמה מרכזי נתונים בגבול גיאוגרפי ספציפי. למרות שהם מציעים קיבולת גדולה יותר מאשר אזור יחיד, הם לא ניגשים לקיבולת גלובלית. אם האפליקציה שלכם משתמשת בנקודת קצה (endpoint) במספר אזורים ומתקבלות שגיאות429בתקופות השיא, כדאי לבדוק אם מדיניות ניהול הנתונים שלכם מאפשרת ניתוב של עומסי עבודה לא רגישים או כלליים לנקודת הקצהglobal, או לשקול שימוש בתשלום לפי שימוש עם עדיפות או בתפוקה מוקצית. - נקודות קצה באזור יחיד (כמו
us-central1): נקודות קצה באזור יחיד מוגבלות למיקום ספציפי של אשכול, והסיכוי שיופיעו בהן שגיאות429בגלל עומס הוא הגבוה ביותר. לא כדאי להצמיד עומסי עבודה רגילים עם תפוקה גבוהה לנקודות קצה של אזור יחיד, אלא אם נדרש מיקום משותף עם משאבי מחשוב שרגישים לזמן האחזור.
כדי לקבל את התוצאות הטובות ביותר, מומלץ לשלב את השימוש בנקודת הקצה global עם החלקת התנועה. מומלץ להימנע משליחת בקשות בעומסים חדים ברמה השנייה, כי עומס גבוה מיידי עלול להוביל לוויסות, גם אם השימוש הממוצע שלכם בדקה נמצא בתוך סף התפוקה המועדף של הרמה שלכם. חלוקה שווה יותר של קריאות ל-API עוזרת למערכת לנהל את העומס בצורה צפויה ומשפרת את הביצועים הכוללים. מידע נוסף על טיפול בשגיאות של מיצוי משאבים זמין במאמרים יצירת אפליקציות LLM עמידות והפחתת שגיאות 429 וקוד שגיאה 429.
מודלים נתמכים
המודלים הבאים של Gemini שזמינים לכלל המשתמשים (GA) וכל המודלים התואמים של supervised fine-tuning תומכים בתשלום לפי שימוש (PayGo) עם רמות שימוש:
כדי להרחיב את רשימת המודלים הנתמכים, לוחצים כאן
מודלים של Gemini ל-GA הבאים תומכים גם בשיטת התשלום הרגילה לפי שימוש, אבל רמות השימוש לא חלות על המודלים האלה:
- Gemini Nano Banana 2.1
- Gemini 3.1 Flash Image
- Gemini 3.1 Flash-Lite Image
- Gemini 3 Pro Image
- Gemini 2.5 Flash Image
ההגדרות האלה לא חלות על מודלים בגרסת טרום-השקה (Preview). כדי לקבל את המידע המדויק והעדכני ביותר, מומלץ לעיין במסמכים הרשמיים הספציפיים של כל מודל.
מעקב אחרי נפח הנתונים והביצועים
כדי לעקוב אחרי צריכת הטוקנים בזמן אמת בארגון, עוברים אל Metrics Explorer ב-Cloud Monitoring.
מידע נוסף על מעקב אחר תנועת נתונים בנקודות קצה של מודלים זמין במאמר מעקב אחר מודלים.
רמות השימוש חלות ברמת הארגון. מידע על הגדרת היקף יכולת התצפית כדי לשרטט את קצב העברת הנתונים בכמה פרויקטים בארגון זמין במאמר הגדרת היקפי יכולת התצפית לשאילתות בכמה פרויקטים.
המאמרים הבאים
מכסות ומגבלות של Agent Platform
מכסות ומגבלות שקשורות ל-Agent Platform, לא כולל מגבלות ספציפיות למוצרים.
Google Cloud מכסות
מידע ולמידה על האופן שבו Google Cloud מגבילה את כמות המשאבים שאפשר להשתמש בהם בפרויקט ב- Google Cloud . המכסות רלוונטיות למגוון רחב של סוגי משאבים, כולל רכיבי חומרה, תוכנה ורשתות.