Standard PayGo

תשלום רגיל לפי שימוש (Standard PayGo) הוא אפשרות צריכה לשימוש בחבילת המודלים של AI גנרטיבי ב-Gemini Enterprise Agent Platform, כולל משפחת המודלים של Gemini.

במסגרת Standard PayGo אתם משלמים רק על המשאבים שאתם צורכים, בלי התחייבויות כספיות מראש. כדי לעזור בהתאמה לעומסי עבודה בקיבולת משותפת, Standard PayGo משלבת מערכת של רמות שימוש. פלטפורמת הסוכנים מתאימה באופן דינמי את סף התפוקה בעדיפות גבוהה של הארגון, על סמך ההוצאה הכוללת על שירותים שעומדים בדרישות של פלטפורמת הסוכנים במהלך תקופה של 30 ימים. ככל שההוצאות של הארגון גדלות, הוא מקודם אוטומטית לרמות גבוהות יותר עם ספי תפוקה גבוהים יותר בבריכת הקיבולת המשותפת. התוכנית הרגילה של PayGo פועלת על משאבים משותפים, ולא שומרת קיבולת ייעודית או מספקת קצב העברת נתונים מובטח בתקופות של עומס גבוה. לעומסי עבודה שדורשים ביצועים עקביים יותר מאשר Standard PayGo, כדאי לשקול את Priority PayGo. לקיבולת ייעודית ומובטחת, ראו הקצאת משאבים לפי התפוקה שנקבעה.

רמות שימוש ותפוקה

כל רמת שימוש ב-Standard PayGo מגדירה סף קצב העברת נתונים בעדיפות גבוהה ברמת הארגון, שנמדד בטוקנים לדקה (TPM). בקשות עד לסף ה-TPM של הרמה שלכם מקבלות גישה בעדיפות גבוהה לקיבולת המשותפת, לפני תנועה עודפת, אבל התפוקה והזמינות עדיין תלויות בביקוש בזמן אמת במאגר המשותף, והן לא מובטחות. סף הקיבולת חל על בקשות שנשלחות לנקודת הקצה (endpoint) של global. מומלץ להשתמש בנקודת הקצה global כי היא מספקת גישה למאגר עולמי של קיבולת תפוקה, ומנתבת באופן דינמי את הבקשות למיקום עם הזמינות הגבוהה ביותר.

נקודות קצה (endpoints) בכמה אזורים (כמו us ו-eu ב-aiplatform.us.rep.googleapis.com וב-aiplatform.eu.rep.googleapis.com) מגבילות את העיבוד של למידת המכונה לגבולות שיפוט ספציפיים. למרות שנקודות קצה בכמה אזורים מאגדות את הקיבולת של כמה מרכזי נתונים באותו אזור גיאוגרפי, הן פועלות ממאגרי קיבולת אזוריים נפרדים ולא חולקות את קיבולת התפוקה של נקודת הקצה global ברחבי העולם. נקודות קצה באזור יחיד (לדוגמה, us-central1 או us-east5) מוגבלות לאשכול אחד של מרכזי נתונים, והן בעלות קיבולת ההרחבה הנמוכה ביותר. אם עומסי העבודה שלכם לא כפופים לדרישות מחמירות של מיקום אחסון הנתונים, תוכלו להשתמש בנקודת הקצה global כדי להשתמש בסף התפוקה המקסימלי של הרמה שלכם ולמקסם את המרווח. מידע נוסף על הגדרת נקודות קצה (endpoint) במספר אזורים זמין במאמר נקודות קצה (endpoint) במספר אזורים.

התנועה לא מוגבלת באופן קפדני לסף ה-TPM של הרמה שלכם. אם יש קיבולת משותפת פנויה, פלטפורמת הסוכנים משרתת תנועה שחורגת מהסף הזה באופן אופורטוניסטי. בזמנים של ביקוש גבוה ב-Agent Platform, תעבורת הנתונים העודפת מוגבלת לפני תעבורת הנתונים במסגרת הסף של הרמה, וכל תעבורת הנתונים במאגר המשותף עלולה לחוות זמן אחזור ארוך יותר או שגיאות 429. כדי לצמצם את ההאטה, כדאי לפזר את התנועה באופן אחיד ככל האפשר במהלך כל דקה, ולהימנע משליחת בקשות בעליות חדות של שנייה אחת. תנועה גבוהה ברגע נתון יכולה להוביל לוויסות קצב הנתונים, גם אם השימוש הממוצע לדקה נמצא בטווח של סף ה-TPM של הרמה שלכם.

אלה הרמות שזמינות בתוכנית Standard PayGo:

משפחת מודלים רמה הוצאות הלקוח (30 ימים) מודול TPM לתנועה (ברמת הארגון)
מודלים של Gemini Pro ו-Argon
(כולל Gemini 4 Argon ו-Gemini 4 Argon Cyber Permissive)
רמה 1 ‫10$ – 250$ 500,000
רמה 2 ‫$250 – $2,000 1,000,000
רמה 3 ‫$2,000 – $50,000 2,000,000
שכבה 4 ‫> $50,000 ‫10,000,000
רמה מותאמת אישית למידע נוסף, אפשר לפנות לצוות המכירות
מודלים של Gemini Flash ו-Flash-Lite קבוצה 1 $10 - $250 2,000,000
רמה 2 ‫$250 – $2,000 4,000,000
רמה 3 ‫$2,000 – $50,000 ‫10,000,000
רמה 4 > $50,000 50,000,000
רמה מותאמת אישית למידע נוסף, אפשר לפנות לצוות המכירות

סף הקיבולת שמוצג למשפחת מודלים חל בנפרד על כל מודל במשפחה הזו. לדוגמה, לארגון ברמה 3 יש סף תפוקה עם עדיפות של 10,000,000 TPM ל-Gemini 3.5 Flash. השימוש במודל מסוים לא משפיע על קצב העברת הנתונים של מודלים אחרים. אין הגבלה נפרדת על מספר הבקשות לדקה (RPM) לכל רמה. בקשות ל-Gemini עם קלט מולטימודלי כפופות למגבלות הקצב של המערכת.

איך פועלים רמות השימוש

רמת השימוש נקבעת אוטומטית לפי ההוצאה הכוללת של הארגון על שירותי Agent Platform שעומדים בדרישות, במהלך תקופה של 30 יום. ככל שההוצאות של הארגון שלכם גדלות, המערכת מעלה אתכם לרמה גבוהה יותר עם ספי תפוקה בעדיפות גבוהה יותר.

חישוב ההוצאות

החישוב הזה כולל מגוון רחב של שירותים, החל מתחזיות בכל משפחות המודלים של Gemini ועד למופעי CPU,‏ GPU ו-TPU של Agent Platform, וגם מק"טים שמבוססים על התחייבות, כמו Provisioned Throughput.

אפשר ללחוץ כדי לקבל מידע נוסף על המק"טים שנכללים בחישוב ההוצאות.

בטבלה הבאה מפורטות הקטגוריות של Google Cloud המק"טים שנכללים בחישוב ההוצאה הכוללת.

קטגוריה תיאור של מק"טים כלולים
המודלים של Gemini כל משפחות מודלי Gemini (כמו 2.0,‏ 2.5 ו-3.0 בגרסאות Pro,‏ Flash ו-Lite) לחיזויים בכל האופנים (טקסט, תמונה, אודיו, וידאו), כולל וריאציות של אצווה, הקשר ארוך, כוונון ו "חשיבה"
תכונות מודל Gemini כל המהדורות הרלוונטיות של Gemini לתכונות כמו שמירת נתונים במטמון, אחסון נתונים במטמון ורמות עדיפות, בכל המודלים ובכל הגרסאות
Agent Platform CPU תחזיות אונליין ותחזיות באצווה בכל קבוצות המכונות שמבוססות על CPU (כמו C2,‏ C3,‏ E2,‏ N1,‏ N2 והווריאציות שלהן)
Agent Platform GPU תחזיות אונליין ותחזיות באצווה בכל המקרים שבהם נעשה שימוש ב-GPU של NVIDIA להאצת הביצועים (כמו סדרות A100,‏ H100,‏ H200,‏ B200,‏ L4,‏ T4,‏ V100 ו-RTX)
Agent Platform TPU תחזיות אונליין ותחזיות באצווה בכל המכונות שמבוססות על TPU (כמו TPU-v5e ו-v6e)
ניהול ועמלות כל המק"טים של 'עמלת ניהול' שמשויכים למופעים שונים של תחזיות בפלטפורמת הסוכנים
הקצאת משאבים לפי התפוקה שנקבעה כל המק"טים של הקצאת משאבים לפי התפוקה שנקבעה שמבוססים על התחייבות לשימוש
שירותים אחרים שירותים ייעודיים כמו 'LLM Grounding for Gemini... with כלי חיפוש Google'

אימות רמת השימוש

כדי לבדוק את רמת השימוש של הארגון, נכנסים למרכז הבקרה של Agent Platform במסוף Google Cloud . כדי לראות את רמת השימוש במרכז הבקרה, צריך את התפקיד "צפייה בפלטפורמת הסוכנים" (roles/aiplatform.viewer) בפרויקט ואת התפקיד "צפייה בחשבון לחיוב" (roles/billing.viewer) בחשבון לחיוב.

מעבר ללוח הבקרה של פלטפורמת הסוכנים

אימות ההוצאות

כדי לבדוק את ההוצאות על Agent Platform, נכנסים לדף חיוב ב-Cloud במסוףGoogle Cloud . ההוצאות מסוכמות ברמת הארגון.

כניסה לחיוב ב-Cloud

שגיאות של עומס על משאבים (429)

אם קיבלתם שגיאת 429, זה לא אומר שהגעתם למכסה קבועה. היא מציינת שיש תחרות זמנית גבוהה על משאב משותף ספציפי. כדי לטפל בשגיאות האלה, כדאי להטמיע אסטרטגיית ניסיון חוזר עם השהיה מעריכית לפני ניסיון חוזר (exponential backoff), כי הזמינות בסביבה הדינמית הזו יכולה להשתנות במהירות.

בנוסף לאסטרטגיה של ניסיון חוזר, כדאי להעריך את הבחירה של נקודת הקצה:

  • ‫endpoint‏ global (מומלץ): ה-endpoint‏ global מנתב בקשות באופן דינמי בין מרכזי הנתונים של Google ברחבי העולם, ומאגד את קיבולת התפוקה הגלובלית וממתן עליות חדות מקומיות. כך אפשר להשיג את הזמינות הגבוהה ביותר ולצמצם באופן משמעותי את הסיכוי ל429שגיאות.
  • נקודות קצה במספר אזורים (כמו us ו-eu): נקודות קצה במספר אזורים מאגדות את הקיבולת של כמה מרכזי נתונים בתוך גבול גיאוגרפי ספציפי. למרות שהם מציעים קיבולת גדולה יותר מאשר אזור יחיד, הם לא ניגשים לקיבולת גלובלית. אם האפליקציה שלכם משתמשת בנקודת קצה בכמה אזורים ונתקלת בשגיאות 429 בתקופות שיא, כדאי לבדוק אם מדיניות משילות המידע (data governance) שלכם מאפשרת לנתב עומסי עבודה כלליים או לא רגישים לנקודת הקצה global, או לשקול להשתמש ב-Priority PayGo או ב-הקצאת משאבים לפי התפוקה שנקבעה.
  • נקודות קצה באזור יחיד (כמו us-central1): נקודות קצה באזור יחיד מוגבלות למיקום ספציפי של אשכול, ויש להן את הסבירות הגבוהה ביותר להיתקל בשגיאות 429 במצב של עומס. אל תצמידו עומסי עבודה של Standard PayGo עם תפוקה גבוהה לנקודות קצה באזור יחיד, אלא אם נדרש מיקום משותף עם משאבי מחשוב שרגישים לזמן אחזור.

כדי לקבל את התוצאות הטובות ביותר, מומלץ לשלב את השימוש בנקודת הקצה global עם החלקת התנועה. הימנעו משליחת בקשות בעליות חדות של שנייה אחת, כי תעבורת נתונים גבוהה ברגע נתון יכולה להוביל לוויסות, גם אם השימוש הממוצע לדקה נמצא בטווח של סף התפוקה בעדיפות גבוהה של הרמה שלכם. חלוקה שווה יותר של קריאות ל-API עוזרת למערכת לנהל את העומס בצורה צפויה ומשפרת את הביצועים הכוללים. למידע נוסף על הטיפול בשגיאות של מיצוי משאבים, קראו את המאמרים פיתוח אפליקציות LLM עמידות והפחתת שגיאות 429 וקוד שגיאה 429.

מודלים נתמכים

המודלים הבאים של Gemini שזמינים לכלל המשתמשים (GA) וכל המודלים התואמים של supervised fine-tuning תומכים בתשלום לפי שימוש (PayGo) עם רמות שימוש:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

מודלים של Gemini ל-GA הבאים תומכים גם בשיטת התשלום הרגילה לפי שימוש, אבל רמות השימוש לא חלות על המודלים האלה:

הרמות האלה לא חלות על מודלים בגרסת טרום-השקה (Preview). כדי לקבל את המידע הכי מדויק ועדכני, עיינו במסמכים הרשמיים של כל מודל.

מעקב אחרי נפח הנתונים והביצועים

כדי לעקוב אחרי צריכת הטוקנים של הארגון בזמן אמת, נכנסים ל-Metrics Explorer ב-Cloud Monitoring.

לדף Metrics Explorer

מידע נוסף על מעקב אחר תנועת נתונים בנקודות קצה של מודלים זמין במאמר מעקב אחר מודלים.

רמות השימוש חלות ברמת הארגון. במאמר הגדרת היקפי תצוגה לשאילתות בכמה פרויקטים מוסבר איך להגדיר את היקף התצוגה כדי להציג בתרשים את קצב הנתונים בכמה פרויקטים ב ארגון.

המאמרים הבאים

משאב

מכסות ומגבלות שקשורות לפלטפורמת הסוכנים, לא כולל מגבלות ספציפיות למוצרים.

סקירה כללית

כאן מוסבר איך Google Cloud מגביל את כמות המשאבים שאפשר להשתמש בהם בפרויקט ב- Google Cloud , ואיך המכסות חלות על מגוון רחב של סוגי משאבים, כולל רכיבי חומרה, תוכנה ורשתות.