Gemini Enterprise Agent Platform 提供多種管理生成式 AI 模型輸送量的方式,協助您在成本和效能之間取得平衡。本文將說明可用的選項:彈性的即付即用模式,以及可預測處理量的預留容量。
受管理模型配額
Agent Platform 提供兩種方式,可管理 Gemini Enterprise Agent Platform 上代管生成式 AI 模型的處理量,讓您在成本、彈性和效能之間取得平衡。您可以選擇用多少付多少的模式,或是以固定價格預留特定量的輸送量。
即付即用
對於預設的隨用隨付模式,Agent Platform 會使用標準隨用隨付 (標準 PayGo)。透過 PayGo,您只需支付所用資源的費用,無須預先承諾財務支出。此外,還有其他 PayGo 選項,費用和效能各不相同。詳情請參閱優先隨用隨付或彈性隨用隨付。
預留容量
對於需要穩定效能和可預測費用的重要生產應用程式,您可以使用佈建輸送量。佈建輸送量是固定費用的訂閱方案,可為所選位置的模型預留特定量的輸送量。
生成式 AI 服務的配額
Gemini Enterprise Agent Platform 提供一系列生成式 AI 服務,例如模型微調、模型評估、批次預測、嵌入和檢索增強生成。如要進一步瞭解這些服務的配額,請參閱「Gemini Enterprise Agent Platform 生成式 AI 配額和系統限制」。
後續步驟
- 進一步瞭解標準即付即用。
- 進一步瞭解佈建輸送量。
- 進一步瞭解生成式 AI 配額和系統限制。
- 進一步瞭解 Google Cloud 配額。