Gemini Enterprise Agent Platform 提供多種方式,可管理生成式 AI 模型的處理量,協助您平衡成本和效能。本文說明可用的選項:彈性的即付即用模式,以及可預測處理量的預留容量。
代管模型配額
Agent Platform 提供兩種方式,可管理 Gemini Enterprise Agent Platform 上代管生成式 AI 模型的處理量,讓您在成本、彈性和效能之間取得平衡。您可以選擇即付即用模式,或以固定價格預留專屬的處理量。
即付即用
Agent Platform 預設採用標準即付即用 (Standard PayGo)模式。PayGo 讓您只需為實際使用的資源付費,不需預先承諾支出。其他即付即用選項的費用和效能各有不同。詳情請參閱「Priority PayGo」或「Flex PayGo」。
預留容量
如果正式環境應用程式至關重要,需要穩定的效能和可預測的成本,可以使用佈建輸送量。佈建輸送量是固定費用的訂閱服務,可為所選位置的模型預留特定輸送量。
生成式 AI 服務配額
Gemini Enterprise Agent Platform 提供一系列生成式 AI 服務,例如模型調整、模型評估、批次預測、嵌入和檢索增強生成。如要進一步瞭解這些服務的配額,請參閱「Agent Platform 的生成式 AI 配額和系統限制」。
後續步驟
- 進一步瞭解標準即付即用。
- 進一步瞭解 PT。
- 進一步瞭解生成式 AI 配額和系統限制。
- 進一步瞭解Google Cloud 配額。