Gemini Enterprise Agent Platform 支援精選的開放原始碼模型，可做為代管模型使用。這些開放模型可與 Gemini Enterprise Agent Platform 搭配使用，做為模型即服務 (MaaS)，並以代管 API 的形式提供。使用代管開放原始碼模型時，您仍會將要求傳送至 Gemini Enterprise Agent Platform 端點。代管開放原始碼模型採用無伺服器架構，因此您不必佈建或管理基礎架構。
您可以使用 Model Garden 探索代管開放式模型。您也可以使用 Model Garden 部署模型。詳情請參閱「探索 Model Garden 中的 AI 模型」。
您必須先授予使用者開放式模型的存取權，才能使用開放式模型。
開放式模型
Gemini Enterprise Agent Platform Model Garden (MaaS) 提供下列開放原始碼模型，做為代管 API：
| 模型名稱 | 模態 | 說明 | 快速入門導覽課程 |
|---|---|---|---|
| DeepSeek-V4.1-Flash | 語言、視覺、程式碼 | DeepSeek 的多模態專家混合模型，適用於代理和程式設計工作，脈絡窗口達 100 萬個詞元。 | Model Card |
| Gemma 4 26B A4B IT | 語言、視覺 | Google DeepMind 打造的 Google 開放式模型系列。 | Model Card |
| GLM 5.2 | 語言、代碼 | GLM 模型，適用於長程代理和程式設計任務，脈絡窗口達 100 萬個詞元。 | Model Card |
| gpt-oss 120B | 語言 | 120B 模型，在推論任務中表現出色。 | Model Card |
| Llama 4 Maverick 17B-128E | 語言、視覺 | 最大的 Llama 4 模型，具備程式設計、推論和圖像功能。Llama 4 Maverick 17B-128E 是多模態模型，採用混合專家 (MoE) 架構和早期融合技術。 | Model Card |
| Llama 4 Scout 17B-16E | 語言、視覺 | Llama 4 Scout 17B-16E 的效能表現優異，在多項基準測試中超越其他開放式和專屬模型。Llama 4 Scout 17B-16E 是多模態模型，採用混合專家 (MoE) 架構和早期融合技術。 | Model Card |
Gemini Enterprise Agent Platform Model Garden (MaaS) 提供下列開放式嵌入模型，做為代管 API：
| 模型名稱 | 說明 | 輸出維度 | 序列長度上限 | 支援的文字語言 | 快速入門導覽課程 |
|---|---|---|---|---|---|
| multilingual-e5-small | E5 文字嵌入模型系列的一員。小型變體包含 12 層。 | 最多 384 | 512 個詞元 | 支援的語言 | Model Card |
| multilingual-e5-large | E5 文字嵌入模型系列的一員。Large 變體包含 24 層。 | 最多 1024 個 | 512 個詞元 | 支援的語言 | Model Card |
開放模型法規遵循
透過 Gemini Enterprise Agent Platform，將開放原始碼模型做為代管 API 使用時，Gemini Enterprise Agent Platform 的生成式 AI 認證仍適用。如需模型本身的詳細資料，請參閱各個模型資訊卡中的其他資訊，或與各個模型發布者聯絡。
Gemini Enterprise Agent Platform 上的開放模型，會將靜態資料儲存在所選區域或多區域，但資料處理的區域化可能有所不同。如需開放原始碼模型資料處理承諾的詳細清單，請參閱「開放原始碼模型的資料落地設定」。
使用 Gemini Enterprise API (包括開放式模型) 時，客戶提示和模型回覆不會與第三方共用。Google 只會按照客戶指示處理客戶資料，詳情請參閱《Cloud 資料處理附加條款》。
脈絡快取
如果要求含有重複內容，脈絡快取功能可降低傳送至開放原始碼模型的成本和延遲時間。這項功能僅適用於即付即用流量，不支援其他流量類型，例如佈建輸送量和批次。支援的快取類型為隱含快取，也就是所有 Google Cloud 專案預設啟用的自動快取功能。發生快取命中時，快取權杖的費用比標準輸入內容權杖低 90%。使用這類快取時，您不必明確定義及呼叫快取。相反地，偵測到重複的內容時，後端會從這些快取中提取。
支援的模型
- qwen3-coder-480b-a35b-instruct-maas
- kimi-k2-thinking-maas
- minimax-m2-maas
- gpt-oss-20b-maas
- deepseek-v3.1-maas
- deepseek-v3.2-maas
- deepseek-v4.1-flash-maas
- gemma-4-26b-a4b-it-maas
- glm-5-maas
- glm-5.2-maas
回覆中繼資料的 cachedContentTokenCount 欄位會指出輸入內容快取部分的詞元數量。快取要求必須包含至少 4096 個權杖 (預先發布版期間，這項下限可能會有變動)。
啟用後，系統會自動將隱含快取命中節省的費用轉移給您。快取命中不一定會發生，取決於傳送的要求和其他因素。如要提高隱含快取命中的機率，請嘗試下列做法：
- 將大型和常見內容放在提示開頭。
- 在短時間內傳送前置字串相似的要求。
後續步驟
- 使用開放式模型前，請先授予使用者開放式模型的存取權。
- 瞭解如何呼叫開放原始碼模型 API。