Gemini Enterprise Agent Platform 平台合作夥伴模型 (適用於 MaaS)

Gemini Enterprise Agent Platform 支援 Google 合作夥伴開發的精選模型。合作夥伴模型可透過 Gemini Enterprise Agent Platform 以模型即服務 (MaaS) 形式使用，並以代管 API 形式提供。使用合作夥伴模型時，您仍會將要求傳送至 Gemini Enterprise Agent Platform 端點。合作夥伴模型採用無伺服器架構，因此不需佈建或管理基礎架構。

您可以使用 Model Garden 探索合作夥伴模型。您也可以使用 Model Garden 部署模型。詳情請參閱「探索 Model Garden 中的 AI 模型」。您可以在 Model Garden 的模型資訊卡中找到各個合作夥伴模型的相關資訊，但本指南只會記錄以 MaaS 形式透過 Gemini Enterprise Agent Platform 執行的第三方模型。

Anthropic 的 Claude 和 Mistral 模型，都是可在 Gemini Enterprise Agent Platform 使用的第三方代管模型。

Anthropic 實施政策，禁止特定經銷商轉售其產品。如果您的 Google Cloud 帳單帳戶是由受禁經銷商管理，您將無法接受《服務條款》或啟用 Claude 模型。如果發生這種情況，請直接與經銷商聯絡。

合作夥伴模型

下列合作夥伴模型在 Gemini Enterprise Agent Platform Model Garden (MaaS) 中，以代管 API 的形式提供：

模型名稱	模態	說明	快速入門導覽課程
Meta 的 Muse Spark 1.3 (預先發布版)	語言	Meta 的 Muse Spark 1.3 是經過訓練的推論模型，適用於代理式工作流程和競爭性程式設計。這款模型首次嘗試的準確率更高，內建可靠的工具呼叫功能，並支援 MCP，還能處理 100 萬個詞元的長脈絡，適合多步驟工作。	模型詳細資料
Grok 4.7 (預先發布版)	語言	xAI 的高效能模型，專為程式設計和知識工作打造。在處理困難任務時，這項模型會花費較長時間，並檢查自己的工作。	模型資訊卡
Grok 4.6	語言	xAI 的高能力模型，專為程式設計、代理工作和知識工作打造。	模型資訊卡
Grok 4.3 (預先發布版)	語言	xAI 的高效能模型。	Model Card
Grok 4.20 (Reasoning) (預先發布版)	語言	Grok 4.20 (Reasoning) 是 xAI 的高效能模型，幻覺率偏低。擅長解讀文件內容，以及長時間呼叫代理式工具。	模型資訊卡
Grok 4.20 (非推論) (預先發布版)	語言	Grok 4.20 (Non-Reasoning) 是 xAI 的高效能非思考型模型，幻覺率低。非常適合用於需要高度即時反應的服務，例如客戶服務和分類。	模型資訊卡
Google Cloud 上的 Claude Haiku 5.5	語言、視覺	Google Cloud 上的 Claude Haiku 5.5 是一款高效能且經濟實惠的模型，專為大規模編碼、子代理和延遲敏感型體驗而打造。	模型資訊卡
Google Cloud 上的 Claude Sonnet 5.5	語言、視覺	Google Cloud 上的 Claude Sonnet 5.5 專為大規模程式設計、代理和專業工作打造。	模型資訊卡
Google Cloud 上的 Claude Sonnet 5	語言、視覺	Google Cloud 上的 Claude Sonnet 5 專為大規模程式設計、代理和專業工作打造。	Model Card
Google Cloud 上的 Claude Opus 5.5	語言、視覺	Google Cloud 上的 Claude Opus 5.5 是 Anthropic 最先進的 Opus 模型，可以驅動長時間執行的代理，並提高程式設計和專業工作的成效。	模型資訊卡
Google Cloud 上的 Claude Opus 5	語言、視覺	Google Cloud 上的 Claude Opus 5 是 Anthropic 的高智慧模型，專為程式設計、代理和專業工作打造。	模型資訊卡
Google Cloud 上的 Claude Fable 5.1	語言、視覺	Google Cloud 上的 Claude Fable 5.1 經過最佳化調整，適合自主知識工作和程式設計，可處理長時間執行、複雜和非同步的工作。	模型資訊卡
Google Cloud 上的 Claude Fable 5	語言、視覺	Google Cloud 上的 Claude Fable 5 是 Anthropic 的模型，專為自主知識工作和程式設計而設計，適用於複雜的多日專案。	模型資訊卡
Google Cloud 的 Claude Opus 4.8	語言、視覺	Claude Opus 4.8 是高智慧 Opus 模型，專為程式設計和代理打造，可深入推論企業工作流程。	Model Card
Google Cloud 上的 Claude Opus 4.7	語言、視覺	Google Cloud 上的 Claude Opus 4.7 是 Anthropic 的高智慧模型，在程式設計、代理、電腦應用和企業工作流程等領域居於領先地位。	模型資訊卡
Google Cloud 上的 Claude Sonnet 4.6	語言、視覺	Google Cloud 上的 Claude Sonnet 4.6 提供大規模尖端智慧，專為程式設計、代理和企業工作流程打造。	模型資訊卡
Google Cloud 上的 Claude Opus 4.6	語言、視覺	Google Cloud 上的 Claude Opus 4.6 是 Anthropic 的高智慧模型，在程式設計、代理、電腦應用和企業工作流程等領域居於領先地位。	模型資訊卡
Google Cloud 上的 Claude Opus 4.5	語言、視覺	Google Cloud 上的 Claude Opus 4.5 是 Anthropic 的高智慧模型，在程式設計、代理、電腦應用和企業工作流程等領域居於領先地位。	模型資訊卡
Google Cloud 上的 Claude Sonnet 4.5	語言、視覺	Anthropic 的中型模型，適用於實際代理，具備程式設計、電腦應用、網路安全，以及處理試算表等辦公室檔案的能力。	Model Card
Google Cloud 上的 Claude Opus 4.1	語言、視覺	領先業界的程式設計模型。在需要專注和數千個步驟的長時間任務中，這項技術能持續發揮效能，大幅擴展 AI 代理可解決的問題範圍。適合用於驅動先進的代理產品和功能。	模型資訊卡
Google Cloud 上的 Claude Haiku 4.5	語言、視覺	Google Cloud 上的 Claude Haiku 4.5 效能卓越，適用於各種用途和程式設計工作，速度飛快且經濟實惠，可為免費產品和大量使用者體驗提供支援。	模型資訊卡
Claude Opus 4 on Google Cloud	語言、視覺	在 Google Cloud 上使用 Claude Opus 4，可持續執行需要專注投入大量心力，以及數千個步驟的長時間工作，大幅擴展 AI 代理可解決的問題。	模型資訊卡
Google Cloud 上的 Claude Sonnet 4	語言、視覺	Anthropic 的中型模型，非常有智慧，適用於高用量的程式設計、深度研究、代理等用途。	Model Card
Google Cloud 中的 Anthropic Claude 3.5 Sonnet v2	語言、視覺	Google Cloud 上的 Claude 3.5 Sonnet 是高效能模型，能實際處理軟體工程任務，並建構代理能力。Google Cloud 上的 Claude 3.5 Sonnet 具備這些進階功能，價格和速度則與前一代相同。	模型資訊卡
Google Cloud 中的 Anthropic Claude 3.5 Sonnet	語言	在 Anthropic 進行的一系列評測中，Google Cloud 上的 Claude 3.5 Sonnet 表現皆優於 Google Cloud 上的 Claude 3 Opus，而速度與成本方面的表現則等同於 Anthropic 的中階模型 Google Cloud 上的 Claude 3 Sonnet。	模型資訊卡
Jamba 1.5 Large (預先發布版)	語言	AI21 Labs 的 Jamba 1.5 Large 旨在提供優質回覆、高處理量，以及與同等規模模型相比更具競爭力的價格。	模型資訊卡
Jamba 1.5 Mini (預先發布版)	語言	AI21 Labs 的 Jamba 1.5 Mini 在品質、處理量和低成本之間取得良好平衡。	模型資訊卡
Mistral Medium 3	語言	Mistral Medium 3 是多功能模型，專為各種工作設計，包括程式設計、數學推論、理解長篇文件、重點摘要和對話。	模型資訊卡
Mistral OCR (25.05)	語言、視覺	Mistral OCR (25.05) 是一種光學字元辨識 API，可協助理解文件。模型會理解文件中的每個元素，例如媒體、文字、表格和方程式。	Model Card
Mistral Small 3.1 (25.03)	語言	Mistral Small 3.1 (25.03) 是 Mistral Small 模型的版本，具備多模態功能和擴展的脈絡長度。	Model Card
Codestral 2	語言、代碼	Codestral 2 是 Mistral 的程式碼生成專用模型，專為高精確度的中間填補 (FIM) 補全功能而建構，可協助開發人員透過共用指令和補全 API 端點編寫程式碼及與程式碼互動。	模型資訊卡

使用 Gen AI Evaluation Service 評估合作夥伴模型

Gen AI Evaluation Service 支援評估合作夥伴模型，例如 Anthropic 和 Llama 模型。Model Garden 支援合作夥伴模型評估，因此您必須先啟用模型，才能針對合作夥伴模型執行評估。

詳情請參閱「使用控制台執行評估」。

Gemini Enterprise Agent Platform 平台合作夥伴模型定價 (含容量保證)

Google 為部分合作夥伴模型提供佈建輸送量，可為您的模型預留輸送量容量，費用固定。您可以決定要預留的輸送量容量，以及預留容量的區域。由於佈建輸送量要求的優先順序高於標準即付即用要求，因此佈建輸送量可提高可用性。系統負載過重時，只要輸送量維持在預留輸送量容量以下，系統仍可完成要求。如要瞭解詳情或訂閱服務，請聯絡銷售人員。

區域、全域和多區域端點

如果是區域端點，系統會從您指定的區域提供要求。如果您有資料落地需求，或模型不支援全域端點，請使用區域端點。

使用全域端點時，Google 可以從所用模型支援的任何區域處理及提供要求，在某些情況下，這可能會導致延遲時間較長。全球端點有助於提升整體可用性，並減少錯誤。

多區域端點可讓您以高可用性存取合作夥伴模型，同時將資料落地在更廣泛的地理區域 (例如美國)。

價格會因所選端點類型而異。如要進一步瞭解配額和功能，請參閱相關的第三方模型頁面。

全球端點

如要使用全域端點，請將區域設為 global。

舉例來說，curl 指令的要求網址採用下列格式： https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/PUBLISHER_NAME/models/MODEL_NAME

Agent Platform SDK 預設會使用區域端點。將區域設為 GLOBAL，即可使用全域端點。

全域端點支援的模型

全域端點適用於下列模型：

• Google Cloud 上的 Claude Sonnet 5.5
• Google Cloud 上的 Claude Fable 5.1
• 在 Google Cloud 試用 Claude Sonnet 5
• Google Cloud 上的 Claude Opus 5.5
• Google Cloud 上的 Claude Opus 5
• Google Cloud 上的 Claude Fable 5
• Google Cloud 上的 Claude Opus 4.8
• Google Cloud 上的 Claude Opus 4.7
• Google Cloud 上的 Claude Opus 4.6
• Google Cloud 上的 Claude Sonnet 4.6
• Google Cloud 上的 Claude Opus 4.5
• Google Cloud 上的 Claude Opus 4.1
• Google Cloud 上的 Claude Opus 4
• Google Cloud 上的 Claude Sonnet 4.5
• 在 Google Cloud 中使用 Claude Sonnet 4
• Google Cloud 上的 Claude 3.7 Sonnet
• 在 Google Cloud 上使用 Claude 3.5 Sonnet v2
• 在 Google Cloud 中使用 Claude Haiku 5.5
• Google Cloud 上的 Claude Haiku 4.5
• Grok 4.20
• Grok 4.3
• Grok 4.6
• Grok 4.7
• Meta 的 Muse Spark 1.3

注意： 使用全域端點時，系統支援提示快取。 使用全域端點時，不支援佈建輸送量。

限制全域 API 端點用量

如要強制使用區域端點，請使用 constraints/gcp.restrictEndpointUsage 組織政策限制，封鎖對全域 API 端點的要求。詳情請參閱「限制端點用量」。

多區域端點

多區域端點可讓您以高可用性存取合作夥伴模型，同時將資料落地範圍維持在較廣泛的地理區域，例如美國或歐盟。

選取要使用的多區域對應分頁：

美國

如要使用美國多區域端點，請將端點網址設為 aiplatform.us.rep.googleapis.com。

curl 指令的要求網址採用下列格式： https://aiplatform.us.rep.googleapis.com/v1/projects/PROJECT_ID/locations/us/publishers/anthropic/models/MODEL_NAME

歐盟

如要使用歐盟多區域端點，請將端點網址設為 aiplatform.eu.rep.googleapis.com。

curl 指令的要求網址採用下列格式： https://aiplatform.eu.rep.googleapis.com/v1/projects/PROJECT_ID/locations/eu/publishers/anthropic/models/MODEL_NAME

如要進一步瞭解 MODEL_NAME 格式，請參閱 Anthropic 說明文件。

多區域端點支援的模型：

多區域端點支援 4.7 以上版本的所有 Claude 模型 (例如 claude-opus-4-7、claude-opus-4-8 和 claude-fable-5)。請視需要使用完整模型 ID，包括版本日期。

Grok 4.6 (grok-4.6) 和 Grok 4.7 (grok-4.7) 可在美國多區域端點使用。Grok 模型使用與 OpenAI 相容的對話完成和回覆 API，因此要求路徑會使用 endpoints/openapi。例如：https://aiplatform.us.rep.googleapis.com/v1/projects/PROJECT_ID/locations/us/endpoints/openapi/responses。

要求示例：

以下說明如何使用 curl 呼叫多區域端點：

export PROJECT_ID="YOUR_PROJECT_ID"
# Example using claude-opus-4-7

# Option 1: US Region
export LOCATION="us"
export ENDPOINT="aiplatform.us.rep.googleapis.com"

# Option 2: EU Region
# export LOCATION="eu"
# export ENDPOINT="aiplatform.eu.rep.googleapis.com"

export MODEL_ID="claude-opus-4-7"

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
  -H "Content-Type: application/json" \
  "https://${ENDPOINT}/v1/projects/${PROJECT_ID}/locations/${LOCATION}/publishers/anthropic/models/${MODEL_ID}:rawPredict" \
  -d '{
    "max_tokens": 300,
    "messages": [
      {
        "role": "user",
        "content": [
          {
            "type": "text",
            "text": "Why is the sky blue?"
          }
        ]
      }
    ],
    "anthropic_version": "vertex-2023-10-16"
  }'

多區域配額：

系統會強制執行專屬的多區域配額。您可以在 Google Cloud 控制台中查看這些預設配額值，並申請提高配額。

• 美國配額範例：

  • UsOnlinePredictionInputTokensPerMinutePerBaseModel
  • UsOnlinePredictionOutputTokensPerMinutePerBaseModel
  • UsOnlinePredictionRequestsPerMinPerProjectPerBaseModel
  • UsOnlinePredictionWebSearchRequestsPerProjectPerPublisher

• 歐盟配額範例：

  • EuOnlinePredictionInputTokensPerMinutePerBaseModel
  • EuOnlinePredictionOutputTokensPerMinutePerBaseModel
  • EuOnlinePredictionRequestsPerMinPerProjectPerBaseModel
  • EuOnlinePredictionWebSearchRequestsPerProjectPerPublisher

注意： 使用多區域端點時，系統支援提示快取功能。 使用多區域端點時，不支援佈建輸送量。

授予使用者合作夥伴模型的存取權

如要啟用合作夥伴模型並提出提示要求， Google Cloud管理員必須設定必要權限，並確認組織政策允許使用必要 API。

設定使用合作夥伴模型所需的權限

您必須具備下列角色和權限，才能使用合作夥伴模型：

• 您必須具備「用戶採購授權管理員」Identity and Access Management (IAM) 角色。獲得這項角色權限的使用者，都能在 Model Garden 中啟用合作夥伴模型。

• 您必須具備 aiplatform.endpoints.predict 權限。「Agent Platform 使用者」IAM 角色已具備此權限。詳情請參閱「Gemini Enterprise Agent Platform 使用者」和「存取控管」。

控制台

1. 如要將「用戶採購授權管理員」IAM 角色授予使用者，請前往「IAM」頁面。

   前往「IAM」頁面

2. 在「主體」欄中，找出要為其啟用合作夥伴模型存取權的使用者主體，然後點選該列中的 「編輯主體」。

3. 在「Edit access」(編輯權限) 窗格中，按一下 「Add another role」(新增其他角色)。

4. 在「Select a role」(選取角色) 部分，選取「Consumer Procurement Entitlement Manager」(消費者採購授權管理員)。

5. 在「Edit access」(編輯權限) 窗格中，按一下 「Add another role」(新增其他角色)。

6. 在「選取角色」部分，選取「Agent Platform 使用者」。

7. 按一下 [儲存]。

gcloud

1. 在 Google Cloud 控制台啟用 Cloud Shell。

   啟用 Cloud Shell

2. 授予啟用 Model Garden 中合作夥伴模型所需的「消費者採購授權管理員」角色

   gcloud projects add-iam-policy-binding  PROJECT_ID \
   --member=PRINCIPAL --role=roles/consumerprocurement.entitlementManager
   

3. 授予 Agent Platform 使用者角色，其中包含提出提示要求所需的 aiplatform.endpoints.predict 權限：

   gcloud projects add-iam-policy-binding  PROJECT_ID \
   --member=PRINCIPAL --role=roles/aiplatform.user
   

   將 PRINCIPAL 替換為主體的 ID。ID 的格式為 user|group|serviceAccount:email 或 domain:domain，例如 user:[e-mail]、group:[e-mail]、serviceAccount:[e-mail] 或 domain:example.domain.com。

   輸出內容是政策繫結清單，包含下列項目：

   -   members:
     -   user:PRINCIPAL
     role: roles/roles/consumerprocurement.entitlementManager
   

   詳情請參閱「授予單一角色」和「gcloud projects add-iam-policy-binding」。

設定合作夥伴模型存取權的機構政策

如要啟用合作夥伴模型，組織政策必須允許下列 API：Cloud Commerce Consumer Procurement API - cloudcommerceconsumerprocurement.googleapis.com

如果貴機構設定組織政策來限制服務用量，組織管理員就必須設定組織政策，確認允許使用 cloudcommerceconsumerprocurement.googleapis.com。

此外，如果組織政策限制在 Model Garden 中使用模型，則政策必須允許存取合作夥伴模型。詳情請參閱「控管模型存取權」。

合作夥伴模式法規遵循

透過 Gemini Enterprise Agent Platform，將合作夥伴模型做為代管 API 使用時，Agent Platform 的生成式 AI 認證仍適用。如需模型本身的詳細資料，請參閱相應的模型資訊卡，或與相應的模型發布者聯絡。

在 Gemini Enterprise Agent Platform 上，合作夥伴模型會將靜態資料儲存在所選區域或多區域，但資料處理的區域化程度可能有所不同。如需合作夥伴模型資料處理承諾的詳細清單，請參閱「合作夥伴模型的資料落地設定」。

使用 Gemini Enterprise API (包括合作夥伴模型) 時，客戶提示和模型回覆不會與第三方分享。Google 只會按照客戶指示處理客戶資料，詳情請參閱《Cloud 資料處理附加條款》。