Model Garden 總覽

Model Garden 是 AI/機器學習模型庫，可協助您探索、測試、自訂及部署 Google 和 Google 合作夥伴提供的模型和資產。

Model Garden 的優點

使用 AI 模型時，Model Garden 提供下列優點：

  • 所有可用模型都會歸類在單一位置
  • Model Garden 為不同類型的模型提供一致的部署模式
  • Model Garden 內建與 Gemini Enterprise Agent Platform 其他部分的整合功能，例如模型微調、評估和服務
  • 提供生成式 AI 模型服務可能很困難，但 Gemini Enterprise Agent Platform 會為您處理模型部署和服務

探索模型

如要查看可用的 Gemini Enterprise Agent Platform 和開放原始碼基礎模型、可調整模型，以及特定工作適用的模型清單，請前往Google Cloud console 中的 Model Garden 頁面。

前往 Model Garden

Model Garden 中的模型類別如下：

類別 說明
基礎模型 預先訓練的大型多工模型，可以透過 Agent Studio、Agent Platform API 和 Agent Platform SDK，針對特定工作加以調整或自訂。
可微調的模型 可以透過自訂筆記本或管道微調的模型。
特定工作的解決方案 這些預先建構的模型大多立即可用，您能運用自己資料來自訂其中許多模型。

如要在篩選器窗格中篩選模型，請指定下列項目：

  • 工作：按一下要模型執行的工作。
  • 模型集合：按一下即可選擇由 Google、合作夥伴或您管理的模型。
  • 供應商：按一下模型供應商。
  • 特徵：點選模型中所需的特徵。

如要進一步瞭解各模型，請點選模型資訊卡。

模型安全性掃描

Google 會對提供的服務和調整容器進行徹底測試和基準化。系統也會對容器構件執行主動安全漏洞掃描。

精選合作夥伴提供的第三方模型會經過模型檢查點掃描，確保真實性。Hugging Face Hub 的第三方模型會直接由 Hugging Face 和第三方掃描器掃描，檢查是否含有惡意軟體、Pickle 檔案、Keras Lambda 層和密碼。Hugging Face 會標記掃描結果顯示不安全的模型，並禁止在 Model Garden 中部署。Model Garden 會標示出可疑模型或可能執行遠端程式碼的模型，但您仍可部署這些模型。建議您先徹底檢查任何可疑模型，再於 Model Garden 中部署。

定價

使用 Model Garden 中的開放原始碼模型時，您需要支付 Gemini Enterprise Agent Platform 的下列費用：

  • 模型微調：您需要支付所用運算資源的費用，費率與自訂訓練相同。請參閱自訂訓練定價。
  • 模型部署作業：將模型部署至端點時，系統會收取所用運算資源的相關費用。請參閱預測定價。
  • Colab Enterprise：請參閱 Colab Enterprise 定價。

控管特定模型的存取權

您可以在組織、資料夾或專案層級設定 Model Garden 組織政策，控管 Model Garden 中特定模型的存取權。舉例來說，您可以允許存取您審查過的特定模型，並拒絕存取所有其他模型。

進一步瞭解 Model Garden

如要進一步瞭解部署選項，以及如何使用 Model Garden 中的模型進行自訂，請參閱下列各節的資源。

部署及提供服務

進一步瞭解如何自訂部署作業和進階放送功能。

調整

進一步瞭解如何調整模型，針對特定用途量身打造回應。

評估

進一步瞭解如何使用 Agent Platform 評估模型回覆

其他資源