Hugging Face 提供預先訓練模型、微調指令碼和開發用 API，讓您更輕鬆地建立及探索 LLM。Model Garden 可以提供 Hugging Face 的文字嵌入、文字轉圖像、文字生成和圖像文字轉文字模型。
Hugging Face 模型的部署選項
您可以在 Gemini Enterprise Agent Platform 或 Google Kubernetes Engine (GKE) 部署支援的 Hugging Face 模型。選擇部署選項時，可以考量使用的模型，以及您希望對工作負載有多少控制權。
在 Gemini Enterprise Agent Platform 部署
Gemini Enterprise Agent Platform 提供代管平台，可建構及擴充機器學習專案，不需具備內部 MLOps 專業知識。您可以使用 Gemini Enterprise Agent Platform 做為提供 Hugging Face 模型的下游應用程式。如需端對端 MLOps 功能、加值機器學習功能，以及無伺服器體驗，以簡化開發流程，建議使用 Gemini Enterprise Agent Platform。
如要在 Gemini Enterprise Agent Platform 部署支援的 Hugging Face 模型，請前往 Model Garden。
前往「Open models on Hugging Face」(Hugging Face 中的開放原始碼模型) 專區，然後點選「Show more」(顯示更多)。
找出並選取要部署的模型。
選用：在「Deployment environment」(部署環境) 部分，選取「Gemini Enterprise Agent Platform」。
選用：指定部署作業詳細資料。
點選「Deploy」(部署)。
如要開始使用，請參閱下列範例：
- 部分模型提供詳細的模型資訊卡，且部署設定已通過 Google 驗證，例如 google/gemma-3-27b-it、meta-llama/Llama-4-Scout-17B-16E-Instruct、Qwen/QwQ-32B、BAAI/bge-m3、intfloat/multilingual-e5-large-instruct、black-forest-labs/FLUX.1-dev 和 HuggingFaceFW/fineweb-edu-classifier。
- 部分模型的部署設定已通過 Google 驗證，但沒有詳細的模型資訊卡，例如 NousResearch/Genstruct-7B。
- 部分模型會自動產生部署設定。
- 部分模型會根據模型中繼資料自動產生部署設定，例如文字生成、文字嵌入、文字轉圖像生成和圖像文字轉文字等領域中，一些最新熱門模型。
在 GKE 中部署
Google Kubernetes Engine (GKE) 是 Google Cloud 代管 Kubernetes 解決方案，提供擴充性、安全性、韌性和成本效益。如果貴組織已投資 Kubernetes、具備 MLOps 專業知識，或需要精細控管複雜的 AI/機器學習工作負載，且有獨特的安全、資料管道和資源管理需求，建議採用這個選項。
如要在 GKE 部署支援的 Hugging Face 模型，請前往 Model Garden。
前往「Open models on Hugging Face」(Hugging Face 中的開放原始碼模型) 專區，然後點選「Show more」(顯示更多)。
找出並選取要部署的模型。
在「Deployment environment」(部署環境) 部分，選取「GKE」。
按照部署操作說明操作。
如要開始使用，請參閱下列範例：
- 部分模型提供詳細的模型資訊卡和經過驗證的部署設定，例如 google/gemma-3-27b-it、meta-llama/Llama-4-Scout-17B-16E-Instruct 和 Qwen/QwQ-32B。
- 部分模型 (例如 NousResearch/Genstruct-7B) 具有經過驗證的部署設定，但沒有詳細的模型資訊卡。
「由 Gemini Enterprise Agent Platform 支援」是什麼意思？
我們會自動將最新、最熱門的 Hugging Face 模型新增至 Model Garden。這項程序包括為每個模型自動產生部署設定。
為解決安全漏洞和惡意程式碼的問題，我們使用 Hugging Face 惡意軟體掃描工具，每天評估各個 Hugging Face 模型存放區中的檔案安全性。如果模型存放區含有惡意軟體，我們會立即從 Hugging Face 資源庫頁面移除該模型。
雖然模型標示為由 Gemini Enterprise Agent Platform 支援，表示已通過測試，可在 Gemini Enterprise Agent Platform 部署，但我們不保證沒有安全漏洞或惡意程式碼。建議您先自行驗證安全性，再將模型部署至正式環境。
針對特定用途調整部署設定
一鍵部署選項提供的預設部署設定，無法滿足所有需求，因為用途多樣，且延遲、處理量、成本和準確度的優先順序也不同。
因此，您可以先嘗試一鍵部署，建立基準，然後使用 Colab 筆記本 (vLLM、TGI、TEI、HF pytorch 推論) 或 Python SDK，微調部署設定。這種反覆調整的做法可讓您根據確切需求調整部署作業，讓特定應用程式發揮最佳效能。
如果 Model Garden 未列出您需要的模型，該怎麼辦？
如果您要尋找特定模型，但該模型未列在 Model Garden 中，則 Gemini Enterprise Agent Platform 不支援該模型。以下各節將說明原因和可採取的行動。
為什麼沒有列出模型？
模型可能未列入 Model Garden 的原因如下：
- 並非熱門模型：我們通常會優先考慮廣受歡迎且社群高度關注的模型。
- 尚未相容：模型可能無法與支援的服務容器搭配使用。例如，
text-generation和image-text-to-text模型的 vLLM 容器。 - 不支援的管道工作：模型含有我們目前尚未完全支援的工作。我們支援下列工作：
text-generation、text2text-generation、text-to-image、feature-extraction、sentence-similarity和image-text-to-text。
有哪些選項？
您仍可使用 Model Garden 未提供的模型：
- 使用 Colab 筆記本自行部署：我們提供下列 Colab 筆記本：(vLLM、TGI、TEI、HF pytorch 推論)，可讓您靈活部署自訂設定的模型。這樣一來，您就能完全掌控整個程序。
- 提交功能要求：與支援工程師合作，透過 Model Garden 提交功能要求，或參閱 Agent Platform 生成式 AI 支援，取得其他協助。
- 留意更新：我們會定期在 Model Garden 新增模型。您需要的模型日後可能會推出，請定期回來查看！