Gemma 是一組輕量級生成式人工智慧 (AI) 開放式模型。Gemma 模型可在應用程式、硬體、行動裝置或託管服務中執行。您也可以使用調整技術自訂這些模型,讓模型能更有效地執行您和使用者重視的工作。Gemma 模型以 Gemini 模型為基礎,旨在讓 AI 開發社群擴充及進一步發展。
微調可提升模型在特定工作上的成效,Gemma 模型系列中的模型為開放權重,因此您可以使用自選的 AI 架構和 Vertex AI SDK 調整任何模型。您可以開啟筆記本範例,使用 Model Garden 中 Gemma 模型資訊卡上的連結微調 Gemma 模型。
下列 Gemma 模型可與 Gemini Enterprise Agent Platform 搭配使用。如要進一步瞭解及測試 Gemma 模型,請參閱 Model Garden 模型資訊卡。
| 模型名稱 | 用途 | Model Garden 模型資訊卡 |
|---|---|---|
| Gemma 4 | 支援多模態輸入,可處理文字、圖片和音訊輸入,並生成文字輸出。 | 前往 Gemma 4 模型資訊卡 |
| TranslateGemma | 一系列輕量級開放式翻譯模型,可處理 55 種語言的翻譯工作。 | 前往 TranslateGemma 模型資訊卡 |
| FunctionGemma | 輕量開放模型,可做為基礎,建立專屬的函式呼叫模型,經過進一步微調後,可展現高效能。 | 前往 FunctionGemma 模型資訊卡 |
| Gemma 3n | 支援多模態輸入,可處理文字、圖片和音訊輸入,並生成文字輸出。 | 前往 Gemma 3n 模型資訊卡 |
| Gemma 3 | 最適合用於文字生成和圖像解讀工作,包括回答問題、重點摘要和推論。 | 前往 Gemma 3 模型資訊卡 |
| Gemma 2 | 最適合用於生成、摘要和擷取文字。 | 前往 Gemma 2 模型資訊卡 |
| Gemma | 最適合用於生成、摘要和擷取文字。 | 前往 Gemma 模型資訊卡 |
| CodeGemma | 最適合生成及補全程式碼。 | 前往 CodeGemma 模型資訊卡 |
| PaliGemma 2 | 最適合用於圖像說明文字和圖像問答工作。 | 前往 PaliGemma 2 模型資訊卡 |
| PaliGemma | 最適合用於圖像說明文字和圖像問答工作。 | 前往 PaliGemma 模型資訊卡 |
| ShieldGemma 2 | 檢查合成和自然圖像的安全性,協助您建構穩健的資料集和模型。 | 前往 ShieldGemma 2 模型資訊卡 |
| TxGemma | 最適合用於治療預測工作,包括分類、迴歸或生成,以及推論工作。 | 前往 TxGemma 模型資訊卡 |
| MedGemma | Gemma 3 變體,經過訓練,可有效理解醫療文字和圖片。 | 前往 MedGemma 模型資訊卡 |
| MedSigLIP | SigLIP 變體,經過訓練,可將醫療影像和文字編碼至共同嵌入空間。 | 前往 MedSigLIP 模型資訊卡 |
| T5Gemma | 非常適合用於各種生成式工作,包括回答問題、重點摘要和推論。 | 前往 T5Gemma 模型資訊卡 |
| T5Gemma 2 | 非常適合用於各種生成式工作,包括回答問題、重點摘要和推論。 | 前往 T5Gemma 2 模型資訊卡 |
以下是 Gemma 的一些使用選項:
搭配使用 Gemma 和 Gemini Enterprise Agent Platform
Gemini Enterprise Agent Platform 提供代管平台,可快速建構及擴充機器學習專案,不需具備內部 MLOps 專業知識。您可以使用 Gemini Enterprise Agent Platform 做為提供 Gemma 模型的下游應用程式。舉例來說,您可以從 Gemma 的 Keras 實作中移植權重。接著,您可以使用 Agent Platform 提供該版本的 Gemma,取得預測結果。如需端對端 MLOps 功能、加值機器學習功能,以及無伺服器體驗,以簡化開發流程,建議使用 Gemini Enterprise Agent Platform。
如要開始使用 Gemma,請參閱下列筆記本:
使用 PEFT 微調 Gemma 2,然後從 Vertex 部署至 Gemini Enterprise Agent Platform
使用 PEFT 微調 Gemma,然後從 Vertex 部署至 Gemini Enterprise Agent Platform
使用 PEFT 微調 Gemma,然後從 Hugging Face 部署至 Gemini Enterprise Agent Platform
在 Agent Platform 使用 Ray 微調 Gemma,然後部署至 Gemini Enterprise Agent Platform
在其他 Google Cloud 產品中使用 Gemma
您可以搭配其他 Google Cloud 產品使用 Gemma,例如 Google Kubernetes Engine 和 Dataflow。
搭配使用 Gemma 和 GKE
Google Kubernetes Engine (GKE) 是 Google Cloud 代管 Kubernetes 解決方案,具備擴充性、安全性、韌性和成本效益。如果貴組織已投資 Kubernetes、具備 MLOps 專業知識,或需要精細控管複雜的 AI/機器學習工作負載,且有獨特的安全、資料管道和資源管理需求,建議您選用這個選項。詳情請參閱 GKE 說明文件中的下列教學課程:
搭配 Dataflow 使用 Gemma
您可以搭配 Dataflow 使用 Gemma 模型進行情緒分析。使用 Dataflow 執行採用 Gemma 模型的推論管道。詳情請參閱「使用 Gemma 開放原始碼模型執行推論管道」。
搭配 Colab 使用 Gemma
您可以搭配使用 Gemma 和 Colaboratory,建立 Gemma 解決方案。在 Colab 中,您可以搭配 PyTorch 和 JAX 等架構選項使用 Gemma。詳情請參閱:
Gemma 模型大小和功能
Gemma 模型有多種大小,您可以根據可用的運算資源、所需功能和執行位置,建構生成式 AI 解決方案。每個模型都有調整和未調整版本:
預先訓練:這個版本的模型並未經過 Gemma 核心資料訓練集以外的任何特定工作或指令訓練。不建議在未調整的情況下使用這個模型。
指令調整:這個版本的模型經過人類語言互動訓練,因此可以參與對話,類似基本的聊天機器人。
Mix fine-tuned:這個版本的模型經過微調,可處理各種學術資料集,並接受自然語言提示。
參數大小越小,資源需求越低,部署彈性也越高。
| 模型名稱 | 參數大小 | 輸入內容 | 輸出內容 | 調整後的版本 | 預定平台 |
|---|---|---|---|---|---|
| Gemma 4 | |||||
| Gemma 4 31B | 310 億個參數 | 文字和圖片 | 文字 |
|
大型伺服器或伺服器叢集 |
| Gemma 4 26B A4B | 260 億個參數,40 億個有效參數 | 文字和圖片 | 文字 |
|
高階桌上型電腦和伺服器 |
| Gemma 4 E4B | 40 億個有效參數 | 文字、圖片和音訊 | 文字 |
|
行動裝置和筆電 |
| Gemma 4 E2B | 20 億個有效參數 | 文字、圖片和音訊 | 文字 |
|
行動裝置和筆電 |
| Gemma 3n | |||||
| Gemma 3n E4B | 40 億個有效參數 | 文字、圖片和音訊 | 文字 |
|
行動裝置和筆電 |
| Gemma 3n E2B | 20 億個有效參數 | 文字、圖片和音訊 | 文字 |
|
行動裝置和筆電 |
| Gemma 3 | |||||
| Gemma 3 27B | 270 億 | 文字和圖片 | 文字 |
|
大型伺服器或伺服器叢集 |
| Gemma 3 12B | 120 億 | 文字和圖片 | 文字 |
|
高階桌上型電腦和伺服器 |
| Gemma 3 4B | 40 億 | 文字和圖片 | 文字 |
|
桌上型電腦和小型伺服器 |
| Gemma 3 1B | 10 億 | 文字 | 文字 |
|
行動裝置和筆電 |
| Gemma 2 | |||||
| Gemma 2 27B | 270 億 | 文字 | 文字 |
|
大型伺服器或伺服器叢集 |
| Gemma 2 9B | 90 億人 | 文字 | 文字 |
|
高階桌上型電腦和伺服器 |
| Gemma 2 2B | 20 億 | 文字 | 文字 |
|
行動裝置和筆電 |
| Gemma | |||||
| Gemma 7B | 70 億 | 文字 | 文字 |
|
桌上型電腦和小型伺服器 |
| Gemma 2B | 22 億 | 文字 | 文字 |
|
行動裝置和筆電 |
| CodeGemma | |||||
| CodeGemma 7B | 70 億 | 文字 | 文字 |
|
桌上型電腦和小型伺服器 |
| CodeGemma 2B | 20 億 | 文字 | 文字 |
|
桌上型電腦和小型伺服器 |
| PaliGemma 2 | |||||
| PaliGemma 28B | 280 億 | 文字和圖片 | 文字 |
|
大型伺服器或伺服器叢集 |
| PaliGemma 10B | 100 億 | 文字和圖片 | 文字 |
|
高階桌上型電腦和伺服器 |
| PaliGemma 3B | 30 億 | 文字和圖片 | 文字 |
|
桌上型電腦和小型伺服器 |
| PaliGemma | |||||
| PaliGemma 3B | 30 億 | 文字和圖片 | 文字 |
|
桌上型電腦和小型伺服器 |
| ShieldGemma 2 | |||||
| ShieldGemma 2 | 40 億 | 文字和圖片 | 文字 |
|
桌上型電腦和小型伺服器 |
| TxGemma | |||||
| TxGemma 27B | 270 億 | 文字 | 文字 |
|
大型伺服器或伺服器叢集 |
| TxGemma 9B | 90 億人 | 文字 | 文字 |
|
高階桌上型電腦和伺服器 |
| TxGemma 2B | 20 億 | 文字 | 文字 |
|
行動裝置和筆電 |
| MedGemma | |||||
| MedGemma 27B | 270 億 | 文字和圖片 | 文字 |
|
大型伺服器或伺服器叢集 |
| MedGemma 4B | 40 億 | 文字和圖片 | 文字 |
|
桌上型電腦和小型伺服器 |
| MedSigLIP | |||||
| MedSigLIP | 8 億 | 文字和圖片 | 嵌入 |
|
行動裝置和筆電 |
| T5Gemma | |||||
| T5Gemma 9B-9B | 180 億 | 文字 | 文字 |
|
行動裝置和筆電 |
| T5Gemma 9B-2B | 110 億 | 文字 | 文字 |
|
行動裝置和筆電 |
| T5Gemma 2B-2B | 40 億 | 文字 | 文字 |
|
行動裝置和筆電 |
| T5Gemma XL-XL | 40 億 | 文字 | 文字 |
|
行動裝置和筆電 |
| T5Gemma M-L | 20 億 | 文字 | 文字 |
|
行動裝置和筆電 |
| T5Gemma L-L | 10 億 | 文字 | 文字 |
|
行動裝置和筆電 |
| T5Gemma B-B | 6 億 | 文字 | 文字 |
|
行動裝置和筆電 |
| T5Gemma S-S | 3 億 | 文字 | 文字 |
|
行動裝置和筆電 |
Gemma 已使用 Google 專門打造的 v5e TPU 硬體,以及 NVIDIA 的 L4 (G2 Standard)、A100 (A2 Standard)、H100 (A3 High) GPU 硬體進行測試。
後續步驟
- 請參閱 Gemma 說明文件。