שימוש במודלים פתוחים של Gemma

‫Gemma היא קבוצה של מודלים קלי משקל של בינה מלאכותית גנרטיבית בקוד פתוח. אפשר להריץ את מודלי Gemma באפליקציות ובחומרה, במכשירים ניידים או בשירותים מתארחים. אפשר גם להתאים אישית את המודלים האלה באמצעות טכניקות כוונון, כדי שהם יצטיינו בביצוע משימות שחשובות לכם ולמשתמשים שלכם. מודלי Gemma מבוססים על מודלים של Gemini ומיועדים לקהילת פיתוח ה-AI כדי להרחיב אותם ולפתח אותם.

כוונון עדין יכול לעזור לשפר את הביצועים של מודל במשימות ספציפיות. מכיוון שהמודלים במשפחת Gemma הם מודלים עם משקלים פתוחים, אתם יכולים לכוונן כל אחד מהם באמצעות מסגרת ה-AI שתבחרו ו-Vertex AI SDK. אפשר לפתוח דוגמה ל-Notebook כדי לבצע כוונון עדין של מודל Gemma באמצעות קישור שזמין בכרטיס המודל של Gemma ב-Model Garden.

המודלים הבאים של Gemma זמינים לשימוש עם Gemini Enterprise Agent Platform. מידע נוסף על מודלי Gemma ובדיקה שלהם זמינים בכרטיסי המודלים ב-Model Garden.

שם הדגם	תרחישים לדוגמה	כרטיס מודל ב-Model Garden
Gemma 4	יכול לקבל קלט מולטי-מודאלי, לעבד קלט של טקסט, תמונות ואודיו, וליצור פלט של טקסט.	מעבר לכרטיס מודל Gemma 4
TranslateGemma	משפחה של מודלים קלי משקל ופתוחים לתרגום, שנועדו לטפל במשימות תרגום ב-55 שפות.	מעבר לכרטיס המודל TranslateGemma
FunctionGemma	מודל קל משקל ופתוח, שנוצר כבסיס ליצירת מודלים משלכם עם פונקציות מיוחדות, ומיועד להניב ביצועים גבוהים אחרי כוונון עדין נוסף.	מעבר לכרטיס המודל FunctionGemma
Gemma 3n	יכול לקבל קלט מולטי-מודאלי, לעבד קלט של טקסט, תמונות ואודיו, וליצור פלט של טקסט.	מעבר לכרטיס מודל Gemma 3n
Gemma 3	המודל הכי טוב ליצירת טקסט ולמשימות של הבנת תמונות, כולל מענה לשאלות, סיכום והסקה.	מעבר לכרטיס מודל Gemma 3
Gemma 2	האפשרות הכי טובה ליצירת טקסט, לסיכום ולחילוץ.	מעבר לכרטיס מודל Gemma 2
‏Gemma	האפשרות הכי טובה ליצירה, לסיכום ולחילוץ של טקסט.	מעבר לכרטיס מודל Gemma
CodeGemma	האפשרות הכי טובה ליצירה ולהשלמה של קוד.	מעבר לכרטיס מודל CodeGemma
PaliGemma 2	האפשרות הטובה ביותר למשימות של כתיבת כתוביות לתמונות ולמשימות של שאלות ותשובות חזותיות.	מעבר לכרטיס המודל PaliGemma 2
PaliGemma	האפשרות הטובה ביותר למשימות של כתיבת כתוביות לתמונות ולמשימות של שאלות ותשובות חזותיות.	מעבר לכרטיס המודל PaliGemma
ShieldGemma 2	בודק את הבטיחות של תמונות סינתטיות ותמונות טבעיות כדי לעזור לכם ליצור מערכי נתונים ומודלים חזקים.	מעבר לכרטיס המודל ShieldGemma 2
TxGemma	המודל הכי מתאים למשימות של חיזוי טיפולי, כולל סיווג, רגרסיה או יצירה, ולמשימות של הסקת מסקנות.	לכרטיס המודל TxGemma
MedGemma	‫3 וריאציות של Gemma שאומנו לביצועים טובים בהבנת טקסט ותמונות בתחום הרפואה.	מעבר לכרטיס המודל MedGemma
MedSigLIP	וריאציה של SigLIP שאומנה לקודד תמונות וטקסט רפואיים במרחב הטמעה משותף.	מעבר לכרטיס המודל MedSigLIP
T5Gemma	מתאים למגוון משימות גנרטיביות, כולל מענה לשאלות, סיכום והסקה.	מעבר לכרטיס המודל T5Gemma
T5Gemma 2	מתאים למגוון משימות גנרטיביות, כולל מענה לשאלות, סיכום והסקה.	מעבר לכרטיס המודל T5Gemma 2

אלה כמה אפשרויות לשימוש ב-Gemma:

שימוש ב-Gemma עם Gemini Enterprise Agent Platform

‫Gemini Enterprise Agent Platform היא פלטפורמה מנוהלת שמאפשרת לפתח ולהרחיב במהירות פרויקטים של למידת מכונה, בלי צורך במומחיות פנימית בתחום MLOps. אתם יכולים להשתמש ב-Gemini Enterprise Agent Platform בתור אפליקציית downstream שמשרתת את מודלי Gemma. לדוגמה, אפשר להעביר משקלים מהטמעה של Gemma ב-Keras. לאחר מכן, תוכלו להשתמש ב-Agent Platform כדי להכניס לשימוש בסביבת הייצור את הגרסה הזו של Gemma ולקבל תחזיות. מומלץ להשתמש בפלטפורמת הסוכנים של Gemini Enterprise אם רוצים יכולות MLOps מקצה לקצה, תכונות ML עם ערך מוסף וחוויה ללא שרתים לפיתוח יעיל.

כדי להתחיל לעבוד עם Gemma, אפשר לעיין במחברות הבאות:

• הפעלת Gemma 3n ב-Gemini Enterprise Agent Platform

• הפעלת Gemma 3 ב-Gemini Enterprise Agent Platform

• הפעלת Gemma 2 ב-Gemini Enterprise Agent Platform

• הפעלת Gemma ב-Gemini Enterprise Agent Platform

• כוונון של Gemma 3 באמצעות Axolotl ואז פריסה ב-Gemini Enterprise Agent Platform מ-Vertex

• כוונון עדין של Gemma 2 באמצעות PEFT ופריסה ב-Gemini Enterprise Agent Platform מ-Vertex

• כוונון עדין של Gemma באמצעות PEFT ופריסה ב-Gemini Enterprise Agent Platform מ-Vertex

• איך מבצעים כוונון עדין של Gemma באמצעות PEFT ואז פורסים אותו ב-Gemini Enterprise Agent Platform מ-Huggingface

• איך מבצעים כוונון עדין של Gemma באמצעות KerasNLP ואז פורסים אותה ב-Gemini Enterprise Agent Platform

• איך מבצעים Fine-tuning של Gemma באמצעות Ray ב-Agent Platform ואז פורסים אותו ב-Gemini Enterprise Agent Platform

• הפעלת הסקה מקומית באמצעות ShieldGemma 2 עם כלי טרנספורמציה של Hugging Face

• הפעלת MedGemma ב-Gemini Enterprise Agent Platform

• הצגת MedSigLIP ב-Gemini Enterprise Agent Platform

• הרצת הסקה מקומית באמצעות T5Gemma עם טרנספורמציות של Hugging Face

שימוש ב-Gemma במוצרים אחרים Google Cloud

אפשר להשתמש ב-Gemma עם מוצרים אחרים, כמו Google Kubernetes Engine ו-Dataflow. Google Cloud

שימוש ב-Gemma עם GKE

‫Google Kubernetes Engine‏ (GKE) הוא Google Cloud פתרון ל-Kubernetes מנוהל, שמספק יכולת הרחבה, אבטחה, עמידות וחסכוניות. אנחנו ממליצים על האפשרות הזו אם השקעתם ב-Kubernetes, אם בארגון שלכם יש מומחיות ב-MLOps, או אם אתם צריכים שליטה מדויקת בעומסי עבודה מורכבים של AI/ML עם דרישות ייחודיות לאבטחה, לצינור נתונים ולניהול משאבים. מידע נוסף זמין במדריכים הבאים במסמכי התיעוד של GKE:

• להכניס לשימוש בסביבת הייצור את Gemma עם vLLM
• הפעלת Gemma באמצעות TGI
• להכניס לשימוש בסביבת הייצור את Gemma עם Triton ו-TensorRT-LLM
• מילו בקשות של Gemma באמצעות JetStream

שימוש ב-Gemma עם Dataflow

אפשר להשתמש במודלים של Gemma עם Dataflow כדי לבצע ניתוח סנטימנט. להשתמש ב-Dataflow כדי להריץ צינורות עיבוד נתונים של הסקת מסקנות שמשתמשים במודלים של Gemma. מידע נוסף זמין במאמר בנושא הרצת צינורות הסקה עם מודלים פתוחים של Gemma.

שימוש ב-Gemma עם Colab

אתם יכולים להשתמש ב-Gemma עם Colaboratory כדי ליצור את הפתרון שלכם ל-Gemma. ב-Colab, אפשר להשתמש ב-Gemma עם אפשרויות של מסגרות כמו PyTorch ו-JAX. מידע נוסף זמין במאמרים הבאים:

• איך מתחילים לעבוד עם Gemma באמצעות Keras
• איך מתחילים לעבוד עם Gemma באמצעות PyTorch
• כוונון בסיסי של Gemma באמצעות Keras.
• כוונון מבוזר של Gemma באמצעות Keras.

הגדלים והיכולות של מודל Gemma

מודלים של Gemma זמינים בכמה גדלים, כך שתוכלו ליצור פתרונות של AI גנרטיבי בהתאם למשאבי המחשוב הזמינים, ליכולות שאתם צריכים ולמקום שבו אתם רוצים להפעיל אותם. כל מודל זמין בגרסה מכוונת ובגרסה לא מכוונת:

• מאומן מראש – המודל בגרסה הזו לא עבר אימון על משימות או הוראות ספציפיות מעבר לקבוצת הנתונים לאימון הבסיסית של Gemma. אנחנו לא ממליצים להשתמש במודל הזה בלי לבצע בו שינויים.

• התאמה להנחיות – הגרסה הזו של המודל אומנה באמצעות אינטראקציות בשפה טבעית, כדי שיוכל להשתתף בשיחה, בדומה לצ'אט בוט בסיסי.

• ‫Mix fine-tuned – הגרסה הזו של המודל עברה כוונון עדין על שילוב של מערכי נתונים אקדמיים, והיא מקבלת הנחיות בשפה טבעית.

גודל פרמטרים קטן יותר מוביל לדרישות משאבים נמוכות יותר ולגמישות רבה יותר בפריסה.

שם הדגם	גודל הפרמטרים	קלט	פלט	גרסאות שעברו התאמה	פלטפורמות היעד
Gemma 4
Gemma 4 31B	‫31 מיליארד פרמטרים	טקסט ותמונה	טקסט	מאומן מראש הכוונה לפי הוראות	שרתים גדולים או אשכולות שרתים
Gemma 4 26B A4B	‫26 מיליארד פרמטרים, 4 מיליארד פרמטרים פעילים	טקסט ותמונה	טקסט	מאומן מראש הכוונה לפי הוראות	מחשבים שולחניים ושרתים מתקדמים יותר
Gemma 4 E4B	4 מיליארד פרמטרים אפקטיביים	טקסט, תמונה ואודיו	טקסט	מאומן מראש הכוונה לפי הוראות	מכשירים ניידים ומחשבים ניידים
‫Gemma 4 E2B	‫2 מיליארד פרמטרים אפקטיביים	טקסט, תמונה ואודיו	טקסט	מאומן מראש הכוונה לפי הוראות	מכשירים ניידים ומחשבים ניידים
‫Gemma 3n
Gemma 3n E4B	4 מיליארד פרמטרים אפקטיביים	טקסט, תמונה ואודיו	טקסט	מאומן מראש הכוונה לפי הוראות	מכשירים ניידים ומחשבים ניידים
Gemma 3n E2B	‫2 מיליארד פרמטרים אפקטיביים	טקסט, תמונה ואודיו	טקסט	מאומן מראש הכוונה לפי הוראות	מכשירים ניידים ומחשבים ניידים
Gemma 3
Gemma 3 27B	‫27 מיליארד	טקסט ותמונה	טקסט	מאומן מראש הכוונה לפי הוראות	שרתים גדולים או אשכולות שרתים
Gemma 3 12B	12 מיליארד	טקסט ותמונה	טקסט	מאומן מראש הכוונה לפי הוראות	מחשבים שולחניים ושרתים מתקדמים יותר
Gemma 3 4B	‫4 מיליארד	טקסט ותמונה	טקסט	מאומן מראש הכוונה לפי הוראות	מחשבים שולחניים ושרתים קטנים
Gemma 3 1B	מיליארד	טקסט	טקסט	מאומן מראש הכוונה לפי הוראות	מכשירים ניידים ומחשבים ניידים
Gemma 2
Gemma 2 27B	‫27 מיליארד	טקסט	טקסט	מאומן מראש הכוונה לפי הוראות	שרתים גדולים או אשכולות שרתים
Gemma 2 9B	‫9 מיליארד	טקסט	טקסט	מאומן מראש הכוונה לפי הוראות	מחשבים שולחניים ושרתים מתקדמים יותר
Gemma 2 2B	2 מיליארד	טקסט	טקסט	מאומן מראש הכוונה לפי הוראות	מכשירים ניידים ומחשבים ניידים
Gemma
Gemma 7B	7 מיליארד	טקסט	טקסט	מאומן מראש הכוונה לפי הוראות	מחשבים שולחניים ושרתים קטנים
Gemma 2B	‫2.2 מיליארד	טקסט	טקסט	מאומן מראש הכוונה לפי הוראות	מכשירים ניידים ומחשבים ניידים
CodeGemma
CodeGemma 7B	7 מיליארד	טקסט	טקסט	מאומן מראש הכוונה לפי הוראות	מחשבים שולחניים ושרתים קטנים
‫CodeGemma 2B	2 מיליארד	טקסט	טקסט	מאומן מראש	מחשבים שולחניים ושרתים קטנים
PaliGemma 2
PaliGemma 28B	‫28 מיליארד	טקסט ותמונה	טקסט	מאומן מראש מיקסים משופרים	שרתים גדולים או אשכולות שרתים
PaliGemma 10B	‫10 מיליארד	טקסט ותמונה	טקסט	מאומן מראש מיקסים משופרים	מחשבים שולחניים ושרתים מתקדמים יותר
PaliGemma 3B	3 מיליארד	טקסט ותמונה	טקסט	מאומן מראש מיקסים משופרים	מחשבים שולחניים ושרתים קטנים
PaliGemma
PaliGemma 3B	3 מיליארד	טקסט ותמונה	טקסט	מאומן מראש מיקסים משופרים	מחשבים שולחניים ושרתים קטנים
ShieldGemma 2
ShieldGemma 2	‫4 מיליארד	טקסט ותמונה	טקסט	כוונון עדין	מחשבים שולחניים ושרתים קטנים
TxGemma
TxGemma 27B	‫27 מיליארד	טקסט	טקסט	מאומן מראש הכוונה לפי הוראות	שרתים גדולים או אשכולות שרתים
TxGemma 9B	‫9 מיליארד	טקסט	טקסט	מאומן מראש הכוונה לפי הוראות	מחשבים שולחניים ושרתים מתקדמים יותר
TxGemma 2B	2 מיליארד	טקסט	טקסט	מאומן מראש	מכשירים ניידים ומחשבים ניידים
MedGemma
MedGemma 27B	‫27 מיליארד	טקסט ותמונה	טקסט	מודל שעבר כוונון להוראות עם טקסט בלבד הכוונה לפי הוראות	שרתים גדולים או אשכולות שרתים
MedGemma 4B	‫4 מיליארד	טקסט ותמונה	טקסט	מאומן מראש הכוונה לפי הוראות	מחשבים שולחניים ושרתים קטנים
MedSigLIP
MedSigLIP	‫800 מיליון	טקסט ותמונה	הטמעה	כוונון עדין	מכשירים ניידים ומחשבים ניידים
T5Gemma
T5Gemma 9B-9B	‫18 מיליארד	טקסט	טקסט	‫PrefixLM, pretrained PrefixLM, instruction-tuned ‫UL2, pretrained ‫UL2, כוונון להוראות	מכשירים ניידים ומחשבים ניידים
T5Gemma 9B-2B	‫11 מיליארד	טקסט	טקסט	‫PrefixLM, pretrained PrefixLM, instruction-tuned ‫UL2, pretrained ‫UL2, כוונון להוראות	מכשירים ניידים ומחשבים ניידים
T5Gemma 2B-2B	‫4 מיליארד	טקסט	טקסט	‫PrefixLM, pretrained PrefixLM, instruction-tuned ‫UL2, pretrained ‫UL2, כוונון להוראות	מכשירים ניידים ומחשבים ניידים
T5Gemma XL-XL	‫4 מיליארד	טקסט	טקסט	‫PrefixLM, pretrained PrefixLM, instruction-tuned ‫UL2, pretrained ‫UL2, כוונון להוראות	מכשירים ניידים ומחשבים ניידים
T5Gemma M-L	2 מיליארד	טקסט	טקסט	‫PrefixLM, pretrained PrefixLM, instruction-tuned ‫UL2, pretrained ‫UL2, כוונון להוראות	מכשירים ניידים ומחשבים ניידים
T5Gemma L-L	מיליארד	טקסט	טקסט	‫PrefixLM, pretrained PrefixLM, instruction-tuned ‫UL2, pretrained ‫UL2, כוונון להוראות	מכשירים ניידים ומחשבים ניידים
T5Gemma B-B	‫0.6 מיליארד	טקסט	טקסט	‫PrefixLM, pretrained PrefixLM, instruction-tuned ‫UL2, pretrained ‫UL2, כוונון להוראות	מכשירים ניידים ומחשבים ניידים
T5Gemma S-S	‫0.3 מיליארד	טקסט	טקסט	‫PrefixLM, pretrained PrefixLM, instruction-tuned ‫UL2, pretrained ‫UL2, כוונון להוראות	מכשירים ניידים ומחשבים ניידים

מודל Gemma נבדק באמצעות חומרת TPU v5e ייעודית של Google וחומרת GPU של NVIDIA L4(G2 Standard),‏ A100(A2 Standard) ו-H100(A3 High).

המאמרים הבאים

• לעיון במסמכי התיעוד של Gemma