שימוש במודלים פתוחים של Gemma

‫Gemma היא קבוצה של מודלים קלי משקל ופתוחים של בינה מלאכותית (AI) גנרטיבית. אתם יכולים להריץ את מודלי Gemma באפליקציות, בחומרה, במכשירים ניידים או בשירותים מארחים. אתם יכולים גם להתאים אישית את המודלים האלה באמצעות טכניקות כוונון, כדי שהם יבצעו בצורה הטובה ביותר את המשימות שחשובות לכם ולמשתמשים שלכם. המודלים של Gemma מבוססים על המודלים של Gemini, והם מיועדים לקהילת מפתחי ה-AI כדי להרחיב ולפתח אותם.

כוונון עדין יכול לשפר את הביצועים של המודל במשימות ספציפיות. מכיוון שהמודלים במשפחת Gemma הם מודלים עם משקלים פתוחים, אתם יכולים לכוונן כל אחד מהם באמצעות מסגרת ה-AI שבחרתם ו-Vertex AI SDK. אתם יכולים לפתוח דוגמה ל-notebook כדי לכוונן את מודל Gemma באמצעות קישור שזמין בכרטיס המודל של Gemma ב-Model Garden.

המודלים הבאים של Gemma זמינים לשימוש עם Gemini Enterprise Agent Platform. כדי לקבל מידע נוסף על המודלים של Gemma ולבדוק אותם, עיינו בכרטיסי המודלים ב-Model Garden.

שם המודל	תרחישי שימוש	כרטיס מודל של Model Garden
Gemma 4	הוא יכול לקבל קלט מולטי-מודאלי, לעבד קלט של טקסט, תמונות ואודיו, וליצור פלט של טקסט.	לכרטיס המידע על מודל Gemma 4
TranslateGemma	משפחה של מודלים קלי משקל בקוד פתוח, שמיועדים לתרגום ב-55 שפות.	לכרטיס המידע על המודל של TranslateGemma
FunctionGemma	מודל פתוח וקל משקל, שנועד לשמש כבסיס ליצירת מודלים מיוחדים משלכם לקריאה להפעלת פונקציות, ומיועד להגיע לביצועים גבוהים אחרי כוונון עדין נוסף.	לכרטיס המידע של FunctionGemma
Gemma 3n	הוא יכול לקבל קלט מולטי-מודאלי, לעבד קלט של טקסט, תמונות ואודיו, וליצור פלט של טקסט.	לכרטיס המידע על מודל Gemma 3n
Gemma 3	המודל הכי מתאים למשימות של יצירת טקסט והבנת תמונות, כולל מענה על שאלות, סיכום והסקת מסקנות.	לכרטיס המידע על מודל Gemma 3
Gemma 2	הכי מתאים ליצירת טקסט, לסיכום ולחילוץ.	לכרטיס המידע על המודל של Gemma 2
‏Gemma	הכי מתאים ליצירת טקסט, לסיכום ולחילוץ.	לכרטיס המידע של מודל Gemma
CodeGemma	הכי טוב ליצירה ולהשלמה של קוד.	לכרטיס המידע על המודל של CodeGemma
PaliGemma 2	האפשרות הטובה ביותר למשימות של יצירת כיתוב לתמונות ולמשימות של שאלות ותשובות חזותיות.	לכרטיס המודל של PaliGemma 2
PaliGemma	האפשרות הטובה ביותר למשימות של יצירת כיתוב לתמונות ולמשימות של שאלות ותשובות חזותיות.	מעבר לכרטיס המודל של PaliGemma
ShieldGemma 2	בודק את הבטיחות של תמונות סינתטיות וטבעיות כדי לעזור לכם ליצור מערכי נתונים ומודלים חזקים.	לכרטיס המידע על המודל ShieldGemma 2
TxGemma	הכי מתאים למשימות חיזוי טיפוליות, כולל סיווג, רגרסיה או יצירה, ולמשימות הסקת מסקנות.	לכרטיס המידע של מודל TxGemma
MedGemma	גרסאות של Gemma 3 שאומנו כדי להבין טקסטים ותמונות בתחום הרפואה.	לכרטיס המידע על המודל של MedGemma
MedSigLIP	וריאנט של SigLIP שעבר אימון כדי לקודד תמונות וטקסט רפואיים למרחב הטמעה משותף.	לכרטיס המידע של מודל MedSigLIP
T5Gemma	מתאים למגוון משימות גנרטיביות, כולל מענה על שאלות, סיכום והסקת מסקנות.	לכרטיס המודל של T5Gemma
T5Gemma 2	מתאים למגוון משימות גנרטיביות, כולל מענה על שאלות, סיכום והסקת מסקנות.	לכרטיס המידע של מודל T5Gemma 2

הנה כמה אפשרויות לשימוש ב-Gemma:

איך משתמשים ב-Gemma עם Gemini Enterprise Agent Platform

‫Gemini Enterprise Agent Platform היא פלטפורמה מנוהלת שמאפשרת לפתח ולהרחיב במהירות פרויקטים של למידת מכונה, בלי צורך במומחיות פנימית ב-MLOps. אתם יכולים להשתמש ב-Gemini Enterprise Agent Platform כאפליקציה במורד הזרם שמפעילה את המודלים של Gemma. לדוגמה, אתם יכולים להעביר משקלים מהטמעה של Gemma ב-Keras. בשלב הבא, אתם יכולים להשתמש ב-Agent Platform כדי להציג את הגרסה הזו של Gemma ולקבל חיזויים. אנחנו ממליצים להשתמש ב-Gemini Enterprise Agent Platform אם אתם רוצים יכולות MLOps מקצה לקצה, תכונות ML עם ערך מוסף וחוויה ללא שרת לפיתוח יעיל.

כדי להתחיל להשתמש ב-Gemma, אפשר לעיין ב-notebooks הבאים:

• הצגת Gemma 3n ב-Gemini Enterprise Agent Platform

• הפעלת Gemma 3 ב-Gemini Enterprise Agent Platform

• הצגת Gemma 2 ב-Gemini Enterprise Agent Platform

• הצגת Gemma ב-Gemini Enterprise Agent Platform

• כוונון עדין של Gemma 2 באמצעות PEFT ופריסה ב-Gemini Enterprise Agent Platform מ-Vertex

• כוונון עדין של Gemma באמצעות PEFT ופריסה ב-Gemini Enterprise Agent Platform מ-Vertex

• כוונון עדין של Gemma באמצעות PEFT ואז פריסה ב-Gemini Enterprise Agent Platform מ-Hugging Face

• כוונון עדין של Gemma באמצעות KerasNLP ופריסה ב-Gemini Enterprise Agent Platform

• כוונון עדין של Gemma באמצעות Ray ב-Agent Platform ואז פריסה ב-Gemini Enterprise Agent Platform

• איך להריץ הסקה מקומית באמצעות ShieldGemma 2 עם טרנספורמרים של Hugging Face

• הצגת MedGemma ב-Gemini Enterprise Agent Platform

• הצגת MedSigLIP ב-Gemini Enterprise Agent Platform

• הפעלת הסקת מסקנות מקומית באמצעות T5Gemma עם טרנספורמרים של Hugging Face

שימוש ב-Gemma במוצרים אחרים של Google Cloud

אתם יכולים להשתמש ב-Gemma עם מוצרים אחרים של Google Cloud , כמו Google Kubernetes Engine ו-Dataflow.

שימוש ב-Gemma עם GKE

‫Google Kubernetes Engine‏ (GKE) הוא פתרון Google Cloud לניהול Kubernetes, שמספק יכולת התרחבות, אבטחה, עמידות וחיסכון בעלויות. אנחנו ממליצים על האפשרות הזו אם כבר השקעתם ב-Kubernetes, אם לארגון שלכם יש מומחיות פנימית ב-MLOps, או אם אתם צריכים שליטה פרטנית בעומסי עבודה מורכבים של AI או למידת מכונה עם דרישות ייחודיות לאבטחה, לצינור עיבוד נתונים ולניהול משאבים. למידע נוסף, קראו את המדריכים הבאים במסמכי התיעוד של GKE:

• הצגת Gemma באמצעות vLLM
• הצגת Gemma באמצעות TGI
• הצגת Gemma עם Triton ו-TensorRT-LLM
• הצגת Gemma באמצעות JetStream

שימוש ב-Gemma עם Dataflow

אתם יכולים להשתמש במודלים של Gemma עם Dataflow לניתוח סנטימנטים. אתם יכולים להשתמש ב-Dataflow כדי להריץ צינורות עיבוד נתונים להסקת מסקנות שמשתמשים במודלים של Gemma. מידע נוסף זמין במאמר הרצת צינורות עיבוד נתונים להסקת מסקנות באמצעות מודלים פתוחים של Gemma.

שימוש ב-Gemma עם Colab

אתם יכולים להשתמש ב-Gemma עם Colaboratory כדי ליצור פתרון Gemma. ב-Colab, אתם יכולים להשתמש ב-Gemma עם אפשרויות של מסגרות כמו PyTorch ו-JAX. מידע נוסף זמין במאמרים הבאים:

• איך מתחילים לעבוד עם Gemma באמצעות Keras
• תחילת העבודה עם Gemma באמצעות PyTorch.
• כוונון בסיסי של Gemma באמצעות Keras.
• כוונון מבוזר עם Gemma באמצעות Keras.

הגדלים והיכולות של מודלי Gemma

מודלי Gemma זמינים בכמה גדלים, כדי שתוכלו לפתח פתרונות AI גנרטיבי על סמך משאבי המחשוב הזמינים, היכולות שאתם צריכים והמקום שבו אתם רוצים להריץ אותם. כל מודל זמין בגרסה שעברה כוונון ובגרסה שלא עברה כוונון:

• מודל שעבר אימון מראש – הגרסה הזו של המודל לא אומנה על משימות או הוראות ספציפיות מעבר לקבוצת הנתונים לאימון של Gemma. לא מומלץ להשתמש במודל הזה בלי לבצע כוונון.

• Instruction-tuned – הגרסה הזו של המודל אומנה באמצעות אינטראקציות בשפה אנושית, כדי שהיא תוכל להשתתף בשיחה, בדומה לצ'אט בוט בסיסי.

• ‫Mix fine-tuned – גרסה של המודל שעברה כוונון על שילוב של מערכי נתונים אקדמיים, ומקבלת הנחיות בשפה טבעית.

ככל שהפרמטרים קטנים יותר, כך דרישות המשאבים נמוכות יותר וגמישות הפריסה גדולה יותר.

שם המודל	גודל הפרמטרים	קלט	פלט	גרסאות מכווננות	הפלטפורמות המיועדות
Gemma 4
Gemma 4 31B	‫31 מיליארד פרמטרים	טקסט ותמונה	טקסט	מאומן מראש Instruction-tuned	שרתים גדולים או אשכולות של שרתים
Gemma 4 26B A4B	‫26 מיליארד פרמטרים, 4 מיליארד פרמטרים פעילים	טקסט ותמונה	טקסט	מאומן מראש Instruction-tuned	מחשבים שולחניים ושרתים מתקדמים יותר
Gemma 4 E4B	‫4 מיליארד פרמטרים אפקטיביים	טקסט, תמונה ואודיו	טקסט	מאומן מראש Instruction-tuned	מכשירים ניידים ומחשבים ניידים
Gemma 4 E2B	‫2 מיליארד פרמטרים אפקטיביים	טקסט, תמונה ואודיו	טקסט	מאומן מראש Instruction-tuned	מכשירים ניידים ומחשבים ניידים
Gemma 3n
Gemma 3n E4B	‫4 מיליארד פרמטרים אפקטיביים	טקסט, תמונה ואודיו	טקסט	מאומן מראש Instruction-tuned	מכשירים ניידים ומחשבים ניידים
Gemma 3n E2B	‫2 מיליארד פרמטרים אפקטיביים	טקסט, תמונה ואודיו	טקסט	מאומן מראש Instruction-tuned	מכשירים ניידים ומחשבים ניידים
Gemma 3
Gemma 3 27B	27 מיליארד	טקסט ותמונה	טקסט	מאומן מראש Instruction-tuned	שרתים גדולים או אשכולות של שרתים
Gemma 3 12B	12 מיליארד	טקסט ותמונה	טקסט	מאומן מראש Instruction-tuned	מחשבים שולחניים ושרתים מתקדמים יותר
Gemma 3 4B	4 מיליארד	טקסט ותמונה	טקסט	מאומן מראש Instruction-tuned	מחשבים שולחניים ושרתים קטנים
Gemma 3 1B	מיליארד	טקסט	טקסט	מאומן מראש Instruction-tuned	מכשירים ניידים ומחשבים ניידים
Gemma 2
Gemma 2 27B	27 מיליארד	טקסט	טקסט	מאומן מראש Instruction-tuned	שרתים גדולים או אשכולות של שרתים
Gemma 2 9B	9 מיליארד	טקסט	טקסט	מאומן מראש Instruction-tuned	מחשבים שולחניים ושרתים מתקדמים יותר
Gemma 2 2B	2 מיליארד	טקסט	טקסט	מאומן מראש Instruction-tuned	מכשירים ניידים ומחשבים ניידים
Gemma
Gemma 7B	7 מיליארד	טקסט	טקסט	מאומן מראש Instruction-tuned	מחשבים שולחניים ושרתים קטנים
Gemma 2B	2.2 מיליארד	טקסט	טקסט	מאומן מראש Instruction-tuned	מכשירים ניידים ומחשבים ניידים
CodeGemma
CodeGemma 7B	7 מיליארד	טקסט	טקסט	מאומן מראש Instruction-tuned	מחשבים שולחניים ושרתים קטנים
CodeGemma 2B	2 מיליארד	טקסט	טקסט	מאומן מראש	מחשבים שולחניים ושרתים קטנים
PaliGemma 2
PaliGemma 28B	28 מיליארד	טקסט ותמונה	טקסט	מאומן מראש המיקס הותאם אישית	שרתים גדולים או אשכולות של שרתים
PaliGemma 10B	10 מיליארד	טקסט ותמונה	טקסט	מאומן מראש המיקס הותאם אישית	מחשבים שולחניים ושרתים מתקדמים יותר
PaliGemma 3B	3 מיליארד	טקסט ותמונה	טקסט	מאומן מראש המיקס הותאם אישית	מחשבים שולחניים ושרתים קטנים
PaliGemma
PaliGemma 3B	3 מיליארד	טקסט ותמונה	טקסט	מאומן מראש המיקס הותאם אישית	מחשבים שולחניים ושרתים קטנים
ShieldGemma 2
ShieldGemma 2	4 מיליארד	טקסט ותמונה	טקסט	כוונון עדין	מחשבים שולחניים ושרתים קטנים
TxGemma
TxGemma 27B	27 מיליארד	טקסט	טקסט	מאומן מראש Instruction-tuned	שרתים גדולים או אשכולות של שרתים
TxGemma 9B	9 מיליארד	טקסט	טקסט	מאומן מראש Instruction-tuned	מחשבים שולחניים ושרתים מתקדמים יותר
TxGemma 2B	2 מיליארד	טקסט	טקסט	מאומן מראש	מכשירים ניידים ומחשבים ניידים
MedGemma
MedGemma 27B	27 מיליארד	טקסט ותמונה	טקסט	מודל שעבר כוונון לפי הוראות וכולל טקסט בלבד Instruction-tuned	שרתים גדולים או אשכולות של שרתים
MedGemma 4B	4 מיליארד	טקסט ותמונה	טקסט	מאומן מראש Instruction-tuned	מחשבים שולחניים ושרתים קטנים
MedSigLIP
MedSigLIP	800 מיליון	טקסט ותמונה	הטמעה	כוונון עדין	מכשירים ניידים ומחשבים ניידים
T5Gemma
T5Gemma 9B-9B	18 מיליארד	טקסט	טקסט	‫PrefixLM, שעבר אימון מראש ‫PrefixLM, כוונון לפי הוראות ‫UL2, מאומן מראש ‫UL2, כוונון לפי הוראות	מכשירים ניידים ומחשבים ניידים
T5Gemma 9B-2B	11 מיליארד	טקסט	טקסט	‫PrefixLM, שעבר אימון מראש ‫PrefixLM, כוונון לפי הוראות ‫UL2, מאומן מראש ‫UL2, כוונון לפי הוראות	מכשירים ניידים ומחשבים ניידים
T5Gemma 2B-2B	4 מיליארד	טקסט	טקסט	‫PrefixLM, שעבר אימון מראש ‫PrefixLM, כוונון לפי הוראות ‫UL2, מאומן מראש ‫UL2, כוונון לפי הוראות	מכשירים ניידים ומחשבים ניידים
T5Gemma XL-XL	4 מיליארד	טקסט	טקסט	‫PrefixLM, שעבר אימון מראש ‫PrefixLM, כוונון לפי הוראות ‫UL2, מאומן מראש ‫UL2, כוונון לפי הוראות	מכשירים ניידים ומחשבים ניידים
T5Gemma M-L	2 מיליארד	טקסט	טקסט	‫PrefixLM, שעבר אימון מראש ‫PrefixLM, כוונון לפי הוראות ‫UL2, מאומן מראש ‫UL2, כוונון לפי הוראות	מכשירים ניידים ומחשבים ניידים
T5Gemma L-L	מיליארד	טקסט	טקסט	‫PrefixLM, שעבר אימון מראש ‫PrefixLM, כוונון לפי הוראות ‫UL2, מאומן מראש ‫UL2, כוונון לפי הוראות	מכשירים ניידים ומחשבים ניידים
T5Gemma B-B	‫0.6 מיליארד	טקסט	טקסט	‫PrefixLM, שעבר אימון מראש ‫PrefixLM, כוונון לפי הוראות ‫UL2, מאומן מראש ‫UL2, כוונון לפי הוראות	מכשירים ניידים ומחשבים ניידים
T5Gemma S-S	‫0.3 מיליארד	טקסט	טקסט	‫PrefixLM, שעבר אימון מראש ‫PrefixLM, כוונון לפי הוראות ‫UL2, מאומן מראש ‫UL2, כוונון לפי הוראות	מכשירים ניידים ומחשבים ניידים

‫Gemma נבדק באמצעות חומרת TPU v5e של Google שנוצרה למטרה הזו, ובאמצעות חומרת GPU מסוג L4 (רגיל G2), ‏A100 (רגיל A2) ו-H100 (גבוה A3) של NVIDIA.

המאמרים הבאים

• לעיון במסמכי התיעוד של Gemma