Utilizzare i modelli open Gemma

Gemma è un insieme di modelli aperti di intelligenza artificiale (AI) generativa leggeri. I modelli Gemma sono disponibili per l'esecuzione nelle tue applicazioni e sul tuo hardware, sui tuoi dispositivi mobili o sui tuoi servizi in hosting. Puoi anche personalizzare questi modelli utilizzando tecniche di ottimizzazione in modo che eccellano nello svolgimento di attività importanti per te e per i tuoi utenti. I modelli Gemma si basano sui modelli Gemini e sono destinati alla community di sviluppo dell'AI per essere estesi e portati avanti.

L'ottimizzazione può contribuire a migliorare le prestazioni di un modello in attività specifiche. Poiché i modelli della famiglia Gemma sono open weight, puoi ottimizzarli utilizzando il framework di AI che preferisci e l'SDK Vertex AI. Puoi aprire un esempio di notebook per ottimizzare il modello Gemma utilizzando un link disponibile nella scheda del modello Gemma in Model Garden.

I seguenti modelli Gemma sono disponibili per l'utilizzo con Gemini Enterprise Agent Platform. Per scoprire di più sui modelli Gemma e testarli, consulta le relative schede del modello in Model Garden.

Nome del modello Casi d'uso Scheda del modello di Model Garden
Gemma 4 In grado di gestire input multimodali, tra cui testo, immagini e audio, e di generare output di testo. Vai alla scheda del modello Gemma 4
TranslateGemma Una famiglia di modelli di traduzione aperti e leggeri progettati per gestire attività di traduzione in 55 lingue. Vai alla scheda del modello TranslateGemma
FunctionGemma Un modello aperto e leggero, creato come base per la creazione di modelli di chiamata di funzione specializzati e progettato per offrire prestazioni elevate dopo un'ulteriore ottimizzazione. Vai alla scheda del modello FunctionGemma
Gemma 3n In grado di gestire input multimodali, tra cui testo, immagini e audio, e di generare output di testo. Vai alla scheda del modello Gemma 3n
Gemma 3 Ideale per attività di generazione di testo e comprensione delle immagini, tra cui rispondere a domande, riassumere contenuti ed elaborare ragionamenti. Vai alla scheda del modello Gemma 3
Gemma 2 Ideale per la generazione, il riassunto e l'estrazione di testo. Vai alla scheda del modello Gemma 2
Gemma Ideale per la generazione, il riassunto e l'estrazione di testo. Vai alla scheda del modello Gemma
CodeGemma Ideale per la generazione e il completamento del codice. Vai alla scheda del modello CodeGemma
PaliGemma 2 Ideale per attività di descrizione di immagini e di domande e risposte visive. Vai alla scheda del modello PaliGemma 2
PaliGemma Ideale per attività di descrizione di immagini e di domande e risposte visive. Vai alla scheda del modello PaliGemma
ShieldGemma 2 Controlla la sicurezza delle immagini sintetiche e naturali per aiutarti a creare set di dati e modelli solidi. Vai alla scheda del modello ShieldGemma 2
TxGemma Ideale per attività di previsione terapeutica, tra cui classificazione, regressione o generazione, e attività di ragionamento. Vai alla scheda del modello TxGemma
MedGemma Varianti di Gemma 3 addestrate per ottenere prestazioni ottimali nella comprensione di testi e immagini in ambito medico. Vai alla scheda del modello MedGemma
MedSigLIP Variante di SigLIP addestrata per codificare immagini e testo medici in uno spazio di embedding comune. Vai alla scheda del modello MedSigLIP
T5Gemma Adatto a una serie di attività generative, tra cui rispondere a domande, riassumere contenuti ed elaborare ragionamenti. Vai alla scheda del modello T5Gemma
T5Gemma 2 Adatto a una serie di attività generative, tra cui rispondere a domande, riassumere contenuti ed elaborare ragionamenti. Vai alla scheda del modello T5Gemma 2

Ecco alcune opzioni per l'utilizzo di Gemma:

Utilizza Gemma con Gemini Enterprise Agent Platform

Gemini Enterprise Agent Platform offre una piattaforma gestita per creare e scalare rapidamente progetti di machine learning senza la necessità di competenze MLOps interne. Puoi utilizzare Gemini Enterprise Agent Platform come applicazione downstream che gestisce i modelli Gemma. Ad esempio, potresti trasferire i pesi dall'implementazione Keras di Gemma. Successivamente, puoi utilizzare Agent Platform per pubblicare quella versione di Gemma e ottenere previsioni. Ti consigliamo di utilizzare Gemini Enterprise Agent Platform se vuoi funzionalità MLOps end-to-end, funzionalità ML a valore aggiunto e un'esperienza serverless per uno sviluppo semplificato.

Per iniziare a utilizzare Gemma, consulta i seguenti notebook:

Utilizza Gemma in altri prodotti Google Cloud

Puoi utilizzare Gemma con altri prodotti Google Cloud , come Google Kubernetes Engine e Dataflow.

Utilizza Gemma con GKE

Google Kubernetes Engine (GKE) è la soluzione Google Cloud per Kubernetes gestito che offre scalabilità, sicurezza, resilienza ed efficacia in termini di costi. Consigliamo questa opzione se hai già investito in Kubernetes, se la tua organizzazione dispone di competenze MLOps interne o se hai bisogno di un controllo granulare su workload AI/ML complessi con requisiti unici di sicurezza, pipeline di dati e gestione delle risorse. Per saperne di più, consulta i seguenti tutorial nella documentazione di GKE:

Utilizza Gemma con Dataflow

Puoi utilizzare i modelli Gemma con Dataflow per l'analisi del sentiment. Utilizza Dataflow per eseguire pipeline di inferenza che utilizzano i modelli Gemma. Per saperne di più, consulta Esegui pipeline di inferenza con i modelli aperti Gemma.

Utilizza Gemma con Colab

Puoi utilizzare Gemma con Colaboratory per creare la tua soluzione Gemma. In Colab, puoi utilizzare Gemma con opzioni di framework come PyTorch e JAX. Per saperne di più, consulta:

Dimensioni e funzionalità dei modelli Gemma

I modelli Gemma sono disponibili in diverse dimensioni, per consentirti di creare soluzioni di AI generativa in base alle risorse di computing disponibili, alle funzionalità di cui hai bisogno e alla posizione in cui vuoi eseguirle. Ogni modello è disponibile in una versione ottimizzata e una non ottimizzata:

  • Preaddestrato: questa versione del modello non è stata addestrata su attività o istruzioni specifiche oltre al set di dati di addestramento di base di Gemma. Sconsigliamo di utilizzare questo modello senza eseguire un'ottimizzazione.

  • Ottimizzato per le istruzioni: questa versione del modello è stata addestrata con interazioni in linguaggio umano in modo da poter partecipare a una conversazione, in modo simile a un chatbot di base.

  • Mix ottimizzato: questa versione del modello è ottimizzata su una combinazione di set di dati accademici e accetta prompt in linguaggio naturale.

Dimensioni dei parametri inferiori significano requisiti di risorse inferiori e maggiore flessibilità di deployment.

Nome del modello Dimensioni dei parametri Input Output Versioni ottimizzate Piattaforme previste
Gemma 4
Gemma 4 31B 31 miliardi di parametri Testo e immagine Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Server o cluster di server di grandi dimensioni
Gemma 4 26B A4B 26 miliardi di parametri, 4 miliardi di parametri attivi Testo e immagine Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Computer desktop e server di fascia alta
Gemma 4 E4B 4 miliardi di parametri effettivi Testo, immagini e audio Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Dispositivi mobili e laptop
Gemma 4 E2B 2 miliardi di parametri effettivi Testo, immagini e audio Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Dispositivi mobili e laptop
Gemma 3n
Gemma 3n E4B 4 miliardi di parametri effettivi Testo, immagini e audio Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Dispositivi mobili e laptop
Gemma 3n E2B 2 miliardi di parametri effettivi Testo, immagini e audio Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Dispositivi mobili e laptop
Gemma 3
Gemma 3 27B 27 miliardi Testo e immagine Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Server o cluster di server di grandi dimensioni
Gemma 3 12B 12 miliardi Testo e immagine Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Computer desktop e server di fascia alta
Gemma 3 4B 4 miliardi Testo e immagine Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Computer desktop e piccoli server
Gemma 3 1B 1 miliardo Testo Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Dispositivi mobili e laptop
Gemma 2
Gemma 2 27B 27 miliardi Testo Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Server o cluster di server di grandi dimensioni
Gemma 2 9B 9 miliardi di Testo Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Computer desktop e server di fascia alta
Gemma 2 2B 2 miliardi Testo Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Dispositivi mobili e laptop
Gemma
Gemma 7B 7 miliardi Testo Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Computer desktop e piccoli server
Gemma 2B 2,2 miliardi Testo Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Dispositivi mobili e laptop
CodeGemma
CodeGemma 7B 7 miliardi Testo Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Computer desktop e piccoli server
CodeGemma 2B 2 miliardi Testo Testo
  • Preaddestrati
Computer desktop e piccoli server
PaliGemma 2
PaliGemma 28B 28 miliardi Testo e immagine Testo
  • Preaddestrati
  • Mix ottimizzato
Server o cluster di server di grandi dimensioni
PaliGemma 10B 10 miliardi Testo e immagine Testo
  • Preaddestrati
  • Mix ottimizzato
Computer desktop e server di fascia alta
PaliGemma 3B 3 miliardi Testo e immagine Testo
  • Preaddestrati
  • Mix ottimizzato
Computer desktop e piccoli server
PaliGemma
PaliGemma 3B 3 miliardi Testo e immagine Testo
  • Preaddestrati
  • Mix ottimizzato
Computer desktop e piccoli server
ShieldGemma 2
ShieldGemma 2 4 miliardi Testo e immagine Testo
  • Ottimizzato
Computer desktop e piccoli server
TxGemma
TxGemma 27B 27 miliardi Testo Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Server o cluster di server di grandi dimensioni
TxGemma 9B 9 miliardi di Testo Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Computer desktop e server di fascia alta
TxGemma 2B 2 miliardi Testo Testo
  • Preaddestrati
Dispositivi mobili e laptop
MedGemma
MedGemma 27B 27 miliardi Testo e immagine Testo
  • Ottimizzato per le istruzioni solo testo
  • Ottimizzato per le istruzioni
Server o cluster di server di grandi dimensioni
MedGemma 4B 4 miliardi Testo e immagine Testo
  • Preaddestrati
  • Ottimizzato per le istruzioni
Computer desktop e piccoli server
MedSigLIP
MedSigLIP 800 milioni Testo e immagine Embedding
  • Ottimizzato
Dispositivi mobili e laptop
T5Gemma
T5Gemma 9B-9B 18 miliardi Testo Testo
  • PrefixLM, preaddestrato
  • PrefixLM, ottimizzato per le istruzioni
  • UL2, preaddestrato
  • UL2, ottimizzato per le istruzioni
Dispositivi mobili e laptop
T5Gemma 9B-2B 11 miliardi Testo Testo
  • PrefixLM, preaddestrato
  • PrefixLM, ottimizzato per le istruzioni
  • UL2, preaddestrato
  • UL2, ottimizzato per le istruzioni
Dispositivi mobili e laptop
T5Gemma 2B-2B 4 miliardi Testo Testo
  • PrefixLM, preaddestrato
  • PrefixLM, ottimizzato per le istruzioni
  • UL2, preaddestrato
  • UL2, ottimizzato per le istruzioni
Dispositivi mobili e laptop
T5Gemma XL-XL 4 miliardi Testo Testo
  • PrefixLM, preaddestrato
  • PrefixLM, ottimizzato per le istruzioni
  • UL2, preaddestrato
  • UL2, ottimizzato per le istruzioni
Dispositivi mobili e laptop
T5Gemma M-L 2 miliardi Testo Testo
  • PrefixLM, preaddestrato
  • PrefixLM, ottimizzato per le istruzioni
  • UL2, preaddestrato
  • UL2, ottimizzato per le istruzioni
Dispositivi mobili e laptop
T5Gemma L-L 1 miliardo Testo Testo
  • PrefixLM, preaddestrato
  • PrefixLM, ottimizzato per le istruzioni
  • UL2, preaddestrato
  • UL2, ottimizzato per le istruzioni
Dispositivi mobili e laptop
T5Gemma B-B 0,6 miliardi Testo Testo
  • PrefixLM, preaddestrato
  • PrefixLM, ottimizzato per le istruzioni
  • UL2, preaddestrato
  • UL2, ottimizzato per le istruzioni
Dispositivi mobili e laptop
T5Gemma S-S 0,3 miliardi Testo Testo
  • PrefixLM, preaddestrato
  • PrefixLM, ottimizzato per le istruzioni
  • UL2, preaddestrato
  • UL2, ottimizzato per le istruzioni
Dispositivi mobili e laptop

Gemma è stato testato utilizzando l'hardware TPU v5e di Google, progettato appositamente, e l'hardware GPU L4 (G2 Standard), A100 (A2 Standard) e H100 (A3 High) di NVIDIA.

Passaggi successivi