Vertex AI supporta un elenco selezionato di modelli aperti come modelli gestiti. Questi modelli aperti possono essere utilizzati con Vertex AI come modello come servizio (MaaS) e sono offerti come API gestita. Quando utilizzi un modello aperto gestito, continui a inviare le richieste agli endpoint Vertex AI. I modelli aperti gestiti sono serverless, quindi non è necessario eseguire il provisioning o gestire l'infrastruttura.
I modelli open gestiti possono essere scoperti utilizzando Model Garden. Puoi anche eseguire il deployment dei modelli utilizzando Model Garden. Per ulteriori informazioni, consulta Esplora i modelli di AI in Model Garden.
Prima di poter utilizzare i modelli aperti, devi concedere l'accesso degli utenti ai modelli aperti.
Modelli aperti
I seguenti modelli aperti sono offerti come API gestite su Vertex AI Model Garden (MaaS):
Nome modello | Modalità | Descrizione | Guida rapida |
---|---|---|---|
gpt-oss 120B | Lingua | Un modello da 120 miliardi di parametri che offre prestazioni elevate per le attività di ragionamento. | Scheda del modello |
gpt-oss 20B | Lingua | Un modello da 20 miliardi di parametri ottimizzato per l'efficienza e l'implementazione su hardware di consumo e edge. | Scheda del modello |
Qwen3-Next-80B Thinking | Lingua, codice | Un modello della famiglia Qwen3-Next, specializzato nella risoluzione di problemi complessi e nel ragionamento approfondito. | Scheda del modello |
Qwen3-Next-80B Instruct | Lingua, codice | Un modello della famiglia Qwen3-Next, specializzato per l'esecuzione di comandi specifici. | Scheda del modello |
Qwen3 Coder | Lingua, codice | Un modello open-weight sviluppato per attività di sviluppo software avanzate. | Scheda del modello |
Qwen3 235B | Lingua | Un modello open-weight con una capacità di "pensiero ibrido" per passare dal ragionamento metodico alla conversazione rapida. | Scheda del modello |
DeepSeek-V3.1 | Lingua | Il modello ibrido di DeepSeek che supporta sia la modalità di pensiero che quella non di pensiero. | Scheda del modello |
DeepSeek R1 (0528) | Lingua | L'ultima versione del modello DeepSeek R1 di DeepSeek. | Scheda del modello |
Llama 4 Maverick 17B-128E | Lingua, Vista | Il modello Llama 4 più grande e potente, con capacità di programmazione, ragionamento e gestione delle immagini. Llama 4 Maverick 17B-128E è un modello multimodale che utilizza l'architettura Mixture-of-Experts (MoE) e la fusione anticipata. | Scheda del modello |
Llama 4 Scout 17B-16E | Lingua, Vista | Llama 4 Scout 17B-16E offre risultati all'avanguardia per la sua classe di dimensioni, superando le generazioni precedenti di Llama e altri modelli open source e proprietari in diversi benchmark. Llama 4 Scout 17B-16E è un modello multimodale che utilizza l'architettura Mixture-of-Experts (MoE) e la fusione anticipata. | Scheda del modello |
Llama 3.3 | Lingua | Llama 3.3 è un modello di 70 miliardi di parametri ottimizzato per le istruzioni solo testuali che offre prestazioni migliorate rispetto a Llama 3.1 70B e Llama 3.2 90B se utilizzato per applicazioni solo testuali. Inoltre, per alcune applicazioni, Llama 3.3 70B si avvicina alle prestazioni di Llama 3.1 405B. | Scheda del modello |
Llama 3.2 (anteprima) | Lingua, Vista | Un modello multimodale di medie dimensioni da 90 miliardi di parametri in grado di supportare il ragionamento sulle immagini, come l'analisi di grafici e diagrammi, nonché l'assegnazione di didascalie alle immagini. | Scheda del modello |
Llama 3.1 | Lingua |
Una raccolta di LLM multilingue ottimizzati per casi d'uso di dialoghi multilingue e che superano molti dei modelli di chat open source e chiusi disponibili nei benchmark comuni del settore. Llama 3.1 405B è disponibile pubblicamente (GA). Llama 3.1 8B e Llama 3.1 70B sono in anteprima. |
Scheda del modello |
I seguenti modelli di incorporamento aperti sono offerti come API gestite su Vertex AI Model Garden (MaaS):
Nome modello | Descrizione | Dimensioni di output | Lunghezza massima della sequenza | Lingue di testo supportate | Guida rapida |
---|---|---|---|---|---|
multilingual-e5-small | Parte della famiglia E5 di modelli di text embedding. La variante Small contiene 12 livelli. | Fino a 384 | 512 token | Lingue supportate | Scheda del modello |
multilingual-e5-large | Parte della famiglia E5 di modelli di text embedding. La variante Large contiene 24 livelli. | Fino a 1024 | 512 token | Lingue supportate | Scheda del modello |
Conformità normativa del modello aperto
Le certificazioni per l'AI generativa su Vertex AI continuano a essere applicate quando i modelli aperti vengono utilizzati come API gestita utilizzando Vertex AI. Se hai bisogno di dettagli sui modelli stessi, puoi trovare ulteriori informazioni nella scheda del modello corrispondente oppure puoi contattare il publisher del modello.
I tuoi dati vengono archiviati at-rest all'interno della regione o della multiregione selezionata per i modelli aperti su Vertex AI, ma la regionalizzazione del trattamento dei dati può variare. Per un elenco dettagliato degli impegni di trattamento dei dati dei modelli aperti, consulta Residenza dei dati per i modelli aperti.
I prompt dei clienti e le risposte del modello non vengono condivisi con terze parti quando si utilizza l'API Vertex AI, inclusi i modelli aperti. Google tratta i dati dei clienti solo in base alle istruzioni del cliente, come descritto in dettaglio nel nostro Addendum per il trattamento dei dati Cloud.
Passaggi successivi
- Prima di utilizzare i modelli open, concedi agli utenti l'accesso ai modelli open.
- Scopri come chiamare le API per modelli aperti.