Gemini Enterprise Agent Platform supporta un elenco curato di modelli sviluppati dai partner di Google. I modelli dei partner possono essere utilizzati con Gemini Enterprise Agent Platform come model as a service (MaaS) e vengono offerti come API gestite. Quando utilizzi un modello partner, continui a inviare le richieste agli endpoint di Gemini Enterprise Agent Platform. I modelli dei partner sono serverless, quindi non è necessario eseguire il provisioning o gestire l'infrastruttura.
I modelli dei partner possono essere scoperti utilizzando Model Garden. Puoi anche eseguire il deployment dei modelli utilizzando Model Garden. Per ulteriori informazioni, consulta Esplora i modelli di AI in Model Garden. Sebbene le informazioni su ogni modello partner disponibile siano reperibili nella relativa scheda del modello in Model Garden, in questa guida sono documentati solo i modelli di terze parti che funzionano come MaaS con Gemini Enterprise Agent Platform.
I modelli Claude di Anthropic e Mistral sono esempi di modelli gestiti di terze parti che possono essere utilizzati su Gemini Enterprise Agent Platform.
Modelli di partner
I seguenti modelli partner vengono offerti come API gestite in Model Garden di Gemini Enterprise Agent Platform (MaaS):
| Nome modello | Modalità | Descrizione | Guida rapida |
|---|---|---|---|
| Grok 4.3 (anteprima) | Lingua | Il modello ad alte prestazioni di xAI. | Scheda del modello |
| Grok 4.20 (Reasoning) (anteprima) | Lingua | Grok 4.20 (Reasoning) è un modello ad alte prestazioni di xAI, caratterizzato da un tasso di allucinazione basso leader del settore. Eccelle nelle attività di comprensione dei documenti e nella chiamata di strumenti agentici a lungo termine. | Scheda del modello |
| Grok 4.20 (Non-reasoning) (anteprima) | Lingua | Grok 4.20 (Non-Reasoning) è un modello non pensante ad alte prestazioni di xAI, caratterizzato da un tasso di allucinazione basso leader del settore. Eccelle nei casi d'uso sensibili alla latenza, come l'assistenza clienti e la categorizzazione. | Scheda del modello |
| Grok 4.1 Fast (Reasoning) (anteprima) | Lingua | Grok 4.1 Fast (Reasoning) è il modello più conveniente di xAI, con solide funzionalità di chiamata degli strumenti e sintesi efficiente della knowledge base. Eccelle nelle attività di ricerca che coinvolgono dati web e strumenti di knowledge base interni. | Scheda del modello |
| Grok 4.1 Fast (Non-reasoning) (anteprima) | Lingua | Grok 4.1 Fast (Non-Reasoning) è il modello non pensante più conveniente di xAI, ottimizzato per prestazioni a bassa latenza. Eccelle nelle attività ad alto volume, come il riassunto e la categorizzazione. | Scheda del modello |
| Claude Opus 4.8 | Lingua, Vista | Claude Opus 4.8 è un modello Opus ad alta intelligenza creato per la programmazione e gli agenti, con un ragionamento più approfondito per i workflow aziendali. | Scheda del modello |
| Claude Opus 4.7 | Lingua, Vista | Claude Opus 4.7 è un modello ad alta intelligenza di Anthropic e leader del settore per programmazione, agenti, utilizzo di computer e workflow aziendali. | Scheda del modello |
| Claude Sonnet 4.6 | Lingua, Vista | Claude Sonnet 4.6 offre un'intelligenza all'avanguardia su larga scala, pensata per programmazione, agenti e workflow aziendali. | Scheda del modello |
| Claude Opus 4.6 | Lingua, Vista | Claude Opus 4.6 è un modello ad alta intelligenza di Anthropic e leader del settore per programmazione, agenti, utilizzo di computer e workflow aziendali. | Scheda del modello |
| Claude Opus 4.5 | Lingua, Vista | Claude Opus 4.5 è un modello ad alta intelligenza di Anthropic e leader del settore per programmazione, agenti, utilizzo di computer e workflow aziendali. | Scheda del modello |
| Claude Sonnet 4.5 | Lingua, Vista | Il modello di medie dimensioni di Anthropic per potenziare gli agenti del mondo reale, con funzionalità di programmazione, utilizzo di computer, cybersicurezza e lavoro con file di Office come i fogli di lavoro. | Scheda del modello |
| Claude Opus 4.1 | Lingua, Vista | Leader del settore per la programmazione. Offre prestazioni costanti per le attività a lunga esecuzione che richiedono un impegno mirato e migliaia di passaggi, espandendo notevolmente ciò che gli agenti AI possono risolvere. Ideale per potenziare prodotti e funzionalità di agenti all'avanguardia. | Scheda del modello |
| Claude Haiku 4.5 | Lingua, Vista | Claude Haiku 4.5 offre prestazioni quasi all'avanguardia per un'ampia gamma di casi d'uso e si distingue come uno dei migliori modelli di programmazione al mondo, con la velocità e il costo giusti per potenziare i prodotti senza costi e le esperienze utente ad alto volume. | Scheda del modello |
| Claude Opus 4 | Lingua, Vista | Claude Opus 4 delivers sustained performance on long-running tasks that require focused effort and thousands of steps, significantly expanding what AI agents can solve. | Scheda del modello |
| Claude Sonnet 4 | Lingua, Vista | Il modello di medie dimensioni di Anthropic con un'intelligenza superiore per utilizzi ad alto volume, come programmazione, ricerca approfondita, e agenti. | Scheda del modello |
| Claude 3.5 Sonnet v2 di Anthropic | Lingua, Vista | Claude 3.5 Sonnet è un modello ad alte prestazioni per attività di ingegneria del software nel mondo reale e capacità agentiche. Claude 3.5 Sonnet offre questi miglioramenti allo stesso prezzo e alla stessa velocità del suo predecessore. | Scheda del modello |
| Claude 3.5 Sonnet di Anthropic | Lingua | Claude 3.5 Sonnet offre prestazioni migliori rispetto a Claude 3 Opus di Anthropic su un'ampia gamma di valutazioni di Anthropic con la velocità e il costo del modello di livello intermedio di Anthropic, Claude 3 Sonnet. | Scheda del modello |
| Jamba 1.5 Large (anteprima) | Lingua | Jamba 1.5 Large di AI21 Labs è progettato per risposte di qualità superiore, throughput elevato e prezzi competitivi rispetto ad altri modelli della sua classe di dimensioni. | Scheda del modello |
| Jamba 1.5 Mini (anteprima) | Lingua | Jamba 1.5 Mini di AI21 Labs è ben bilanciato in termini di qualità, throughput e costi ridotti. | Scheda del modello |
| Mistral Medium 3 | Lingua | Mistral Medium 3 è un modello versatile progettato per un'ampia gamma di attività, tra cui programmazione, ragionamento matematico, comprensione di documenti lunghi documenti, riassunto e dialogo. | Scheda del modello |
| Mistral OCR (25.05) | Lingua, Vista | Mistral OCR (25.05) è un'API di riconoscimento ottico dei caratteri per la comprensione dei documenti. Il modello comprende ogni elemento dei documenti, come contenuti multimediali, testo, tabelle ed equazioni. | Scheda del modello |
| Mistral Small 3.1 (25.03) | Lingua | Mistral Small 3.1 (25.03) è una versione del modello Small di Mistral, con funzionalità multimodali e finestra contestuale estesa. | Scheda del modello |
| Codestral 2 | Lingua, Codice | Codestral 2 è il modello specializzato nella generazione di codice di Mistral, creato appositamente per il completamento FIM (fill-in-the-middle) ad alta precisione che aiuta gli sviluppatori a scrivere e interagire con il codice tramite un endpoint API di istruzione e completamento condiviso. | Scheda del modello |
Valutare i modelli dei partner utilizzando il Gen AI evaluation service
Il Gen AI evaluation service supporta la valutazione dei modelli dei partner, come i modelli Anthropic e Llama. La valutazione dei modelli dei partner è supportata tramite Model Garden, quindi devi attivare il modello prima di eseguire le valutazioni su un modello partner.
Per ulteriori informazioni, consulta Eseguire la valutazione utilizzando la console.
Prezzi dei modelli partner di Gemini Enterprise Agent Platform con garanzia di capacità
Google offre il throughput riservato per alcuni modelli partner che riservano la capacità di throughput per i tuoi modelli a una tariffa fissa. Decidi la capacità di throughput e le regioni in cui riservare questa capacità. Poiché le richieste di throughput riservato hanno la priorità rispetto alle richieste standard con pagamento a consumo, il throughput riservato offre una maggiore disponibilità. Quando il sistema è sovraccarico, le richieste possono comunque essere completate purché il throughput rimanga al di sotto della capacità di throughput riservata. Per ulteriori informazioni o per abbonarti al servizio, contatta il team di vendita.
Endpoint regionali, globali e multiregionali
Per gli endpoint regionali, le richieste vengono gestite dalla regione specificata. Nei casi in cui hai requisiti di residenza dei dati o se un modello non supporta l'endpoint globale, utilizza gli endpoint regionali.
Quando utilizzi l'endpoint globale, Google può elaborare e gestire le richieste da qualsiasi regione supportata dal modello che stai utilizzando, il che potrebbe comportare una latenza maggiore in alcuni casi. L'endpoint globale contribuisce a migliorare la disponibilità complessiva e a ridurre gli errori.
Gli endpoint multiregionali consentono l'accesso ad alta disponibilità ai modelli dei partner, mantenendo al contempo la residenza dei dati in un'area geografica più ampia, come gli Stati Uniti.
Esiste una differenza di prezzo a seconda del tipo di endpoint selezionato. Per ulteriori informazioni su quote e funzionalità, consulta la pagina del modello di terze parti correlata.
Endpoint globale
Per utilizzare l'endpoint globale, imposta la regione su global.
Ad esempio, l'URL della richiesta per un comando curl utilizza il seguente formato:
https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/PUBLISHER_NAME/models/MODEL_NAME
Per l'SDK Agent Platform, l'endpoint regionale è quello predefinito. Imposta la regione su GLOBAL per utilizzare l'endpoint globale.
Modelli supportati per l'endpoint globale
L'endpoint globale è disponibile per i seguenti modelli:
- Claude Opus 4.8
- Claude Opus 4.7
- Claude Opus 4.6
- Claude Sonnet 4.6
- Claude Opus 4.5
- Claude Opus 4.1
- Claude Opus 4
- Claude Sonnet 4.5
- Claude Sonnet 4
- Claude 3.7 Sonnet
- Claude 3.5 Sonnet v2
- Claude Haiku 4.5
- Grok 4.1 Fast
- Grok 4.20
- Grok 4.3
Limitare l'utilizzo degli endpoint API globali
Per contribuire a imporre l'utilizzo di endpoint regionali, utilizza il vincolo delle policy dell'organizzazione constraints/gcp.restrictEndpointUsage per bloccare le richieste all'endpoint API globale. Per saperne di più, consulta
Limitare l'utilizzo degli endpoint.
Endpoint multiregionale
Gli endpoint multiregionali consentono l'accesso ad alta disponibilità ai modelli dei partner, mantenendo al contempo la residenza dei dati in un'area geografica più ampia, come gli Stati Uniti o l'Unione Europea.
Seleziona la scheda appropriata per la multi-regione che vuoi utilizzare:
US
Per utilizzare l'endpoint multiregionale Stati Uniti, imposta l'URL dell'endpoint su aiplatform.us.rep.googleapis.com.
L'URL della richiesta per un comando curl utilizza il seguente formato:
https://aiplatform.us.rep.googleapis.com/v1/projects/PROJECT_ID/locations/us/publishers/anthropic/models/MODEL_NAME
UE
Per utilizzare l'endpoint multiregionale UE, imposta l'URL dell'endpoint su aiplatform.eu.rep.googleapis.com.
L'URL della richiesta per un comando curl utilizza il seguente formato:
https://aiplatform.eu.rep.googleapis.com/v1/projects/PROJECT_ID/locations/eu/publishers/anthropic/models/MODEL_NAME
Per ulteriori informazioni sul formato MODEL_NAME, consulta la documentazione di Anthropic.
Modelli supportati per l'endpoint multiregionale:
Sono supportati i seguenti modelli. Utilizza l'ID modello completo, inclusa la data della versione, ove applicabile.
| Modello | ID modello API |
|---|---|
claude-opus-4-8 |
claude-opus-4-8 |
claude-opus-4-7 |
claude-opus-4-7 |
Esempio di richiesta:
Ecco come puoi chiamare l'endpoint multiregionale utilizzando curl:
export PROJECT_ID="YOUR_PROJECT_ID"
# Example using claude-opus-4-7
# Option 1: US Region
export LOCATION="us"
export ENDPOINT="aiplatform.us.rep.googleapis.com"
# Option 2: EU Region
# export LOCATION="eu"
# export ENDPOINT="aiplatform.eu.rep.googleapis.com"
export MODEL_ID="claude-opus-4-7"
curl -X POST \
-H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
-H "Content-Type: application/json" \
"https://${ENDPOINT}/v1/projects/${PROJECT_ID}/locations/${LOCATION}/publishers/anthropic/models/${MODEL_ID}:rawPredict" \
-d '{
"max_tokens": 300,
"messages": [
{
"role": "user",
"content": [
{
"type": "text",
"text": "Why is the sky blue?"
}
]
}
],
"anthropic_version": "vertex-2023-10-16"
}'
Quote multiregionali:
Vengono applicate quote multiregionali dedicate. Puoi visualizzare e richiedere aumenti per questi valori di quota predefiniti nella Google Cloud console.
Esempi di quote per gli Stati Uniti:
UsOnlinePredictionInputTokensPerMinutePerBaseModelUsOnlinePredictionOutputTokensPerMinutePerBaseModelUsOnlinePredictionRequestsPerMinPerProjectPerBaseModelUsOnlinePredictionWebSearchRequestsPerProjectPerPublisher
Esempi di quote per l'UE:
EuOnlinePredictionInputTokensPerMinutePerBaseModelEuOnlinePredictionOutputTokensPerMinutePerBaseModelEuOnlinePredictionRequestsPerMinPerProjectPerBaseModelEuOnlinePredictionWebSearchRequestsPerProjectPerPublisher
Concedere l'accesso utente ai modelli dei partner
Per poter attivare i modelli dei partner ed effettuare una richiesta di prompt, un Google Cloud amministratore deve impostare le autorizzazioni richieste e verificare che la policy dell'organizzazione consenta l'utilizzo delle API richieste.
Impostare le autorizzazioni richieste per utilizzare i modelli dei partner
Per utilizzare i modelli dei partner sono necessari i seguenti ruoli e autorizzazioni:
Devi disporre del ruolo IAM (Identity and Access Management) Consumer Procurement Entitlement Manager. Chiunque abbia ricevuto questo ruolo può attivare i modelli dei partner in Model Garden.
Devi disporre dell'autorizzazione
aiplatform.endpoints.predict. Questa autorizzazione è inclusa nel ruolo IAM Utente Agent Platform. Per ulteriori informazioni, consulta Utente di Gemini Enterprise Agent Platform e controllo dell'accesso.
Console
Per concedere i ruoli IAM Consumer Procurement Entitlement Manager a un utente, vai alla pagina IAM.
Nel riquadro Accesso in modifica, fai clic Aggiungi un altro ruolo.
In Seleziona un ruolo, seleziona Consumer Procurement Entitlement Manager.
Nel riquadro Accesso in modifica, fai clic Aggiungi un altro ruolo.
In Seleziona un ruolo, seleziona Utente Agent Platform.
Fai clic su Salva.
gcloud
-
Nella Google Cloud console, attiva Cloud Shell.
Concedi il ruolo Consumer Procurement Entitlement Manager necessario per attivare i modelli dei partner in Model Garden
gcloud projects add-iam-policy-binding PROJECT_ID \ --member=PRINCIPAL --role=roles/consumerprocurement.entitlementManagerConcedi il ruolo Utente Agent Platform che include l'autorizzazione
aiplatform.endpoints.predictnecessaria per effettuare richieste di prompt:gcloud projects add-iam-policy-binding PROJECT_ID \ --member=PRINCIPAL --role=roles/aiplatform.userSostituisci
PRINCIPALcon l'identificatore dell'entità. L'identificatore assume il formatouser|group|serviceAccount:emailodomain:domain, ad esempiouser:cloudysanfrancisco@gmail.com,group:admins@example.com,serviceAccount:test123@example.domain.comodomain:example.domain.com.L'output è un elenco di associazioni di policy che include quanto segue:
- members: - user:PRINCIPAL role: roles/roles/consumerprocurement.entitlementManagerPer ulteriori informazioni, consulta Concedere un singolo ruolo e
gcloud projects add-iam-policy-binding.
Impostare la policy dell'organizzazione per l'accesso ai modelli dei partner
Per attivare i modelli dei partner, la policy dell'organizzazione deve consentire la seguente API: Cloud Commerce Consumer Procurement API - cloudcommerceconsumerprocurement.googleapis.com
Se la tua organizzazione imposta una policy dell'organizzazione per
limitare l'utilizzo dei servizi,
un amministratore dell'organizzazione deve verificare che
cloudcommerceconsumerprocurement.googleapis.com sia consentito
impostando la policy dell'organizzazione.
Inoltre, se hai una policy dell'organizzazione che limita l'utilizzo dei modelli in Model Garden, la policy deve consentire l'accesso ai modelli dei partner. Per ulteriori informazioni, consulta Controllare l'accesso ai modelli.
Conformità legale dei modelli dei partner
Le certificazioni per l'AI generativa su Gemini Enterprise Agent Platform continuano ad essere applicate quando i modelli dei partner vengono utilizzati come API gestite utilizzando Gemini Enterprise Agent Platform. Se hai bisogno di dettagli sui modelli stessi, puoi trovare ulteriori informazioni nella rispettiva scheda del modello oppure puoi contattare il rispettivo publisher del modello.
I tuoi dati vengono archiviati a riposo nella regione o multiregione selezionata per i modelli dei partner su Gemini Enterprise Agent Platform, ma la regionalizzazione del trattamento dei dati può variare. Per un elenco dettagliato degli impegni di trattamento dei dati dei modelli dei partner, consulta Residenza dei dati per i modelli dei partner.
I prompt dei clienti e le risposte dei modelli non vengono condivisi con terze parti quando si utilizza l'API Gemini Enterprise, inclusi i modelli dei partner. Google tratta i dati dei clienti solo secondo le istruzioni del cliente, come descritto in dettaglio nel nostro Addendum per il trattamento dei dati Cloud.