Modelli partner di Gemini Enterprise Agent Platform per MaaS

Gemini Enterprise Agent Platform supporta un elenco selezionato di modelli sviluppati dai partner di Google. I modelli partner possono essere utilizzati con Gemini Enterprise Agent Platform come modello as a service (MaaS) e vengono offerti come API gestita. Quando utilizzi un modello partner, continui a inviare le tue richieste agli endpoint di Gemini Enterprise Agent Platform. I modelli dei partner sono serverless, quindi non è necessario eseguire il provisioning o la gestione dell'infrastruttura.

I modelli dei partner possono essere scoperti utilizzando Model Garden. Puoi anche eseguire il deployment dei modelli utilizzando Model Garden. Per ulteriori informazioni, consulta Esplora i modelli di AI in Model Garden. Sebbene le informazioni su ogni modello partner disponibile siano disponibili nella relativa scheda del modello in Model Garden, in questa guida sono documentati solo i modelli di terze parti che funzionano come MaaS con Gemini Enterprise Agent Platform.

I modelli Claude e Mistral di Anthropic sono esempi di modelli gestiti di terze parti disponibili per l'utilizzo su Gemini Enterprise Agent Platform.

Modelli di partner

I seguenti modelli dei partner sono offerti come API gestite su Gemini Enterprise Agent Platform Model Garden (MaaS):

Nome modello Modalità Descrizione Guida rapida
Muse Spark 1.3 di Meta (anteprima) Lingua Muse Spark 1.3 di Meta è un modello di ragionamento addestrato per Agentic Workflows e programmazione competitiva. Offre una maggiore precisione al primo tentativo, chiamate di strumenti integrate affidabili con supporto MCP e un contesto lungo 1 milione di token per attività in più passaggi. Dettagli del modello
Grok 4.7 (Anteprima) Lingua Un modello ad alta capacità di xAI, creato per la programmazione e il lavoro della conoscenza. Lavora più a lungo su attività difficili e controlla il proprio lavoro. Scheda del modello
Grok 4.6 Lingua Un modello ad alte prestazioni di xAI, creato per la programmazione, le attività agentiche e il lavoro della conoscenza. Scheda del modello
Grok 4.3 (anteprima) Lingua Modello ad alte prestazioni di xAI. Scheda del modello
Grok 4.20 (Reasoning) (anteprima) Lingua Grok 4.20 (Reasoning) è un modello ad alte prestazioni di xAI, con un basso tasso di allucinazione. Eccelle nelle attività di comprensione dei documenti e nelle chiamate di strumenti agentici a lungo termine. Scheda del modello
Grok 4.20 (senza ragionamento) (Anteprima) Lingua Grok 4.20 (Non-Reasoning) è un modello non basato sul ragionamento ad alte prestazioni di xAI, caratterizzato da un basso tasso di allucinazione. Eccelle nei casi d'uso sensibili alla latenza, come l'assistenza clienti e la categorizzazione. Scheda del modello
Claude Haiku 5.5 su Google Cloud Lingua, visione Claude Haiku 5.5 su Google Cloud è un modello ad alte prestazioni ed economicamente vantaggioso creato per la programmazione, i sub-agenti e le esperienze sensibili alla latenza su larga scala. Scheda del modello
Claude Sonnet 5.5 su Google Cloud Lingua, visione Claude Sonnet 5.5 su Google Cloud è progettato per la programmazione, gli agenti e il lavoro professionale su larga scala. Scheda del modello
Claude Sonnet 5 su Google Cloud Lingua, visione Claude Sonnet 5 su Google Cloud è progettato per la programmazione, gli agenti e il lavoro professionale su larga scala. Scheda del modello
Claude Opus 5.5 su Google Cloud Linguaggio, visione Claude Opus 5.5 su Google Cloud è il modello Opus più avanzato di Anthropic, che supporta agenti a esecuzione continua e offre miglioramenti nella programmazione e nel lavoro professionale. Scheda del modello
Claude Opus 5 su Google Cloud Lingua, vista Claude Opus 5 su Google Cloud è un modello di intelligence avanzata di Anthropic, creato per la programmazione, gli agenti e il lavoro professionale. Scheda del modello
Claude Fable 5.1 su Google Cloud Lingua, visione Claude Fable 5.1 su Google Cloud è ottimizzato per il lavoro cognitivo autonomo e la programmazione, gestendo attività complesse, asincrone e di lunga durata. Scheda del modello
Claude Fable 5 su Google Cloud Lingua, vista Claude Fable 5 su Google Cloud è un modello di Anthropic progettato per la programmazione e il lavoro basato sulla conoscenza autonomi, creato per progetti complessi di più giorni. Scheda del modello
Claude Opus 4.8 su Google Cloud Lingua, visione Claude Opus 4.8 è un modello Opus a intelligenza elevata creato per la programmazione e gli agenti, con una capacità di ragionamento più approfondita per i workflow aziendali. Scheda del modello
Claude Opus 4.7 su Google Cloud Lingua, vista Claude Opus 4.7 su Google Cloud è un modello ad alta intelligenza di Anthropic e un leader del settore per programmazione, agenti, utilizzo di computer e workflow aziendali. Scheda del modello
Claude Sonnet 4.6 su Google Cloud Lingua, visione Claude Sonnet 4.6 su Google Cloud offre un'intelligenza all'avanguardia su larga scala, pensata per programmazione, agenti e workflow aziendali. Scheda del modello
Claude Opus 4.6 su Google Cloud Lingua, vista Claude Opus 4.6 su Google Cloud è un modello di alta intelligenza di Anthropic e un leader del settore per programmazione, agenti, utilizzo di computer e workflow aziendali. Scheda del modello
Claude Opus 4.5 su Google Cloud Lingua, visione Claude Opus 4.5 su Google Cloud è un modello di alta intelligenza di Anthropic e un leader del settore per programmazione, agenti, utilizzo di computer e workflow aziendali. Scheda del modello
Claude Sonnet 4.5 su Google Cloud Lingua, visione Il modello di medie dimensioni di Anthropic per l'alimentazione di agenti reali, con funzionalità di programmazione, utilizzo del computer, cybersicurezza e utilizzo di file di ufficio come fogli di lavoro. Scheda del modello
Claude Opus 4.1 su Google Cloud Lingua, visione Un leader del settore per la programmazione. Offre prestazioni costanti su attività di lunga durata che richiedono un impegno mirato e migliaia di passaggi, ampliando notevolmente i problemi che gli agenti AI possono risolvere. Ideale per l'alimentazione di prodotti e funzionalità di agenti all'avanguardia. Scheda del modello
Claude Haiku 4.5 su Google Cloud Lingua, visione Claude Haiku 4.5 su Google Cloud è un modello ad alte prestazioni per un'ampia gamma di casi d'uso e attività di programmazione, con la velocità e l'efficienza in termini di costi per supportare prodotti senza costi ed esperienze utente ad alto volume. Scheda del modello
Claude Opus 4 su Google Cloud Lingua, visione Claude Opus 4 su Google Cloud offre prestazioni costanti per le attività di lunga durata che richiedono impegno mirato e migliaia di passaggi, ampliando notevolmente ciò che gli agenti AI possono risolvere. Scheda del modello
Claude Sonnet 4 su Google Cloud Lingua, visione Il modello di medie dimensioni di Anthropic con un'intelligenza superiore per utilizzi ad alto volume, come programmazione, ricerca approfondita e agenti. Scheda del modello
Claude 3.5 Sonnet v2 di Anthropic su Google Cloud Lingua, visione Claude 3.5 Sonnet su Google Cloud è un modello ad alte prestazioni per attività di ingegneria del software nel mondo reale e capacità agentiche. Claude 3.5 Sonnet su Google Cloud offre questi miglioramenti allo stesso prezzo e alla stessa velocità del suo predecessore. Scheda del modello
Claude 3.5 Sonnet di Anthropic su Google Cloud Lingua Claude 3.5 Sonnet su Google Cloud offre prestazioni migliori rispetto a Claude 3 Opus di Anthropic su Google Cloud su un'ampia gamma di valutazioni di Anthropic con la velocità e il costo del modello di livello intermedio di Anthropic, Claude 3 Sonnet su Google Cloud. Scheda del modello
Jamba 1.5 Large (anteprima) Lingua Jamba 1.5 Large di AI21 Labs è progettato per fornire risposte di qualità superiore, un throughput elevato e prezzi competitivi rispetto ad altri modelli della sua classe di dimensioni. Scheda del modello
Jamba 1.5 Mini (anteprima) Lingua Jamba 1.5 Mini di AI21 Labs è ben bilanciato in termini di qualità, velocità effettiva e costi ridotti. Scheda del modello
Mistral Medium 3 Lingua Mistral Medium 3 è un modello versatile progettato per un'ampia gamma di attività, tra cui programmazione, ragionamento matematico, comprensione di documenti lunghi, riepilogo e dialogo. Scheda del modello
Mistral OCR (25.05) Lingua, visione Mistral OCR (25.05) è un'API di riconoscimento ottico dei caratteri per la comprensione dei documenti. Il modello comprende ogni elemento dei documenti, come contenuti multimediali, testo, tabelle ed equazioni. Scheda del modello
Mistral Small 3.1 (25.03) Lingua Mistral Small 3.1 (25/03) è una versione del modello Small di Mistral, con funzionalità multimodali e finestra contestuale estesa. Scheda del modello
Codestral 2 Lingua, codice Codestral 2 è il modello specializzato di generazione di codice di Mistral creato appositamente per il completamento di tipo fill-in-the-middle (FIM) di alta precisione che aiuta gli sviluppatori a scrivere e interagire con il codice tramite un endpoint API di istruzioni e completamento condiviso. Scheda del modello

Valuta i modelli dei partner utilizzando Gen AI evaluation service

Gen AI evaluation service supporta la valutazione dei modelli partner, come i modelli Anthropic e Llama. La valutazione dei modelli dei partner è supportata tramite Model Garden, quindi devi abilitare il modello prima di eseguire le valutazioni su un modello dei partner.

Per saperne di più, consulta Eseguire la valutazione utilizzando la console.

Prezzi dei modelli partner di Gemini Enterprise Agent Platform con garanzia di capacità

Google offre il throughput riservato per alcuni modelli partner che riserva la capacità di throughput per i tuoi modelli a una tariffa fissa. Decidi la capacità di throughput e in quali regioni riservarla. Poiché le richieste di throughput riservato hanno la priorità rispetto alle richieste di pagamento a consumo standard, il throughput riservato offre una maggiore disponibilità. Quando il sistema è sovraccarico, le tue richieste possono comunque essere completate, a condizione che la portata rimanga inferiore alla capacità di portata prenotata. Per saperne di più o per abbonarti al servizio, contatta il team di vendita.

Endpoint regionali, globali e multiregionali

Per gli endpoint regionali, le richieste vengono gestite dalla regione specificata. Nei casi in cui hai requisiti di residenza dei dati o se un modello non supporta l'endpoint globale, utilizza gli endpoint regionali.

Quando utilizzi l'endpoint globale, Google può elaborare e gestire le tue richieste da qualsiasi regione supportata dal modello che stai utilizzando, il che potrebbe comportare una latenza maggiore in alcuni casi. L'endpoint globale contribuisce a migliorare la disponibilità complessiva e a ridurre gli errori.

Gli endpoint multiregionali consentono l'accesso ad alta disponibilità ai modelli partner mantenendo la residenza dei dati all'interno di un'area geografica più ampia, come gli Stati Uniti.

Esiste una differenza di prezzo a seconda del tipo di endpoint selezionato. Per ulteriori informazioni su quote e funzionalità, visualizza la pagina del modello di terze parti correlato.

Endpoint globale

Per utilizzare l'endpoint globale, imposta la regione su global.

Ad esempio, l'URL della richiesta per un comando curl utilizza il seguente formato: https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/PUBLISHER_NAME/models/MODEL_NAME

Per l'SDK Agent Platform, l'endpoint predefinito è quello regionale. Imposta la regione su GLOBAL per utilizzare l'endpoint globale.

Modelli supportati per l'endpoint globale

L'endpoint globale è disponibile per i seguenti modelli:

Limita l'utilizzo degli endpoint API globali

Per contribuire a imporre l'utilizzo di endpoint regionali, utilizza il vincolo delle policy dell'organizzazione constraints/gcp.restrictEndpointUsage per bloccare le richieste all'endpoint API globale. Per saperne di più, consulta Limita l'utilizzo degli endpoint.

Endpoint multiregionale

Gli endpoint multiregionali consentono l'accesso ad alta disponibilità ai modelli partner, mantenendo al contempo la residenza dei dati all'interno di un'area geografica più ampia, come gli Stati Uniti o l'Unione Europea.

Seleziona la scheda appropriata per la multi-regione che vuoi utilizzare:

US

Per utilizzare l'endpoint multiregionale degli Stati Uniti, imposta l'URL dell'endpoint su aiplatform.us.rep.googleapis.com.

L'URL della richiesta per un comando curl utilizza il seguente formato: https://aiplatform.us.rep.googleapis.com/v1/projects/PROJECT_ID/locations/us/publishers/anthropic/models/MODEL_NAME

UE

Per utilizzare l'endpoint multiregionale UE, imposta l'URL dell'endpoint su aiplatform.eu.rep.googleapis.com.

L'URL della richiesta per un comando curl utilizza il seguente formato: https://aiplatform.eu.rep.googleapis.com/v1/projects/PROJECT_ID/locations/eu/publishers/anthropic/models/MODEL_NAME

Per saperne di più sul formato MODEL_NAME, consulta la documentazione di Anthropic.

Modelli supportati per l'endpoint multiregionale:

Gli endpoint multiregionali supportano tutti i modelli Claude con versioni 4.7 e successive (ad esempio claude-opus-4-7, claude-opus-4-8 e claude-fable-5). Utilizza l'ID modello completo, inclusa la data della versione, se applicabile.

Grok 4.6 (grok-4.6) e Grok 4.7 (grok-4.7) sono disponibili sull'endpoint multiregionale degli Stati Uniti. I modelli Grok utilizzano le API di completamento della chat e di risposta compatibili con OpenAI, pertanto il percorso della richiesta utilizza endpoints/openapi. Ad esempio: https://aiplatform.us.rep.googleapis.com/v1/projects/PROJECT_ID/locations/us/endpoints/openapi/responses.

Richiesta di esempio:

Ecco come puoi chiamare l'endpoint multiregionale utilizzando curl:

export PROJECT_ID="YOUR_PROJECT_ID"
# Example using claude-opus-4-7

# Option 1: US Region
export LOCATION="us"
export ENDPOINT="aiplatform.us.rep.googleapis.com"

# Option 2: EU Region
# export LOCATION="eu"
# export ENDPOINT="aiplatform.eu.rep.googleapis.com"

export MODEL_ID="claude-opus-4-7"

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
  -H "Content-Type: application/json" \
  "https://${ENDPOINT}/v1/projects/${PROJECT_ID}/locations/${LOCATION}/publishers/anthropic/models/${MODEL_ID}:rawPredict" \
  -d '{
    "max_tokens": 300,
    "messages": [
      {
        "role": "user",
        "content": [
          {
            "type": "text",
            "text": "Why is the sky blue?"
          }
        ]
      }
    ],
    "anthropic_version": "vertex-2023-10-16"
  }'

Quote multi-regione:

Vengono applicate quote multiregionali dedicate. Puoi visualizzare e richiedere aumenti per questi valori di quota predefiniti nella console Google Cloud .

  • Esempi di quote per gli Stati Uniti:

    • UsOnlinePredictionInputTokensPerMinutePerBaseModel
    • UsOnlinePredictionOutputTokensPerMinutePerBaseModel
    • UsOnlinePredictionRequestsPerMinPerProjectPerBaseModel
    • UsOnlinePredictionWebSearchRequestsPerProjectPerPublisher

  • Esempi di quote UE:

    • EuOnlinePredictionInputTokensPerMinutePerBaseModel
    • EuOnlinePredictionOutputTokensPerMinutePerBaseModel
    • EuOnlinePredictionRequestsPerMinPerProjectPerBaseModel
    • EuOnlinePredictionWebSearchRequestsPerProjectPerPublisher

Concedi agli utenti l'accesso ai modelli dei partner

Per consentirti di abilitare i modelli partner e inviare una richiesta di prompt, un amministratore Google Cloud deve impostare le autorizzazioni richieste e verificare che la policy dell'organizzazione consenta l'utilizzo delle API richieste.

Imposta le autorizzazioni necessarie per utilizzare i modelli dei partner

Per utilizzare i modelli partner sono necessari i seguenti ruoli e autorizzazioni:

  • Devi disporre del ruolo IAM (Identity and Access Management) Consumer Procurement Entitlement Manager. Chiunque abbia questo ruolo può attivare i modelli partner in Model Garden.

  • Devi disporre dell'autorizzazione aiplatform.endpoints.predict. Questa autorizzazione è inclusa nel ruolo IAM Agent Platform User. Per saperne di più, consulta Utente di Gemini Enterprise Agent Platform e Controllo degli accessi.

Console

  1. Per concedere i ruoli IAM di Consumer Procurement Entitlement Manager a un utente, vai alla pagina IAM.

    Vai a IAM

  2. Nella colonna Entità, trova l'entità utente per cui vuoi attivare l'accesso ai modelli partner, quindi fai clic su Modifica entità in quella riga.

  3. Nel riquadro Modifica accesso, fai clic su Aggiungi un altro ruolo.

  4. In Seleziona un ruolo, seleziona Consumer Procurement Entitlement Manager.

  5. Nel riquadro Accesso in modifica, fai clic su Aggiungi un altro ruolo.

  6. In Seleziona un ruolo, seleziona Agent Platform User.

  7. Fai clic su Salva.

gcloud

  1. Nella console Google Cloud , attiva Cloud Shell.

    Attiva Cloud Shell

  2. Concedi il ruolo Gestore entitlement approvvigionamento consumer richiesto per attivare i modelli partner in Model Garden

    gcloud projects add-iam-policy-binding  PROJECT_ID \
--member=PRINCIPAL --role=roles/consumerprocurement.entitlementManager

  3. Concedi il ruolo Utente Agent Platform, che include l'autorizzazione aiplatform.endpoints.predict, necessaria per effettuare richieste di prompt:

    gcloud projects add-iam-policy-binding  PROJECT_ID \
--member=PRINCIPAL --role=roles/aiplatform.user

    Sostituisci PRINCIPAL con l'identificatore dell'entità. L'identificatore assume la forma user|group|serviceAccount:email o domain:domain, ad esempio user:cloudysanfrancisco@gmail.com, group:admins@example.com, serviceAccount:test123@example.domain.com o domain:example.domain.com.

    L'output è un elenco di associazioni delle policy che include quanto segue:

    -   members:
  -   user:PRINCIPAL
  role: roles/roles/consumerprocurement.entitlementManager

    Per saperne di più, consulta Concedi un singolo ruolo e gcloud projects add-iam-policy-binding.

Imposta la policy dell'organizzazione per l'accesso al modello partner

Per abilitare i modelli dei partner, la policy dell'organizzazione deve consentire la seguente API: Cloud Commerce Consumer Procurement API - cloudcommerceconsumerprocurement.googleapis.com

Se la tua organizzazione imposta una policy dell'organizzazione per limitare l'utilizzo dei servizi, un amministratore dell'organizzazione deve verificare che cloudcommerceconsumerprocurement.googleapis.com sia consentito impostando la policy dell'organizzazione.

Inoltre, se hai un criterio dell'organizzazione che limita l'utilizzo dei modelli in Model Garden, il criterio deve consentire l'accesso ai modelli partner. Per saperne di più, consulta Controlla l'accesso ai modelli.

Conformità legale del modello partner

Le certificazioni per l'AI generativa su Agent Platform continuano ad applicarsi quando i modelli dei partner vengono utilizzati come API gestita tramite Gemini Enterprise Agent Platform. Se hai bisogno di dettagli sui modelli, puoi trovare ulteriori informazioni nella rispettiva scheda del modello o contattare il rispettivo publisher del modello.

I tuoi dati vengono archiviati at-rest all'interno della regione o della multi-regione selezionata per i modelli partner su Gemini Enterprise Agent Platform, ma la regionalizzazione del trattamento dati può variare. Per un elenco dettagliato degli impegni relativi al trattamento dati dei modelli partner, consulta Residenza dei dati per i modelli partner.

I prompt dei clienti e le risposte dei modelli non vengono condivisi con terze parti quando si utilizza l'API Gemini Enterprise, inclusi i modelli dei partner. Google tratta i dati dei clienti solo secondo le istruzioni del cliente, come descritto più dettagliatamente nel nostro Addendum per il trattamento dei dati Cloud.