Utilizzo delle librerie OpenAI con Gemini Enterprise Agent Platform

L'API Chat Completions funziona come un endpoint compatibile con OpenAI, progettato per semplificare l'interfaccia con Gemini su Gemini Enterprise Agent Platform utilizzando le librerie OpenAI per Python e REST. Se utilizzi già le librerie OpenAI, puoi utilizzare questa API come un modo economico per passare dalla chiamata dei modelli OpenAI a quella dei modelli ospitati sulla piattaforma Agent per confrontare output, costi e scalabilità, senza modificare il codice esistente. Se non utilizzi già le librerie OpenAI, ti consigliamo di utilizzare l'SDK Google Gen AI. Per eseguire la migrazione del codice dell'SDK OpenAI esistente in modo da utilizzare l'SDK Google Gen AI, consulta Esegui la migrazione dall'SDK OpenAI all'SDK Google Gen AI.

Modelli supportati

L'API Chat Completions supporta sia i modelli Gemini sia alcuni modelli di cui hai eseguito il deployment autonomamente da Model Garden.

Modelli Gemini

I seguenti modelli forniscono supporto per l'API Chat Completions:

Fai clic per espandere i modelli supportati

Modelli con deployment autonomo da Model Garden

I container Hugging Face Text Generation Interface (HF TGI) e vLLM predefinito di Model Garden di Agent Platform supportano l'API Chat Completions. Tuttavia, non tutti i modelli di cui è stato eseguito il deployment in questi container supportano l'API Chat Completions. La tabella seguente include i modelli supportati più popolari per container:

HF TGI

vLLM

Parametri supportati

Per i modelli Google, l'API Chat Completions supporta i seguenti parametri OpenAI. Per una descrizione di ciascun parametro, consulta la documentazione di OpenAI sulla creazione di completamenti della chat. Il supporto dei parametri per i modelli di terze parti varia in base al modello. Per vedere quali parametri sono supportati, consulta la documentazione del modello.

messages
  • System message
  • User message: sono supportati i tipi text e image_url. Il tipo image_url supporta le immagini archiviate in un URI Cloud Storage o una codifica base64 nel formato "data:<MIME-TYPE>;base64,<BASE64-ENCODED-BYTES>". Per scoprire come creare un bucket Cloud Storage e caricarvi un file, consulta Scopri l'archiviazione di oggetti.
  • Assistant message
  • Tool message
  • Function message: questo campo è stato ritirato, ma è supportato per la compatibilità con le versioni precedenti.
model
detail Per i modelli precedenti a Gemini 3, il campo detail deve essere coerente in tutti i messaggi e i contenuti (è a livello di richiesta). Per Gemini 3 e versioni successive, corrisponde a un `media_resolution` a livello di parte. Per ulteriori informazioni, consulta Risoluzione dei contenuti multimediali.
max_completion_tokens Alias per max_tokens.
modalities Supporta audio, image e text.
max_tokens
n
frequency_penalty
presence_penalty
reasoning_effort Configura il tempo e il numero di token utilizzati per una risposta.
  • low: 1024
  • medium: 8192
  • high: 24576
Poiché nella risposta non sono inclusi pensieri, è possibile specificare solo uno dei due elementi: reasoning_effort o extra_body.google.thinking_config.
response_format
  • json_object: interpretato come passaggio di "application/json" all'API Gemini.
  • json_schema. Gli schemi completamente ricorsivi non sono supportati. additional_properties è supportato.
  • text: viene interpretato come passaggio di "text/plain" all'API Gemini.
  • Qualsiasi altro tipo MIME viene passato così com'è al modello, ad esempio passando direttamente "application/json".
seed Corrisponde a GenerationConfig.seed.
stop
stream
temperature
top_p
tools
  • type
  • function
    • name
    • description
    • parameters: Specificare i parametri utilizzando la specifica OpenAPI. Questo campo è diverso dal campo dei parametri di OpenAI, che viene descritto come un oggetto dello schema JSON. Per scoprire le differenze delle parole chiave tra OpenAPI e lo schema JSON, consulta la guida di OpenAPI.
tool_choice
  • none
  • auto
  • required: corrisponde alla modalità ANY in FunctionCallingConfig.
  • validated: corrisponde alla modalità VALIDATED in FunctionCallingConfig. Questo è un aspetto specifico di Google.
web_search_options Corrisponde allo strumento GoogleSearch. Non sono supportate opzioni secondarie.
function_call Questo campo è deprecato, ma supportato per la compatibilità con le versioni precedenti.
functions Questo campo è deprecato, ma supportato per la compatibilità con le versioni precedenti.

Se passi un parametro non supportato, questo viene ignorato.

Parametri di input multimodali

L'API Chat Completions supporta alcuni input multimodali.

input_audio
  • data: Qualsiasi URI o formato blob valido. Supportiamo tutti i tipi di blob, inclusi immagini, audio e video. È supportato tutto ciò che è supportato da GenerateContent (HTTP, Cloud Storage e così via).
  • format: OpenAI supporta sia wav (audio/wav) sia mp3 (audio/mp3). Con Gemini, sono supportati tutti i tipi MIME validi.
image_url
  • data: Come input_audio, sono supportati qualsiasi URI o formato blob valido.
    Tieni presente che image_url come URL utilizzerà per impostazione predefinita il tipo MIME image/* e image_url come dati blob può essere utilizzato come qualsiasi input multimodale.
  • detail: Analogamente alla risoluzione dei contenuti multimediali, questo determina il numero massimo di token per immagine per la richiesta. Tieni presente che, mentre il campo di OpenAI è per immagine, Gemini applica lo stesso dettaglio alla richiesta e il passaggio di più tipi di dettagli in una richiesta genera un errore.

In generale, il parametro data può essere un URI o una combinazione di tipo MIME e byte codificati in base64 nel formato "data:<MIME-TYPE>;base64,<BASE64-ENCODED-BYTES>". Per un elenco completo dei tipi MIME, consulta GenerateContent. Per saperne di più sulla codifica base64 di OpenAI, consulta la relativa documentazione.

Per l'utilizzo, consulta i nostri esempi di input multimodale.

Parametri specifici di Gemini

Gemini supporta diverse funzionalità che non sono disponibili nei modelli OpenAI. Queste caratteristiche possono comunque essere passate come parametri, ma devono essere contenute all'interno di un tag extra_content o extra_body, altrimenti verranno ignorate.

extra_body funzionalità

Includi un campo google per contenere tutte le funzionalità di extra_body specifiche di Gemini.

{
  ...,
  "extra_body": {
     "google": {
       ...,
       // Add extra_body features here.
     }
   }
}
safety_settings Questo corrisponde a Gemini SafetySetting.
cached_content Questo corrisponde al campo generateContent.cached_content di Gemini.
thinking_config Questo corrisponde a Gemini GenerationConfig.ThinkingConfig.
thought_tag_marker Utilizzato per separare i pensieri di un modello dalle sue risposte per i modelli con la funzionalità Ragionamento disponibile.
Se non specificato, non verranno restituiti tag intorno ai pensieri del modello. Se presenti, le query successive rimuoveranno i tag di pensiero e contrassegneranno i pensieri in modo appropriato per il contesto. In questo modo, viene preservato il contesto appropriato per le query successive.
stream_function_call_arguments Trasmette gli argomenti della chiamata di funzione come segmenti di JSON. Per saperne di più, consulta Argomenti delle chiamate di funzione in modalità flusso.
tools Specifica strumenti simili a `GenerateContent`. Per saperne di più, consulta Tool.
media_resolution Specifica una risoluzione dei contenuti multimediali a livello di richiesta simile a `GenerateContent`. Per ulteriori informazioni, consulta MediaResolution.

extra_content funzionalità

extra_content consente di specificare contenuti specifici di Gemini che non devono essere ignorati.

Includi un campo google per contenere tutte le funzionalità di extra_content specifiche di Gemini.

{
  ...,
  "extra_content": {
     "google": {
       ...,
       // Add extra_content features here.
     }
   }
}
thought Questo campo indica esplicitamente se un campo è un pensiero e ha la precedenza su thought_tag_marker. Aiuta a distinguere tra i diversi passaggi di un processo di ragionamento, in particolare negli scenari di utilizzo degli strumenti in cui i passaggi intermedi potrebbero essere scambiati per risposte finali. Se tagghi parti specifiche dell'input come pensieri, puoi guidare il modello in modo che le tratti come ragionamento interno anziché come risposte rivolte agli utenti.
thought_signature Un campo di byte che fornisce una firma del pensiero da convalidare rispetto ai pensieri restituiti dal modello. Questo campo è distinto da thought, che è un campo booleano. Per saperne di più, consulta Firme di pensiero.
parts Specifico per un messaggio dello strumento per passare le parti della risposta della funzione multimodale al modello. Per saperne di più, consulta FunctionResponsePart e Risposta di funzione multimodale.

Passaggi successivi