Modelos Llama totalmente gerenciados


Os modelos Llama estão disponíveis para uso como APIs gerenciadas e modelos autoimplantados na Gemini Enterprise Agent Platform. É possível transmitir as respostas para reduzir a percepção de latência do usuário final. Uma resposta transmitida usa eventos enviados pelo servidor (SSE) para transmitir a resposta de forma incremental.

Modelos Llama gerenciados

Os modelos Llama oferecem modelos totalmente gerenciados e sem servidor como APIs. Para usar um modelo Llama na Agent Platform, envie uma solicitação diretamente para o endpoint de API Agent Platform. Ao usar os modelos Llama como uma API gerenciada, não é necessário provisionar nem gerenciar a infraestrutura.

Os seguintes modelos estão disponíveis na Llama para uso na Gemini Enterprise Agent Platform. Para acessar um modelo Llama, acesse a Card de modelo do Model Garden.

Llama 4 Maverick 17B-128E O maior e mais capaz modelo multimodal do Llama 4 (MoE 17B ativo / 400B total), otimizado para programação, raciocínio profundo, chat sofisticado e compreensão de imagens de alta precisão.
Llama 4 Scout 17B-16E Modelo de MoE de alta eficiência (17B ativos / 109B no total) que oferece resultados de última geração para recuperação de contexto longo, resumo de documentos e raciocínio em grandes bases de código.

Usar modelos de Llama

Para modelos gerenciados, use comandos curl para enviar solicitações ao endpoint da Gemini Enterprise Agent Platform usando os seguintes nomes de modelos. Para saber como fazer chamadas de streaming e não streaming para modelos Llama, consulte Chamar APIs de modelo aberto.

Para usar um modelo da Gemini Enterprise Agent Platform implantado por conta própria:

  1. Acesse o console do Model Garden.
  2. Encontre o modelo relevante da Gemini Enterprise Agent Platform.
  3. Clique em Ativar e preencha o formulário para receber as licenças de uso comercial necessárias.

Para mais informações sobre como implantar e usar modelos de parceiros, consulte Implantar um modelo de parceiro e fazer solicitações de previsão.

A seguir

Saiba como usar os modelos Llama.