Modelos de Llama completamente administrados


Los modelos de Llama están disponibles para usarse como APIs administradas y modelos autoimplementados en Gemini Enterprise Agent Platform. Puedes transmitir tus respuestas para reducir la percepción de latencia del usuario final. Una respuesta transmitida usa eventos enviados por el servidor (SSE) para transmitir la respuesta de forma incremental.

Modelos de Llama administrados

Los modelos de Llama ofrecen modelos completamente administrados y sin servidores como APIs. Para usar un modelo de Llama en Agent Platform, envía una solicitud directamente al extremo de API de Agent Platform. Cuando usas modelos de Llama como una API administrada, no es necesario aprovisionar ni administrar la infraestructura.

Los siguientes modelos están disponibles en Llama para usarlos en Gemini Enterprise Agent Platform. Para acceder a un modelo de Llama, ve a su tarjeta de modelo de Model Garden.

Llama 4 Maverick 17B-128E El modelo multimodal de Llama 4 más grande y capaz (MoE 17B activo/400B total), optimizado para la programación, el razonamiento profundo, el chat sofisticado y la comprensión de imágenes de alta precisión.
Llama 4 Scout 17B-16E Modelo de MoE de alta eficiencia (17,000 millones de parámetros activos/109,000 millones en total) que ofrece resultados de vanguardia para la recuperación de contextos largos, el resumen de documentos y el razonamiento en bases de código grandes.

Usa modelos de Llama

Para los modelos administrados, puedes usar comandos curl para enviar solicitudes al extremo de Gemini Enterprise Agent Platform con los siguientes nombres de modelos. Para aprender a realizar llamadas de transmisión y sin transmisión a los modelos de Llama, consulta Llama a las APIs de modelos abiertos.

Para usar un modelo de Gemini Enterprise Agent Platform autoimplementado, haz lo siguiente:

  1. Navega a la consola de Model Garden.
  2. Busca el modelo de Gemini Enterprise Agent Platform pertinente.
  3. Haz clic en Habilitar y completa el formulario proporcionado para obtener las licencias de uso comercial necesarias.

Para obtener más información sobre cómo implementar y usar modelos de socios, consulta Implementa un modelo de socio y realiza solicitudes de predicción.

¿Qué sigue?

Obtén información para usar los modelos de Llama.