Llama 3.1 405B

O Llama 3.1 405B é um LLM multilíngue de 405 bilhões de parâmetros otimizado para casos de uso de diálogo multilíngue.

Ver o card de modelo no Model Garden

ID do modelo llama-3.1-405b-instruct-maas
Etapa do lançamento GA
Entradas e saídas compatíveis
  • Entradas:
    Texto, Código
  • Saídas:
    Texto
Recursos
Tipos de uso
Data do limite de conhecimento Dezembro de 2023
Versões
  • llama-3.1-405b-instruct-maas
    • Estágio de lançamento:disponibilidade geral
    • Data de lançamento:18 de outubro de 2024
Regiões compatíveis

Disponibilidade do modelo

  • Estados Unidos
    • us-central1

Processamento de ML

  • Estados Unidos
    • Multi-region
Limites de cotas

us-central1:

  • QPM: 60
  • Máximo de saída: 8.192
  • Tamanho do contexto: 128.000

Preços Consulte a seção Preços.