Les modèles Muse de Meta sont disponibles en tant qu'API gérées sur Agent Platform. Vous pouvez diffuser vos réponses en streaming pour réduire la perception de la latence côté utilisateur. Une réponse en streaming utilise des événements envoyés par le serveur (SSE) pour diffuser la réponse de manière incrémentielle.
Modèles Meta gérés
Les modèles suivants sont disponibles auprès de Meta pour une utilisation dans Agent Platform. Pour trouver et activer un modèle Meta, accédez à sa fiche de modèle dans Model Garden.
Muse Wonder de Meta
Muse Wonder de Meta est un modèle de raisonnement très performant conçu pour l'ingénierie logicielle complexe et le travail agentique à long terme. Dans les workflows de codage en plusieurs étapes, d'agent autonome et d'utilisation de l'ordinateur, il planifie les tâches, les délègue à des sous-agents, appelle des outils en parallèle et récupère les erreurs.
Muse Ember de Meta
Muse Ember de Meta est un modèle de raisonnement efficace conçu pour les tâches d'agent à volume élevé, y compris les appels d'outils, les sous-tâches de codage, le routage, l'extraction et le traitement de documents longs. Associez-le à Muse Wonder ou Muse Spark 1.3 pour la planification et le raisonnement en plusieurs étapes.
Muse Spark 1.3 de Meta
Muse Spark 1.3 de Meta est un modèle de raisonnement entraîné pour les workflows agentiques et le codage compétitif. Il est compatible avec l'appel d'outils intégré avec la prise en charge du protocole MCP (Model Context Protocol) et une fenêtre de contexte de 1 million de jetons pour les tâches en plusieurs étapes.
Utiliser des modèles Meta
Les modèles Muse de Meta sont diffusés via l'API Responses sans état compatible avec OpenAI sur le point de terminaison global. Les complétions de chat et le stockage des réponses avec état (store: true) ne sont pas compatibles. Envoyez des requêtes POST à https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/meta/v1/responses et transmettez l'ID de modèle brut (muse-wonder-1.0, muse-ember-1.0 ou muse-spark-1.3) dans le champ model.
Tenez compte des détails de paramètre suivants lorsque vous envoyez des requêtes :
- Entrées : les entrées de texte et d'image sont acceptées. Les entrées audio, vidéo et PDF ne sont pas acceptées.
- Effort de raisonnement : définissez
reasoning.effortsurminimal,low,medium,highouxhigh(Muse Emberest également compatible avecmax).nonen'est pas compatible. - Appel d'outils :
tool_choicen'est compatible qu'avecauto(les choixnone,requiredet de fonction nommée ne sont pas acceptés).
Les exemples suivants envoient une requête de prompt à Muse Wonder sur le point de terminaison global. Remplacez PROJECT_ID par l'ID de votre projetGoogle Cloud .
REST (curl)
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/meta/v1/responses" \
-d '{
"model": "muse-wonder-1.0",
"reasoning": {"effort": "high"},
"input": "Write a Python binary search function with type annotations.",
"max_output_tokens": 4096,
"stream": false
}'
Python (SDK OpenAI)
Installez les bibliothèques openai et google-auth (pip install --upgrade openai google-auth), configurez les identifiants par défaut de l'application (gcloud auth application-default login), puis envoyez une requête :
import google.auth
import google.auth.transport.requests
from openai import OpenAI
PROJECT_ID = "PROJECT_ID"
LOCATION = "global"
credentials, _ = google.auth.default(
scopes=["https://www.googleapis.com/auth/cloud-platform"]
)
credentials.refresh(google.auth.transport.requests.Request())
client = OpenAI(
base_url=f"https://aiplatform.googleapis.com/v1/projects/{PROJECT_ID}/locations/{LOCATION}/publishers/meta/v1",
api_key=credentials.token,
)
response = client.responses.create(
model="muse-wonder-1.0",
reasoning={"effort": "high"},
input="Write a Python binary search function with type annotations.",
max_output_tokens=4096,
)
print(response.output_text)