מודלים של Muse מבית Meta זמינים לשימוש כממשקי API מנוהלים ב-Agent Platform. אתם יכולים להעביר את התשובות בסטרימינג כדי לצמצם את תפיסת זמן האחזור של משתמשי הקצה. תשובה בסטרימינג משתמשת באירועים שנשלחים מהשרת (SSE) כדי להעביר את התשובה בסטרימינג באופן מצטבר.
מודלים מנוהלים של Meta
אפשר להשתמש במודלים הבאים של Meta ב-Agent Platform. כדי למצוא ולהפעיל מודל של Meta, עוברים לכרטיס המודל שלו ב-Model Garden.
Muse Wonder של Meta
Muse Wonder מבית Meta הוא מודל חשיבה רציונלית מתקדם שמיועד לפיתוח תוכנה מורכבת ולעבודה ארוכת-טווח עם סוכנים. בתהליכי עבודה של תכנות בכמה שלבים, סוכן אוטונומי ושימוש במחשב, הוא מתכנן משימות, מקצה אותן לסוכני משנה, מפעיל כלים במקביל ומתאושש משגיאות.
Muse Ember מבית Meta
Muse Ember מבית Meta הוא מודל חשיבה רציונלית יעיל שמיועד למשימות של סוכנים בנפח גבוה, כולל קריאות API לכלים, משימות משנה של כתיבת קוד, ניתוב, חילוץ ועיבוד מסמכים ארוכים. אפשר לשלב אותו עם Muse Wonder או Muse Spark 1.3 כדי לתכנן ולבצע חשיבה רציונלית בכמה שלבים.
Muse Spark 1.3 של Meta
Muse Spark 1.3 של מטא הוא מודל חשיבה רציונלית שאומן עבור Agentic Workflows ותכנות תחרותי. הוא תומך בקריאות מובנות לכלים באמצעות Model Context Protocol (MCP) ובחלון הקשר של מיליון טוקנים למשימות עם כמה שלבים.
שימוש במודלים של Meta
מודלים של Muse מבית Meta מוצגים דרך Responses API ללא שמירת מצב (stateless) שתואם ל-OpenAI בנקודת הקצה global. אין תמיכה בהשלמות של צ'אט ובאחסון תגובות עם שמירת מצב (store: true). שולחים בקשות POST אל https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/meta/v1/responses ומעבירים את מזהה המודל הבסיסי (muse-wonder-1.0, muse-ember-1.0 או muse-spark-1.3) בשדה model.
כששולחים בקשות, חשוב לזכור את הפרטים הבאים לגבי הפרמטרים:
- קלט: יש תמיכה בקלט של טקסט ותמונות. אין תמיכה בקלט של אודיו, וידאו ו-PDF.
- מאמץ החשיבה: מגדירים את
reasoning.effortלערךminimal,low,medium,highאוxhigh(Muse Emberתומך גם ב-max). אין תמיכה ב-none. - קריאת API לכלי:
tool_choiceתומך רק ב-auto(אין תמיכה ב-none, ב-requiredובאפשרויות של פונקציות בעלות שם).
בדוגמאות הבאות נשלחת בקשת הנחיה ל-Muse Wonder בנקודת הקצה הגלובלית. מחליפים את PROJECT_ID במזהה הפרויקט ב-Google Cloud .
REST (curl)
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/meta/v1/responses" \
-d '{
"model": "muse-wonder-1.0",
"reasoning": {"effort": "high"},
"input": "Write a Python binary search function with type annotations.",
"max_output_tokens": 4096,
"stream": false
}'
Python (OpenAI SDK)
מתקינים את הספריות openai ו-google-auth (pip install --upgrade openai google-auth), מגדירים את Application Default Credentials (gcloud auth application-default login) ושולחים בקשה:
import google.auth
import google.auth.transport.requests
from openai import OpenAI
PROJECT_ID = "PROJECT_ID"
LOCATION = "global"
credentials, _ = google.auth.default(
scopes=["https://www.googleapis.com/auth/cloud-platform"]
)
credentials.refresh(google.auth.transport.requests.Request())
client = OpenAI(
base_url=f"https://aiplatform.googleapis.com/v1/projects/{PROJECT_ID}/locations/{LOCATION}/publishers/meta/v1",
api_key=credentials.token,
)
response = client.responses.create(
model="muse-wonder-1.0",
reasoning={"effort": "high"},
input="Write a Python binary search function with type annotations.",
max_output_tokens=4096,
)
print(response.output_text)