ניהול סוכנים שנפרסו

‫Agent Runtime מאפשר לכם לנהל סוכנים שנפרסו בפלטפורמה. אפשר להציג ברשימה, לקבל, לעדכן ולמחוק סוכנים שפרסתם באמצעות המסוף, ה-SDK או ה-API בארכיטקטורת REST.

במאמר הזה מוסבר איך לנהל סוכנים שפרסתם ב-Agent Platform. אם רוצים לפרוס סוכן חדש, אפשר לעיין במאמר בנושא פריסת סוכן.

הצגת רשימה של סוכנים שנפרסו

הצגת רשימה של כל הסוכנים שנפרסו בפרויקט ובמיקום נתונים:

המסוף

1. נכנסים לדף Deployments של Agent Platform במסוף Google Cloud .
   

   מעבר לדף Deployments

סוכנים שפרסתם והם חלק מהפרויקט שנבחר יופיעו ברשימה. אפשר להשתמש בשדה Filter כדי לסנן את הרשימה לפי העמודה שצוינה.

Agent Platform SDK

import vertexai

client = vertexai.Client(  # For service interactions via client.agent_engines
    project="PROJECT_ID",
    location="LOCATION",
)

for agent in client.agent_engines.list():
    print(agent)

כדי לסנן את הרשימה לפי display_name:

for agent in client.agent_engines.list(
    config={
        "filter": 'display_name="DISPLAY_NAME"',
    },
):
    print(agent)

REST

מבצעים קריאה ל-method‏ reasoningEngines.list.

לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:

• ‫PROJECT_ID: מזהה הפרויקט ב-GCP
• ‫LOCATION: אזור נתמך

ה-method של ה-HTTP וכתובת ה-URL:

GET https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines

כדי לשלוח את הבקשה צריך להרחיב אחת מהאפשרויות הבאות:

‫Curl (Linux,‏ macOS או Cloud Shell)

הערה: הפקודה הבאה מבוססת על ההנחה שנכנסתם ל-CLI של gcloud באמצעות חשבון המשתמש שלכם, על ידי הרצת gcloud init או gcloud auth login, או באמצעות Cloud Shell שמחבר אתכם אוטומטית ל-CLI של gcloud. כדי לבדוק איזה חשבון פעיל, אפשר להריץ את הפקודה gcloud auth list.

מריצים את הפקודה הבאה:

curl -X GET \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines"

‎PowerShell (Windows)

הערה: הפקודה הבאה מבוססת על ההנחה שנכנסתם ל-CLI של gcloud באמצעות חשבון המשתמש שלכם, על ידי הרצת gcloud init או gcloud auth login. כדי לבדוק איזה חשבון פעיל, אפשר להריץ את הפקודה gcloud auth list.

מריצים את הפקודה הבאה:

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method GET `
    -Headers $headers `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines" | Select-Object -Expand Content

אמורים לקבל קוד סטטוס של הצלחה (2xx) ותגובה ריקה.

אחזור של סוכן פעיל

לכל סוכן שפורס יש מזהה ייחודי RESOURCE_ID. מידע נוסף זמין במאמר בנושא פריסת סוכן.

המסוף

1. נכנסים לדף Deployments של Agent Platform במסוף Google Cloud .
   

   מעבר לדף Deployments

   סוכנים שפרסתם והם חלק מהפרויקט שנבחר יופיעו ברשימה. אפשר להשתמש בשדה Filter כדי לסנן את הרשימה לפי העמודה שצוינה.

2. לוחצים על השם של הנציג שצוין. ייפתח הדף מדדים של הסוכן.

3. אופציונלי: כדי לראות את פרטי הפריסה של הסוכן, לוחצים על פרטי הפריסה. חלונית פרטי הפריסה נפתחת. כדי לסגור את החלונית, לוחצים על סיום.

4. אופציונלי: כדי לראות את כתובות ה-URL של סוכן ה-API query ו-streamQuery, לוחצים על API URLs (כתובות URL של API). החלונית API URLs (כתובות URL של API) תיפתח. כדי לסגור את החלונית, לוחצים על סיום.

Agent Platform SDK

הקוד הבא מאפשר לקבל סוכן ספציפי שפריסתו הושלמה:

import vertexai

client = vertexai.Client(  # For service interactions via client.agent_engines
    project="PROJECT_ID",
    location="LOCATION",
)

remote_agent = client.agent_engines.get(
    name="projects/PROJECT_ID_OR_NUMBER/locations/LOCATION/reasoningEngines/RESOURCE_ID"
)

REST

מבצעים קריאה ל-method‏ reasoningEngines.get.

לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:

• ‫PROJECT_ID: מזהה הפרויקט ב-GCP
• ‫LOCATION: אזור נתמך
• ‫RESOURCE_ID: מזהה המשאב של הסוכן שנפרס

ה-method של ה-HTTP וכתובת ה-URL:

GET https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID

כדי לשלוח את הבקשה צריך להרחיב אחת מהאפשרויות הבאות:

‫Curl (Linux,‏ macOS או Cloud Shell)

הערה: הפקודה הבאה מבוססת על ההנחה שנכנסתם ל-CLI של gcloud באמצעות חשבון המשתמש שלכם, על ידי הרצת gcloud init או gcloud auth login, או באמצעות Cloud Shell שמחבר אתכם אוטומטית ל-CLI של gcloud. כדי לבדוק איזה חשבון פעיל, אפשר להריץ את הפקודה gcloud auth list.

מריצים את הפקודה הבאה:

curl -X GET \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID"

‎PowerShell (Windows)

הערה: הפקודה הבאה מבוססת על ההנחה שנכנסתם ל-CLI של gcloud באמצעות חשבון המשתמש שלכם, על ידי הרצת gcloud init או gcloud auth login. כדי לבדוק איזה חשבון פעיל, אפשר להריץ את הפקודה gcloud auth list.

מריצים את הפקודה הבאה:

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method GET `
    -Headers $headers `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID" | Select-Object -Expand Content

אמורים לקבל קוד סטטוס של הצלחה (2xx) ותגובה ריקה.

עדכון של סוכן פעיל

אפשר לעדכן שדה אחד או יותר של הסוכן שהופעל בו-זמנית, אבל צריך לציין לפחות אחד מהשדות לעדכון.

אפשר לעדכן את השדות של סוכן פעיל שלא כוללים גרסה או שכוללים גרסה. אם מעדכנים שדות עם גרסאות, נוצרת גרסה חדשה. מידע נוסף על שדות עם גרסאות ועל ניהול עדכונים זמין במאמר ניהול עדכונים ותנועה.

משך הזמן שנדרש לעדכון הסוכן שנפרס תלוי בעדכון שמבצעים, אבל בדרך כלל הוא נע בין כמה שניות לכמה דקות.

המסוף

1. נכנסים לדף Deployments של Agent Platform במסוף Google Cloud .
   

   מעבר לדף Deployments

2. לוחצים על התפריט more actions () של הסוכן שציינתם.

3. לוחצים על Edit. החלונית עריכה של הסוכן תיפתח.

4. עורכים את השם המוצג או את התיאור של הסוכן.

5. לוחצים על Save.

Agent Platform SDK

כדי לעדכן סוכן פעיל (שמתאים ל-RESOURCE_NAME) לסוכן מעודכן (שמתאים ל-UPDATED_AGENT):

import vertexai

client = vertexai.Client(  # For service interactions via client.agent_engines
    project="PROJECT_ID",
    location="LOCATION",
)

client.agent_engines.update(
    name=RESOURCE_NAME,                    # Required.
    agent=UPDATED_AGENT,                   # Optional.
    config={                                                # Optional.
        "requirements": REQUIREMENTS,      # Optional.
        "display_name": "DISPLAY_NAME",    # Optional.
        "description": "DESCRIPTION",      # Optional.
        "extra_packages": EXTRA_PACKAGES,  # Optional.
    },
)

הארגומנטים זהים לאלה שמשתמשים בהם כשפורסים סוכן.

REST

מפעילים את method‏ reasoningEngines.patch ומספקים update_mask כדי לציין אילו שדות לעדכן.

לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:

• ‫PROJECT_ID: מזהה הפרויקט ב-GCP
• ‫LOCATION: אזור נתמך
• ‫RESOURCE_ID: מזהה המשאב של הסוכן שנפרס
• ‫update_mask: רשימה של שדות מופרדים בפסיקים לעדכון

ה-method של ה-HTTP וכתובת ה-URL:

PATCH https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID?update_mask="display_name,description"

תוכן בקשת JSON:

{
"displayName": "DISPLAY_NAME",
"description": "DESCRIPTION"
}

כדי לשלוח את הבקשה צריך להרחיב אחת מהאפשרויות הבאות:

‫Curl (Linux,‏ macOS או Cloud Shell)

הערה: הפקודה הבאה מבוססת על ההנחה שנכנסתם ל-CLI של gcloud באמצעות חשבון המשתמש שלכם, על ידי הרצת gcloud init או gcloud auth login, או באמצעות Cloud Shell שמחבר אתכם אוטומטית ל-CLI של gcloud. כדי לבדוק איזה חשבון פעיל, אפשר להריץ את הפקודה gcloud auth list.

שומרים את גוף הבקשה בקובץ בשם request.json ומריצים את הפקודה הבאה:

curl -X PATCH \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID?update_mask="display_name,description""

‎PowerShell (Windows)

הערה: הפקודה הבאה מבוססת על ההנחה שנכנסתם ל-CLI של gcloud באמצעות חשבון המשתמש שלכם, על ידי הרצת gcloud init או gcloud auth login. כדי לבדוק איזה חשבון פעיל, אפשר להריץ את הפקודה gcloud auth list.

שומרים את גוף הבקשה בקובץ בשם request.json ומריצים את הפקודה הבאה:

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method PATCH `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID?update_mask="display_name,description"" | Select-Object -Expand Content

אמורים לקבל קוד סטטוס של הצלחה (2xx) ותגובה ריקה.

הגדרת טלמטריה לסוכן שפרסתם

אם הפעלתם מעקב במהלך פיתוח הסוכן, תוכלו להשתמש במסוף Google Cloud כדי להגדיר טלמטריה לסוכן שנפרס.

הגדרת טלמטריה לסוכנים שנפרסו עם טלמטריה מופעלת:

1. נכנסים לדף Deployments של Agent Platform במסוף Google Cloud .
   

   מעבר לדף Deployments

   מופעים של Agent Platform ששייכים לפרויקט שנבחר יופיעו ברשימה. אפשר להשתמש בשדה Filter כדי לסנן את הרשימה לפי העמודה שצוינה.

2. מחפשים את השורה של מופע Agent Platform. בעמודה הגדרת טלמטריה, לוחצים על הגדרה. נפתח החלונית Service configuration (הגדרת שירות).

3. אפשר לבצע את ההגדרות הבאות:

   • יכולת צפייה: אתם יכולים להגדיר את האפשרויות הבאות:

     • הפעלת מכשור של מעקבים ויומנים של OpenTelemetry: כדי לאכלס את לוח הבקרה של סוכן ה-observability ואת דפי המעקבים, לוחצים על המתג למצב מופעל.

     • הפעלת רישום ביומן של נתוני קלט של הנחיות ונתוני פלט של תשובות: כדי לאסוף ולאחסן את התוכן המלא של הנחיות ותשובות של משתמשים, לוחצים על המתג למצב מופעל.

     אם השבתתם את איסוף נתוני הטלמטריה של הסוכן, תצטרכו לפרוס מחדש את הסוכן ולעדכן את גרסת Vertex AI SDK ל->= 1.126.1 כדי לראות את אפשרויות ההגדרה של Observability.

   • Containers: קובעים את הגדרות הקונטיינר לסוכן שהופעל:

     • שינוי גודל: מזינים מספר מינימלי של מופעים ומספר מקסימלי של מופעים.

     • משאבים: בוחרים את המגבלות של זיכרון ומעבד לכל מאגר.

     • מקביליות של מאגרים: מזינים מספר מינימלי של מופעים כדי להגדיר את המקביליות לכל מאגר ולכל שרת סוכן. הערך המומלץ הוא (2 * CPU + 1), וערך ברירת המחדל הוא 9.

   • גישה והרשאות: לוחצים על ניהול הרשאות ב-IAM כדי לנהל את הרשאות הסוכן בחשבון השירות המשויך.

   • פרטי הפריסה: אפשר לראות את פרטי הפריסה של הסוכן, כולל שם המשאב והשם המוצג.

   • Memory Bank של Agent Platform: הצגת פרטים של Memory Bank של הסוכן, כולל תהליך יצירת זיכרון וחיפוש בזיכרון.

4. לוחצים על עדכון או על סגירה.

הצגת מדדים של סוכן שנפרס

אם סוכן כבר הופעל, אפשר להשתמש במסוף כדי לראות את המדדים שלו:

1. נכנסים לדף Deployments של Agent Platform במסוף Google Cloud .
   

   מעבר לדף Deployments

   סוכנים שפרסתם והם חלק מהפרויקט שנבחר יופיעו ברשימה. אפשר להשתמש בשדה Filter כדי לסנן את הרשימה לפי העמודה שצוינה.

2. לוחצים על השם של נציג התמיכה. מרכז הבקרה מוצג עבור הסוכן שבחרתם.

3. בוחרים אחת מהכרטיסיות הבאות של מרכז הבקרה:

   • סקירה כללית: כאן מוצג סיכום של מדדי הסוכן, כולל זמן האחזור של הסוכן, מספר הבקשות של הסוכן ושיעור השגיאות של הסוכן.

   • מודלים: במרכז הבקרה הזה מוצגים מדדים של המודל של הסוכן, כולל מספר הקריאות למודל, שיעור השגיאות של המודל והשימוש בטוקנים של המודל.

   • כלים: לוח בקרה עם מדדים לגבי הכלים של הסוכן, כולל מספר הקריאות לכלים, שיעור השגיאות בכלי והשהיית הכלי.

   • שימוש: לוח בקרה עם מדדים לגבי השימוש בסוכן, כולל שימוש בטוקנים לפי קלט ופלט, הקצאת CPU למאגר התגים והקצאת זיכרון למאגר התגים.

   • יומנים: אם הפעלתם את Cloud Logging לסוכן, תוכלו לראות את היומנים שלו.

מחיקת סוכן שפרסתם

מחיקת סוכן שנפרס מתוך זמן הריצה המנוהל של Agent Runtime.

המסוף

1. נכנסים לדף Deployments של Agent Platform במסוף Google Cloud .
   

   מעבר לדף Deployments

2. לוחצים על התפריט more actions () של הסוכן שציינתם.

3. לוחצים על Delete.

4. לוחצים על מחיקת הנציג.

Agent Platform SDK

אם כבר יש לכם מופע קיים של הסוכן הפרוס (בתור remote_agent), אתם יכולים להריץ את הפקודה הבאה:

remote_agent.delete(
    force=True, # Optional, if the agent has resources (e.g. sessions, memory)
)

אפשר גם להתקשר אל agent_engines.delete() כדי למחוק את הסוכן שפריסתו הושלמה, שמתאים ל-RESOURCE_NAME, באופן הבא:

import vertexai

client = vertexai.Client(  # For service interactions via client.agent_engines
    project="PROJECT_ID",
    location="LOCATION",
)

client.agent_engines.delete(
    name=RESOURCE_NAME,
    force=True, # Optional, if the agent has resources (e.g. sessions, memory)
)

REST

מבצעים קריאה ל-method‏ reasoningEngines.delete.

לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:

• ‫PROJECT_ID: מזהה הפרויקט ב-GCP
• ‫LOCATION: אזור נתמך
• ‫RESOURCE_ID: מזהה המשאב של הסוכן שנפרס

ה-method של ה-HTTP וכתובת ה-URL:

DELETE https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID

כדי לשלוח את הבקשה צריך להרחיב אחת מהאפשרויות הבאות:

‫Curl (Linux,‏ macOS או Cloud Shell)

הערה: הפקודה הבאה מבוססת על ההנחה שנכנסתם ל-CLI של gcloud באמצעות חשבון המשתמש שלכם, על ידי הרצת gcloud init או gcloud auth login, או באמצעות Cloud Shell שמחבר אתכם אוטומטית ל-CLI של gcloud. כדי לבדוק איזה חשבון פעיל, אפשר להריץ את הפקודה gcloud auth list.

מריצים את הפקודה הבאה:

curl -X DELETE \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID"

‎PowerShell (Windows)

הערה: הפקודה הבאה מבוססת על ההנחה שנכנסתם ל-CLI של gcloud באמצעות חשבון המשתמש שלכם, על ידי הרצת gcloud init או gcloud auth login. כדי לבדוק איזה חשבון פעיל, אפשר להריץ את הפקודה gcloud auth list.

מריצים את הפקודה הבאה:

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method DELETE `
    -Headers $headers `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID" | Select-Object -Expand Content

אמורים לקבל קוד סטטוס של הצלחה (2xx) ותגובה ריקה.

המאמרים הבאים

מדריך

שימוש בסוכן

שימוש בסוכן עם Agent Platform Runtime.