שימוש בהזמנות עם מופעים של Agent Platform Workbench

במאמר הזה נסביר איך להשתמש בהזמנות של Compute Engine כדי להבטיח שיהיו לכם מספיק משאבים של מכונות וירטואליות (VM) להפעלה של מכונות Gemini Enterprise Agent Platform Workbench.

התכונה 'מקומות שמורים' היא תכונה של Compute Engine. הם עוזרים לוודא שמתי שתצטרכו יהיו לכם משאבים בשביל ליצור מכונות וירטואליות עם אותה חומרה (זיכרון ו-vCPU) ומשאבים אופציונליים (יחידות GPU ודיסקים מקומיים של SSD).

כשיוצרים הזמנה, מערכת Compute Engine בודקת שהקיבולת המבוקשת זמינה בתחום שצוין. אם כן, מערכת Compute Engine שומרת את המשאבים, יוצרת את שמירת המקום ומתרחשים הדברים הבאים:

  • המשאבים ששוריינו זמינים לשימוש באופן מיידי, והם יישארו זמינים עד שתמחקו את השריון.

  • אתם מחויבים על המשאבים שהוזמנו באותו תעריף לפי דרישה כמו על מכונות וירטואליות פעילות, כולל הנחות רלוונטיות, עד שההזמנה נמחקת. בזמן השימוש בהזמנה, לא יחויבו עלויות כפולות על משאבים במכונה וירטואלית, כי כבר חויבתם על עלות המשאבים שהוזמנו. מידע נוסף זמין במאמר בנושא איך מבקשים מקום שמור למשאבים של תחום מוגדר ב-Compute Engine.

מגבלות ודרישות

כל המגבלות של הזמנות ב-Compute Engine חלות כשמופעלות הזמנות במופעים של Agent Platform Workbench. איך עובדות ההזמנות

בנוסף, כשמשתמשים בהזמנות עם מופעים של Agent Platform Workbench, חלות ההגבלות והדרישות הבאות:

  • ההזמנה שלכם צריכה להיות אחת מהאפשרויות הבאות:

    • באותו פרויקט שבו נמצאת מכונת Agent Platform Workbench.
    • משותף עם אותו פרויקט כמו המופע של Agent Platform Workbench.
  • כדי להשתמש בהזמנה, המאפיינים של מכונת ה-VM בהזמנה צריכים להיות זהים בדיוק לאלה של מופע Agent Platform Workbench. לדוגמה, אם בהזמנה מצוין סוג מכונה e2-standard-8, מופע של Agent Platform Workbench יכול להשתמש בהזמנה רק אם הוא גם משתמש בסוג מכונה e2-standard-8. כאן תוכלו לקרוא מה הדרישות.

לפני שמתחילים

  1. כדאי לעיין בדרישות וב ההגבלות לגבי הזמנות.
  2. כדאי לעיין בדרישות המכסה וב הגבלות לגבי הזמנות משותפות.
  3. נכנסים לחשבון Google Cloud . אם אתם משתמשים חדשים ב- Google Cloud, צרו חשבון כדי שתוכלו להעריך את הביצועים של המוצרים שלנו בתרחישים מהעולם האמיתי. לקוחות חדשים מקבלים בחינם גם קרדיט בשווי 300$ להרצה, לבדיקה ולפריסה של עומסי העבודה.
  4. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  5. Enable the Compute Engine and Notebooks APIs.

    Roles required to enable APIs

    To enable APIs, you need the serviceusage.services.enable permission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.

    Enable the APIs

  6. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  7. Enable the Compute Engine and Notebooks APIs.

    Roles required to enable APIs

    To enable APIs, you need the serviceusage.services.enable permission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.

    Enable the APIs

התפקידים הנדרשים

כדי לקבל את ההרשאות שנדרשות לשימוש בהזמנות עם מופעים של Agent Platform Workbench, צריך לבקש מהאדמין להקצות לכם את תפקידי ה-IAM הבאים בפרויקט:

להסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

יכול להיות שאפשר לקבל את ההרשאות הנדרשות גם באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש.

יצירת בקשה לשמירת מקום

יוצרים מקום שמור ב-Compute Engine. יכול להיות שזה מקום שמור לפרויקט יחיד או מקום שמור משותף. ההזמנה יכולה להיות לפי דרישה או הזמנה לעתיד. מידע נוסף זמין במאמר בחירת סוג הזמנה.

שימוש בהזמנה עם מכונה חדשה

כדי ליצור מופע של Agent Platform Workbench שצורכת הזמנה, אפשר להשתמש במסוף Google Cloud או ב-API בארכיטקטורת REST.

המסוף

כדי ליצור מופע של Agent Platform Workbench שצורכת הזמנה:

  1. נכנסים לדף Instances במסוף Google Cloud .

    כניסה לדף Instances

  2. לוחצים על  יצירת פריט חדש.

  3. בתיבת הדו-שיח New instance, לוחצים על Advanced options.

  4. בתיבת הדו-שיח Create instance, בקטע Machine type, בוחרים את סוג המכונה ואת הגדרת ה-GPU שתואמים להזמנה.

  5. בקטע CPU Platform and GPU, בתפריט Reservations, בוחרים את ההזמנה שרוצים להשתמש בה.

  6. לוחצים על יצירה.

    הכלי Agent Platform Workbench יוצר מופע ומתחיל אותו באופן אוטומטי. כשהמופע מוכן לשימוש, מופעל קישור Open JupyterLab ב-Agent Platform Workbench.

REST

לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:

  • PROJECT_ID: מזהה הפרויקט
  • LOCATION: האזור שבו נמצאת המכונה
  • INSTANCE_NAME: השם של המכונה
  • MACHINE_TYPE: סוג המכונה של המכונה
  • RESERVATION_TYPE: סוג ההזמנה. הערך חייב להיות RESERVATION_ANY או RESERVATION_SPECIFIC
  • RESERVATION_NAME: השם של ההזמנה כשמשתמשים בסוג RESERVATION_SPECIFIC
    • להזמנות באותו פרויקט, אפשר להשתמש במזהה ההזמנה.
    • כדי להשתמש בהזמנות בפרויקט אחר, צריך להשתמש בנתיב המלא של ההזמנה. לדוגמה: projects/PROJECT_ID/reservations/RESERVATION_NAME.

ה-method של ה-HTTP וכתובת ה-URL:

POST https://notebooks.googleapis.com/v2/projects/PROJECT_ID/locations/LOCATION/instances?instanceId=INSTANCE_NAME

גוף בקשת JSON:

{
  "gce_setup": {
    "machine_type": "MACHINE_TYPE",
    "reservation_affinity": {
      "consume_reservation_type": "RESERVATION_TYPE",
      "key": "compute.googleapis.com/reservation-name",
      "values": ["RESERVATION_NAME"]
    }
  }
}

כדי לשלוח את הבקשה עליכם לבחור אחת מהאפשרויות הבאות:

curl

שומרים את גוף הבקשה בקובץ בשם request.json ומריצים את הפקודה הבאה:

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://notebooks.googleapis.com/v2/projects/PROJECT_ID/locations/LOCATION/instances?instanceId=INSTANCE_NAME"

PowerShell

שומרים את גוף הבקשה בקובץ בשם request.json ומריצים את הפקודה הבאה:

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://notebooks.googleapis.com/v2/projects/PROJECT_ID/locations/LOCATION/instances?instanceId=INSTANCE_NAME" | Select-Object -Expand Content
אם הפעולה בוצעה ללא שגיאות, גוף התגובה יכיל מופע של Operation.

מידע נוסף זמין במסמכי התיעוד של projects.locations.instances.create REST API.

הפסקת השימוש בהזמנה

כדי להפסיק להשתמש בהזמנה, אפשר למחוק את ההזמנה.

אם אתם רוצים להמשיך להשתמש בהזמנה עם משאבים אחרים, אבל לא רוצים שמופע Agent Platform Workbench הקיים ישתמש בה, אתם צריכים למחוק את המופע.

חיוב

כשמשתמשים בשמירת מקום ב-Compute Engine, החיוב הוא על:

  • המשאבים של Compute Engine, כולל הנחות רלוונטיות תמורת התחייבות לשימוש (CUDs), במחירים של Compute Engine. לחיובים האלה יש את התווית goog-vertex-ai-product: workbench-instances במק"ט. המחירון של Compute Engine

  • דמי ניהול של Agent Platform Workbench בנוסף לשימוש בתשתית. למחירון של Agent Platform Workbench

פתרון בעיות

כדי למצוא שיטות לאבחון ולפתרון שגיאות שקשורות לשימוש בהזמנות עם מופעים של Agent Platform Workbench, אפשר לעיין במאמר בנושא פתרון בעיות במופעים של Agent Platform Workbench.

המאמרים הבאים