‫Google משתמשת בטכנולוגיית AI כדי לתרגם תוכן לשפה המועדפת עליך. בתרגומים כאלו עשויות להיות שגיאות.

יצירת מספר גדול של מופעים של A4X Max שעברו אופטימיזציה באמצעות AI

Clustered GPUs

במאמר הזה מתוארים השלבים ליצירת מכונות Compute Engine בכמות גדולה, שמשתמשות בסוגי מכונות שעברו אופטימיזציה למאיץ A4X Max. מידע על אפשרויות ליצירת מכונות וקלאסטרים של Compute זמין בדף סקירה כללית של אפשרויות הפריסה.

סוג המכונה של A4X Max

מכונה של Compute Engine, או מכונת מחשוב, היא משאב מחשוב שמארח בתשתית של Google מכונה וירטואלית (VM) או מכונת Bare Metal. מכונות A4X Max זמינות כמכונות Bare Metal, ששונות ממכונות וירטואליות בכך שהן מספקות גישה ישירה ולא וירטואלית לחומרה הפיזית הבסיסית. מידע נוסף על סוג המכונה A4X Max זמין במאמר בנושא סדרת A4X Max במסמכי העזרה של Compute Engine.

לפני שמתחילים

לפני שיוצרים כמה מופעים של A4X Max בבת אחת, אם עדיין לא עשיתם זאת, צריך לבצע את השלבים הבאים:

בוחרים אפשרות צריכה: האפשרות שתבחרו לצריכה תקבע איך תקבלו ותשתמשו במשאבי GPU. מידע נוסף זמין במאמר בנושא בחירת אפשרות צריכה.
קבלת קיבולת: התהליך לקבלת קיבולת שונה לכל אפשרות צריכה. כדי לקבל מידע על התהליך להשגת קיבולת לאפשרות הצריכה שבחרתם, אפשר לעיין במאמר סקירה כללית על קיבולת.
הערה: כשמבקשים קיבולת של A4X Max או A4X, מקבלים אותה במצב של כל הקיבולת. המצב הזה הוא מצב ההפעלה היחיד שנתמך להזמנות של מכונות מסוג A4X Max או A4X. מידע נוסף על מצב קיבולת מלאה זמין במאמר בנושא מצב הפעלה של הזמנה.

צריך לבחור את הכרטיסייה הרלוונטית לאופן שבו תכננתם להשתמש בדוגמאות בדף הזה:

המסוף

כשמשתמשים במסוף Google Cloud כדי לגשת לשירותים Google Cloud ולממשקי ה-API, לא צריך להגדיר אימות.

gcloud

במסוף Google Cloud , מפעילים את Cloud Shell.

הפעלת Cloud Shell

בחלק התחתון של Google Cloud המסוף יתחיל סשן של Cloud Shell ותופיע הודעה של שורת הפקודה. Cloud Shell היא סביבת מעטפת שבה ה-CLI של Google Cloud מותקן ומוגדרים ערכים לפרויקט הקיים. הסשן יופעל תוך כמה שניות.

REST

כדי להשתמש בסביבת פיתוח מקומית בדוגמאות של API בארכיטקטורת REST שבדף הזה, צריך להשתמש בפרטי הכניסה שאתם נותנים ל-CLI של gcloud.

התקינו את ה-CLI של Google Cloud.

אם אתם משתמשים בספק זהויות חיצוני (IdP), קודם אתם צריכים להיכנס ל-CLI של gcloud באמצעות המאגר המאוחד לניהול זהויות.

מידע נוסף מופיע במאמר אימות לשימוש ב-REST במסמכי האימות של Google Cloud .

מגבלות

כשיוצרים כמות גדולה של מכונות A4X Max, חלות המגבלות הבאות:

לא תקבלו הנחות על שימוש קבוע או הנחות גמישות תמורת התחייבות לשימוש על מכונות שמשתמשות בסוג המכונה הזה.
אפשר ליצור מכונות וירטואליות רק באזורים ובאזורי זמינות מסוימים.
אי אפשר להשתמש בדיסק לאחסון מתמיד (אזורי או של תחום מוגדר). אפשר להשתמש רק ב-Google Cloud Hyperdisk.
סוג המכונה הזה זמין רק בפלטפורמת NVIDIA Grace.
לא ניתן לשנות את סוג המכונה ב-A4X Max. כדי לעבור לסוג המכונה הזה או ממנו, צריך ליצור מופע חדש.
אי אפשר להריץ מערכות הפעלה של Windows בסוג המכונה הזה. רשימה של מערכות הפעלה נתמכות של Linux זמינה במאמר בנושא מערכות הפעלה נתמכות למופעי GPU.
אין תמיכה במופעי A4X Max בתכונות הבאות:
אי אפשר לצרף דיסקים של Hyperdisk ML שנוצרו לפני 4 בפברואר 2026 לסוגי מכונות A4X Max.

חשוב גם לעיין בהגבלות על מדיניות בנושא מיקומי מודעות.

התפקידים הנדרשים

כדי לקבל את ההרשאות שנדרשות ליצירת מכונות וירטואליות בכמות גדולה, צריך לבקש מהאדמין להקצות לכם ב-IAM את התפקיד אדמין מכונות של Compute ‏ (v1) (roles/compute.instanceAdmin.v1) בפרויקט. כדי לקרוא הסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

זהו תפקיד שמוגדר מראש וכולל את ההרשאות שנדרשות ליצירת מכונות וירטואליות בכמות גדולה. כדי לראות בדיוק אילו הרשאות נדרשות, אפשר להרחיב את הקטע ההרשאות הנדרשות:

ההרשאות הנדרשות

כדי ליצור מכונות וירטואליות בכמות גדולה, צריך את ההרשאות הבאות:

‫compute.instances.create בפרויקט
כדי להשתמש באימג' בהתאמה אישית ליצירת המכונה הווירטואלית (VM)‏: ‫compute.images.useReadOnly בקובץ אימג'
כדי להשתמש ב-snapshot ליצירת המכונה הווירטואלית: ‫compute.snapshots.useReadOnly בקובץ snapshot
כדי להשתמש בתבנית של הגדרות מכונה ליצירת המכונה הווירטואלית: compute.instanceTemplates.useReadOnly בתבנית של הגדרות המכונה
כדי לציין רשת משנה למכונה הווירטואלית: ‫compute.subnetworks.use בפרויקט או ברשת המשנה שנבחרה
כדי לציין כתובת IP סטטית למכונה הווירטואלית: ‫compute.addresses.use בפרויקט
כדי להקצות כתובת IP חיצונית למכונה הווירטואלית כשמשתמשים ברשת VPC: ‫compute.subnetworks.useExternalIp בפרויקט או ברשת המשנה שנבחרה
כדי להקצות רשת מדור קודם למכונה הווירטואלית: ‫compute.networks.use בפרויקט
כדי להקצות כתובת IP חיצונית למכונה הווירטואלית כשמשתמשים ברשת מדור קודם: ‫compute.networks.useExternalIp בפרויקט
כדי להגדיר מטא-נתונים של המכונה הווירטואלית: ‫compute.instances.setMetadata בפרויקט
כדי להגדיר תגים למכונה הווירטואלית: ‫compute.instances.setTags במכונה הווירטואלית
כדי להגדיר תוויות למכונה הווירטואלית: ‫compute.instances.setLabels במכונה הווירטואלית
כדי להגדיר חשבון שירות לשימוש של המכונה הווירטואלית: ‫compute.instances.setServiceAccount במכונה הווירטואלית
כדי ליצור דיסק חדש למכונה הווירטואלית: ‫compute.disks.create בפרויקט
כדי לצרף דיסק קיים במצב קריאה-בלבד או במצב קריאה וכתיבה: ‫compute.disks.use בדיסק
כדי לצרף דיסק קיים במצב קריאה-בלבד: ‫compute.disks.useReadOnly בדיסק

יכול להיות שתקבלו את ההרשאות האלה באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש אחרים.

היסודות של A4X Max

קלאסטר A4X Max מאורגן בהיררכיה של בלוקים ותת-בלוקים כדי לאפשר ביצועים ברשת ללא חסימה בקנה מידה גדול. הבנת הטופולוגיה הזו היא חיונית כשמזמינים קיבולת ומפריסים עומסי עבודה.

מופע A4X Max: מכונת A4X Max היא סוג מכונה יחיד של A4X Max עם 4 מעבדי GPU מצורפים.
Sub-block: תת-בלוק הוא היחידה הבסיסית של קיבולת A4X Max. ב-A4X Max, תת-בלוק מורכב מ-18 מופעי A4X Max (72 GPUs). המופעים האלה יוצרים דומיין NVLink ומחוברים באמצעות מערכת multi-node NVLink. כדי ליצור בלוק משנה של A4X Max, צריך להחיל מדיניות מיקום קומפקטית שמציינת טופולוגיה של 1x72.
חסימה: בלוק A4X Max מורכב מ-25 בלוקים משניים (תחומי NVLink), בסך הכול עד 450 מכונות A4X Max (1,800 יחידות GPU). תתי-הבלוקים בארכיטקטורת rail-aligned כדי לאפשר התאמה לעומס יעילה. כל תת-בלוק דורש מדיניות מיקום קומפקטית. לכן, עבור בלוק אחד של A4X Max, אפשר ליצור 25 כללי מדיניות למיקום קומפקטי.

בטבלה הבאה מפורטות אפשרויות הטופולוגיה הנתמכות עבור מופעי A4X Max:

טופולוגיה (`gpuTopology`)	מספר יחידות ה-GPU	מספר המופעים
`1x72`	72	18

סקירה כללית

יצירת מספר רב של אינסטנסים באמצעות סוג המכונה A4X Max כוללת את השלבים הבאים:

יצירת רשתות VPC
יצירת מדיניות למיקום קומפקטי
יצירת מכונות בכמות גדולה
התקנת דרייברים של GPU

יצירת רשתות VPC

הערה: אם אתם מגדירים בדיקה מהירה, אתם יכולים לדלג על השלב הזה ולציין במקום זאת כרטיס רשת יחיד. --network-interface=nic-type=IDPF

כדי להגדיר את הרשת לסוגי המכונות A4X Max, צריך ליצור שלוש רשתות VPC לממשקי הרשת הבאים:

‫2 רשתות VPC רגילות עבור ממשקי הרשת (NIC) של IDPF. לאחר מכן, כרטיסי ה-NIC משתמשים ברשתות ה-VPC האלה לתקשורת בין המארחים.
רשת VPC אחת עם פרופיל רשת RoCE metal עבור כרטיסי ה-NIC מסוג CX-8 כשיוצרים כמה תת-בלוקים של A4X Max. רשת VPC של RoCE למכונות Bare Metal יוצרת באופן אוטומטי תת-רשת אחת בשם default-subnet-1-RDMA_NAME_PREFIX-net לכל שמונה כרטיסי ה-NIC של CX-8. כרטיסי ה-NIC האלה משתמשים ב-RDMA על Converged Ethernet ‏ (RoCE), ומספקים את התקשורת עם רוחב הפס הגבוה וההשהיה הנמוכה שחיונית להרחבת קנה המידה למספר תת-בלוקים של A4X Max.

מידע נוסף על סידור כרטיסי רשת זמין במאמר בדיקת רוחב הפס ברשת וסידור כרטיסי הרשת.

אפשר ליצור את הרשתות באופן ידני לפי ההוראות במדריכים, או באופן אוטומטי באמצעות הסקריפט שסופק.

מדריכים להוראה

כדי ליצור את הרשתות, אפשר להשתמש בהוראות הבאות:

כדי ליצור את רשתות ה-VPC הרגילות לממשקי הרשת של IDPF, אפשר לעיין במאמר בנושא יצירה וניהול של רשתות ענן וירטואלי פרטי.
כדי ליצור רשת VPC של RoCE למכונות Bare Metal‏ (roce-metal), אפשר לעיין במאמר בנושא יצירת רשת של ענן וירטואלי פרטי עבור כרטיסי רשת של RDMA.

ברשתות ה-VPC האלה, מגדירים את יחידת השידור המקסימלית (MTU) לערך גדול יותר. בסוגי מכונות A4X Max, ה-MTU המומלץ הוא 8896 בייט. כדי לבדוק את הגדרות ה-MTU המומלצות לסוגים אחרים של מכונות GPU, אפשר לעיין במאמר בנושא הגדרות MTU לסוגים של מכונות GPU.

Script

כדי ליצור את הרשתות, פועלים לפי השלבים הבאים.

משתמשים בסקריפט הבא כדי ליצור רשתות VPC רגילות עבור כרטיסי ה-NIC של IDPF.



    #!/bin/bash

    # Create regular VPC network for the IDPF NICs
    gcloud compute networks create IDPF_NETWORK_PREFIX-net \
        --subnet-mode=custom \
        --mtu=8896 \
        --enable-ula-internal-ipv6

    # Create subnets for the IDPF NICs
    for N in $(seq 0 1); do
      gcloud compute networks subnets create IDPF_NETWORK_PREFIX-$N \
        --network=IDPF_NETWORK_PREFIX-net \
        --region=REGION \
        --stack-type=IPV6_ONLY \
        --ipv6-access-type=INTERNAL
    done

    gcloud compute firewall-rules create IDPF_NETWORK_PREFIX-internal \
      --network=IDPF_NETWORK_PREFIX-net \
        --action=ALLOW \
        --rules=tcp:0-65535,udp:0-65535,58 \
        --source-ranges=IP_RANGE

אם אתם צריכים כמה תת-בלוקים של A4X Max, אתם יכולים להשתמש בסקריפט הבא כדי ליצור את רשת ה-VPC של RoCE למכונות Bare Metal ‏ (roce-metal) ולהשתמש בתת-הרשת שנוצרה באופן אוטומטי עבור שמונה כרטיסי ה-NIC של CX-8 בכל מכונת A4X Max.



    #!/bin/bash

    # List and make sure network profiles exist in the machine type's zone
    gcloud compute network-profiles list --filter "location.name=ZONE"

    # Create RoCE VPC network for bare metal instances (roce-metal)
    gcloud compute networks create RDMA_NAME_PREFIX-net \
      --network-profile=ZONE-vpc-roce-metal \
      --subnet-mode custom \
      --mtu=8896

    # For RoCE VPC networks for bare metal instances, a single subnet named
    # default-subnet-1-RDMA_NAME_PREFIX-net is automatically provided.
    # For more details, see https://cloud.google.com/vpc/docs/rdma-network-profiles.

מחליפים את מה שכתוב בשדות הבאים:

‫IDPF_NETWORK_PREFIX: התחילית של השם המותאם אישית לשימוש ברשתות VPC רגילות ובתת-רשתות עבור כרטיסי ה-NIC של IDPF.
‫RDMA_NAME_PREFIX: הקידומת של השם המותאם אישית לשימוש ברשת ה-VPC של RoCE עבור מופעי Bare Metal ‏ (roce-metal) עבור כרטיסי ה-NIC מסוג CX-8.
‫ZONE: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין, למשל us-central1-a. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ואזורי זמינות.
‫REGION: האזור שבו רוצים ליצור את רשתות המשנה. האזור הזה צריך להתאים לאזור שצוין. לדוגמה, אם האזור הוא us-central1-a, האזור הוא us-central1.
‫IP_RANGE: טווח כתובות ה-IP שבו ייעשה שימוש עבור כללי חומת האש של SSH.

אופציונלי: כדי לוודא שהמשאבים של רשת ה-VPC נוצרו בהצלחה, בודקים את הגדרות הרשת במסוף Google Cloud :
1. נכנסים לדף VPC networks במסוף Google Cloud .
  מעבר לרשתות VPC
2. מחפשים ברשימה את הרשתות שיצרתם בשלב הקודם.
3. כדי לראות את רשתות המשנה, את כללי חומת האש והגדרות רשת אחרות, לוחצים על שם הרשת.

יצירת מדיניות למיקום קומפקטי

כדי ליצור מדיניות למיקום קומפקטי, בוחרים באחת מהאפשרויות הבאות:

gcloud

כדי ליצור מדיניות למיקום קומפקטי, משתמשים בפקודה gcloud compute resource-policies create group-placement:

gcloud compute resource-policies create group-placement POLICY_NAME \
    --collocation=collocated \
    --gpu-topology=1x72 \
    --region=REGION

מחליפים את מה שכתוב בשדות הבאים:

‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
‫REGION: האזור שבו רוצים ליצור את מדיניות המיקום הקומפקטי. מציינים את האזור שמכיל את התחום שבו מתכננים ליצור מכונות, ומוודאים שסוג המכונה שרוצים להשתמש בו זמין באזור הזה. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ואזורי זמינות.

REST

כדי ליצור מדיניות למיקום קומפקטי, שולחים בקשת POST אל ה-method‏ resourcePolicies.insert.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "POLICY_NAME",
    "groupPlacementPolicy": {
      "collocation": "COLLOCATED",
      "gpuTopology": "1x72"
    }
  }

מחליפים את מה שכתוב בשדות הבאים:

PROJECT_ID: מזהה הפרויקט.
‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
‫REGION: האזור שבו רוצים ליצור את מדיניות המיקום הקומפקטי. מציינים את האזור שמכיל את התחום שבו מתכננים ליצור מכונות, ומוודאים שסוג המכונה שרוצים להשתמש בו זמין באזור הזה. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ואזורי זמינות.

יצירת מכונות A4X Max בכמות גדולה

כדי לקבל טופולוגיית GPU של 1x72, צריך ליצור 18 מכונות A4X Max. כשיוצרים את המופעים, צריך להחיל את מדיניות המיקום הקומפקטי שמציינת את השדה gpuTopology. החלת המדיניות מבטיחה ש-Compute Engine ייצור את כל 18 המופעים של A4X Max בתת-בלוק אחד כדי להשתמש בדומיין NVLink. אם אין מספיק קיבולת בכל תת-הבלוקים לכל 18 המופעים של A4X Max, יצירת המופעים בכמות גדולה תיכשל ולא ייצור אף מופע.

אם עומס העבודה יכול לפעול עם פחות מ-18 מופעים של A4X Max, אפשר להגדיר את השדה minCount למספר המינימלי של המופעים שנדרשים לעומס העבודה. אם רוצים להשתמש בכל הקיבולת הזמינה, צריך להגדיר את השדה minCount לערך 1.

חשוב: כשיוצרים כמה מופעי A4X Max בבת אחת עם טופולוגיה של 1x72, מערכת Compute Engine מקצה למדיניות המיקום שבה נעשה שימוש בתהליך היצירה בלוק משנה שלם של 18 מופעים (דומיין NVLink). אם תיצרו פחות מ-18 מכונות, המכונות שלא נעשה בהן שימוש בתת-הבלוק הזה יישארו במצב בלי פעילות ולא יהיו זמינות לבקשות אחרות שמשתמשות במדיניות מיקום שונה. עם זאת, אפשר להקצות את המקרים האלה שלא נעשה בהם שימוש באמצעות אותה מדיניות. כדי למקסם את יעילות המשאבים, מומלץ ליצור בדיוק 18 מופעים.

כדי ליצור כמה מופעים של A4X Max בבת אחת, בוחרים באחת מהאפשרויות הבאות.

הפקודות הבאות מגדירות גם את היקף הגישה של המכונות. כדי לפשט את ניהול ההרשאות, מומלץ להגדיר את היקף הגישה במופע לגישת cloud-platform ואז להשתמש בתפקידי IAM כדי להגדיר לאילו שירותים המופע יכול לגשת. מידע נוסף זמין במאמר בנושא שיטות מומלצות לשימוש בהיקפים.

gcloud

כדי ליצור כמות גדולה של מכונות A4X Max, משתמשים בפקודה gcloud compute instances bulk create.

מופעי A4X Max תומכים בסוגי ההזמנות הבאים:

שריון מקום שמור לעתיד לבלוקים של קיבולת
הזמנות עתידיות במצב יומן

כדי להשתמש בסוגים האלה של הזמנות, מופע צריך להשתמש במודל הקצאת משאבים שמוגבל להזמנה. לדוגמה, משתמשים בפרמטרים הבאים ליצירה.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=a4x-maxgpu-4g-metal \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=IDPF,network=IDPF_NETWORK_PREFIX-net,stack-type=IPV6_ONLY,subnet=IDPF_NETWORK_PREFIX-sub-0 \
    --network-interface=nic-type=IDPF,network=IDPF_NETWORK_PREFIX-net,stack-type=IPV6_ONLY,subnet=IDPF_NETWORK_PREFIX-sub-1,no-address \
    --network-interface=subnet=default-subnet-1-RDMA_NAME_PREFIX-net,stack-type=IPV6_ONLY,nic-type=mrdma \
    --network-interface=subnet=default-subnet-1-RDMA_NAME_PREFIX-net,stack-type=IPV6_ONLY,nic-type=mrdma \
    --network-interface=subnet=default-subnet-1-RDMA_NAME_PREFIX-net,stack-type=IPV6_ONLY,nic-type=mrdma \
    --network-interface=subnet=default-subnet-1-RDMA_NAME_PREFIX-net,stack-type=IPV6_ONLY,nic-type=mrdma \
    --network-interface=subnet=default-subnet-1-RDMA_NAME_PREFIX-net,stack-type=IPV6_ONLY,nic-type=mrdma \
    --network-interface=subnet=default-subnet-1-RDMA_NAME_PREFIX-net,stack-type=IPV6_ONLY,nic-type=mrdma \
    --network-interface=subnet=default-subnet-1-RDMA_NAME_PREFIX-net,stack-type=IPV6_ONLY,nic-type=mrdma \
    --network-interface=subnet=default-subnet-1-RDMA_NAME_PREFIX-net,stack-type=IPV6_ONLY,nic-type=mrdma \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --restart-on-failure \
    --resource-policies=POLICY_NAME

מחליפים את מה שכתוב בשדות הבאים:

‫NAME_PATTERN: תבנית השם שבה ישתמשו עבור מופעי A4X Max. לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מופעי A4X Max עם שמות כמו instance-1 ו-instance-2, עד למספר מופעי A4X Max שצוין על ידי --count.
‫COUNT: מספר המופעים של A4X Max שרוצים ליצור.
‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר מערכות הפעלה נתמכות.
טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם האצת חומרה לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות לגבי מנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
‫REGION: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. חובה להשתמש באותו אזור כמו במדיניות בנושא מיקומי מודעות קומפקטיים. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ואזורים.
‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
‫IDPF_NETWORK_PREFIX: קידומת השם שציינתם כשייצרתם את רשתות ה-VPC ותת-הרשתות שמשתמשות בכרטיסי NIC של IDPF.
‫RDMA_NAME_PREFIX: תחילית השם שציינתם כשייצרתם את רשתות ה-VPC ואת רשתות המשנה שמשתמשות בכרטיסי RDMA NIC.
‫RESERVATION: שם ההזמנה, הבלוק או תת-הבלוק בהזמנה. כדי לראות את שם ההזמנה או את הבלוקים הזמינים, אפשר לעיין במאמר בנושא הצגת קיבולת מוזמנת. בהתאם לדרישות שלכם לגבי מיקום המופע, בוחרים באחת מהאפשרויות הבאות:
- כדי ליצור מכונות A4X Max בכל בלוק יחיד:
```
    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
    
```
- כדי ליצור מכונות A4X Max בבלוק ספציפי:
```
    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
    
```
- כדי ליצור מופעים של A4X Max בתת-בלוק ספציפי:
```
    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME/reservationSubBlocks/RESERVATION_SUBBLOCK_NAME
    
```
הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.
‫TERMINATION_ACTION: האם מערכת Compute Engine תפסיק (STOP) או תמחק (DELETE) את מכונת A4X Max בסיום תקופת השמירה.
‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.

REST

כדי ליצור מכונות A4X Max בכמות גדולה, שולחים בקשת POST אל ה-method‏ instances.bulkInsert.

מופעי A4X Max תומכים בסוגי ההזמנות הבאים:

שריון מקום שמור לעתיד לבלוקים של קיבולת
הזמנות עתידיות במצב יומן

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "a4x-maxgpu-4g-metal",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
    {
      "accessConfigs": [
        {
          "name": "external-nat",
          "type": "ONE_TO_ONE_NAT"
        }
      ],
      "network": "projects/NETWORK_PROJECT_ID/global/networks/IDPF_NETWORK_PREFIX-net",
      "nicType": "IDPF",
      "stackType": "IPV6_ONLY",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/IDPF_NETWORK_PREFIX-sub-0"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/IDPF_NETWORK_PREFIX-net",
      "nicType": "IDPF",
      "stackType": "IPV6_ONLY",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/IDPF_NETWORK_PREFIX-sub-1"
    },
    {
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/default-subnet-1-RDMA_NAME_PREFIX-net",
      "nicType": "MRDMA",
      "stackType": "IPV6_ONLY"
    },
    {
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/default-subnet-1-RDMA_NAME_PREFIX-net",
      "nicType": "MRDMA",
      "stackType": "IPV6_ONLY"
    },
    {
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/default-subnet-1-RDMA_NAME_PREFIX-net",
      "nicType": "MRDMA",
      "stackType": "IPV6_ONLY"
    },
    {
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/default-subnet-1-RDMA_NAME_PREFIX-net",
      "nicType": "MRDMA",
      "stackType": "IPV6_ONLY"
    },
    {
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/default-subnet-1-RDMA_NAME_PREFIX-net",
      "nicType": "MRDMA",
      "stackType": "IPV6_ONLY"
    },
    {
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/default-subnet-1-RDMA_NAME_PREFIX-net",
      "nicType": "MRDMA",
      "stackType": "IPV6_ONLY"
    },
    {
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/default-subnet-1-RDMA_NAME_PREFIX-net",
      "nicType": "MRDMA",
      "stackType": "IPV6_ONLY"
    },
    {
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/default-subnet-1-RDMA_NAME_PREFIX-net",
      "nicType": "MRDMA",
      "stackType": "IPV6_ONLY"
    }
  ],
    "reservationAffinity": {
        "consumeReservationType": "SPECIFIC_RESERVATION",
        "key": "compute.googleapis.com/reservation-name",
        "values": [
          "RESERVATION"
        ]
      },
    "scheduling": {
        "provisioningModel": "RESERVATION_BOUND",
        "instanceTerminationAction": "DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart": true
      },
    "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]
  }
}

מחליפים את מה שכתוב בשדות הבאים:

‫PROJECT_ID: מזהה הפרויקט שבו רוצים ליצור את מופע A4X Max.
‫ZONE: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. צריך להשתמש באזור שנמצא באותו אזור כמו מדיניות המיקום הקומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ואזורי זמינות.
‫NAME_PATTERN: תבנית השם שבה ישתמשו עבור מופעי A4X Max. לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מופעי A4X Max עם שמות כמו instance-1 ו-instance-2, עד למספר מופעי A4X Max שצוין על ידי --count.
‫COUNT: מספר המופעים של A4X Max שרוצים ליצור.
‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר מערכות הפעלה נתמכות.
טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם האצת חומרה לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות לגבי מנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
‫IDPF_NETWORK_PREFIX: קידומת השם שציינתם כשייצרתם את רשתות ה-VPC ותת-הרשתות שמשתמשות בכרטיסי NIC של IDPF.
‫REGION: האזור של רשת המשנה.
‫RDMA_NAME_PREFIX: תחילית השם שציינתם כשייצרתם את רשתות ה-VPC ואת רשתות המשנה שמשתמשות בכרטיסי RDMA NIC.
‫RESERVATION: שם ההזמנה, הבלוק או תת-הבלוק בהזמנה. כדי לראות את שם ההזמנה או את הבלוקים הזמינים, אפשר לעיין במאמר בנושא הצגת קיבולת מוזמנת. בהתאם לדרישות שלכם לגבי מיקום המופע, בוחרים באחת מהאפשרויות הבאות:
- כדי ליצור מכונות A4X Max בכל בלוק יחיד:
```
    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
    
```
- כדי ליצור מכונות A4X Max בבלוק ספציפי:
```
    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
    
```
- כדי ליצור מופעים של A4X Max בתת-בלוק ספציפי:
```
    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME/reservationSubBlocks/RESERVATION_SUBBLOCK_NAME
    
```
הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.
‫TERMINATION_ACTION: האם מערכת Compute Engine תפסיק (STOP) או תמחק (DELETE) את מכונת A4X Max בסיום תקופת השמירה.
‫PROJECT_ID: מזהה הפרויקט של מדיניות המיקום הקומפקטית.
‫REGION: האזור של מדיניות המיקום הקומפקטי.
‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.

למידע נוסף על אפשרויות ההגדרה כשיוצרים כמות גדולה של מכונות וירטואליות, אפשר לעיין במאמר יצירת מכונות וירטואליות בכמות גדולה במאמרי העזרה של Compute Engine.

התקנת דרייברים של GPU

אחרי שיוצרים מופע, המופע לא יכול להשתמש ב-GPU שלו אלא אם מותקנים בו מראש מנהלי ההתקן הנכונים של ה-GPU. אם לא ציינתם תמונת מערכת הפעלה שכוללת מנהלי התקנים של GPU, תוכלו לעיין במאמר התקנת מנהלי התקנים של GPU במסמכי Compute Engine.

יצירת מספר גדול של מופעים של A4X Max שעברו אופטימיזציה באמצעות AI קל לארגן דפים בעזרת אוספים אפשר לשמור ולסווג תוכן על סמך ההעדפות שלך.

סוג המכונה של A4X Max

לפני שמתחילים

המסוף

gcloud

REST

מגבלות

התפקידים הנדרשים

ההרשאות הנדרשות

היסודות של A4X Max

סקירה כללית

יצירת רשתות VPC

מדריכים להוראה

Script

יצירת מדיניות למיקום קומפקטי

gcloud

REST

יצירת מכונות A4X Max בכמות גדולה

gcloud

REST

התקנת דרייברים של GPU

המאמרים הבאים

יצירת מספר גדול של מופעים של A4X Max שעברו אופטימיזציה באמצעות AI