קשרים מקצועיים

אם אתם מעוניינים באשכולות אימון של Gemini Enterprise Agent Platform, אתם יכולים לפנות לנציג המכירות שלכם כדי לקבל גישה.

‫Gemini Enterprise Agent Platform training clusters הוא שירות מנוהל שמוקצה כ Google Cloud מופע של Compute Engine בתוך ה-VPC שלכם. מודל הפריסה הזה מאפשר לשירות להתחבר באופן מאובטח לעומסי עבודה אחרים ב-VPC, לשירותים מנוהלים של Google או לרשתות מרובות עננים.

דרישה לגבי MTU ברשת

כדי להשיג ביצועים אופטימליים של הרשת עבור תשתית האימון, צריך להגדיר את יחידת השידור המקסימלית (MTU) של רשת ה-VPC.

ערך ה-MTU המומלץ תלוי בסוג מכונת ה-GPU באשכול:

  • לצמתי A3 Ultra ו-A4: משתמשים ב-MTU‏ 8896.
  • לצמתים מסוג A3 Mega: צריך להשתמש ב-MTU של 8244.

אפשר ליצור VPC חדש או להשתמש ב-VPC קיים.

פריסת אשכולות אימון ב-VPC חדש (מומלץ)

הגישה המומלצת היא לפרוס את אשכול האימון ברשת VPC חדשה שהוגדרה מראש. כך אפשר לוודא שהגדרת ה-MTU הנכונה מוחלת באופן אוטומטי, בלי להשפיע על עומסי העבודה הקיימים.

יש שני שלבים עיקריים לפריסת אשכולות אימון ב-VPC חדש:

  1. יוצרים את רשת ה-VPC: יצירת רשת VPC חדשה. כדי להפעיל פריימים גדולים, צריך להגדיר את ה-MTU ל-8896.

  2. פריסת האשכול: פורסים את אשכול האימון ברשת החדשה שהוגדרה.

בהתאם לסדר הזה, מכונות ה-VM באשכול יקבלו באופן אוטומטי את הגדרת ה-MTU הנכונה כשהן יופעלו בפעם הראשונה.

יצירה והגדרה של VPC חדש

  1. יוצרים את רשת ה-VPC. כדי להפעיל מסגרות ג'מבו, מגדירים את NETWORK_MTU ל-8896. 
        # create VPC network
    gcloud compute networks create NETWORK \
      --project=PROJECT_ID \
      --subnet-mode=custom \
      --mtu=NETWORK_MTU
  2. יוצרים את תת-הרשת שמשמשת לפריסת אשכול האימון, ומעדכנים את הטווח בהתאם לדרישות של הסביבה. בדוגמה הזו, תת-הרשת 192.168.0.0/19 משמשת לפריסת אשכול האימון. 
        # create VPC subnet
    gcloud compute networks subnets create SUBNETWORK \
      --project=PROJECT_ID \
      --network=NETWORK \
      --region=REGION \
      --enable-private-ip-google-access \
      --range=192.168.0.0/19
  3. יוצרים כלל חומת אש ב-IAP שמאפשר קישוריות SSH לאשכול האימון.
        gcloud compute firewall-rules create allow-ssh-ingress-from-iap \
    --direction=INGRESS   --action=allow   --rules=tcp:22 \
    --source-ranges=35.235.240.0/20 --network NETWORK
  4. יוצרים כלל חומת אש לתעבורת נתונים נכנסת (ingress) שמאפשר את כל היציאות והפרוטוקולים לתת-הרשת של אשכול ההדרכה. 
       gcloud compute --project=PROJECT_ID firewall-rules create allow-internal \
   --direction=INGRESS --priority=1000 --network=NETWORK \
   --action=ALLOW --rules=tcp:1-65535,udp:1-65535,icmp \
   --source-ranges=192.168.0.0/19 --enable-logging

פריסת אשכולות אימון ב-VPC קיים

אם אתם פורסים את אשכול האימון ברשת קיימת עם מופעים של Cloud Storage, מומלץ מאוד להשתמש ב-jumbo frames (MTU 8896) כדי להבטיח ביצועים אופטימליים. לפני שמתחילים, צריך לוודא שמערכות ההפעלה והאפליקציות במכונות הווירטואליות הקיימות יכולות לתמוך בשינוי הזה.

כדי להטמיע מסגרות ג'מבו, צריך לעדכן את ה-MTU של ה-VPC. את העדכון הזה צריך לבצע במהלך חלון זמן לתחזוקה מתוכנן, כדי למנוע חוסר יציבות ברשת.

הדרך הבטוחה היחידה היא קודם להפסיק את כל מכונות ה-VM הפעילות באותה רשת. שינוי ה-MTU בזמן שהמכונות הווירטואליות פעילות גורם להגדרות לא תואמות ולחיבור לא אמין.

אחרי שכל המכונות הווירטואליות נעצרו, אפשר להמשיך לשלבים הבאים:

  1. משנים את ה-MTU של הרשת להגדרה שנבחרה (לדוגמה, 8896).
  2. מפעילים מחדש את כל המכונות הווירטואליות אחרי שעדכון הרשת מסתיים.
  3. צריך לעדכן ידנית מכונות וירטואליות שאינן Linux. חשוב לדעת שהפעלה מחדש לא מספיקה לכל מערכות ההפעלה. בעוד שמכונות וירטואליות מתמונות Linux ציבוריות מאמצות באופן אוטומטי את ה-MTU החדש, צריך לעדכן ידנית את הגדרת ה-MTU בתוך מערכת ההפעלה עבור כל מכונות Windows וכל מכונות וירטואליות של תמונות בהתאמה אישית שלא משתמשות ב-DHCP להגדרת MTU.

דרישות נוספות:

  • מפעילים את גישה פרטית ל-Google בתת-הרשת שמשמשת לפריסת האשכול.
  • יוצרים כלל חומת אש לתעבורת נתונים נכנסת (ingress) כדי להעניק ל-IAP גישה לאשכול.
  • יוצרים כלל חומת אש לתעבורת נתונים נכנסת (ingress) כדי לאפשר את כל תעבורת הנתונים אל האשכול.

המאמרים הבאים

אחרי שמכינים את רשת ה-VPC עם הגדרות ה-MTU וכללי חומת האש הנכונים, השלב הבא הוא ליצור את אשכול האימון ולאבטח אותו.

  • אימות הגדרות הרשת: לפני שיוצרים את האשכול, מריצים בדיקת קישוריות כדי לאמת את רשת ה-VPC והגדרות ה-MTU, במיוחד אם שיניתם VPC קיים.
  • מאבטחים את האשכול באמצעות גבולות גזרה לשירות: כדי לשפר את אבטחת המידע, כדאי להשתמש ב-VPC Service Controls כדי ליצור גבולות גזרה לשירות מסביב למשאבים של Gemini Enterprise Agent Platform. כך אפשר למנוע זליגת מידע.
  • התחברות מסביבה היברידית או מרובת-עננים: כדי לגשת לאשכול האימון ממרכז נתונים מקומי או מענן ציבורי, משתמשים באפשרויות שלGoogle Cloudלקישוריות היברידית.