במאמר הזה נסביר איך לתכנן ולעצב את האשכול באמצעות הנחיות ל-Gemini.
Compute Advisor הוא ממשק מבוסס-AI במסוף Google Cloud , שמבוסס על Gemini. הוא עוזר לכם להעריך אפשרויות חומרה, לאמוד את עלויות הפריסה ולראות המלצות להגדרות של האשכולות. כדי להתאים את ההמלצות, Gemini מעריך את הפרויקט שלכם על ידי בדיקת מגבלות המכסה, ההזמנות הקיימות, ההנחות תמורת התחייבות לשימוש (CUD), האזור ואזור הזמינות שמוגדרים כברירת מחדל וההגבלות על מיקום המשאבים. Google Cloud בעזרת Gemini, תוכלו לתכנן את העבודה ולהגיע להגדרה אופטימלית לפני שתיצרו או תשנו אשכול GKE.
מידע נוסף על הרכיבים שצריך להגדיר לפני או במהלך יצירת אשכול GKE זמין במאמר סקירה כללית על GKE.
מגבלות
כשמזינים הנחיה ל-Gemini במסוף Google Cloud , אי אפשר ליצור, לשנות או למחוק משאבים באמצעות Gemini.
לפני שמתחילים
כשמשתמשים במסוף Google Cloud כדי לגשת לשירותים Google Cloud ולממשקי API, לא צריך להגדיר אימות.
התפקידים הנדרשים
כדי לקבל את ההרשאות שנדרשות לגישה ל-Gemini ולשימוש בו, צריך לבקש מהאדמין להקצות לכם את תפקיד ה-IAM Kubernetes Engine Cluster Viewer (roles/container.clusterViewer) בפרויקט.
כדי לקרוא הסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.
זהו תפקיד שמוגדר מראש וכולל את ההרשאות שנדרשות כדי לגשת ל-Gemini ולתת לו הנחיות. כדי לראות בדיוק אילו הרשאות נדרשות, אפשר להרחיב את הקטע ההרשאות הנדרשות:
ההרשאות הנדרשות
כדי לגשת ל-Gemini ולתת לו הנחיות, צריך את ההרשאות הבאות:
-
כדי לראות רשימה של אשכולות:
container.clusters.list
יכול להיות שתקבלו את ההרשאות האלה באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש אחרים.
גישה ל-Gemini במסוף Google Cloud
כדי לגשת אל Gemini במסוף Google Cloud :
במסוף Google Cloud , נכנסים לדף Overview.
בקטע עיצוב התשתית באמצעות Compute Advisor, אפשר לראות את הפרטים הבאים:
רכיבי ממשק המשתמש שמוצגים בצילום המסך שלמעלה הם:
כרטיסי הנחיות לפעולה מהירה: קבוצה של כרטיסים שכל אחד מהם מכיל הנחיה לדוגמה. אם לוחצים על כרטיס, Google Cloud הקונסולה מאכלסת אוטומטית את תיבת הפרומפט עם ההנחיה לדוגמה.
תיבת פרומפט: בשדה הזה אפשר להזין ולשלוח פרומפטים. כדי לשלוח הנחיה, לוחצים על שליחת הנחיה.
הצגת שיחות קודמות: התכונה הזו מאפשרת לכם לראות את הפרטים של שיחה קודמת, להמשיך אותה או למחוק שיחות שכבר לא צריך.
חלונית צדדית של היסטוריית השיחות: מציגה את הצ'אטים האחרונים. החלונית הזו מוצגת רק אחרי שמתחילים להזין הנחיות בדף סקירה כללית. אפשר לבצע פעולות בחלונית הזו באופן הבא:
כדי להתחיל שיחה חדשה, לוחצים על צ'אט חדש.
כדי להמשיך שיחה מהזמן האחרון, לוחצים על השיחה בקטע שיחות מהזמן האחרון.
כדי לראות רשימה של כל השיחות, לוחצים על הצגת הכול. בדף ההיסטוריה שלי אפשר לראות את הפרטים של שיחות קודמות, להמשיך אותן או למחוק אותן אם הן כבר לא נחוצות.
פרומפט ל-Gemini
אחרי ששולחים הנחיה, Gemini מתחיל ליצור תשובה. יופיע חלונית ובמסוף Google Cloud תוצג התשובה להנחיה בחלונית, כמו בצילום המסך הבא:
בהתאם להנחיה, חלונית התשובה כוללת את הרכיבים הבאים:
הארקה לפי הקשר: Gemini מעריך באופן אוטומטי את ההקשר של הפרויקט כדי לספק המלצות מותאמות אישית, כולל מגבלות מכסת השימוש, הזמנות קיימות, הנחות על שימוש מתמשך, האזור ואזור הזמינות שמוגדרים כברירת מחדל ומגבלות על מיקום המשאבים.
קטעי קוד אינטראקטיביים: Gemini יוצר פקודות gcloud, רכיבי method של API בארכיטקטורת REST או משאבי Terraform. אפשר להעתיק ולהדביק את קטעי הקוד האלה או להריץ אותם ב-Cloud Shell.
לוח ציור ויזואלי: Gemini מארגן את ההמלצות בטבלאות מובנות ובהשוואות זו לצד זו. התצוגה הזו עוזרת לכם להעריך את תכונות המוצר ואת הגישות הארכיטקטוניות. הוא גם מספק תוכנית הטמעה לתרחיש השימוש שלכם.
בקטעים הבאים מפורטות שיטות מומלצות לכתיבת הנחיות, וגם דוגמאות להנחיות שאפשר להשתמש בהן לפני שיוצרים או משנים אשכול GKE.
שיטות מומלצות לכתיבת הנחיות
כדי לקבל מ-Gemini המלצות מדויקות ושימושיות, מומלץ להשתמש במבנה הנחיות כמו של בלוק קוד. הגישה הזו מנחה את ה-AI הגנרטיבי באמצעות הצהרות ברורות על פרמטרים, הגדרות של תפקידים, הוראות ספציפיות ופורמטים ברורים של פלט.
כשמנסחים הנחיות ל-Gemini, כדאי לפעול לפי השיטות המומלצות הבאות:
מתמקדים בתכנון ובעיצוב: אנחנו ממליצים לא להנחות את Gemini לפתור בעיות באשכול GKE. כדי לפתור את השגיאות האלה, אפשר לעיין במאמר פתרון בעיות ב-GKE.
מציינים תפקיד או פרסונה: מגדירים תפקיד או פרסונה ש-Gemini צריך לאמץ, כמו אדמין IT, חוקר AI או מהנדס פלטפורמה. הגישה הזו מכתיבה את הטון, העומק ורמת המומחיות של ההמלצות שמתקבלות.
נותנים הוראות מפורטות וממוספרות: מחלקים את המטרה לשאלות או למשימות קונקרטיות ומפורטות. הגישה הזו מארגנת את תהליך החשיבה של Gemini ועוזרת לו לוודא שהוא עונה על כל הדרישות שלכם.
הגדרת פורמט פלט ספציפי: מציינים במפורש איך רוצים שההמלצה תהיה מפורמטת, למשל הסבר מפורט, טבלת השוואה בפורמט Markdown או בלוק קוד gcloud מוכן לשימוש.
שימוש בהארקה אוטומטית של ההקשר: לא צריך לכלול בהנחיה את אזור ברירת המחדל, המכסות הזמינות, הנחות השימוש המחייב או מגבלות על מיקום המשאבים. Gemini יכול לגשת למידע הזה בפרויקט Google Cloud .
שיפור העיצובים באופן איטרטיבי: אתם יכולים לשנות או להרחיב את התשובה ש-Gemini יצר על ידי שליחת הנחיות חדשות. לדוגמה, אתם יכולים לבקש מהעוזר הדיגיטלי להוסיף המלצות לגבי רשת לתוכנית הפריסה שלכם או לשנות את דרישות האחסון בלי להתחיל שיחה חדשה.
פרומפטים לדוגמה
הנה כמה דוגמאות להנחיות שיעזרו לכם לתכנן ולבצע אופטימיזציה של אשכול GKE:
טופולוגיית האשכול והגדרת מאגר הצמתים: כדי לקבוע את מצב GKE האופטימלי, סוגי המכונות והגדרות מאגר הצמתים לעומס עבודה, משתמשים בהנחיה כמו הבאה:
Act as a cloud architect. I need to design a GKE cluster topology for a scalable microservices application that requires both GPU nodes for AI inference and CPU nodes for general-purpose APIs. Please provide the following: 1. A comparison of running this workload on GKE Autopilot versus GKE Standard. 2. Recommendations for GKE machine types for the GPU node pool. 3. The optimal autoscaling and auto-provisioning settings. Format the comparison as a Markdown table, and provide the cluster creation steps as a ready-to-use gcloud CLI command.מודל הקצאת משאבים ואופטימיזציה של עלויות: כדי להעריך מודלים של הקצאת משאבים ולבצע אופטימיזציה של ניצול המשאבים לעומסי עבודה של עיבוד באצווה, אפשר להשתמש בהנחיה כמו הבאה:
Act as an IT administrator. I need to design a cost-optimized GKE cluster to run large-scale batch processing workloads that are fault-tolerant. Please provide the following: 1. A cost and reliability comparison of using Spot VMs versus standard VMs in GKE node pools. 2. An explanation of how to configure Kueue for queueing training jobs. 3. A manifest snippet configuration to deploy the workloads onto Spot VM nodes. Format the comparison as a Markdown table, and provide the manifest as a ready-to-use code block.