לפני שמתחילים להשתמש ב-Ray ב-Agent Platform, צריך לבצע את השלבים הבאים כדי להגדיר את פרויקט Google ואת Agent Platform SDK for Python:
מגדירים את החיוב בפרויקט, מתקינים את ה-CLI של gcloud ומפעילים את Agent Platform API. כדי לעשות את זה, פועלים לפי השלבים במאמר הגדרת פרויקט וסביבת פיתוח.
דרישה מוקדמת: אתם צריכים לדעת איך לפתח תוכניות באמצעות Ray בקוד פתוח.
ערכת ה-SDK של Ray ב-Agent Platform ל-Python שבה נעשה שימוש כאן היא גרסה של ערכת ה-SDK של Agent Platform ל-Python שכוללת את הפונקציונליות של Ray Client, Ray BigQuery connector, ניהול אשכולות של Ray ב-Gemini Enterprise Agent Platform ותחזיות ב-Gemini Enterprise Agent Platform.
אם משתמשים ב-Ray ב-Agent Platform במסוף, מחברת Colab Enterprise מדריכה אתכם בתהליך ההתקנה של Agent Platform SDK for Python אחרי שיוצרים אשכול Ray. Google Cloud
אם אתם משתמשים ב-Ray ב-Agent Platform ב-Vertex AI Workbench או בסביבת Python אינטראקטיבית אחרת, אתם צריכים להתקין את Agent Platform SDK ל-Python:
# The latest image in the Ray cluster includes Ray 2.47 # The latest supported Python version is Python 3.11. $ pip install google-cloud-aiplatform[ray]
אחרי שמתקינים את ה-SDK, צריך להפעיל מחדש את ליבת המערכת לפני שמייבאים חבילות.
אופציונלי: אם אתם מתכננים לקרוא מ-BigQuery, אתם יכולים ליצור מערך נתונים חדש ב-BigQuery או להשתמש במערך נתונים קיים. כדי לעשות זאת, אפשר לעיין במאמר בנושא יצירת מערך נתונים חדש ב-BigQuery.
(אופציונלי) כדי לצמצם את הסיכון לזליגת נתונים מ-Agent Platform, מפעילים את VPC Service Controls ומציינים רשת VPC כשיוצרים אשכול. מידע נוסף זמין במאמר בנושא VPC Service Controls עם Agent Platform.
אם מפעילים את VPC Service Controls, אי אפשר לגשת למשאבים מחוץ לגבולות גזרה, כמו קבצים בקטגוריה של Cloud Storage.
(אופציונלי) כדי להשתמש בקובץ אימג' של קונטיינר מותאם אישית, מארחים אותו ב-Artifact Registry. תמונה בהתאמה אישית מאפשרת להוסיף תלות ב-Python שלא נכללת בתמונות קונטיינר מוכנות מראש. כדי ליצור תמונות בהתאמה אישית, אפשר לעיין במאמר בנושא אריזת תוכנה במסמכי התיעוד של Docker.
(אופציונלי) אם מציינים רשת VPC כשיוצרים אשכול Ray בפלטפורמת הסוכנים של Gemini Enterprise, מומלץ מאוד להשתמש ברשת VPC במצב אוטומטי בפרויקט. לא ניתן להשתמש ברשתות VPC במצב מותאם אישית וברשתות VPC מרובות באותו פרויקט, והשימוש בהן עלול לגרום לכשל ביצירת אשכול.
אבטחת האשכולות
כדי לאבטח את עומסי העבודה שלכם ב-Ray, מומלץ לפעול לפי השיטות המומלצות וההנחיות לשימוש ב-Ray, כולל הפעלת קוד מהימן ברשתות מהימנות. הפריסה של ray.io במופעי הענן שלכם מתבצעת במסגרת מודל האחריות המשותפת.
מידע נוסף על Google Cloud שיטות מומלצות זמין בעדכון האבטחה הדחוף GCP-2024-020.
מיקומים נתמכים
בטבלת זמינות התכונות מפורטים המיקומים שבהם אפשר להשתמש ב-Ray בפלטפורמת Agent לאימון מודלים בהתאמה אישית.