נקודת מבט על AI ו-ML: מצוינות תפעולית

Last reviewed 2025-04-28 UTC

במסמך הזה, שמופיע בWell-Architected Framework: AI and ML perspective, יש סקירה כללית של העקרונות וההמלצות לבנייה ולהפעלה של מערכות AI ו-ML חזקות ב- Google Cloud. ההמלצות האלה עוזרות לכם להגדיר רכיבים בסיסיים כמו יכולת צפייה, אוטומציה ומדרגיות. ההמלצות במסמך הזה תואמות לעקרון המצוינות התפעולית של Google Cloud Well-Architected Framework.

מצוינות תפעולית בתחום ה-AI ולמידת המכונה היא היכולת לפרוס, לנהל ולפקח בצורה חלקה על מערכות וצינורות של AI ולמידת מכונה, שעוזרים להשיג את היעדים האסטרטגיים של הארגון. מצוינות תפעולית מאפשרת לכם להגיב ביעילות לשינויים, לצמצם את המורכבות התפעולית ולוודא שהפעולות שלכם תואמות ליעדים העסקיים.

ההמלצות במסמך הזה ממופות לעקרונות הליבה הבאים:

בניית בסיס חזק לפיתוח מודלים

כדי לפתח ולפרוס מערכות AI אמינות וניתנות להרחבה שיעזרו לכם להשיג את היעדים העסקיים שלכם, אתם צריכים בסיס חזק לפיתוח מודלים. הבסיס הזה מאפשר ליצור תהליכי עבודה עקביים, להפוך שלבים קריטיים לאוטומטיים כדי לצמצם שגיאות, ולוודא שהמודלים יכולים להתרחב בהתאם לביקוש. בסיס חזק לפיתוח מודלים מבטיח שאפשר לעדכן, לשפר ולאמן מחדש את מערכות ה-ML בצורה חלקה. הבסיס הזה גם עוזר לכם להתאים את הביצועים של המודלים לצרכים העסקיים, להטמיע במהירות פתרונות AI משמעותיים ולהסתגל לדרישות משתנות.

כדי ליצור בסיס חזק לפיתוח מודלים של AI, כדאי לפעול לפי ההמלצות הבאות.

הגדרת הבעיות והתוצאות הנדרשות

לפני שמתחילים פרויקט AI או ML, חשוב להבין היטב את הבעיות העסקיות שרוצים לפתור ואת התוצאות הרצויות. מתחילים עם תרשים של היעדים העסקיים ומפרקים את היעדים למדדי ביצועים מרכזיים (KPI) שניתנים למדידה. כדי לארגן ולתעד את ההגדרות וההשערות של הבעיה בסביבת מחברת Jupyter, אפשר להשתמש בכלים כמו סביבת העבודה של פלטפורמת הסוכנים של Gemini Enterprise. כדי להטמיע ניהול גרסאות לקוד ולמסמכים ולתעד את הפרויקטים, היעדים וההנחות שלכם, אפשר להשתמש בכלים כמו Git. כדי לפתח ולנהל הנחיות לאפליקציות של AI גנרטיבי, אפשר להשתמש ב-Agent Studio בפלטפורמת הסוכנים של Gemini Enterprise.

איסוף ועיבוד מוקדם של הנתונים הנדרשים

כדי להטמיע עיבוד מקדים וטרנספורמציה של נתונים, אפשר להשתמש ב-Dataflow (ל-Apache Beam), ב-Managed Service for Apache Spark (ל-Apache Spark) או ב-BigQuery אם תהליך מבוסס-SQL מתאים. כדי לאמת סכימות ולזהות אנומליות, אפשר להשתמש ב-TensorFlow Data Validation‏ (TFDV) וליהנות מסריקות אוטומטיות של איכות הנתונים ב-BigQuery, במקרים הרלוונטיים.

ב-AI גנרטיבי, איכות הנתונים כוללת דיוק, רלוונטיות, מגוון והתאמה למאפייני הפלט הנדרשים. במקרים שבהם הנתונים מהעולם האמיתי לא מספיקים או לא מאוזנים, אפשר ליצור נתונים סינתטיים כדי לשפר את החוסן וההכללה של המודל. כדי ליצור מערכי נתונים סינתטיים על סמך דפוסים קיימים, או כדי להגדיל את נתוני האימון לשיפור הביצועים של המודל, אפשר להשתמש ב-BigQuery DataFrames וב-Gemini. נתונים סינתטיים חשובים במיוחד ל-AI גנרטיבי כי הם יכולים לעזור לשפר את מגוון הפרומפטים ואת החוסן הכולל של המודל. כשיוצרים מערכי נתונים לצורך כוונון עדין של מודלים של AI גנרטיבי, כדאי להשתמש ביכולות של Gemini Enterprise Agent Platform ליצירת נתונים סינתטיים.

במשימות של AI גנרטיבי כמו כוונון עדין או למידה ממשוב אנושי (RLHF), חשוב לוודא שהתוויות משקפות בצורה מדויקת את האיכות, הרלוונטיות והבטיחות של התוצרים שנוצרו.

בחירת גישה מתאימה ללמידת מכונה

כשמעצבים את המודל והפרמטרים, חשוב לקחת בחשבון את המורכבות של המודל ואת הצרכים החישוביים שלו. בהתאם למשימה (למשל סיווג, רגרסיה או יצירה), כדאי להשתמש באימון מותאם אישית ב-Agent Platform כדי לבנות מודל בהתאמה אישית, או ב-AutoML למשימות פשוטות יותר של למידת מכונה. לשימושים נפוצים, אפשר גם לגשת למודלים שאומנו מראש דרך Model Garden. אתם יכולים להתנסות במגוון מודלים בסיסיים חדשניים למקרים שונים, כמו יצירת טקסט, תמונות וקוד.

יכול להיות שתרצו לבצע התאמה עדינה של מודל בסיס שאומן מראש כדי להשיג ביצועים אופטימליים בתרחיש השימוש הספציפי שלכם. כדי לעמוד בדרישות של ביצועים גבוהים באימון מותאם אישית, צריך להגדיר יחידות עיבוד טנסור (TPU) ב-Cloud או משאבי GPU כדי להאיץ את האימון וההסקה של מודלים של למידה עמוקה, כמו מודלים גדולים של שפה (LLM) ומודלים של דיפוזיה.

הגדרת ניהול גרסאות לקוד, למודלים ולנתונים

כדי לנהל ולפרוס גרסאות קוד בצורה יעילה, כדאי להשתמש בכלים כמו GitHub או GitLab. הכלים האלה מספקים תכונות שיתוף פעולה חזקות, אסטרטגיות של הסתעפות ושילוב עם צינורות CI/CD כדי להבטיח תהליך פיתוח יעיל.

משתמשים בפתרונות מתאימים לניהול כל ארטיפקט במערכת ה-ML, כמו בדוגמאות הבאות:

  • לפריטי קוד כמו קובצי אימג' של קונטיינרים ורכיבי צינורות,‏ Artifact Registry מספק פתרון אחסון ניתן להרחבה שיכול לעזור לשפר את האבטחה. ב-Artifact Registry יש גם ניהול גרסאות, ואפשר לשלב אותו עם Cloud Build ועם Cloud Deploy.
  • כדי לנהל ארטיפקטים של נתונים, כמו מערכי נתונים שמשמשים לאימון ולהערכה, אפשר להשתמש בפתרונות כמו BigQuery או Cloud Storage לאחסון ולניהול גרסאות.
  • כדי לאחסן מטא-נתונים וסמני מיקום לנתונים, משתמשים במערכת בקרת הגרסאות או בקטלוג נתונים נפרד.

כדי לשמור על עקביות בנתוני התכונות ולנהל את הגרסאות שלהם, צריך להשתמש במאגר התכונות של Agent Platform. כדי לעקוב אחרי ארטיפקטים של מודלים ולנהל אותם, כולל קבצים בינאריים ומטא-נתונים, אפשר להשתמש בModel Registry ב-Gemini Enterprise Agent Platform. כך תוכלו לאחסן, לארגן ולפרוס גרסאות של מודלים בצורה חלקה.

כדי לוודא שהמודל אמין, כדאי להטמיע Model Monitoring on Gemini Enterprise Agent Platform. זיהוי סחף נתונים, מעקב אחר ביצועים וזיהוי חריגות בסביבת הייצור. במערכות AI גנרטיבי, חשוב לעקוב אחרי שינויים באיכות הפלט ובעמידה בדרישות הבטיחות.

אוטומציה של מחזור החיים של פיתוח המודל

אוטומציה עוזרת לייעל כל שלב במחזור החיים של AI ו-ML. האוטומציה מצמצמת את המאמץ הידני ומבצעת תהליכים באופן סטנדרטי, וכך משפרת את היעילות התפעולית ומפחיתה את הסיכון לשגיאות. תהליכי עבודה אוטומטיים מאפשרים לבצע איטרציות מהר יותר, פריסה עקבית בסביבות שונות ותוצאות אמינות יותר, כך שהמערכות שלכם יכולות להתרחב ולהסתגל בצורה חלקה.

כדי להפוך את מחזור החיים של הפיתוח של מערכות ה-AI וה-ML לאוטומטי, כדאי לעיין בהמלצות הבאות.

שימוש במערכת לניהול צינורות עיבוד נתונים

אפשר להשתמש ב-Gemini Enterprise Agent Platform Pipelines כדי להפוך כל שלב במחזור החיים של למידת מכונה לאוטומטי – מהכנת הנתונים ועד לאימון המודל, להערכה ולפריסה. כדי לזרז את הפריסה ולשמור על עקביות בין הפרויקטים, כדאי להשתמש בהרצות מתוזמנות של צינורות לעיבוד נתונים כדי לבצע אוטומציה למשימות שחוזרות על עצמן, במדדי ביצוע כדי לעקוב אחרי תהליכי עבודה, ובתבניות של צינורות לעיבוד נתונים שאפשר לעשות בהן שימוש חוזר כדי לפתח תהליכי עבודה סטנדרטיים. היכולות האלה כוללות מודלים של AI גנרטיבי, שלרוב נדרשים בשבילם שלבים מיוחדים כמו הנדסת פרומפטים, סינון תשובות והערכה של human-in-the-loop. ב-AI גנרטיבי, פייפליין של Agent Platform יכול לבצע אוטומציה של השלבים האלה, כולל הערכה של התוצאות שנוצרו בהשוואה למדדי איכות ולהנחיות בטיחות. כדי לשפר את מגוון הפרומפטים ואת חוסן המודל, תהליכי עבודה אוטומטיים יכולים לכלול גם טכניקות להגדלת מערך הנתונים.

הטמעה של צינורות עיבוד נתונים של CI/CD

כדי להפוך את הפיתוח, הבדיקה והפריסה של מודלים של למידת מכונה לאוטומטיים, משתמשים ב-Cloud Build. השירות הזה יעיל במיוחד כשמריצים חבילות של בדיקות לקוד של אפליקציה, כדי לוודא שהתשתית, התלות והאריזה של המודל עומדים בדרישות הפריסה.

מערכות ML לרוב מצריכות שלבים נוספים מעבר לבדיקת הקוד. לדוגמה, צריך לבצע בדיקת מאמץ על המודלים בעומסים משתנים, לבצע הערכות בכמות גדולה כדי להעריך את ביצועי המודל במערכי נתונים מגוונים, ולאמת את תקינות הנתונים לפני אימון מחדש. כדי לדמות עומסי עבודה ריאליים לבדיקות מאמץ, אפשר להשתמש בכלים כמו Locust,‏ Grafana k6 או Apache JMeter. כדי לזהות צווארי בקבוק, כדאי לעקוב אחרי מדדים מרכזיים כמו זמן אחזור, שיעור שגיאות וניצול משאבים באמצעות Cloud Monitoring. במקרה של AI גנרטיבי, הבדיקות צריכות לכלול גם הערכות שספציפיות לסוג התוכן שנוצר, כמו איכות הטקסט, נאמנות התמונה או פונקציונליות הקוד. ההערכות האלה יכולות לכלול מדדים אוטומטיים כמו פרפלקסיטי (מידת ההסתברות של מודל השפה) או הערכה של 'אדם בתהליך' (HITL) להיבטים מורכבים יותר כמו יצירתיות ובטיחות.

כדי להטמיע משימות של בדיקה והערכה, אפשר לשלב את Cloud Build עם שירותים אחרים Google Cloud . לדוגמה, אפשר להשתמש בצינורות של Agent Platform להערכת מודלים אוטומטית, ב-BigQuery לניתוח נתונים בקנה מידה גדול ובאימות של צינורות Dataflow לאימות תכונות.

כדי לשפר עוד יותר את פייפליין ה-CI/CD, אפשר להשתמש בAgent Platform לאימון רציף כדי להפעיל אימון מחדש אוטומטי של מודלים על נתונים חדשים. במקרה של AI גנרטיבי, כדי שהפלט שנוצר יהיה רלוונטי ומגוון, יכול להיות שהאימון מחדש יכלול עדכון אוטומטי של המודלים באמצעות נתוני אימון או הנחיות חדשים. אתם יכולים להשתמש ב-Agent Platform Model Garden כדי לבחור את המודלים הבסיסיים העדכניים ביותר שזמינים לכוונון. השיטה הזו מבטיחה שהמודלים יישארו עדכניים ומותאמים לצרכים העסקיים המשתנים שלכם.

הטמעה של גרסאות מודל בטוחות ומבוקרות

כדי לצמצם את הסיכונים ולהבטיח פריסות אמינות, כדאי ליישם גישה לשחרור מודלים שתאפשר לכם לזהות בעיות בשלב מוקדם, לאמת את הביצועים ולבטל את הפריסה במהירות כשנדרש.

כדי לארוז את מודלים של ML ואת האפליקציות בקובצי אימג' של קונטיינרים ולפרוס אותם, משתמשים ב-Cloud Deploy. אפשר לפרוס את המודלים בנקודות קצה של Agent Platform.

כדי להטמיע גרסאות מבוקרות של אפליקציות ומערכות מבוססות-AI, אפשר להשתמש באסטרטגיות כמו הפצה קנרית. באפליקציות שמשתמשות במודלים מנוהלים כמו Gemini, מומלץ להשיק גרסאות חדשות של האפליקציה בהדרגה לקבוצת משנה של משתמשים לפני הפריסה המלאה. הגישה הזו מאפשרת לכם לזהות בעיות פוטנציאליות בשלב מוקדם, במיוחד כשאתם משתמשים במודלים של AI גנרטיבי שבהם הפלט יכול להשתנות.

כדי להפיץ מודלים שעברו התאמה אישית, אפשר להשתמש ב-Cloud Deploy כדי לנהל את הפריסה של גרסאות המודל, ולהשתמש באסטרטגיית הפצה של גרסה איטרטיבית לקהל מצומצם (canary release) כדי למזער את הסיכון. במודלים מנוהלים ובמודלים שעברו כוונון עדין, המטרה של השקות מבוקרות היא לבדוק שינויים בקרב קהל מוגבל לפני שמשחררים את האפליקציות והמודלים לכל המשתמשים.

כדי לבצע אימות חזק, אפשר להשתמש בניסויים ב-Gemini Enterprise Agent Platform כדי להשוות בין מודלים חדשים למודלים קיימים, ובהערכת מודלים ב-Agent Platform כדי להעריך את הביצועים של המודל. במקרה של AI גנרטיבי, צריך להגדיר מדדי הערכה שתואמים לתרחיש השימוש המיועד ולסיכונים הפוטנציאליים. אתם יכולים להשתמש בשירות ההערכה של AI גנרטיבי ב-Agent Platform כדי להעריך מדדים כמו רעילות, קוהרנטיות, דיוק עובדתי ועמידה בהנחיות הבטיחות.

כדי להבטיח פריסה אמינה, צריך תוכנית חזרה חזקה. במערכות ML מסורתיות, אפשר להשתמש בModel Monitoring on Agent Platform כדי לזהות סחף נתונים וירידה בביצועים. במודלים של AI גנרטיבי, אפשר לעקוב אחרי מדדים רלוונטיים ולהגדיר התראות על שינויים באיכות הפלט או על הופעה של תוכן פוגעני באמצעות הערכת מודלים בפלטפורמת הסוכנים, יחד עם Cloud Logging ו-Cloud Monitoring. הגדרת התראות על סמך מדדים ספציפיים ל-AI גנרטיבי, כדי להפעיל הליכי חזרה למצב הקודם כשצריך. כדי לעקוב אחרי שושלת הנתונים של המודל ולחזור לגרסה היציבה האחרונה, אפשר להשתמש בתובנות ממרשם המודלים.

הטמעה של ניראות

ההתנהגות של מערכות AI ו-ML יכולה להשתנות עם הזמן בגלל שינויים בנתונים או בסביבה ועדכונים במודלים. האופי הדינמי הזה הופך את יכולת התצפית לחיונית כדי לזהות בעיות בביצועים, הטיה או התנהגות לא צפויה. זה נכון במיוחד לגבי מודלים של AI גנרטיבי, כי התוצאות שלהם יכולות להיות מאוד מגוונות וסובייקטיביות. ניראות מאפשרת לכם לטפל באופן יזום בהתנהגות לא צפויה ולוודא שמערכות ה-AI וה-ML שלכם נשארות אמינות, מדויקות והוגנות.

כדי להטמיע יכולת מעקב במערכות AI ו-ML, כדאי לפעול לפי ההמלצות הבאות.

מעקב רציף אחר הביצועים

אחרי הפריסה, אפשר להשתמש במדדים ובקריטריונים להצלחה כדי להעריך את המודלים באופן שוטף.

אתם יכולים להשתמש בModel Monitoring on Agent Platform כדי לעקוב באופן יזום אחרי ביצועי המודל, לזהות training-serving skew וסחף של נתוני חיזוי, ולקבל התראות שיפעילו אימון מחדש של המודל או פעולות אחרות שנדרשות. כדי לעקוב ביעילות אחרי הטיה בין נתוני האימון לנתוני ההגשה, צריך ליצור מערך נתונים מוזהב שמייצג את פיזור הנתונים האידיאלי, ולהשתמש ב-TFDV כדי לנתח את נתוני האימון וליצור סכימה של בסיס.

אפשר להגדיר את התכונה 'מעקב אחרי מודלים' ב-Agent Platform כדי להשוות את חלוקת נתוני הקלט למערך הזהב לזיהוי אוטומטי של הטיה. במודלים מסורתיים של למידת מכונה, כדאי להתמקד במדדים כמו דיוק, רמת דיוק, היזכרות, ציון F1,‏ AUC-ROC ואובדן לוגריתמי. הגדרת ספי התראות מותאמות אישית ב-Model Monitoring ב-Agent Platform. לגבי AI גנרטיבי, אפשר להשתמש בשירות ההערכה של AI גנרטיבי כדי לעקוב באופן רציף אחר הפלט של המודל בסביבת הייצור. אפשר גם להפעיל מדדי הערכה אוטומטיים לאיכות התשובה, לבטיחות, להקפדה על ההוראות, לביסוס, לסגנון הכתיבה ולפירוט. כדי להעריך את הפלט שנוצר מבחינת איכות, רלוונטיות, בטיחות ועמידה בהנחיות, אפשר לשלב הערכה של human-in-the-loop.

יוצרים לולאות משוב כדי לאמן מחדש מודלים באופן אוטומטי באמצעות צינורות של Agent Platform כשמערכת Model Monitoring ב-Agent Platform מפעילה התראה. התובנות האלה יעזרו לכם לשפר את המודלים באופן מתמשך.

הערכת מודלים במהלך הפיתוח

לפני שפורסים מודלים גדולים של שפה (LLM) ומודלים אחרים של AI גנרטיבי, חשוב לבצע הערכה יסודית שלהם בשלב הפיתוח. השימוש בהערכת מודלים ב-Agent Platform מאפשר לכם להשיג ביצועים אופטימליים ולצמצם את הסיכון. אפשר להשתמש בהערכה מהירה של Agent Platform כדי לאפשר ל- Google Cloud להריץ באופן אוטומטי הערכות על סמך קבוצת הנתונים והפרומפטים שאתם מספקים.

אתם יכולים גם להגדיר ולשלב מדדים מותאמים אישית שספציפיים לתרחיש השימוש שלכם. כדי לקבל משוב על תוכן שנוצר, אפשר לשלב תהליכי עבודה של human-in-the-loop באמצעות הערכת מודלים ב-Agent Platform.

להשתמש בבדיקות יריבות כדי לזהות נקודות חולשה ומצבי כשל פוטנציאליים. כדי לזהות הטיות פוטנציאליות ולצמצם אותן, אפשר להשתמש בשיטות כמו ניתוח של תת-קבוצות ויצירת תרחישים היפותטיים. אפשר להשתמש בתובנות שנאספו מההערכות שהושלמו במהלך שלב הפיתוח כדי להגדיר את אסטרטגיית המעקב אחר המודל בסביבת הייצור. כדאי להכין את הפתרון למעקב שוטף כמו שמתואר בקטע מעקב שוטף אחר הביצועים במסמך הזה.

מעקב אחר הזמינות

כדי לקבל תובנות לגבי התקינות והביצועים של נקודות הקצה והתשתית שפרסתם, תוכלו להשתמש ב-Cloud Monitoring. עבור נקודות הקצה של Agent Platform, כדאי לעקוב אחרי מדדי מפתח כמו קצב הבקשות, שיעור השגיאות, זמן האחזור וניצול המשאבים, ולהגדיר התראות על אנומליות. מידע נוסף זמין במאמר בנושא מדדים של Cloud Monitoring עבור Agent Platform.

מעקב אחר תקינות התשתית הבסיסית, שיכולה לכלול מכונות וירטואליות ב-Compute Engine, אשכולות Google Kubernetes Engine ‏ (GKE) ומעבדי TPU ו-GPU. קבלת המלצות אוטומטיות לאופטימיזציה מ-Active Assist. אם אתם משתמשים בהתאמת קנה מידה אוטומטית, כדאי לעקוב אחרי התנהגות ההתאמה כדי לוודא שהיא מגיבה בצורה מתאימה לשינויים בדפוסי התנועה.

כדי לעקוב אחרי הסטטוס של פריסות מודלים, כולל השקות קנרי והחזרות לגרסה קודמת, אפשר לשלב את Cloud Deploy עם Cloud Monitoring. בנוסף, כדאי לעקוב אחרי איומי אבטחה ונקודות חולשה פוטנציאליים באמצעות Security Command Center.

הגדרת התראות בהתאמה אישית לגבי ספים ספציפיים לעסק

כדי לזהות ולתקן חריגות ובעיות בזמן, כדאי להגדיר התראות מותאמות אישית על סמך ספים שספציפיים ליעדים העסקיים שלכם. דוגמאות Google Cloud למוצרים שבהם אפשר להשתמש כדי להטמיע מערכת התראות בהתאמה אישית:

  • ‫Cloud Logging: איסוף, אחסון וניתוח של יומנים מכל הרכיבים של מערכת ה-AI וה-ML.
  • ‫Cloud Monitoring: יצירת לוחות בקרה מותאמים אישית להצגה חזותית של מדדים ומגמות מרכזיים, והגדרת מדדים מותאמים אישית לפי הצרכים שלכם. אתם יכולים להגדיר התראות כדי לקבל עדכונים על בעיות קריטיות, ולשלב את ההתראות עם כלי ניהול האירועים שלכם, כמו PagerDuty או Slack.
  • Error Reporting: תיעוד וניתוח אוטומטיים של שגיאות וחריגים.
  • ‫Cloud Trace: ניתוח הביצועים של מערכות מבוזרות וזיהוי צווארי בקבוק. המעקב שימושי במיוחד להבנת זמן האחזור בין רכיבים שונים של צינור הנתונים של ה-AI וה-ML.
  • ‫Cloud Profiler: ניתוח רציף של ביצועי הקוד בסביבת הייצור וזיהוי צווארי בקבוק בביצועים בשימוש במעבד או בשימוש בזיכרון.

יצירת תרבות של מצוינות תפעולית

התמקדות לא רק בפיתוח מודלים, אלא גם בפיתוח פתרונות AI ברי-קיימא, אמינים ומשמעותיים. נותנים לצוותים את הכלים ללמוד, לחדש ולשפר באופן מתמשך, וכך מקצרים את מחזורי הפיתוח, מצמצמים את השגיאות ומגבירים את היעילות. כדי להבטיח שהיוזמות שלכם בתחום ה-AI וה-ML יניבו ערך באופן עקבי, יפחיתו סיכונים ויקדמו אתיקה של בינה מלאכותית, חשוב לתת עדיפות לאוטומציה, לסטנדרטיזציה ולשיקולים אתיים.

כדי ליצור תרבות של מצוינות תפעולית במערכות ה-AI וה-ML, כדאי ליישם את ההמלצות הבאות.

קידום אוטומציה וסטנדרטיזציה

כדי להדגיש את היעילות והעקביות, כדאי להטמיע אוטומציה ושיטות עבודה סטנדרטיות בכל שלב במחזור החיים של ה-AI ולמידת המכונה. האוטומציה מפחיתה שגיאות ידניות ומאפשרת לצוותים להתמקד בחדשנות. התקנון מבטיח שאפשר לחזור על התהליכים ולהרחיב אותם בצוותים ובפרויקטים.

התמקדות בלמידה ושיפור מתמשכים

חשוב ליצור סביבה שבה למידה מתמשכת וניסויים הם עקרונות מרכזיים. חשוב לעודד את הצוותים להתעדכן בהתפתחויות בתחום ה-AI ולמידת המכונה, ולספק הזדמנויות ללמוד מפרויקטים קודמים. תרבות של סקרנות והסתגלות מובילה לחדשנות ומבטיחה שהצוותים יהיו מוכנים להתמודד עם אתגרים חדשים.

טיפוח תחושת אחריות ובעלות

כדי לבנות אמון ולהשיג התאמה, צריך להגדיר בבירור את התפקידים, תחומי האחריות ומדדי ההצלחה. מאפשרים לצוותים לקבל החלטות מושכלות במסגרת הגבולות האלה, ומגדירים דרכים שקופות למדידת ההתקדמות. תחושת בעלות מניעה את הצוותים ומבטיחה אחריות משותפת לתוצאות.

הטמעת שיקולים אתיים ובטיחותיים לגבי AI

חשוב לתת עדיפות לשיקולים אתיים בכל שלב בפיתוח. חשוב לעודד את הצוותים לחשוב בצורה ביקורתית על ההשפעה של פתרונות ה-AI שלהם, ולעורר דיונים על הוגנות, הטיה והשפעה חברתית. עקרונות ברורים ומנגנוני אחריות מבטיחים שמערכות ה-AI שלכם יתאימו לערכים הארגוניים ויקדמו אמון.

תכנון להשגת מדרגיות

כדי להתמודד עם נפחי נתונים גדלים ודרישות משתמשים, ולמקסם את הערך של השקעות ב-AI, מערכות ה-AI וה-ML שלכם צריכות להיות ניתנות להרחבה. המערכות צריכות להסתגל ולפעול בצורה אופטימלית כדי למנוע צווארי בקבוק בביצועים שיפגעו ביעילות. כשמתכננים מדרגיות, מוודאים שהתשתית של ה-AI יכולה להתמודד עם צמיחה ולשמור על היענות. שימוש בתשתית שניתנת להרחבה, תכנון של קיבולת ושימוש בשיטות כמו הרחבה אופקית ושירותים מנוהלים.

כדי לתכנן את מערכות ה-AI וה-ML כך שיהיה אפשר להרחיב אותן, כדאי לפעול לפי ההמלצות הבאות.

תכנון בהתאם לקיבולת ולמכסות

כדאי להעריך את הצמיחה העתידית ולתכנן בהתאם את קיבולת התשתית ואת מכסות המשאבים. עובדים עם בעלי עניין בעסק כדי להבין את הצמיחה הצפויה, ואז מגדירים את דרישות התשתית בהתאם.

אפשר להשתמש ב-Cloud Monitoring כדי לנתח את השימוש ההיסטורי במשאבים, לזהות מגמות ולחזות את הצרכים העתידיים. ביצוע בדיקות עומס באופן קבוע כדי לדמות עומסי עבודה ולזהות צווארי בקבוק.

כדאי לעיין בGoogle Cloud מיכסות של השירותים שבהם אתם משתמשים, כמו Compute Engine,‏ Agent Platform ו-Cloud Storage. מומלץ לשלוח בקשות להגדלת המכסה באופן יזום דרך Google Cloud המסוף, ולנמק את הבקשות באמצעות נתונים מחיזוי ומבדיקות עומס. מעקב אחרי השימוש במכסות והגדרת התראות כדי לקבל עדכונים כשמתקרבים למגבלות המכסות.

כדי לייעל את השימוש במשאבים בהתאם לביקוש, צריך לבחור את הגודל המתאים למשאבים, להשתמש במכונות וירטואליות מסוג Spot לעומסי עבודה של אצווה עם עמידות בפני תקלות ולהטמיע התאמה אוטומטית לעומס.

הכנה לאירועים בקיבולת שיא

חשוב לוודא שהמערכת יכולה להתמודד עם עליות פתאומיות בתנועת הגולשים או בעומס העבודה במהלך אירועים מרכזיים. כדאי לתעד את האסטרטגיה שלכם לאירועי שיא ולבצע תרגולים קבועים כדי לבדוק את היכולת של המערכת להתמודד עם עומס מוגבר.

כדי להגדיל את המשאבים באופן משמעותי כשעומס הביקוש עולה, צריך להגדיר מדיניות של התאמה אוטומטית לעומס ב-Compute Engine וב-GKE. כדי להתמודד עם דפוסי שימוש צפויים בתקופות שיא, כדאי להשתמש בשינוי גודל אוטומטי מבוסס-תחזית. כדי להפעיל שינוי גודל אוטומטי על סמך אותות ספציפיים לאפליקציה, משתמשים במדדים מותאמים אישית ב-Cloud Monitoring.

אפשר להפיץ את התנועה בין כמה מופעים של אפליקציה באמצעות Cloud Load Balancing. בוחרים את סוג מאזן העומסים המתאים בהתאם לצרכים של האפליקציה. אם יש לכם משתמשים שמפוזרים גיאוגרפית, אתם יכולים להשתמש באיזון עומסים גלובלי כדי להפנות את התנועה למופע הזמין הקרוב ביותר. בארכיטקטורות מורכבות שמבוססות על מיקרו-שירותים, כדאי להשתמש ב-Cloud Service Mesh.

שמירת תוכן סטטי במטמון בקצה הרשת של Google באמצעות Cloud CDN.

כדי לשמור במטמון נתונים שניגשים אליהם לעיתים קרובות, אפשר להשתמש באחד משירותי מאגרי הנתונים הבאים בזיכרון שמנוהלים באופן מלא:

הפרדה בין רכיבי המערכת באמצעות Pub/Sub להעברת הודעות בזמן אמת ו-Cloud Tasks להרצת משימות אסינכרוניות

הרחבת אפליקציות לסביבת הייצור

כדי להבטיח שניתן יהיה להשתמש במודלים בסביבת ייצור בהיקפים גדולים, אפשר להשתמש בשירותים מנוהלים כמו Agent Platform distributed training ו-Gemini Enterprise Agent Platform Inference. התכונה Agent Platform Inference מאפשרת להגדיר את סוגי המכונות של צמתי החיזוי כשפורסים מודל לנקודת קצה או כשמבקשים חיזויים באצווה. בחלק מהתצורות אפשר להוסיף כרטיסי GPU. בוחרים את סוג המכונה והמאיצים המתאימים כדי לבצע אופטימיזציה של זמן האחזור, התפוקה והעלות.

כדי להרחיב אפליקציות מורכבות של AI ו-Python ועומסי עבודה בהתאמה אישית במשאבי מחשוב מבוזרים, אפשר להשתמש ב-Ray ב-Gemini Enterprise Agent Platform. התכונה הזו יכולה לעזור לכם לבצע אופטימיזציה של הביצועים ולאפשר שילוב חלק עם שירותיGoogle Cloud . ‫Ray on Gemini Enterprise Agent Platform מפשט את המחשוב המבוזר על ידי טיפול בניהול אשכולות, בתזמון משימות ובהעברת נתונים. הוא משתלב עם שירותים אחרים של Agent Platform כמו אימון, חיזוי וצינורות. ‫Ray מספקת סובלנות לתקלות ושינוי גודל אוטומטי, ועוזרת להתאים את התשתית לעומסי עבודה משתנים. היא מציעה מסגרת מאוחדת לאימון מבוזר, לכוונון היפר-פרמטרים, ללמידה חיזוקית ולפריסת מודלים. אפשר להשתמש ב-Ray לעיבוד מראש של נתונים מבוזרים באמצעות Dataflow או Managed Service for Apache Spark, לאימון מודלים מואץ, לכוונון היפר-פרמטרים שניתן להרחבה, ללמידת חיזוק ולחיזוי באצווה במקביל.

שותפים ביצירת התוכן

מחברים:

תורמי תוכן אחרים:

הקודם
סקירה כללית
הבא
אבטחה