נקודת מבט על AI ו-ML: מצוינות תפעולית

Last reviewed 2026-10-29 UTC

במאמר הזה, שהוא חלק מ-Google Cloud Well-Architected Framework: AI and ML perspective, נסביר על העקרונות וההמלצות לבנייה ולהפעלה של מערכות AI ו-ML חזקות ב- Google Cloud. ההמלצות האלה עוזרות לכם להגדיר רכיבים בסיסיים כמו ניראות, אוטומציה וסקלביליות. ההמלצות במסמך הזה תואמות לעקרונות המצוינות התפעולית של Well-Architected Framework.

מצוינות תפעולית בתחום ה-AI וה-ML היא היכולת לפרוס, לנהל ולפקח בצורה חלקה על המערכות והצינורות של ה-AI וה-ML שעוזרים להניע את היעדים האסטרטגיים של הארגון. מצוינות תפעולית מאפשרת לכם להגיב ביעילות לשינויים, לצמצם את המורכבות התפעולית ולוודא שהפעולות שלכם תואמות ליעדים העסקיים.

ההמלצות במסמך הזה ממופות לעקרונות הליבה הבאים:

בניית בסיס חזק לפיתוח מודלים

כדי לפתח ולפרוס מערכות AI אמינות וניתנות להרחבה שיעזרו לכם להשיג את היעדים העסקיים, אתם צריכים בסיס חזק לפיתוח מודלים. תשתית כזו מאפשרת תהליכי עבודה עקביים, הופכת שלבים קריטיים לאוטומטיים כדי לצמצם שגיאות, ומבטיחה שהמודלים יוכלו להתאים לעומסים לפי הצורך. בסיס חזק לפיתוח מודלים מבטיח שאפשר יהיה לעדכן, לשפר ולאמן מחדש את מערכות ML בצורה חלקה. התשתית גם עוזרת להתאים את ביצועי המודלים לצרכים העסקיים, לפרוס במהירות פתרונות AI משפיעים ולהסתגל לדרישות המשתנות.

כדי לבנות בסיס חזק לפיתוח מודלי AI, כדאי לפעול לפי ההמלצות הבאות.

הגדרת הבעיות והתוצאות הנדרשות

לפני שמתחילים פרויקט AI או למידת מכונה, צריך להבין בבירור את הבעיות העסקיות שצריך לפתור ואת התוצאות הנדרשות. מתחילים עם תיאור של היעדים העסקיים ומחלקים אותם למדדי ביצועים מרכזיים (KPI) שאפשר למדוד. כדי לארגן ולתעד את הגדרות הבעיות וההשערות בסביבת Jupyter Notebook, אתם יכולים להשתמש בכלים כמו Gemini Enterprise Agent Platform Workbench. כדי להטמיע ניהול גרסאות של קוד ומסמכים, ולתעד את הפרויקטים, היעדים וההנחות שלכם, השתמשו בכלים כמו Git. כדי לפתח ולנהל הנחיות לאפליקציות של AI גנרטיבי, אתם יכולים להשתמש ב-Agent Studio ב-Gemini Enterprise Agent Platform.

איסוף ועיבוד מראש של הנתונים הנדרשים

כדי להטמיע עיבוד מקדים וטרנספורמציה של נתונים, אתם יכולים להשתמש ב-Dataflow (ל-Apache Beam), ב-Managed Service for Apache Spark (ל-Apache Spark) או ב-BigQuery אם מתאים לכם תהליך שמבוסס על SQL. כדי לאמת סכימות ולזהות חריגות, השתמשו ב-TensorFlow Data Validation (TFDV) ובצעו סריקות אוטומטיות של איכות הנתונים ב-BigQuery במקרים הרלוונטיים.

בבינה מלאכותית גנרטיבית, איכות הנתונים כוללת דיוק, רלוונטיות, גיוון והתאמה למאפייני הפלט הנדרשים. במקרים שבהם הנתונים מהעולם האמיתי לא מספיקים או לא מאוזנים, אפשר ליצור נתונים סינתטיים כדי לשפר את החוסן וההכללה של המודל. כדי ליצור קבוצות נתונים סינתטיות על סמך דפוסים קיימים או כדי להגדיל את נתוני האימון לשיפור ביצועי המודל, השתמשו ב-BigQuery DataFrames. נתונים סינתטיים חשובים במיוחד ל-AI גנרטיבי כי הם יכולים לעזור לשפר את הגיוון של ההנחיות ואת החוסן הכללי של המודל. כשאתם יוצרים מערכי נתונים לכוונון מודלים של AI גנרטיבי, כדאי להשתמש ביכולות ליצירת נתונים סינתטיים ב-Gemini Enterprise Agent Platform.

במשימות של AI גנרטיבי כמו כוונון או למידה ממשוב אנושי (RLHF), חשוב לוודא שהתוויות משקפות בצורה מדויקת את האיכות, הרלוונטיות והבטיחות של הפלט שנוצר.

בחירת גישה מתאימה ללמידת מכונה

כשאתם מתכננים את המודל והפרמטרים, חשוב להביא בחשבון את המורכבות של המודל ואת צורכי החישוב שלו. בהתאם למשימה (כמו סיווג, רגרסיה או יצירה), כדאי להשתמש באימון בהתאמה אישית של Agent Platform כדי ליצור מודל בהתאמה אישית, או ב-AutoML למשימות פשוטות יותר של למידת מכונה. לאפליקציות נפוצות, אפשר גם לגשת למודלים שעברו אימון מראש דרך Model Garden. אתם יכולים להתנסות במגוון מודלים בסיסיים מתקדמים לתרחישים שונים, כמו יצירת טקסט, תמונות וקוד.

כדי להגיע לביצועים אופטימליים בתרחיש לדוגמה הספציפי שלכם, יכול להיות שתרצו לבצע כוונון עדין של מודל בסיס שעבר אימון מראש. כדי לעמוד בדרישות של ביצועים גבוהים באימון בהתאמה אישית, מגדירים Cloud TPU או משאבי GPU כדי להאיץ את האימון וההסקה של מודלים של למידה עמוקה, כמו מודלים של שפה גדולים (LLM) ומודלים של דיפוזיה.

הגדרת ניהול גרסאות לקוד, למודלים ולנתונים

כדי לנהל ולפרוס גרסאות קוד בצורה יעילה, השתמשו בכלים כמו GitHub או GitLab. הכלים האלה מספקים תכונות מתקדמות לשיתוף פעולה, אסטרטגיות הסתעפות ושילוב עם צינורות עיבוד נתונים של CI/CD, כדי להבטיח תהליך פיתוח יעיל.

השתמשו בפתרונות מתאימים כדי לנהל כל פריט מידע שנוצר במערכת ה-ML, כמו בדוגמאות הבאות:

  • לפריטי קוד כמו קובצי אימג' של קונטיינרים ורכיבי צינור עיבוד נתונים, Artifact Registry מספק פתרון אחסון שניתן להתאמה ועוזר לשפר את האבטחה. ב-Artifact Registry יש גם ניהול גרסאות ואפשר לשלב אותו עם Cloud Build ו-Cloud Deploy.
  • כדי לנהל פריטי מידע שנוצרו בתהליך הפיתוח (Artifacts), כמו מערכי נתונים שמשמשים לאימון ולהערכה, השתמשו בפתרונות כמו BigQuery או Cloud Storage לאחסון ולניהול גרסאות.
  • כדי לאחסן מטא-נתונים ומצביעים למיקומי נתונים, השתמשו במערכת בקרת הגרסאות או בקטלוג נתונים נפרד.

כדי לשמור על העקביות וניהול הגרסאות של נתוני המאפיינים, השתמשו ב-Agent Platform Feature Store. כדי לעקוב אחרי פריטי המידע שנוצרו במודל ולנהל אותם, כולל קבצים בינאריים ומטא-נתונים, אתם יכולים להשתמש במרשם המודלים ב-Gemini Enterprise Agent Platform. המרשם מאפשר לאחסן, לארגן ולפרוס גרסאות של מודלים בצורה חלקה.

כדי לוודא שהמודל אמין, כדאי להטמיע את מעקב המודלים ב-Gemini Enterprise Agent Platform. זיהוי שינויים בנתונים, מעקב אחרי הביצועים וזיהוי חריגות בסביבת הייצור. במערכות AI גנרטיבי, צריך לעקוב אחרי שינויים באיכות הפלט ובתאימות לבטיחות.

אוטומציה של מחזור החיים של פיתוח המודל

אוטומציה עוזרת לייעל כל שלב במחזור החיים של AI ו-ML. אוטומציה מפחיתה את המאמץ הידני ויוצרת תהליכים סטנדרטיים, מה שמוביל לשיפור היעילות התפעולית ולהפחתת הסיכון לשגיאות. תהליכי עבודה אוטומטיים מאפשרים איטרציה מהירה יותר, פריסה עקבית בסביבות שונות ותוצאות אמינות יותר, כך שהמערכות שלכם יכולות להתאים את עצמן ולהתרחב בצורה חלקה.

כדי להפוך את מחזור החיים של פיתוח מערכות ה-AI וה-ML לאוטומטי, כדאי לפעול לפי ההמלצות הבאות.

שימוש במערכת מנוהלת לתזמור צינורות עיבוד נתונים

אתם יכולים להשתמש בצינורות עיבוד נתונים ב-Gemini Enterprise Agent Platform כדי להפוך כל שלב במחזור החיים של למידת המכונה לאוטומטי – מהכנת הנתונים ועד לאימון, להערכה ולפריסה של המודל. כדי להאיץ את הפריסה ולקדם עקביות בין פרויקטים, כדאי להפוך משימות חוזרות לאוטומטיות באמצעות הפעלות מתוזמנות של צינורות עיבוד נתונים, לעקוב אחרי תהליכי עבודה באמצעות מדדי ביצוע ולפתח תבניות של צינורות עיבוד נתונים לשימוש חוזר לתהליכי עבודה סטנדרטיים. היכולות האלה כוללות גם מודלים של AI גנרטיבי, שלרוב דורשים שלבים מיוחדים כמו הנדסת פרומפטים, סינון תשובות והערכה של human-in-the-loop. ב-AI גנרטיבי, אפשר להשתמש ב-Agent Platform Pipelines כדי להפוך את השלבים האלה לאוטומטיים, כולל הערכת הפלט שנוצר לפי מדדי איכות והנחיות בטיחות. כדי לשפר את הגיוון של ההנחיות ואת החוסן של המודל, תהליכי עבודה אוטומטיים יכולים לכלול גם טכניקות של הרחבת נתונים.

הטמעת צינורות עיבוד נתונים של CI/CD

כדי להפוך את הפיתוח, הבדיקה והפריסה של מודלים של למידת מכונה לאוטומטיים, משתמשים ב-Cloud Build. השירות הזה יעיל במיוחד כשמריצים חבילות מקרים לבדיקה של קוד אפליקציה, כדי לוודא שהתשתית, יחסי התלות ואריזת המודל עומדים בדרישות הפריסה.

במערכות ML, לעיתים קרובות נדרשים שלבים נוספים מעבר לבדיקת הקוד. לדוגמה, צריך לבדוק את המודלים בעומסים שונים, לבצע הערכות בכמות גדולה כדי לבדוק את הביצועים של המודלים בקבוצות נתונים שונות, ולאמת את תקינות הנתונים לפני אימון מחדש. כדי לדמות עומסי עבודה מציאותיים לבדיקות עומס, אתם יכולים להשתמש בכלים כמו Locust, ‏Grafana k6 או Apache JMeter. כדי לזהות צווארי בקבוק, עוקבים אחרי מדדים מרכזיים כמו זמן אחזור, שיעור השגיאות וניצול המשאבים באמצעות Cloud Monitoring. ב-AI גנרטיבי, הבדיקה צריכה לכלול גם הערכות שספציפיות לסוג התוכן שנוצר, כמו איכות הטקסט, נאמנות התמונה או פונקציונליות הקוד. ההערכות האלה יכולות לכלול מדדים אוטומטיים כמו פרפלקסיטי במודלי שפה, או הערכה של האדם שבתהליך לגבי היבטים מורכבים יותר כמו יצירתיות ובטיחות.

כדי להטמיע משימות בדיקה והערכה, אתם יכולים לשלב את Cloud Build עם שירותי Google Cloud אחרים. לדוגמה, אתם יכולים להשתמש ב-Agent Platform Pipelines להערכת מודלים אוטומטית, ב-BigQuery לניתוח נתונים בקנה מידה גדול ובאימות צינור עיבוד נתונים ב-Dataflow לאימות תכונות.

כדי לשפר עוד יותר את צינור עיבוד הנתונים של CI/CD, אתם יכולים להשתמש בפלטפורמת הסוכנים לאימון מתמשך כדי לאפשר אימון מחדש אוטומטי של מודלים על נתונים חדשים. במיוחד ב-AI גנרטיבי, כדי שהפלט שנוצר יהיה רלוונטי ומגוון, יכול להיות שהאימון מחדש יכלול עדכון אוטומטי של המודלים באמצעות נתוני אימון או הנחיות חדשים. אתם יכולים להשתמש ב-Agent Platform Model Garden כדי לבחור את המודלים הבסיסיים העדכניים ביותר שזמינים לכוונון. כך המודלים נשארים עדכניים ומותאמים לצרכים המשתנים של העסק.

השקת מודלים בצורה בטוחה ומבוקרת

כדי לצמצם את הסיכונים ולהבטיח פריסות אמינות, כדאי להטמיע גישה להשקת מודלים שמאפשרת לזהות בעיות בשלב מוקדם, לאמת את הביצועים ולחזור במהירות לגרסה קודמת במקרה הצורך.

כדי לארוז את המודלים והאפליקציות של ML בקובצי אימג' של קונטיינרים ולפרוס אותם, משתמשים ב-Cloud Deploy. אתם יכולים לפרוס את המודלים בנקודות קצה של Agent Platform.

כדי להשיק גרסאות מבוקרות של אפליקציות ומערכות מבוססות-AI, אתם יכולים להשתמש באסטרטגיות כמו גרסאות איטרטיביות לקהל מצומצם (canary release). באפליקציות שמשתמשות במודלים מנוהלים כמו Gemini, מומלץ להשיק גרסאות חדשות של האפליקציה בהדרגה לקבוצת משתמשים לפני הפריסה המלאה. הגישה הזו מאפשרת לזהות בעיות פוטנציאליות בשלב מוקדם, במיוחד כשמשתמשים במודלים של AI גנרטיבי, שבהם הפלט יכול להשתנות.

כדי להשיק מודלים שעברו כוונון, אתם יכולים להשתמש ב-Cloud Deploy כדי לנהל את הפריסה של גרסאות המודל, ולהשתמש באסטרטגיית גרסה איטרטיבית לקהל מצומצם (canary release) כדי למזער את הסיכון. במודלים מנוהלים ובמודלים שעברו כוונון, המטרה של השקות מבוקרות היא לבדוק את השינויים עם קהל מוגבל לפני שמשיקים את האפליקציות והמודלים לכל המשתמשים.

כדי לבצע אימות חזק, השתמשו בניסויים ב-Gemini Enterprise Agent Platform כדי להשוות בין מודלים חדשים למודלים קיימים, ובהערכת מודלים ב-Agent Platform כדי להעריך את ביצועי המודלים. במיוחד ב-AI גנרטיבי, חשוב להגדיר מדדי הערכה שתואמים לתרחיש השימוש המיועד ולסיכונים הפוטנציאליים. אתם יכולים להשתמש בשירות ההערכה של AI גנרטיבי ב-Agent Platform כדי להעריך מדדים כמו רעילות, עקביות, דיוק עובדתי ועמידה בהנחיות הבטיחות.

כדי להבטיח פריסה אמינה, צריך תוכנית חזרה למצב קודם חזקה. במערכות למידת מכונה מסורתיות, משתמשים במעקב אחרי מודלים ב-Agent Platform כדי לזהות שינויים בנתונים וירידה בביצועים. במודלים של AI גנרטיבי, אתם יכולים לעקוב אחרי מדדים רלוונטיים ולהגדיר התראות על שינויים באיכות הפלט או על הופעה של תוכן פוגעני, באמצעות הערכת המודל ב-Agent Platform בשילוב עם Cloud Logging ו-Cloud Monitoring. הגדירו התראות על סמך מדדים ספציפיים ל-AI גנרטיבי כדי להפעיל תהליכי חזרה למצב קודם במקרה הצורך. כדי לעקוב אחרי שושלת היוחסין של המודל ולחזור לגרסה היציבה האחרונה, אתם יכולים להשתמש בתובנות ממרשם המודלים.

הטמעת ניראות (observability)

ההתנהגות של מערכות AI ו-ML יכולה להשתנות עם הזמן בגלל שינויים בנתונים או בסביבה ועדכונים במודלים. בגלל האופי הדינמי הזה, יכולת התצפית חיונית לזיהוי בעיות בביצועים, הטיות או התנהגות לא צפויה. זה נכון במיוחד לגבי מודלים של AI גנרטיבי, כי הפלט יכול להיות מאוד משתנה וסובייקטיבי. הניראות מאפשרת לכם לטפל באופן יזום בהתנהגות לא צפויה ולוודא שמערכות ה-AI וה-ML שלכם נשארות אמינות, מדויקות והוגנות.

כדי להטמיע יכולת תצפית במערכות ה-AI וה-ML, כדאי לפעול לפי ההמלצות הבאות.

עוקבים אחר הביצועים באופן שוטף

להשתמש במדדים ובקריטריונים להצלחה כדי להעריך באופן שוטף את המודלים אחרי הפריסה.

אתם יכולים להשתמש במעקב אחרי מודלים ב-Agent Platform כדי לעקוב באופן יזום אחרי ביצועי המודל, לזהות training-serving skew וסחף נתוני חיזויים (prediction), ולקבל התראות שיפעילו אימון מחדש של המודל או התערבויות אחרות. כדי לעקוב ביעילות אחרי training-serving skew, צריך ליצור מערך נתונים אידיאלי שמייצג את התפלגות הנתונים האידיאלית, ולהשתמש ב-TFDV כדי לנתח את נתוני האימון וליצור סכימה בסיסית.

כדי לזהות אוטומטית את הסטייה, מגדירים את Model Monitoring ב-Agent Platform כך שישווה בין ההתפלגות של נתוני הקלט לבין קבוצת הנתונים האידיאלית. במודלים מסורתיים של למידת מכונה, מתמקדים במדדים כמו דיוק, דיוק, זיכרון, ציון F1,‏ AUC-ROC ואובדן יומן. הגדרת ספים מותאמים אישית להתראות ב-Model Monitoring ב-Agent Platform. ב-AI גנרטיבי, משתמשים בשירות ההערכה של Gen AI כדי לעקוב באופן רציף אחרי הפלט מהמודל בסביבת הייצור. אתם יכולים גם להפעיל מדדי הערכה אוטומטיים לאיכות התשובה, לבטיחות, לעמידה בהוראות, לביסוס, לסגנון הכתיבה ולדרגת המלל. כדי להעריך את הפלטים שנוצרו מבחינת איכות, רלוונטיות, בטיחות ועמידה בהנחיות, אתם יכולים לשלב הערכה של human-in-the-loop.

ליצור לולאות משוב כדי לאמן מחדש מודלים באופן אוטומטי באמצעות Agent Platform Pipelines, כשמופעלת התראה ב-Model Monitoring ב-Agent Platform. התובנות האלה יעזרו לכם לשפר את המודלים באופן קבוע.

הערכת מודלים במהלך הפיתוח

לפני שפורסים מודלים של LLM ומודלים אחרים של AI גנרטיבי, חשוב לבדוק אותם ביסודיות בשלב הפיתוח. כדי להשיג ביצועים אופטימליים ולצמצם סיכונים, כדאי להשתמש בהערכת המודלים של Agent Platform. אתם יכולים להשתמש בהערכה מהירה של Agent Platform כדי לאפשר ל- Google Cloud להריץ הערכות באופן אוטומטי על סמך קבוצת הנתונים והפרומפטים שאתם מספקים.

אתם יכולים גם להגדיר ולשלב מדדים מותאמים אישית שספציפיים לתרחיש לדוגמה שלכם. כדי לקבל משוב על תוכן שנוצר, אפשר לשלב תהליכי עבודה של "האדם שבתהליך" באמצעות Agent Platform Model Evaluation.

השתמשו בבדיקות אדברסריות כדי לזהות נקודות חולשה ומצבי כשל פוטנציאליים. כדי לזהות הטיות פוטנציאליות ולצמצם אותן, אפשר להשתמש בשיטות כמו ניתוח של תת-קבוצות ויצירת תרחישים חלופיים. כדי להגדיר את אסטרטגיית המעקב אחרי המודל בסביבת הייצור, השתמשו בתובנות שנאספו מההערכות שהושלמו בשלב הפיתוח. מכינים את הפתרון למעקב רציף, כמו שמתואר בקטע מעקב רציף אחרי הביצועים במסמך הזה.

מעקב אחרי הזמינות

כדי לראות את התקינות והביצועים של נקודות הקצה והתשתית שפרסתם, אתם יכולים להשתמש ב-Monitoring. בנקודות הקצה של Agent Platform, עוקבים אחרי מדדים חשובים כמו קצב הבקשות, שיעור השגיאות, זמן האחזור וניצול המשאבים, ומגדירים התראות על חריגות. מידע נוסף זמין במאמר מעקב אחרי מדדים של Agent Platform.

מעקב אחרי התקינות של התשתית הבסיסית, שיכולה לכלול מכונות של Compute Engine, אשכולות של Google Kubernetes Engine (GKE), ו-Cloud TPU ו-GPU. קבלת המלצות אוטומטיות לאופטימיזציה מ-Active Assist. אם אתם משתמשים בהתאמה אוטומטית לעומס, עקבו אחרי ההתנהגות של ההתאמה לעומס כדי לוודא שהיא מגיבה בצורה מתאימה לשינויים בדפוסי תעבורת הנתונים.

מעקב אחרי הסטטוס של פריסות המודלים, כולל גרסאות איטרטיביות לקהל מצומצם (canary release) והחזרות למצב קודם, באמצעות שילוב של Cloud Deploy עם Monitoring. בנוסף, כדאי לעקוב אחרי איומי אבטחה ונקודות חולשה פוטנציאליים באמצעות Security Command Center.

הגדרת התראות בהתאמה אישית לספים ספציפיים לעסק

כדי לזהות ולתקן חריגות ובעיות בזמן, הגדירו התראות בהתאמה אישית על סמך ערכי סף שספציפיים ליעדים העסקיים שלכם. דוגמאות למוצרים של Google Cloud שאפשר להשתמש בהם כדי להטמיע מערכת התראות בהתאמה אישית:

  • רישום ביומן: איסוף, אחסון וניתוח של יומנים מכל הרכיבים של מערכת ה-AI וה-ML.
  • מעקב: יצירת לוחות בקרה בהתאמה אישית כדי להציג מדדים ומגמות עיקריים, והגדרת מדדים בהתאמה אישית לפי הצורך. להגדיר התראות כדי לקבל עדכונים על בעיות קריטיות, ולשלב את ההתראות עם כלים לניהול אירועים כמו PagerDuty או Slack.
  • Error Reporting: תיעוד וניתוח אוטומטיים של שגיאות וחריגות.
  • ‫Cloud Trace: ניתוח הביצועים של מערכות מבוזרות וזיהוי צווארי בקבוק. מעקב שימושי במיוחד להבנת זמן האחזור בין רכיבים שונים של צינור עיבוד הנתונים של AI ו-ML.
  • ‫Cloud Profiler: ניתוח רציף של ביצועי הקוד בסביבת הייצור וזיהוי צווארי בקבוק בביצועים של המעבד או בשימוש בזיכרון.

יצירת תרבות של מצוינות תפעולית

להעביר את המיקוד מפיתוח מודלים בלבד לפיתוח פתרונות AI ברי-קיימא, מהימנים ומשפיעים. הצוותים יכולים ללמוד, לחדש ולהשתפר כל הזמן, וכך לקצר את מחזורי הפיתוח, לצמצם את מספר השגיאות ולייעל את העבודה. אם תתעדפו אוטומציה, סטנדרטיזציה ושיקולים אתיים, תוכלו להבטיח שהיוזמות שלכם בתחום ה-AI וה-ML יספקו ערך באופן עקבי, יצמצמו סיכונים ויקדמו פיתוח אחראי של AI.

כדי ליצור תרבות של מצוינות תפעולית במערכות ה-AI וה-ML, כדאי ליישם את ההמלצות הבאות.

אוטומציה וסטנדרטיזציה

כדי להדגיש את היעילות והעקביות, כדאי להטמיע אוטומציה ושיטות עבודה סטנדרטיות בכל שלב במחזור החיים של ה-AI וה-ML. אוטומציה מפחיתה שגיאות ידניות ומאפשרת לצוותים להתמקד בחדשנות. התקינה מבטיחה שאפשר יהיה לחזור על התהליכים ולהרחיב אותם בין צוותים ופרויקטים.

לתת עדיפות ללמידה ולשיפור מתמשכים

צרו סביבה שבה למידה וניסויים מתמשכים הם עקרונות ליבה. עודדו את הצוותים להתעדכן בהתפתחויות בתחום ה-AI וה-ML, ותנו להם הזדמנויות ללמוד מפרויקטים קודמים. תרבות של סקרנות והסתגלות מעודדת חדשנות ומבטיחה שהצוותים יהיו מוכנים להתמודד עם אתגרים חדשים.

טיפוח תחושת אחריות ובעלות

כדי לבנות אמון ותיאום, חשוב להגדיר בבירור את התפקידים, תחומי האחריות והמדדים להצלחה. תנו לצוותים את הכלים לקבל החלטות מושכלות במסגרת הגבולות האלה, וקבעו דרכים שקופות למדידת ההתקדמות. תחושת בעלות מניעה את הצוותים ומבטיחה אחריות קולקטיבית על התוצאות.

הטמעת שיקולים אתיים ובטיחותיים ב-AI

לתת עדיפות לשיקולים אתיים בכל שלב בפיתוח. עודדו את הצוותים לחשוב באופן ביקורתי על ההשפעה של פתרונות ה-AI שלהם, וקיימו דיונים על הוגנות, הטיה והשפעה חברתית. עקרונות ברורים ומנגנוני אחריות מבטיחים שמערכות ה-AI שלכם תואמות לערכי הארגון ומקדמות אמון.

תכנון למדרגיות

כדי להתאים את עצמכם לנפחי הנתונים שגדלים ולדרישות המשתמשים, וכדי למקסם את הערך של ההשקעות ב-AI, מערכות ה-AI וה-ML שלכם צריכות להיות ניתנות להתאמה לעומס. המערכות צריכות להתאים את עצמן ולפעול בצורה אופטימלית כדי למנוע צווארי בקבוק שפוגעים ביעילות. כשמתכננים את התשתית של ה-AI כך שתהיה ניתנת להתאמה, מבטיחים שהיא תוכל להתמודד עם צמיחה ולשמור על מהירות תגובה. כדאי להשתמש בתשתית שניתנת להתאמה, לתכנן את הקיבולת ולהשתמש באסטרטגיות כמו התאמה אופקית ושירותים מנוהלים.

כדי לתכנן מערכות AI ו-ML שניתן להרחיב, כדאי לפעול לפי ההמלצות הבאות.

תכנון הקיבולת והמכסות

העריכו את הצמיחה העתידית ותכננו בהתאם את קיבולת התשתית ואת מכסות המשאבים. כדאי לעבוד עם בעלי עניין בעסק כדי להבין את הצמיחה הצפויה, ואז להגדיר את דרישות התשתית בהתאם.

אפשר להשתמש ב-Monitoring כדי לנתח את ניצול המשאבים בעבר, לזהות מגמות ולחזות את הצרכים העתידיים. לבצע בדיקות עומס באופן קבוע כדי לדמות עומסי עבודה ולזהות צווארי בקבוק.

חשוב להכיר את המכסותGoogle Cloud של השירותים שבהם אתם משתמשים, כמו Compute Engine,‏ Agent Platform ו-Cloud Storage. מבקשים באופן יזום הגדלה של המכסות דרך מסוף Google Cloud , ומצדיקים את ההגדלה באמצעות נתונים מתחזיות ומבדיקות עומסים. מעקב אחרי השימוש במכסות והגדרת התראות כדי לקבל עדכונים כשהשימוש מתקרב למגבלות המכסה.

כדי לייעל את השימוש במשאבים בהתאם לביקוש, כדאי להתאים את גודל המשאבים, להשתמש ב-VM במודל Spot לעומסי עבודה באצווה (batch) עמידים בכשלים, ולהטמיע התאמה אוטומטית לעומס.

הכנה לאירועי שיא

חשוב לוודא שהמערכת יכולה להתמודד עם עליות חדות פתאומיות בתנועה או בעומס העבודה במהלך אירועי שיא. תעדו את האסטרטגיה שלכם לאירועי שיא, ובצעו תרגילים קבועים כדי לבדוק את היכולת של המערכת להתמודד עם עומס מוגבר.

כדי להגדיל את המשאבים באופן משמעותי כשיש עלייה חדה בביקוש, מגדירים כללי מדיניות להתאמה אוטומטית לעומס ב-Compute Engine וב-GKE. אם דפוסי השיא צפויים, כדאי להשתמש בהתאמה אוטומטית חזויה לעומס. כדי להפעיל התאמה אוטומטית לעומס על סמך אותות ספציפיים לאפליקציה, משתמשים במדדים בהתאמה אישית ב-Monitoring.

להפיץ את התנועה בין כמה מכונות של אפליקציות באמצעות Cloud Load Balancing. בוחרים את סוג מאזן העומסים שמתאים לצורכי האפליקציה. אם המשתמשים מפוזרים מבחינה גיאוגרפית, אפשר להשתמש באיזון עומסים גלובלי כדי לנתב את התנועה למכונה הזמינה הקרובה ביותר. לארכיטקטורות מורכבות שמבוססות על מיקרו-שירותים, כדאי להשתמש ב-Cloud Service Mesh.

שמירת תוכן סטטי במטמון בקצה הרשת של Google באמצעות Cloud CDN.

כדי לשמור במטמון נתונים שניגשים אליהם לעיתים קרובות, אפשר להשתמש באחד משירותי מאגר הנתונים המנוהלים הבאים בזיכרון:

הפרדת הרכיבים של המערכת באמצעות Pub/Sub להעברת הודעות בזמן אמת, ו-Cloud Tasks להרצת משימות אסינכרוניות.

הרחבת האפליקציות לסביבת הייצור

כדי להבטיח הצגה בסביבת ייצור שניתנת להתאמה, אתם יכולים להשתמש בשירותים מנוהלים כמו אימון מבוזר של Agent Platform והסקת מסקנות של Gemini Enterprise Agent Platform. ב-Agent Platform Inference אתם יכולים להגדיר את סוגי המכונות של צומתי החיזוי כשאתם פורסים מודל בנקודת קצה או מבקשים חיזויים באצווה. בחלק מההגדרות אפשר להוסיף מעבדים גרפיים. כדי לבצע אופטימיזציה של זמן האחזור, התפוקה והעלות, צריך לבחור את סוג המכונה והמאיצים המתאימים.

כדי להרחיב את השימוש באפליקציות מורכבות של AI ו-Python ובעומסי עבודה בהתאמה אישית במשאבי מחשוב מבוזרים, אתם יכולים להשתמש ב-Ray ב-Gemini Enterprise Agent Platform. התכונה הזו יכולה לעזור לשפר את הביצועים ומאפשרת שילוב חלק עם שירותיGoogle Cloud . ‫Ray ב-Gemini Enterprise Agent Platform מפשט את החישוב המבוזר על ידי ניהול אשכולות, תזמון משימות והעברת נתונים. הוא משתלב עם שירותים אחרים של Agent Platform, כמו אימון, חיזוי וצינורות עיבוד נתונים. ‫Ray מספק עמידות בפני תקלות והתאמה אוטומטית לעומס (autoscaling), ועוזר להתאים את התשתית לעומסי עבודה משתנים. היא מספקת מסגרת אחידה לאימון מבוזר, כוונון היפר-פרמטרים, למידת חיזוק ופרסום המודל. אתם יכולים להשתמש ב-Ray לעיבוד מראש של נתונים מבוזרים באמצעות Dataflow או Managed Service for Apache Spark, לאימון מודלים מואץ, לכוונון של היפר-פרמטרים שניתן להתאמה לעומס, ללמידת חיזוק ולחיזוי באצווה במקביל.

שותפים ביצירת התוכן

מחברים:

תורמים אחרים:

הקודם
סקירה כללית
הבא
אבטחה