‫AI גנרטיבי

תיעוד ומשאבים ליצירה וליישום של אפליקציות AI גנרטיבי באמצעות כלים ומוצרים של Google Cloud Google.

רוצים להתחיל להשתמש בחינם?
  • פיתוח באמצעות המודלים והכלים הכי עדכניים של AI גנרטיבי
  • שימוש בחינם ביותר מ-20 מוצרים פופולריים, כולל Compute Engine וממשקי API של AI
  • בלי חיובים אוטומטיים ובלי התחייבות
צפייה במבצעים למוצרים בחינם

מוזמנים להתנסות ביותר מ-20 מוצרים חינמיים

אתם יכולים להשתמש ביותר מ-20 מוצרים בחינם לתרחישי שימוש נפוצים, כולל ממשקי API של AI, מכונות וירטואליות, מחסני נתונים (data warehouse) ועוד.

מידע על פיתוח אפליקציות AI גנרטיבי

גישה למודלים גדולים של AI גנרטיבי מבית Google, כדי שתוכלו לבדוק, לכוונן ולפרוס אותם לשימוש באפליקציות שמבוססות על AI.
כדאי לראות איך נראית שליחת בקשות אל Gemini API דרך פלטפורמת ה-AI-ML של Google Cloud, ‏ Vertex AI.
אתם יכולים להשתמש בעוצמה של GKE כפלטפורמת AI/ML שניתנת להתאמה אישית, עם ביצועים גבוהים, שירות והדרכה חסכוניים, יכולת התאמה מובילה בתעשייה ואפשרויות גמישות לתשתית.
לזהות אם AI גנרטיבי, AI מסורתי או שילוב של שניהם מתאימים לתרחיש השימוש העסקי שלכם.
במאמר הזה נסביר איך להתמודד עם האתגרים בכל שלב בפיתוח של אפליקציית AI גנרטיבי.
אפשר לעיין בדוגמאות קוד לתרחישים נפוצים ולפרוס דוגמאות של אפליקציות AI גנרטיבי שהן מאובטחות, יעילות, עמידות, מניבות ביצועים טובים ומשתלמות.
מידע על מונחים ספציפיים שקשורים ל-AI גנרטיבי.

כלים של AI גנרטיבי

רשימה של כלים מבוססי-AI גנרטיבי, כולל Vertex AI Studio,‏ Colab Enterprise/Notebooks ו-Workbench, שמופיעים בקטע Cloud Console, ו-SDK/APIs שמופיעים כפריט נפרד.

תהליך הפיתוח של AI גנרטיבי

תרשים של תהליך הפיתוח של AI גנרטיבי עם שישה שלבים: בחירת מודל (כולל Model Garden), הנדסת הנחיות (כולל גלריית הנחיות, Vertex AI Studio, השוואת הנחיות ואופטימיזציה של הנחיות), התאמה (כולל אימון והתאמה), אופטימיזציה (כולל זיקוק), פריסה (כולל Model Registry, תחזית אונליין ותחזית באצווה) ומעקב. שלבי בחירת המודל, הנדסת פרומפטים, ההתאמה והאופטימיזציה הם חלק ממחזור משנה חוזר שנקרא 'הערכה'.

חקירה ואירוח של מודלים

‫Google Cloud מספקת קבוצה של מודלים בסיסיים חדשניים דרך Vertex AI, כולל Gemini. אפשר גם לפרוס מודל של צד שלישי ב-Vertex AI Model Garden או לארח אותו ב-GKE או ב-Compute Engine.

אתם יכולים לגלות, להתאים אישית ולפרוס מודלים ונכסים של Google מתוך ספריית מודלים של למידת מכונה.
גילוי, בדיקה, התאמה אישית ופריסה של נכסים ומודלים נבחרים של OSS מספריית מודלים של למידת מכונה.

מודלים ליצירת טקסט דרך HuggingFace

בקורס הזה תלמדו איך לפרוס מודלים של HuggingFace ליצירת טקסט ב-Vertex AI או ב-Google Kubernetes Engine‏ (GKE).
אפשר לצרף יחידות GPU למכונות וירטואליות כדי להאיץ עומסי עבודה של AI גנרטיבי ב-Compute Engine.

עיצוב והנדסה של הנחיות

עיצוב הנחיות הוא תהליך של יצירת צמדים של הנחיות ותשובות כדי לספק למודלים של שפה הקשר והוראות נוספים. אחרי שכותבים הנחיות, מזינים אותן למודל כמערך נתונים של הנחיות לצורך אימון מראש. כשמודל מציג תחזיות, הוא מגיב עם ההוראות שלכם.

עיצוב, בדיקה והתאמה אישית של ההנחיות שנשלחות למודלים הגדולים של שפה (LLM) Gemini ו-PaLM 2 של Google.
תלמדו על תהליך העבודה של הנדסת הנחיות ועל אסטרטגיות נפוצות שבהן אפשר להשתמש כדי להשפיע על התשובות של המודל.
דוגמאות להנחיות ולתשובות לתרחישים ספציפיים לדוגמה.

עיגון ו-RAG

הארקה מקשרת מודלים של AI למקורות נתונים כדי לשפר את הדיוק של התשובות ולצמצם את ההזיות. ‫RAG, טכניקה נפוצה להארקה, מחפשת מידע רלוונטי ומוסיפה אותו להנחיה של המודל, כדי לוודא שהפלט מבוסס על עובדות ועל מידע עדכני.

אתם יכולים לעגן מודלים של Vertex AI באמצעות חיפוש Google או באמצעות הנתונים שלכם שמאוחסנים בחיפוש סוכנים.
אפשר להשתמש בעיגון באמצעות חיפוש Google כדי לחבר את המודל לידע עדכני שזמין באינטרנט.
משתמשים ב-AlloyDB כדי ליצור ולאחסן הטמעות וקטוריות, ואז יוצרים אינדקס להטמעות ומריצים עליהן שאילתות באמצעות התוסף pgvector.
אחסון הטמעות וקטוריות ב-Postgres SQL, ולאחר מכן יצירת אינדקס והרצת שאילתות על ההטמעות באמצעות התוסף pgvector.
משתמשים ב-LangChain כדי לחלץ נתונים מ-BigQuery, להעשיר את התשובות של המודל ולבסס אותן על נתונים.
ליצור הטבעות וקטוריות מהנתונים ב-Firestore, ואז ליצור אינדקס להטבעות ולהריץ עליהן שאילתות.
אפשר להשתמש ב-LangChain כדי לחלץ נתונים מ-Memorystore, להעשיר את התשובות של המודל ולבסס אותן על נתונים.

סוכנים ובקשות להפעלת פונקציות

סוכנים מאפשרים לעצב ולשלב בקלות ממשק משתמש שיכול לנהל שיחה באפליקציה לנייד, בעוד שקריאה לפונקציה מרחיבה את היכולות של מודל.

אפשר להשתמש במודלי הבסיס של Google, במומחיות שלה בחיפוש ובטכנולוגיות ה-AI בממשק שיחה, כדי ליצור אפליקציות AI גנרטיביות ברמה שמתאימה לארגונים.
מוסיפים למודל קריאה לפונקציה כדי להפעיל פעולות כמו הזמנת מקום על סמך מידע שחולץ מהיומן.

התאמה אישית של מודלים ואימון שלהם

משימות מיוחדות, כמו אימון מודל שפה בטרמינולוגיה ספציפית, עשויות לדרוש יותר אימון ממה שאפשר לבצע באמצעות עיצוב הנחיה או גראונדינג בלבד. במקרה כזה, אפשר להשתמש בכוונון מודל כדי לשפר את הביצועים, או לאמן מודל משלכם.

הערכת הביצועים של מודלים בסיסיים ומודלים של בינה מלאכותית גנרטיבית שעברו כוונון ב-Vertex AI.
אפשר לבצע התאמה של מודלים בסיסיים למטרות כלליות כדי לשפר את הביצועים שלהם במשימות ספציפיות.
יחידות TPU הן מעגלים משולבים לאפליקציות ספציפיות (ASIC) שפותחו על ידי Google כדי לעזור להאיץ עומסי עבודה של למידת מכונה, כמו אימון של מודל שפה גדול (LLM).
ביניים
דוגמה לארכיטקטורה של אפליקציית AI גנרטיבי עם יכולות RAG באמצעות Vertex AI ו-Vector Search.
ביניים
ארכיטקטורת הפניה לאפליקציית AI גנרטיבי עם יכולות RAG באמצעות Vertex AI ו-AlloyDB ל-PostgreSQL.
ביניים
ארכיטקטורת הפניה לאפליקציית AI גנרטיבי עם יכולות RAG באמצעות GKE,‏ Cloud SQL וכלים בקוד פתוח כמו Ray,‏ Hugging Face ו-LangChain.

אני רוצה להתחיל לפתח

‫LangChain הוא פלטפורמה בקוד פתוח לאפליקציות AI גנרטיבי, שמאפשרת לכם להוסיף הקשר להנחיות ולבצע פעולות על סמך התשובה של המודל.
דוגמאות קוד לתרחישי שימוש נפוצים ודוגמאות לפריסה של אפליקציות AI גנרטיביות שהן מאובטחות, יעילות, עמידות, בעלות ביצועים גבוהים וחסכוניות.