‫AI גנרטיבי

תיעוד ומשאבים ליצירה ולהטמעה של אפליקציות של בינה מלאכותית גנרטיבית באמצעות כלים ומוצרים של Google Cloud .

רוצים להתחיל להשתמש בחינם?
  • פיתוח באמצעות המודלים והכלים הכי עדכניים של AI גנרטיבי
  • שימוש בחינם ביותר מ-20 מוצרים פופולריים, כולל Compute Engine וממשקי API של AI
  • בלי חיובים אוטומטיים ובלי התחייבות
צפייה במבצעים למוצרים בחינם

מוזמנים להתנסות ביותר מ-20 מוצרים חינמיים

אתם יכולים להשתמש ביותר מ-20 מוצרים בחינם לתרחישי שימוש נפוצים, כולל ממשקי API של AI, מכונות וירטואליות, מחסני נתונים (data warehouse) ועוד.

מידע על פיתוח אפליקציות AI גנרטיבי

גישה למודלים גדולים של AI גנרטיבי מבית Google, כדי שתוכלו לבדוק, לכוונן ולפרוס אותם לשימוש באפליקציות שמבוססות על AI.
כדאי לראות איך נראית שליחת בקשות אל Gemini API דרך פלטפורמת ה-AI-ML של Google Cloud, ‏ Vertex AI.
אתם יכולים להשתמש ביכולות של GKE כפלטפורמת AI/ML שניתנת להתאמה אישית, עם ביצועים גבוהים, אירוח ואימון משתלמים, יכולת התאמה מובילה בתעשייה ואפשרויות גמישות לתשתית.
לזהות אם AI גנרטיבי, AI מסורתי או שילוב של שניהם מתאימים לתרחיש השימוש העסקי שלכם.
במאמר הזה נסביר איך להתמודד עם האתגרים בכל שלב בפיתוח אפליקציה מבוססת-AI גנרטיבי.
אפשר לעיין בדוגמאות קוד לתרחישים נפוצים ולפרוס דוגמאות של אפליקציות AI גנרטיבי שהן מאובטחות, יעילות, עמידות, מניבות ביצועים טובים ומשתלמות.
מידע על מונחים ספציפיים שקשורים ל-AI גנרטיבי.

כלים של AI גנרטיבי

רשימה של כלים מבוססי-AI גנרטיבי, כולל Vertex AI Studio,‏ Colab Enterprise/Notebooks ו-Workbench, שמופיעים בקטע Cloud Console, ו-SDK/APIs שמופיעים כפריט נפרד.

תהליך הפיתוח של AI גנרטיבי

תרשים של תהליך הפיתוח של AI גנרטיבי עם שישה שלבים: בחירת מודל (כולל Model Garden), הנדסת הנחיות (כולל גלריית הנחיות, Vertex AI Studio, השוואת הנחיות ואופטימיזציה של הנחיות), כוונון (כולל אימון וכוונון), אופטימיזציה (כולל זיקוק), פריסה (כולל Model Registry, תחזית אונליין ותחזית באצווה) ומעקב. שלבי בחירת המודל, הנדסת ההנחיות, ההתאמה והאופטימיזציה הם חלק ממחזור משנה חוזר שנקרא 'הערכה'.

ניתוח מודלים ואירוח שלהם

‫Google Cloud מספקת קבוצה של מודלים בסיסיים חדשניים דרך Vertex AI, כולל Gemini. אפשר גם לפרוס מודל של צד שלישי ב-Vertex AI Model Garden או לארח אותו ב-GKE או ב-Compute Engine.

אתם יכולים לגלות, להתאים אישית ולפרוס מודלים ונכסים של Google מתוך ספריית מודלים של למידת מכונה.
גילוי, בדיקה, התאמה אישית ופריסה של נכסים ומודלים נבחרים של OSS מספריית מודלים של למידת מכונה.

מודלים ליצירת טקסט דרך HuggingFace

בקורס הזה תלמדו איך לפרוס מודלים של HuggingFace ליצירת טקסט ב-Vertex AI או ב-Google Kubernetes Engine‏ (GKE).
כדי להאיץ עומסי עבודה של AI גנרטיבי ב-Compute Engine, אפשר לצרף יחידות GPU למכונות וירטואליות.

עיצוב והנדסה של הנחיות

עיצוב הנחיות הוא תהליך של יצירת צמדים של הנחיות ותשובות כדי לספק למודלים של שפה הקשר והוראות נוספים. אחרי שכותבים הנחיות, מזינים אותן למודל כמערך נתונים של הנחיות לצורך אימון מראש. כשמודל מציג תחזיות, הוא מגיב עם ההוראות שלכם.

עיצוב, בדיקה והתאמה אישית של ההנחיות שנשלחות למודלים הגדולים של שפה (LLM) Gemini ו-PaLM 2 של Google.
כאן תוכלו ללמוד על תהליך העבודה של הנדסת הנחיות ועל אסטרטגיות נפוצות שבהן אפשר להשתמש כדי להשפיע על התשובות של המודל.
תוכלו לראות דוגמאות להנחיות ולתשובות לתרחישי שימוש ספציפיים.

עיגון ו-RAG

הארקה מקשרת מודלים של AI למקורות נתונים כדי לשפר את הדיוק של התשובות ולהפחית את ההזיות. ‫RAG, טכניקה נפוצה להארקה, מחפשת מידע רלוונטי ומוסיפה אותו להנחיה של המודל, כדי לוודא שהפלט מבוסס על עובדות ועל מידע עדכני.

אתם יכולים לעגן מודלים של Vertex AI באמצעות חיפוש Google או באמצעות נתונים משלכם שמאוחסנים בחיפוש סוכנים.
אפשר להשתמש בעיגון באמצעות חיפוש Google כדי לחבר את המודל לידע עדכני שזמין באינטרנט.
משתמשים ב-AlloyDB כדי ליצור ולאחסן הטמעות וקטוריות, ואז יוצרים אינדקס להטמעות ומריצים עליהן שאילתות באמצעות התוסף pgvector.
אחסון הטמעות וקטורים ב-Postgres SQL, ולאחר מכן יצירת אינדקס והרצת שאילתות על ההטמעות באמצעות התוסף pgvector.
משתמשים ב-LangChain כדי לחלץ נתונים מ-BigQuery, להעשיר את התשובות של המודל ולבסס אותן על נתונים.
ליצור הטבעות וקטוריות מהנתונים ב-Firestore, ואז ליצור אינדקס של ההטבעות ולהריץ עליהן שאילתות.
אפשר להשתמש ב-LangChain כדי לחלץ נתונים מ-Memorystore, להוסיף להם הקשר ולבסס את התשובות של המודל על הנתונים האלה.

סוכנים ובקשות להפעלת פונקציות

סוכנים מאפשרים לעצב ולשלב בקלות ממשק משתמש שיכול לנהל שיחה באפליקציה לנייד, בעוד שקריאה לפונקציה מרחיבה את היכולות של מודל.

אפשר להשתמש במודלי הבסיס של Google, במומחיות שלה בחיפוש ובטכנולוגיות ה-AI בממשק שיחה, כדי ליצור אפליקציות AI גנרטיביות ברמה שמתאימה לארגונים.
מוסיפים למודל קריאות לפונקציות כדי לאפשר פעולות כמו הזמנת מקום על סמך מידע שחולץ מהיומן.

התאמה אישית של מודלים ואימון שלהם

משימות מיוחדות, כמו אימון מודל שפה בטרמינולוגיה ספציפית, עשויות לדרוש יותר אימון ממה שאפשר לעשות רק באמצעות עיצוב הנחיות או גראונדינג. במקרה כזה, אפשר להשתמש בכוונון מודל כדי לשפר את הביצועים, או לאמן מודל משלכם.

הערכת הביצועים של מודלים בסיסיים ומודלים של בינה מלאכותית גנרטיבית שעברו כוונון ב-Vertex AI.
אפשר לבצע התאמה של מודלים בסיסיים למטרות כלליות כדי לשפר את הביצועים שלהם במשימות ספציפיות.
יחידות TPU הן מעגלים משולבים לאפליקציות ספציפיות (ASIC) שפותחו על ידי Google כדי לעזור להאיץ עומסי עבודה של למידת מכונה, כמו אימון של מודל שפה גדול (LLM).
ביניים
דוגמה לארכיטקטורה של אפליקציית AI גנרטיבי עם יכולות RAG באמצעות Vertex AI ו-Vector Search.
ביניים
ארכיטקטורת הפניה לאפליקציית AI גנרטיבי עם יכולות RAG באמצעות Vertex AI ו-AlloyDB ל-PostgreSQL.
ביניים
ארכיטקטורת הפניה לאפליקציית AI גנרטיבי עם יכולות RAG באמצעות GKE,‏ Cloud SQL וכלים בקוד פתוח כמו Ray,‏ Hugging Face ו-LangChain.

אני רוצה להתחיל לפתח

‫LangChain הוא פלטפורמה בקוד פתוח לאפליקציות AI גנרטיבי, שמאפשרת לכם להוסיף הקשר להנחיות ולבצע פעולות על סמך התשובה של המודל.
דוגמאות קוד לתרחישי שימוש נפוצים ודוגמאות לפריסה של אפליקציות AI גנרטיביות שהן מאובטחות, יעילות, עמידות, בעלות ביצועים גבוהים וחסכוניות.