ב-Cloud Run אפשר לחבר יחידות GPU כדי לפרוס מודלים פתוחים ולהכניס לשימוש בסביבת הייצור היקשים של AI. אתם יכולים לאמן מודלים, לבצע כוונון עדין ולהפעיל אותם עם ביצועים מואצים.
אם אתם חדשים בתחום של מושגי AI, כדאי לעיין במאמר בנושא מעבדי GPU ל-AI. מידע נוסף על אפשרויות ההגדרה זמין במאמרים בנושא תמיכה ב-GPU עבור שירותים, משימות ומאגרי עובדים.
מדריכים לשירותים
- הרצת Gemma ב-Cloud Run
- איך מריצים היקש של LLM ביחידות GPU של Cloud Run באמצעות Gemma ו-Ollama
- הפעלת OpenCV ב-Cloud Run עם האצת GPU
- איך מריצים היקש של LLM ביחידות GPU של Cloud Run באמצעות Hugging Face Transformers.js
הדרכות בנושא עבודות
- שיפור המודלים הגדולים של שפה (LLM) באמצעות מעבדים גרפיים בעזרת משימות של Cloud Run
- הפעלת היקש באצווה באמצעות יחידות GPU במשימות ב-Cloud Run
- המרת קידוד וידאו עם האצת GPU באמצעות FFmpeg במשימות Cloud Run