Esegui l'inferenza AI su Cloud Run con GPU

Cloud Run ti consente di collegare GPU per eseguire il deployment di modelli aperti e gestire l'inferenza dell'AI. Puoi addestrare, ottimizzare ed eseguire modelli con prestazioni accelerate.

Se non hai familiarità con i concetti di AI, consulta GPU per l'AI. Per saperne di più sulle opzioni di configurazione, consulta Supporto GPU per servizi, job e pool di worker.

Tutorial per i servizi

• Esegui Gemma su Cloud Run
• Esegui l'inferenza LLM sulle GPU Cloud Run con Gemma e Ollama
• Esegui OpenCV su Cloud Run con accelerazione GPU
• Esegui l'inferenza LLM sulle GPU Cloud Run con Hugging Face Transformers.js

Tutorial per i job

• Ottimizza gli LLM utilizzando le GPU con i job Cloud Run
• Esegui l'inferenza batch utilizzando le GPU nei job Cloud Run
• Transcodifica video con accelerazione GPU con FFmpeg nei job Cloud Run