Prima di iniziare a utilizzare Ray on Agent Platform, segui questi passaggi per configurare il tuo progetto Google e l'SDK Agent Platform per Python:
Configura la fatturazione per il tuo progetto, installa gcloud CLI e abilita l'API Agent Platform. Per farlo, segui i passaggi descritti in Configurare un progetto e un ambiente di sviluppo.
Prerequisito: devi sapere come sviluppare programmi utilizzando Ray open source.
Ray on Agent Platform SDK per Python utilizzato qui è una versione dell'SDK Agent Platform per Python che include la funzionalità di Ray Client, del connettore Ray BigQuery, della gestione del cluster Ray su Gemini Enterprise Agent Platform e delle previsioni su Gemini Enterprise Agent Platform.
Se utilizzi Ray su Agent Platform nella console Google Cloud , un notebook Colab Enterprise ti guida nella procedura di installazione dell'SDK Agent Platform per Python dopo aver creato un cluster Ray.
Se utilizzi Ray su Agent Platform in Vertex AI Workbench o in un altro ambiente Python interattivo, installa l'SDK Agent Platform per Python:
# The latest image in the Ray cluster includes Ray 2.47 # The latest supported Python version is Python 3.11. $ pip install google-cloud-aiplatform[ray]
Dopo aver installato l'SDK, riavvia il kernel prima di importare i pacchetti.
(Facoltativo) Se prevedi di leggere da BigQuery, crea un nuovo set di dati BigQuery o utilizza un set di dati esistente. Per farlo, consulta Crea un nuovo set di dati BigQuery.
(Facoltativo) Per ridurre il rischio di esfiltrazione di dati da Agent Platform, abilita i Controlli di servizio VPC e specifica una rete VPC quando crei un cluster. Per maggiori informazioni, consulta Controlli di servizio VPC con Agent Platform.
Se abiliti i Controlli di servizio VPC, non puoi raggiungere le risorse al di fuori del perimetro, ad esempio i file in un bucket Cloud Storage.
(Facoltativo) Per utilizzare un'immagine container personalizzata, ospitala su Artifact Registry. Un'immagine personalizzata ti consente di aggiungere dipendenze Python non incluse nelle immagini container predefinite. Per creare immagini personalizzate, consulta la sezione relativa al packaging del software nella documentazione di Docker.
(Facoltativo) Se specifichi una rete VPC quando crei un cluster Ray sulla piattaforma Gemini Enterprise Agent, è consigliabile utilizzare una rete VPC in modalità automatica nel tuo progetto. Le reti VPC in modalità personalizzata e più reti VPC nello stesso progetto non sono supportate e potrebbero causare errori durante la creazione del cluster.
Proteggi i tuoi cluster
Segui le best practice e le linee guida di Ray, tra cui l'esecuzione di codice attendibile su reti attendibili, per proteggere i tuoi carichi di lavoro Ray. Il deployment di ray.io nelle tue istanze cloud rientra nel modello di responsabilità condivisa.
Per saperne di più sulle best practice per Google Cloud , consulta il bollettino sulla sicurezza GCP-2024-020.
Località supportate
La tabella Disponibilità delle funzionalità elenca le posizioni disponibili per Ray su Agent Platform per l'addestramento di modelli personalizzati.