Bevor Sie Ray on Agent Platform verwenden, führen Sie die folgenden Schritte aus, um Ihr Google-Projekt und Agent Platform SDK für Python einzurichten:
Richten Sie die Abrechnung für Ihr Projekt ein, installieren Sie die gcloud CLI und aktivieren Sie die Agent Platform API. Folgen Sie dazu der Anleitung unter Projekt und Entwicklungsumgebung einrichten.
Voraussetzung: Sie müssen wissen, wie Sie Programme mit Open-Source Ray entwickeln.
Das hier verwendete Ray on Agent Platform SDK für Python ist eine Version des Agent Platform SDK für Python , die die Funktionen von Ray Client, Ray BigQuery Connector, der Ray -Clusterverwaltung in der Gemini Enterprise Agent Platform und Vorhersagen in der Gemini Enterprise Agent Platform umfasst.
Wenn Sie Ray on Agent Platform in der Google Cloud Console verwenden, führt Sie ein Colab Enterprise Notebook durch den Installationsprozess des Agent Platform SDK für Python , nachdem Sie einen Ray-Cluster erstellt haben.
Wenn Sie Ray on Agent Platform in der Vertex AI Workbench oder einer anderen interaktiven Python-Umgebung verwenden, installieren Sie das Agent Platform SDK für Python:
# The latest image in the Ray cluster includes Ray 2.47 # The latest supported Python version is Python 3.11. $ pip install google-cloud-aiplatform[ray]
Starten Sie nach der Installation des SDK den Kernel neu, bevor Sie Pakete importieren.
Optional: Wenn Sie aus BigQuery lesen möchten, erstellen Sie ein neues BigQuery-Dataset oder verwenden Sie ein vorhandenes Dataset. Weitere Informationen finden Sie unter Neues BigQuery-Dataset erstellen.
(Optional) Um das Risiko einer Daten-Exfiltration aus der Agent Platform zu minimieren, aktivieren Sie VPC Service Controls und geben Sie beim Erstellen eines Clusters ein VPC-Netzwerk an. Weitere Informationen finden Sie unter VPC Service Controls mit der Agent Platform.
Wenn Sie VPC Service Controls aktivieren, können Sie keine Ressourcen außerhalb des Perimeters erreichen, z. B. Dateien in einem Cloud Storage-Bucket.
(Optional) Wenn Sie ein benutzerdefiniertes Container-Image verwenden möchten, hosten Sie es in Artifact Registry. Mit einem benutzerdefinierten Image können Sie Python-Abhängigkeiten hinzufügen, die nicht in den vorgefertigten Container-Images enthalten sind. Informationen zum Erstellen benutzerdefinierter Images finden Sie in der Docker-Dokumentation unter „Software verpacken“.
(Optional) Wenn Sie beim Erstellen eines Ray-Clusters in der Gemini Enterprise Agent Platform ein VPC-Netzwerk angeben, empfehlen wir dringend, ein VPC-Netzwerk im automatischen Modus in Ihrem Projekt zu verwenden. VPC-Netzwerke im benutzerdefinierten Modus und mehrere VPC-Netzwerke im selben Projekt werden nicht unterstützt und können dazu führen, dass die Clustererstellung fehlschlägt.
Cluster schützen
Befolgen Sie die Best Practices und Richtlinien von Ray, einschließlich der Ausführung von vertrauenswürdigem Code in vertrauenswürdigen Netzwerken, um Ihre Ray-Arbeitslasten zu schützen. Die Bereitstellung von ray.io in Ihren Cloud-Instanzen fällt unter das Modell der gemeinsamen Verantwortung.
Weitere Informationen zu den Google Cloud Best Practices finden Sie im Sicherheitsbulletin GCP-2024-020.
Unterstützte Standorte
In der Tabelle Featureverfügbarkeit werden die verfügbaren Standorte für Ray on Agent Platform für benutzerdefiniertes Modelltraining aufgeführt.