設定 Ray on Agent Platform

開始使用 Agent Platform 上的 Ray 之前,請按照下列步驟設定 Google 專案和 Agent Platform Python SDK

  1. 為專案設定計費功能、安裝 gcloud CLI,並啟用 Agent Platform API。如要執行這項操作,請按照「設定專案和開發環境」一文中的步驟操作。

    啟用 Agent Platform API

  2. 必要條件:您必須瞭解如何使用開放原始碼 Ray 開發程式。

  3. 這裡使用的 Agent Platform SDK for Python 版 Ray,是 Agent Platform SDK for Python 的版本,其中包含 Ray Client、Ray BigQuery 連接器、Gemini Enterprise Agent Platform 上的 Ray 叢集管理,以及 Gemini Enterprise Agent Platform 上的預測功能。

    • 如果您在 Google Cloud 控制台的 Agent Platform 上使用 Ray,建立 Ray 叢集後,系統會提供 Colab Enterprise 筆記本,逐步引導您完成 Agent Platform SDK for Python 安裝程序。

    • 如果您在 Vertex AI Workbench 或其他互動式 Python 環境中使用 Agent Platform 上的 Ray,請安裝 Agent Platform SDK for Python:

      # The latest image in the Ray cluster includes Ray 2.47
      # The latest supported Python version is Python 3.11.
      $ pip install google-cloud-aiplatform[ray]

      安裝 SDK 後,請先重新啟動核心,再匯入套件。

  4. 選用:如果您打算從 BigQuery 讀取資料,請建立新的 BigQuery 資料集,或使用現有資料集。如要這麼做,請參閱建立新的 BigQuery 資料集

  5. (選用) 如要降低從 Agent Platform 竊取資料的風險,請啟用 VPC Service Controls,並在建立叢集時指定 VPC 網路。詳情請參閱「搭配 Agent Platform 使用 VPC Service Controls」。

    啟用 VPC Service Controls 後,您就無法存取範圍外的資源,例如 Cloud Storage bucket 中的檔案。

  6. (選用) 如要使用自訂容器映像檔,請將其託管於 Artifact Registry。自訂映像檔可讓您新增預建容器映像檔未包含的 Python 依附元件。如要建構自訂映像檔,請參閱 Docker 文件中的「打包軟體」。

  7. (選用) 在 Gemini Enterprise Agent Platform 上建立 Ray 叢集時,如果指定虛擬私有雲網路,強烈建議您在專案中使用自動模式虛擬私有雲網路。不支援自訂模式虛擬私有雲網路和同一專案中的多個虛擬私有雲網路,否則可能會導致叢集建立失敗。

保護您的叢集

請遵循 Ray 最佳做法和指南,包括在受信任的網路上執行受信任的程式碼,確保 Ray 工作負載安全無虞。在雲端執行個體中部署 ray.io 時,適用共同責任模式。

如要進一步瞭解最佳做法,請參閱 GCP-2024-020 安全性公告。 Google Cloud

支援的地區

功能適用情形」表格列出 Agent Platform 上 Ray 適用的位置,可用於自訂模型訓練。

後續步驟