您可以将 Gemini Enterprise Agent Platform 配置为与 虚拟私有云 (VPC) 建立对等互连,以直接与 Agent Platform 中的某些资源连接,这些资源包括:
本指南介绍如何设置 VPC 网络对等互连,以使 您的网络与 Agent Platform 资源对等互连。建议已熟悉 Google Cloud网络概念的网络管理员阅读本指南。
概览
本指南包含以下任务:
- 为 VPC 配置专用服务访问通道。这将在您的 VPC 与 Google 的共享 VPC 网络之间建立对等互连连接。
- 考虑需要为 Agent Platform 预留的 IP 范围。
- 如果适用,请导出自定义路由,以供 Agent Platform 导入。
准备工作
- 选择要与 Agent Platform 资源对等互连的 VPC。Agent Platform 一次只能与每个区域中的一个网络对等互连。
- 选择或创建用于 Agent Platform 的 Google Cloud 项目。
-
验证是否已为您的 Google Cloud 项目启用结算功能。
启用 Compute Engine API、Agent Platform API 和 Service Networking API。
启用 API 所需的角色
如需启用 API,您需要拥有 Service Usage Admin IAM 角色 (
roles/serviceusage.serviceUsageAdmin),该角色包含serviceusage.services.enable权限。了解如何授予 角色。- (可选)您可以使用 共享 VPC。如果您使用 共享 VPC,则通常需要在单独的 Google Cloud 项目中使用 Agent Platform,而不是您的 VPC 宿主项目。在这两个项目中启用 Compute Engine API 和 Service Networking API。了解如何 配置共享 VPC。
- 如果您想运行本指南中的
gcloud示例,请安装 gcloud CLI。
所需的角色
如果您不是 Project Owner 或 Project Editor,请确保您拥有 Compute Network Admin 角色 (roles/compute.networkAdmin),该角色包括管理网络资源所需的角色。
使用本地网络对等互连
对于与本地网络之间的 VPC 网络对等互连,还需要执行其他一些步骤:
为您的 VPC 设置专用服务访问通道
设置专用服务访问通道时,您可以在自己的网络与 Google 或第三方服务(服务提供方 )拥有的网络之间建立专用连接。 在本例中,Agent Platform 是服务提供方。要设置 专用服务访问通道,您 需要预留一个 IP 地址范围,然后 使用 Agent Platform 创建对等互连连接。
如果您已拥有配置了 专用服务访问通道 的 VPC,请转到导出自定义路由。
- 为您的项目 ID、预留地址范围的名称和网络的名称设置环境变量。如果您使用共享 VPC,请使用 VPC 宿主项目的项目 ID。否则,请使用用于 Agent Platform 的 Google Cloud 项目 的项目 ID。
- 启用所需的 API。如果您使用 共享 VPC,请参阅将共享 VPC 与 Agent Platform搭配使用。
- 使用
gcloud compute addresses create设置预留范围。 使用
gcloud services vpc-peerings connect在您的 VPC 宿主项目与 Google 的 Service Networking 之间建立对等互连连接。对于专用推理端点,我们建议至少为子网预留一个
/21地址块,以用于模型托管。预留较小的地址块可能会因 IP 地址不足而导致部署错误。172.16.0.0/16子网专用于 Vertex AI Training。您必须指定一个不与此 CIDR 范围重叠的子网。PROJECT_ID=YOUR_PROJECT_ID gcloud config set project $PROJECT_ID # This is for display only; you can name the range anything. PEERING_RANGE_NAME=google-reserved-range NETWORK=YOUR_NETWORK_NAME # NOTE: `prefix-length=16` means a CIDR block with mask /16 will be # reserved for use by Google services, such as Agent Platform. gcloud compute addresses create $PEERING_RANGE_NAME \ --global \ --prefix-length=16 \ --description="peering range for Google service" \ --network=$NETWORK \ --purpose=VPC_PEERING # Create the VPC connection. gcloud services vpc-peerings connect \ --service=servicenetworking.googleapis.com \ --network=$NETWORK \ --ranges=$PEERING_RANGE_NAME \ --project=$PROJECT_ID
详细了解专用服务访问通道。
将共享 VPC 与 Agent Platform 搭配使用
如果您在项目中使用共享 VPC,请参阅如何 预配共享 VPC 并确保完成以下步骤:
在宿主项目和服务项目中启用 Compute Engine API 和 Service Networking API。必须为服务项目启用 Agent Platform API。
在宿主项目中的 VPC 与 Google 服务之间创建 VPC 网络对等互连连接。
在创建 Agent Platform 期间,您必须指定希望 Agent Platform 有权访问共享 VPC 的网络的名称。
验证使用的服务或用户账号是否具有 角色 Compute Network User role (
roles/compute.networkUser) 角色。
为 Agent Platform 预留 IP 范围
当您为服务提供方预留 IP 范围时,该范围可供 Agent Platform 和其他服务使用。如果您与使用同一 IP 地址范围的多个服务提供方连接,请分配更大的范围以适应这些服务提供方,以免 IP 地址用尽。
请参阅子网建议表,确保专用服务访问通道的 IP 预留范围足够大,能够容纳您的工作负载。
如果使用 --network 参数启动作业,则作业将在 Google 管理的
网络中启动,该网络与您的 VPC 对等互连:
--network = "projects/${host_project}/global/networks/${network}"
不需要访问您的网络的任何作业都可以在不进行此声明的情况下启动,从而保留您的 IP 地址分配。
如果您无法预留足够大的 IP 范围,请考虑从使用专用服务访问通道的 Gemini Enterprise Agent Platform 迁移到使用 Private Service Connect 的 Gemini Enterprise Agent Platform
导出自定义路由
如果您使用自定义路由,则需要将其导出,以便 Agent Platform 导入这些路由。如果您不使用自定义路由,请跳过此部分。
要导出自定义路由,请 在 VPC 中更新对等互连连接 。导出自定义路由会将 VPC 网络中符合条件的静态和动态路由(例如到您的本地网络的路由)发送到服务提供方的网络(在本例中为 Agent Platform)。这将建立必要的连接,并允许训练作业将流量发回至本地网络。
确保您的本地网络具有返回到分配给 Agent Platform 的 IP 地址范围的路由,以便响应可以正确路由回 Agent Platform。 例如,使用包含 Agent Platform IP 地址范围的 Cloud Router 自定义路由通告。
详细了解 与本地网络的专用连接。
控制台
- 前往 Google Cloud 控制台中的“VPC 网络对等互连”页面。
前往 VPC 网络对等互连 - 选择要更新的对等互连连接。
- 点击修改。
- 选择导出自定义路由。
gcloud
找到要更新的对等互连连接的名称。如果您有多个对等互连连接,请忽略
--format标志。gcloud services vpc-peerings list \ --network=$NETWORK \ --service=servicenetworking.googleapis.com \ --project=$PROJECT_ID \ --format "value(peering)"
更新对等互连连接以导出自定义路由。
gcloud compute networks peerings update PEERING-NAME \ --network=$NETWORK \ --export-custom-routes \ --project=$PROJECT_ID
检查您的对等互连连接的状态
如需查看对等互连连接是否处于活跃状态,您可以使用以下命令列出这些连接:
gcloud compute networks peerings list --network $NETWORK
您应该看到,刚刚创建的对等互连的状态为 ACTIVE。
详细了解处于活跃状态的对等互连连接。
问题排查
本部分列出了使用 Agent Platform 配置 VPC 网络对等互连时的一些常见问题。
将 Agent Platform 配置为使用共享 VPC 网络时,通过以下方式指定网络 URI。
"projects/YOUR_SHARED_VPC_HOST_PROJECT/global/networks/YOUR_SHARED_VPC_NETWORK"
如果您指定 Agent Platform 要使用的共享 VPC 网络 ,请确保服务项目中 Agent Platform 的任何用户或服务账号操作者 都具有宿主项目的
compute.networkUser角色。确保已为您的网络所连接的所有服务提供方(包括 Agent Platform)分配足够的 IP 地址范围。
如果您收到错误消息
IP_SPACE_EXHAUSTED、RANGES_EXHAUSTED或PEERING_RANGE_EXHAUSTED,则必须增加网络中servicenetworking预留的可用 IP 地址数量。 您可以向现有 VPC 网络对等互连配置 添加新 范围 ,也可以删除一些 Agent Platform 资源以释放分配的 IP 地址。连接超时:导出自定义路由后,来自 Agent Platform 的连接将通过您的网络路由,以访问其他网络中的端点。但是,这些端点可能不会通过您的网络路由,以将响应发回至 Agent Platform。 请确保您还在这些网络中为 Agent Platform 分配的 IP 范围的返回路径添加静态或动态路由。
连接超时 / 主机无法访问错误:由于不支持传递性对等互连,因此即使启用了“导出自定义路由”,来自 Agent Platform 的连接也将无法访问直接对等互连到 您的网络的其他网络中的端点。请与您的网络管理员协作,确保没有将您的网络从一个直接对等互连的网络直接路由到另一个对等互连的网络的尝试。 如果需要,您可以将其中一个对等互连跃点替换为支持静态或动态路由的解决方案。
主机无法访问 DNS 错误:如果 Gemini Enterprise Agent Platform 作业需要解析 您的 VPC 中的主机名,请确保您已完成与服务提供方 共享专用 DNS 区域的配置。
如果您的流水线作业无法创建,并且 Logs Explorer 中显示“内部错误”,请确保您已部署 VPC 网络,而不仅仅是专用服务访问通道子网。
您可以检查哪些服务正在使用哪些 IP 地址,这样您就可以知道哪些服务正在使用大的 IP 地址块,并避免 IP 地址耗尽。
如果您遇到
Unable to create an instance within a Shared VPC network错误,请参阅 排查 Agent Platform Workbench 问题。如果您收到错误消息
For the peered network $network_name, couldn't find a free blocks in allocated IP ranges. This is needed to create the cluster., 则必须增加为服务分配的可用范围数量。您可以通过以下方式来实现此目的:- 向您的网络添加新的分配范围,然后将其添加到您的
servicenetworking-googleapis-com专用连接。 请注意,所需的分配范围大小下限为/18。 - 删除现有的未使用 Agent Platform 资源,以释放分配的 IP 地址。
- 使用 网络分析器 来确定子网利用率和潜在问题。
- 向您的网络添加新的分配范围,然后将其添加到您的
如需了解更多问题排查信息,请参阅 VPC 网络对等互连问题排查指南。
后续步骤
- 了解如何使用专用 IP 地址进行自定义训练。
- 了解如何使用专用端点进行推理。
- 详细了解 VPC 网络对等互连。
- 如需了解 VPC 设计,请参阅参考架构和最佳做法。