取消部署模型并删除端点

请使用以下方法之一取消部署模型并删除端点。

根据最佳实践，在将流量转移到新模型版本后（例如在自动化 CI/CD 部署期间），如果要在端点上替换模型，请在将流量分配比例更新为 100% 后，至少等待 10-15 分钟，然后再启动 undeploy-model。此保留窗口可让正在进行的推理请求完成，并确保区域路由配置在之前的模型资源被取消分配之前完全同步。

Google Cloud 控制台

  1. 按如下方式取消部署模型：

    1. 在 Google Cloud 控制台的 Agent Platform 部分中，前往端点页面。

      转到“端点”页面

    2. 点击要取消部署的模型的名称和版本 ID 以打开其详情页面。

    3. 在模型所对应的行中，点击 操作，然后点击从端点取消部署模型。

    4. 在从端点取消部署模型对话框中，点击取消部署。

    5. 如需删除其他模型，请重复上述步骤。

  2. 可选：删除在线推理端点，如下所示：

    1. 在 Google Cloud 控制台的 Gemini Enterprise Agent Platform 部分中，前往在线预测页面。

      转到在线预测

    2. 选择端点。

    3. 如需删除端点，请点击 操作，然后点击删除端点。

gcloud

  1. 列出项目中所有端点的 ID：

    gcloud ai endpoints list \
    --project=PROJECT_ID \
    --region=LOCATION_ID

    将 PROJECT_ID 替换为您的项目名称，将 LOCATION_ID 替换为您使用 Gemini Enterprise Agent Platform 的区域。

  2. 列出已部署到端点的模型的 ID：

    gcloud ai endpoints describe ENDPOINT_ID \
    --project=PROJECT_ID \
    --region=LOCATION_ID

    将 ENDPOINT_ID 替换为端点 ID。

  3. 从端点取消部署模型：

    gcloud ai endpoints undeploy-model ENDPOINT_ID \
    --project=PROJECT_ID \
    --region=LOCATION_ID \
    --deployed-model-id=DEPLOYED_MODEL_ID

    将 DEPLOYED_MODEL_ID 替换为模型 ID。

  4. 可选：删除在线推理端点：

    gcloud ai endpoints delete ENDPOINT_ID \
    --project=PROJECT_ID \
    --region=LOCATION_ID