取消部署模型並刪除端點

請使用下列其中一種方法取消部署模型並刪除端點。

注意： 您只能在取消部署端點中的所有模型後，才能刪除端點。

最佳做法是，在將流量轉移至新版模型後 (例如在自動 CI/CD 推出期間)，如要替換端點上的模型，請先將流量分配比例更新為 100%，然後等待至少 10 到 15 分鐘，再啟動 undeploy-model。這個保留時間可讓傳輸中的推論要求完成，並確保區域路由設定完全同步，然後再取消分配先前的模型資源。

Google Cloud 控制台

1. 取消部署模型，步驟如下：

   1. 前往 Google Cloud 控制台的「Agent Platform」部分，然後前往「Endpoints」頁面。

      前往「端點」頁面

   2. 按一下要取消部署的模型名稱和版本 ID，開啟詳細資料頁面。

   3. 在模型資料列中，依序點選「動作」和「從端點取消部署模型」。

   4. 在「取消部署端點的模型」對話方塊中，按一下「取消部署」。

   5. 如要刪除其他模型，請重複上述步驟。

2. 選用：按照下列步驟刪除線上推論端點：

   1. 在 Google Cloud 控制台的「Gemini Enterprise Agent Platform」專區中，前往「線上預測」頁面。

      前往線上預測頁面

   2. 選取端點。

   3. 如要刪除端點，請依序點選 >「Actions」(動作) 和「Delete endpoint」(刪除端點)。

gcloud

1. 列出專案中所有端點的端點 ID：

   gcloud ai endpoints list \
       --project=PROJECT_ID \
       --region=LOCATION_ID
   

   將 PROJECT_ID 替換為專案名稱，並將 LOCATION_ID 替換為您使用 Gemini Enterprise Agent Platform 的區域。

2. 列出部署至端點的模型 ID：

   gcloud ai endpoints describe ENDPOINT_ID \
       --project=PROJECT_ID \
       --region=LOCATION_ID
   

   將 ENDPOINT_ID 替換為端點 ID。

3. 從端點取消部署模型：

   gcloud ai endpoints undeploy-model ENDPOINT_ID \
       --project=PROJECT_ID \
       --region=LOCATION_ID \
       --deployed-model-id=DEPLOYED_MODEL_ID
   

   將 DEPLOYED_MODEL_ID 替換為模型 ID。

4. (選用) 刪除線上推論端點：

   gcloud ai endpoints delete ENDPOINT_ID \
       --project=PROJECT_ID \
       --region=LOCATION_ID