모델 배포 취소 및 엔드포인트 삭제

다음 방법 중 하나를 사용하여 모델 배포를 취소하고 엔드포인트를 삭제합니다.

트래픽을 새 모델 버전으로 전환한 후 (예: 자동 CI/CD 출시 중) 엔드포인트의 모델을 교체할 때는 트래픽 분할을 100% 로 업데이트한 후 10~15분 이상 기다린 후 undeploy-model를 시작하는 것이 좋습니다. 이 대기 기간을 통해 진행 중인 추론 요청이 완료되고 이전 모델 리소스가 할당 해제되기 전에 리전 라우팅 구성이 완전히 동기화됩니다.

Google Cloud 콘솔

  1. 다음과 같이 모델 배포를 취소합니다.

    1. Google Cloud 콘솔의 Agent Platform 섹션에서 엔드포인트 페이지로 이동합니다.

      엔드포인트 페이지로 이동

    2. 배포 취소하려는 모델의 이름과 버전 ID를 클릭하여 세부정보 페이지를 엽니다.

    3. 모델 행에서 작업을 클릭한 후 엔드포인트에서 모델 배포 취소를 클릭합니다.

    4. 엔드포인트에서 모델 배포 취소 대화상자에서 배포 취소를 클릭합니다.

    5. 모델을 추가로 삭제하려면 이전 단계를 반복합니다.

  2. 선택사항: 다음과 같이 온라인 추론 엔드포인트를 삭제합니다.

    1. Google Cloud 콘솔의 Gemini Enterprise Agent Platform 섹션에서 온라인 예측 페이지로 이동합니다.

      온라인 예측으로 이동

    2. 엔드포인트를 선택합니다.

    3. 엔드포인트를 삭제하려면 작업을 클릭한 다음 엔드포인트 삭제를 클릭합니다.

gcloud

  1. 프로젝트에 있는 모든 엔드포인트의 엔드포인트 ID를 나열합니다.

    gcloud ai endpoints list \
    --project=PROJECT_ID \
    --region=LOCATION_ID

    PROJECT_ID을 프로젝트 이름으로, LOCATION_ID을 Gemini Enterprise Agent Platform을 사용하는 리전으로 바꿉니다.

  2. 엔드포인트에 배포된 모델의 모델 ID를 나열합니다.

    gcloud ai endpoints describe ENDPOINT_ID \
    --project=PROJECT_ID \
    --region=LOCATION_ID

    ENDPOINT_ID를 엔드포인트 ID로 바꿉니다.

  3. 엔드포인트에서 모델 배포를 취소하려면 다음 안내를 따르세요.

    gcloud ai endpoints undeploy-model ENDPOINT_ID \
    --project=PROJECT_ID \
    --region=LOCATION_ID \
    --deployed-model-id=DEPLOYED_MODEL_ID

    DEPLOYED_MODEL_ID를 모델 ID로 바꿉니다.

  4. 선택사항: 온라인 추론 엔드포인트를 삭제합니다.

    gcloud ai endpoints delete ENDPOINT_ID \
    --project=PROJECT_ID \
    --region=LOCATION_ID