Cancelar a implantação de um modelo e excluir o endpoint

Use um dos métodos a seguir para cancelar a implantação de um modelo e excluir o endpoint.

Como prática recomendada, ao substituir um modelo em um endpoint após transferir o tráfego para uma nova versão (como durante implantações automatizadas de CI/CD), aguarde pelo menos 10 a 15 minutos após atualizar a divisão de tráfego para 100% antes de iniciar undeploy-model. Esse período permite que as solicitações de inferência em andamento sejam concluídas e garante que as configurações de roteamento regional sejam totalmente sincronizadas antes que os recursos do modelo anterior sejam desalocados.

Console do Google Cloud

  1. Cancele a implantação do modelo da seguinte maneira:

    1. No console Google Cloud , na seção "Agent Platform", acesse a página Endpoints.

      Acessar a página do Endpoints

    2. Clique no nome e no ID da versão do modelo que você quer remover da implantação para abrir a página de detalhes.

    3. Na linha do seu modelo, clique em Ações e em Cancelar a implantação do modelo no endpoint.

    4. Na caixa de diálogo Cancelar a implantação do modelo do endpoint, clique em Cancelar a implantação.

    5. Para excluir outros modelos, repita as etapas anteriores.

  2. Opcional: exclua o endpoint de inferência on-line da seguinte maneira:

    1. No console Google Cloud , na seção Plataforma de agentes do Gemini Enterprise, acesse a página Previsão on-line.

      Acessar a previsão on-line

    2. Selecione o endpoint.

    3. Para excluir o endpoint, clique em Ações e, em seguida, clique em Excluir endpoint.

gcloud

  1. Liste os IDs de todos os endpoints no seu projeto:

    gcloud ai endpoints list \
    --project=PROJECT_ID \
    --region=LOCATION_ID

    Substitua PROJECT_ID pelo nome do projeto e LOCATION_ID pela região em que você está usando a Gemini Enterprise Agent Platform.

  2. Liste os IDs dos modelos implantados em um endpoint:

    gcloud ai endpoints describe ENDPOINT_ID \
    --project=PROJECT_ID \
    --region=LOCATION_ID

    Substitua ENDPOINT_ID pelo ID do endpoint.

  3. Remover a implantação de um modelo do endpoint:

    gcloud ai endpoints undeploy-model ENDPOINT_ID \
    --project=PROJECT_ID \
    --region=LOCATION_ID \
    --deployed-model-id=DEPLOYED_MODEL_ID

    Substitua DEPLOYED_MODEL_ID pelo ID do modelo.

  4. Opcional: exclua o endpoint de inferência on-line:

    gcloud ai endpoints delete ENDPOINT_ID \
    --project=PROJECT_ID \
    --region=LOCATION_ID