Nesta página, mostramos como listar e visualizar os clusters de treinamento no seu projeto usando o Google Cloud console ou a API Agent Platform (a Google Cloud CLI não é compatível).
A visualização de um cluster permite confirmar o seguinte:
- Configuração do cluster
- Estado do cluster e do nó
- Informações do nó de login
- Uso de recursos do cluster
Se você estiver procurando instruções sobre como atualizar um cluster, consulte Gerenciar cluster.
Antes de começar
Faça a autenticação na Gemini Enterprise Agent Platform, a menos que já tenha feito isso.
Selecione a guia para como planeja usar as amostras nesta página:
Console
Quando você usa o Google Cloud console para acessar Google Cloud serviços e APIs, não é necessário configurar a autenticação.
REST
Para usar as amostras da API REST desta página em um ambiente de desenvolvimento local, use as credenciais fornecidas para a CLI gcloud.
Instale a Google Cloud CLI.
Ao usar um provedor de identidade (IdP) externo, primeiro faça login na CLI gcloud com sua identidade federada.
Saiba mais em Autenticar para usar REST na documentação de autenticação do Google Cloud .
Funções exigidas
Para receber as permissões necessárias para visualizar clusters de treinamento, peça ao administrador para conceder a você o papel Leitor da Agent Platform (roles/aiplatform.viewer) do IAM no projeto.
Para mais informações sobre a concessão de papéis, consulte Gerenciar o acesso a projetos, pastas e organizações.
Esse papel predefinido contém as permissões necessárias para visualizar clusters de treinamento. Para acessar as permissões exatas que são necessárias, expanda a seção Permissões necessárias:
Permissões necessárias
As seguintes permissões são necessárias para visualizar clusters de treinamento:
-
Para visualizar uma lista de clusters:
aiplatform.modelDevelopmentClusters.list -
Para visualizar os detalhes de um único cluster:
aiplatform.modelDevelopmentClusters.get
Essas permissões também podem ser concedidas com papéis personalizados ou outros papéis predefinidos.
Visibilidade do console
As permissões do IAM por conta própria não tornam os clusters de treinamento visíveis no Google Cloud console. A página Clusters de treinamento aparece apenas para projetos inscritos em clusters de treinamento da Gemini Enterprise Agent Platform. Se a página não aparecer, entre em contato com seu representante de vendas.
O Google Cloud console também exige que as seguintes APIs estejam ativadas no seu projeto. Se alguma delas estiver ausente, a página Clusters de treinamento mostrará um botão Ativar APIs em vez dos clusters:
aiplatform.googleapis.comcompute.googleapis.comfile.googleapis.comhypercomputecluster.googleapis.comlustre.googleapis.comservicenetworking.googleapis.comstorage.googleapis.com
Autenticação para a API
Os exemplos da API Agent Platform nesta página usam o seguinte alias, que chama a Google Cloud CLI para gerar um token de acesso:
alias gcurl='curl -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"'
Ver uma lista de clusters
As duas interfaces listam clusters de uma região por vez. No Google Cloud console, você escolhe a região em uma lista, e com a API Agent Platform, a região faz parte do URL da solicitação.
Console
No Google Cloud console, acesse a página Clusters de treinamento.
Na lista Região, selecione a região em que você quer visualizar os clusters.
A página lista os clusters nessa região. Cada coluna da tabela descreve uma propriedade do cluster:
Coluna Descrição ID O ID do cluster, que você usa como CLUSTER_IDnas solicitações da API Agent Platform.Nome O nome de exibição do cluster. Status O estado do cluster: Creating,Running,Updating,StoppingouError.Nós O número de nós no cluster. Data da criação Quando o cluster foi criado. Tipos de máquina Os tipos de máquina usados pelos pools de nós do cluster. Modelos de consumo Como a capacidade do cluster é obtida: Reservation,Spot,Flex-startouOn-demand.Para abrir um cluster, clique no nome dele na coluna Nome.
REST
Para visualizar uma lista dos clusters em uma região, envie uma solicitação GET para a coleção modelDevelopmentClusters:
gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters
Substitua:
- PROJECT_ID: ID do projeto.
- REGION: a região em que os clusters existem.
O método list oferece suporte aos seguintes parâmetros de consulta opcionais para controlar a paginação:
pageSize(inteiro, opcional): o número máximo de clusters a serem retornados na resposta. O serviço pode retornar um valor menor que esse, mesmo que haja mais itens. Se não for especificado, um tamanho de página padrão será usado.pageToken(string, opcional): um token recebido de uma chamada de lista anterior. Forneça esse token para recuperar a página de resultados subsequente.
O exemplo a seguir solicita a primeira página de resultados, com um máximo de cinco clusters por página:
gcurl "https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters?pageSize=5"
Uma resposta bem-sucedida contém uma matriz modelDevelopmentClusters com até cinco recursos de cluster e também pode incluir uma string nextPageToken.
Visualizar os detalhes de um cluster
O Google Cloud console e a API Agent Platform informam a configuração de um cluster e o estado atual dele, incluindo o estado de cada um dos nós. Os painéis do Cloud Monitoring estão disponíveis apenas no Google Cloud console.
Console
No Google Cloud console, acesse a página Clusters de treinamento.
Na lista Região, selecione a região em que o cluster está.
Na coluna Nome, clique no nome do cluster que você quer visualizar. A página Detalhes do cluster é aberta na guia Visão geral.
Selecione uma guia para visualizar os detalhes correspondentes:
Visão geral: o nome, a descrição e o local do cluster, além das configurações de computação, rede e orquestração configuradas, o nó de login e as partições do Slurm.
Nós: duas tabelas que descrevem os nós no cluster.
Nós de login, com as colunas Status, Nome, Zona, Tipo de máquina, IP interno, IP externo e Conectar. Use Conectar para abrir uma sessão SSH em um nó de login.
Nós de computação, com as colunas Status, Nome, Zona, Tipo de máquina, IP interno e Partição.
Observabilidade: painéis pré-criados do Cloud Monitoring que abrangem o uso de CPU, memória e rede no cluster, além da utilização da GPU, métricas do NVIDIA Data Center GPU Manager (DCGM), rede de GPU e integridade da GPU.
Para recarregar a página com o estado atual do cluster, clique em Atualizar. Para excluir o cluster, clique em Excluir.
REST
Para visualizar os detalhes de um único cluster, envie uma solicitação GET para o recurso do cluster:
gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters/CLUSTER_ID
Substitua:
- PROJECT_ID: ID do projeto.
- REGION: a região em que o cluster existe.
- CLUSTER_ID: o ID do cluster que você quer visualizar. Esse é o valor mostrado na coluna ID da página Clusters de treinamento no Google Cloud console.
A resposta é um recurso ModelDevelopmentCluster. Além da configuração do cluster, o campo clusterStatus informa o estado atual do cluster e de cada um dos nós:
clusterStatus.state: o estado do cluster, um dePROVISIONING,RUNNING,UPDATING,STOPPINGouERROR. O Google Cloud console mostraPROVISIONINGcomo Criando.clusterStatus.nodesStatus[]: uma entrada para cada nó no cluster, fornecendo onodeStatedo nó (PREPARING,RUNNING,UPDATINGouERROR), o nome da instância do Compute Engine, o pool de nós e a hora em que o estado foi alterado pela última vez.clusterStatus.detail: uma descrição legível do status do cluster, quando disponível.
Para uma descrição dos campos de configuração, consulte a referência de parâmetros.
A seguir
- Modificar ou excluir um cluster
- Conectar-se a um cluster e se recuperar de falhas de nó
- Executar cargas de trabalho pré-criadas em um cluster
- Orquestrar jobs em um cluster de treinamento