Crie o cluster de previsão

Pré-visualização: a previsão online é uma funcionalidade de pré-visualização que está disponível tal como se encontra e não é recomendada para ambientes de produção. A Google não oferece contratos de nível de serviço (SLA) nem compromissos de apoio técnico para funcionalidades de pré-visualização. Para mais informações, consulte o artigo Fases das funcionalidades do GDC.

Tem de implementar os recursos personalizados de previsão no cluster de previsão que o operador de infraestrutura (IO) cria para si. O operador cria cargas de trabalho de previsão neste mesmo cluster.

Para criar o cluster de previsão, trabalhe com o IO para associar o seu projeto de previsão e alocar os agrupamentos de nós necessários para as previsões online no Google Distributed Cloud (GDC) air-gapped.

Importante: só pode existir um cluster de previsão em cada organização. No entanto, o IO pode anexar e associar vários projetos ao cluster para separar e organizar os extremos.

Para criar um cluster de previsão, siga estes passos:

1. Identifique o projeto na sua organização que quer associar ao novo cluster para previsões online.

   Para criar um projeto, consulte o artigo Configure um projeto para o Vertex AI. Precisa do ID do projeto quando faz chamadas à API.

2. Na lista de tipos de máquinas disponíveis no Distributed Cloud, escolha o tipo de máquina para os nós de que as suas cargas de trabalho precisam no cluster.

   O tipo de máquina que escolher depende da dimensão e da complexidade do modelo de previsão, e determina os recursos de computação e da unidade de processamento gráfico (GPU) que o IO disponibiliza ao cluster. Siga as recomendações de seleção de nós quando selecionar o tipo de máquina para os nós.

3. Envie um email ao IO com o modelo de pedido de cluster de previsão para abrir um pedido e enviar o seu pedido de criação do cluster.

4. Se necessário, comunique com o IO até que este termine a criação do cluster de previsão associado ao seu projeto e a atribuição dos agrupamentos de nós adequados no cluster.

Após concluir o aprovisionamento do cluster, o cluster de previsão está pronto para previsões online.

Recomendações de seleção de nós

Quando o IO cria agrupamentos de nós num cluster, atribui um dos tipos de máquinas disponíveis no Distributed Cloud para disponibilizar um conjunto predefinido de recursos para os nós de trabalho. Consoante a dimensão e a complexidade do modelo, precisa de diferentes desempenhos de computação e, consequentemente, de uma quantidade específica de CPU, memória e GPU. Tem de indicar estes detalhes na sua comunicação com o IO quando quiser criar um cluster de previsão.

Importante: o Distributed Cloud usa GPUs virtualizadas no cluster, o que significa que recebe um sétimo da GPU que tem para cada número de aceleradores pedido. Por exemplo, se pedir um número de aceleradores de três no agrupamento de recursos, recebe três sétimos de uma GPU.

Quando determinar com o IO o tipo de máquina para os agrupamentos de nós de que precisa no cluster de previsão, tem de seguir as seguintes práticas:

• O Distributed Cloud adiciona uma sobrecarga de computação aos nós para os componentes do sistema obrigatórios. Por conseguinte, tem de escolher um tipo de máquina maior para os agrupamentos de nós do que o que pretende usar no agrupamento de recursos para os seus modelos.
• Escolha a solução que disponibiliza a memória e os recursos de computação mínimos necessários para os seus requisitos. Por exemplo, se o modelo precisar de oito vCPUs, escolha o tipo de máquina n2-highcpu-8-gdc, a solução mais pequena com oito vCPUs e 8 GB de memória no Distributed Cloud.
• À medida que avança, considere soluções de maior desempenho apenas se as soluções mais pequenas não forem adequadas para as suas necessidades e para a dimensão e a complexidade do modelo. É fundamental seguir o princípio do menor privilégio, usando apenas os recursos de que precisa para executar o seu fluxo de trabalho específico. Esta abordagem responsável garante uma utilização ponderada dos recursos no ambiente do Distributed Cloud.
• Escolha apenas soluções que tenham GPUs se precisar delas para o seu modelo.
• Se o modelo precisar de GPUs, considere o tipo de máquina a2-highgpu-1g-gdc, a solução mais pequena que disponibiliza GPUs.

Modelo de pedido de cluster de previsão

Use o seguinte modelo para enviar um email ao IO. O email abre um pedido para criar o cluster de previsão de que precisa para previsões online.

Good day,

I need to create a prediction cluster and associate it with a project in my organization to use online predictions.

Please use the following information for the creation of the cluster:

- **Cluster name:** vtx-ai-prediction
- **Name of the organization:** [Specify your organization's name.]
- **Project name:** [Specify the name of your project to associate with the prediction cluster.]
- **Machine type for the node pool:** [Specify the machine type you chose from the list of available machine types for the cluster nodes based on node selection recommendations. Please note that the IO can respond with a different suggestion based on your needs.]
- **Compute resources:** [Optionally, if you know how many compute resources your workloads need, describe them in this field.]
- **Memory resources:** [Optionally, if you know how many memory resources your workloads need, describe them in this field.]
- **GPU resources:** [Optionally, if you know how many GPU resources your workloads need, describe them in this field.]

**Note for IO:** Review the instructions to create the prediction cluster in the following section of the documentation: Operator > Configure the deployment > Create the Prediction cluster

Thank you,
[Your name]