Ao criar um cluster do Serviço Gerenciado para Apache Spark, você especifica uma região do Compute Engine como o local do cluster. Você também pode especificar uma zona dentro dessa região ou omitir a zona para que o recurso de zona automática do Serviço Gerenciado para Apache Spark selecione uma zona para você na região especificada. Todos os nós do cluster são implantados na zona selecionada.
É possível excluir zonas dos critérios de seleção da Zona automática se a região do cluster incluir pelo menos duas zonas não excluídas. Para mais informações, consulte Usar a colocação em zona automática.
Reservas de zona automática e de recursos
A zona automática prioriza a criação de um cluster em uma zona com reservas de recursos, da seguinte maneira:
Se os recursos solicitados do cluster puderem ser totalmente atendidos por recursos reservados e, se necessário, por recursos sob demanda em uma zona, a zona automática vai consumir os recursos reservados e sob demanda e criar o cluster nessa zona.
A Zona automática prioriza as zonas para seleção de acordo com o total de reservas de núcleos de CPU (
vCPU) em uma zona.Exemplo:uma solicitação de criação de cluster especifica 20
n2-standard-2e 1n2-standard-64(40 + 64vCPUssolicitados). A Zona automática vai priorizar as seguintes zonas para seleção de acordo com o total de reservas de vCPU disponíveis na zona:zone-creservas disponíveis: 3n2-standard-2e 1n2-standard-64(70vCPUs)zone-breservas disponíveis: 1n2-standard-64(64vCPUs)zone-areservas disponíveis: 25n2-standard-2(50vCPUs)Supondo que cada uma dessas zonas tenha
vCPUadicionais sob demanda e outros recursos suficientes para atender à solicitação do cluster, a zona automática selecionarázone-cpara a criação do cluster.
Se os recursos de cluster solicitados não puderem ser totalmente atendidos pelos recursos reservados mais sob demanda em uma zona, a zona automática vai criar o cluster em uma zona que provavelmente vai atender à solicitação usando recursos sob demanda.
Usar a colocação em zona automática
Console
Para criar um cluster do Serviço Gerenciado para Apache Spark que usa a colocação em zona automática:
- No console do Google Cloud , abra a página Criar um cluster do Serviço Gerenciado para Apache Spark no Compute Engine. O painel Configurar cluster está selecionado.
- Na seção Local, faça o seguinte:
- Selecione uma região para o cluster.
- Em Zona, selecione "Qualquer uma".
Excluir zonas:não é possível especificar zonas para excluir da colocação em zona automática usando o console Google Cloud . Esse recurso está disponível usando a Google Cloud CLI e a API REST.
CLI da gcloud
Para criar um cluster do Serviço Gerenciado para Apache Spark que use a colocação em zona automática, use o comando
gcloud dataproc clusters create. Defina a flag --region para uma região. Em seguida, omita a flag --zone ou defina-a como uma string vazia (--zone="").--zone
--auto-zone-exclude-zones para especificar uma lista separada por vírgulas de zonas. A seleção zona automática escolherá uma zona da região especificada, mas excluirá as zonas listadas dos critérios de seleção. É necessário ter pelo menos duas zonas não excluídas disponíveis na região do cluster.
Exemplos:
Uso básico da colocação em zona automática:
gcloud dataproc clusters create CLUSTER_NAME \ --region=REGION \ other args ...
Zona automática com zonas excluídas:
gcloud dataproc clusters create CLUSTER_NAME \ --region=REGION \ --auto-zone-exclude-zones=ZONE_1,ZONE_2 \ other args ...
API REST
Para criar um cluster do Serviço Gerenciado para Apache Spark que use a colocação em zona automática, crie uma solicitação de API clusters.create JSON, deixando o campo gceClusterConfig.zoneUri vazio. No endpoint REST, https://dataproc.googleapis.com/v1/projects/projectId/regions/region/clusters, insira um nome de região. A Zona automática do Serviço Gerenciado para Apache Spark vai escolher
uma zona para o cluster dentro da região especificada.
Para excluir zonas específicas, preencha o campo gceClusterConfig.autoZoneExcludeZoneUris com uma lista de nomes de zonas a serem excluídas. É necessário ter pelo menos duas zonas não excluídas disponíveis na região do cluster.
Use nomes de recursos curtos com a colocação em zona automática: ao especificar um URI de recurso, como machineTypeUri ou acceleratorTypeUri, em uma solicitação de criação de cluster da API REST de colocação em zona automática, use um nome de recurso curto sem uma especificação de zona, por exemplo, "n1-standard-2" ou "nvidia-tesla-t4".