Usar a CMEK com o Managed Service for Apache Spark

Por padrão, o Serviço gerenciado para Apache Spark criptografa o conteúdo do cliente em repouso. O Serviço gerenciado para Apache Spark executa a criptografia, e você não precisa fazer nada. Essa opção é chamada de criptografia padrão do Google.

Se você quiser controlar suas chaves de criptografia, use chaves de criptografia gerenciadas pelo cliente (CMEKs) no Cloud KMS com serviços integrados a CMEKs, incluindo o Serviço gerenciado para Apache Spark. Ao usar chaves do Cloud KMS, é possível controlar o nível de proteção, o local, a programação de rotação, as permissões de uso e acesso e os limites criptográficos. Ao usar o Cloud KMS, é possível também monitorar o uso de chaves, ver registros de auditoria e controlar ciclos de vida de chaves. Em vez de o Google ser proprietário e responsável pelo gerenciamento das chaves de criptografia de chaves (KEKs) simétricas que protegem seus dados, você controla e gerencia essas chaves no Cloud KMS.

Depois de configurar os recursos com CMEKs, a experiência de acesso aos recursos do Serviço Gerenciado para Apache Spark é semelhante à criptografia padrão do Google. Para saber mais sobre suas opções de criptografia, consulte Chaves de criptografia gerenciadas pelo cliente (CMEK).

Quando você usa o Serviço Gerenciado para Apache Spark, os dados são armazenados em discos na infraestrutura sem servidor subjacente e em um bucket de preparo do Cloud Storage. Esses dados são criptografados com uma chave de criptografia de dados (DEK) e uma chave de criptografia de chaves (KEK) geradas pelo Google. Se você quiser controlar sua KEK, use uma chave de criptografia gerenciada pelo cliente (CMEK) em vez da criptografia padrão em repouso. Ao usar uma CMEK, você cria a chave e gerencia o acesso a ela, e pode revogar o acesso para impedir a descriptografia das DEKs e dos dados.

Usar CMEK

Siga as etapas desta seção para usar a CMEK e criptografar os dados que o Serviço Gerenciado para Apache Spark grava no disco permanente e no bucket de preparo do Serviço Gerenciado para Apache Spark.

A partir de 23 de abril de 2024:

• O Serviço Gerenciado para Apache Spark também usa sua CMEK para criptografar argumentos de job em lote. O papel do IAM Criptografador/Descriptografador de CryptoKey do Cloud KMS precisa ser atribuído à conta de serviço do agente de serviço do Serviço Gerenciado para Apache Spark para ativar esse comportamento. Se o papel de agente de serviço do Serviço Gerenciado para Apache Spark não estiver anexado à conta de serviço do agente de serviço do Serviço Gerenciado para Apache Spark, adicione a permissão serviceusage.services.use a um papel personalizado anexado à conta de serviço do agente de serviço do Serviço Gerenciado para Apache Spark . A API Cloud KMS precisa estar ativada no projeto que executa os recursos do Serviço Gerenciado para Apache Spark.
• batches.list retorna um campo unreachable que lista todos os lotes com argumentos de job que não puderam ser descriptografados. Você pode emitir solicitações de batches.get para obter mais informações sobre lotes inacessíveis.
• A chave (CMEK) precisa estar no mesmo local do recurso criptografado. Por exemplo, a CMEK usada para criptografar um lote executado na região us-central1 também precisa estar localizada na região us-central1.

É possível usar o Cloud Key Management Service para criar e gerenciar chaves e keystores ou usar a chave automática do Cloud KMS para a criação automática simplificada de chaves e keystores.

Como usar o Autokey do Cloud KMS

1. Ative o Autokey na pasta que contém seu projeto.
2. Crie um identificador de chave. Ao criar o identificador de chave, especifique dataproc.googleapis.com/Batch ou dataproc.googleapis.com/Session como o --resource-type. O Autokey gera uma chave e a atribui ao identificador de chave.
3. Conceda permissões às contas de serviço e configure sua carga de trabalho em lote ou de sessão seguindo as etapas 4 e 5 na seção Criar e usar chaves manualmente abaixo. Ao enviar sua carga de trabalho, especifique o nome do recurso de identificador da chave em vez do nome do recurso da chave no campo kmsKey.

Criar e usar chaves manualmente

Siga estas etapas para criar manualmente chaves do Cloud KMS e usá-las com o Serviço gerenciado para Apache Spark.

1. Crie uma chave usando o Cloud Key Management Service (Cloud KMS).

2. Copie o nome do recurso.

   

   O nome do recurso é criado da seguinte maneira:

   projects/PROJECT_ID/locations/REGION/keyRings/KEY_RING_NAME/cryptoKeys/KEY_NAME
   

3. Permita que as contas de serviço do Compute Engine, do Serviço Gerenciado para Apache Spark e do agente de serviço do Cloud Storage usem sua chave:

   1. Consulte Proteger recursos usando chaves do Cloud KMS > Papéis obrigatórios para atribuir o papel Criptografador/descriptografador de CryptoKey do Cloud KMS à conta de serviço do agente de serviço do Compute Engine. Se essa conta de serviço não estiver listada na página do IAM no console do Google Cloud , clique em Incluir concessões de papel fornecidas pelo Google para listá-la.

   2. Atribua o papel Criptografador/Descriptografador de CryptoKey do Cloud KMS à conta de serviço do agente de serviço do Serviço Gerenciado para Apache Spark. Use Google Cloud CLI para atribuir a função:

       gcloud projects add-iam-policy-binding KMS_PROJECT_ID \
       --member serviceAccount:[e-mail] \
       --role roles/cloudkms.cryptoKeyEncrypterDecrypter
      

      Substitua:

      KMS_PROJECT_ID: o ID do seu projeto Google Cloud que executa o Cloud KMS. Esse projeto também pode ser o que executa recursos do Serviço Gerenciado para Apache Spark.

      PROJECT_NUMBER: o número do projeto (não o ID do projeto) do seu projeto do Google Cloud que executa recursos do Serviço Gerenciado para Apache Spark.

   3. Ative a API Cloud KMS no projeto que executa recursos do Serviço gerenciado para Apache Spark.

   4. Se o papel de agente de serviço do Serviço Gerenciado para Apache Spark não estiver anexado à conta de serviço do agente de serviço do Serviço Gerenciado para Apache Spark, adicione a permissão serviceusage.services.use à função personalizada anexada à conta de serviço do agente de serviço do Serviço Gerenciado para Apache Spark. Se a função de agente de serviço do Serviço Gerenciado para Apache Spark estiver anexada à conta de serviço do agente de serviço do Serviço Gerenciado para Apache Spark, pule esta etapa.

   5. Siga as etapas para adicionar sua chave ao bucket.

4. Ao enviar uma carga de trabalho em lote:

   1. Especifique sua chave no parâmetro kmsKey em lote.
   2. Especifique o nome do bucket do Cloud Storage no parâmetro stagingBucket em lote.

5. Ao criar uma sessão interativa ou um modelo de sessão:

   1. Especifique sua chave no parâmetro de sessão kmsKey.
   2. Especifique o nome do bucket do Cloud Storage no parâmetro de sessão stagingBucket.