Zonas de IA

Neste documento, apresentamos uma visão geral das zonas de IA do Cloud Storage. As zonas de IA são zonas Google Cloud especializadas projetadas para oferecer capacidade de computação para cargas de trabalho de inteligência artificial (IA) e machine learning (ML). Eles fornecem uma capacidade significativa de acelerador de ML (GPU e TPU).

As zonas de IA são otimizadas para cargas de trabalho de IA e ML, como as seguintes:

  • Treinamento em grande escala
  • Treinamento em pequena escala, ajuste, inferência em massa e retreinamento
  • Inferência de ML em tempo real

Para mais informações sobre as zonas de IA, consulte Zonas de IA na documentação do Compute Engine.

Em uma região, as zonas de IA podem estar localizadas geograficamente longe das zonas padrão (não IA).

As zonas de IA são compatíveis com outros recursos do Cloud Storage e do Google Cloud.

Recomendações de arquitetura de armazenamento

Recomendamos que você use uma arquitetura de armazenamento em camadas para equilibrar custo, durabilidade e desempenho:

  • Camada de armazenamento frio: use buckets regionais do Cloud Storage em zonas padrão para armazenamento persistente e altamente durável (a "fonte da verdade") dos conjuntos de dados de treinamento e dos checkpoints de modelo.

  • Camada de desempenho: use serviços de armazenamento zonal especializados para atuar como um cache de alta velocidade ou espaço de trabalho temporário. Essa abordagem elimina a latência entre zonas e maximiza a capacidade de processamento durante jobs ativos.

As seguintes soluções de armazenamento são recomendadas para otimizar o desempenho do sistema de IA e ML com zonas de IA:

Serviço ou produto de armazenamento Descrição Casos de uso
Produto Rapid Cache do Cloud Storage

Um cache de leitura zonal totalmente gerenciado e com suporte de SSD que traz dados lidos com frequência de um bucket para a zona de IA.

Crie uma instância do Rapid Cache em uma zona de IA para o bucket de origem regional que contém os conjuntos de dados de treinamento ou os modelos que você quer disponibilizar. Quando o job de treinamento lê um arquivo, ele é transferido para o cache rápido na zona. As leituras subsequentes são veiculadas diretamente do cache, ignorando a rede regional. Isso é ideal para os padrões repetitivos de acesso aos dados no treinamento de modelo e para a disponibilização do modelo de baixa latência.

Recomendado para:

  • Cargas de trabalho com muita leitura
  • Treinamento e disponibilização de modelos de baixa latência
Produto Rapid Bucket do Cloud Storage

Um recurso de alto desempenho que permite localizar buckets em zonas e usar a classe de armazenamento Rapid Storage. Otimizado para cargas de trabalho com uso intensivo de E/S, projetado especificamente para aplicativos de IA/ML que exigem colocação com os dados que precisam acessar.

Para otimizar o armazenamento de dados para cargas de trabalho que exigem baixa latência e alta capacidade de processamento, crie um bucket zonal que use o Rapid Storage e, em seguida, monte o bucket como um diretório na máquina virtual usando o Cloud Storage FUSE. Em seguida, configure o aplicativo para armazenar ou acessar dados no bucket zonal pelo ponto de montagem do bucket. Por exemplo, para armazenar checkpoints de modelo no bucket zonal, configure o diretório de checkpoints para o ponto de montagem no código de treinamento.

Para resiliência regional, é possível fazer backup dos checkpoints em buckets regionais, multirregionais ou birregionais. Use o Serviço de transferência do Cloud Storage para mover dados de um bucket zonal para um bucket em um local diferente. Use o Gerenciamento do ciclo de vida de objetos para expirar e excluir dados após um período definido.

Recomendado para:

  • Cargas de trabalho de leitura e gravação de alta capacidade de processamento
  • Checkpoints de alta velocidade
  • Treinamento e disponibilização de modelos de baixa latência

Práticas recomendadas

Siga estas práticas recomendadas de armazenamento ao usar zonas de IA:

  • Provisione a camada de desempenho na mesma zona de IA dos recursos de computação. A colocalização de computação e armazenamento ajuda a garantir que as GPUs e TPUs permaneçam totalmente saturadas, maximizando o "goodput" (capacidade de processamento útil).

  • Para o Rapid Cache, antes de iniciar a época de treinamento principal, faça uma pré-leitura do conjunto de dados para preencher ou aquecer o cache com SSD.

Zonas de IA disponíveis

A tabela a seguir mostra as zonas de IA e as regiões Google Cloud mãe.

Área geográfica Região pai Zona de IA
Europa europe-west4 europe-west4-ai1a
Estados Unidos us-central1 us-central1-ai1a
Estados Unidos us-south1 us-south1-ai1b

Considerações

  • É possível acessar os produtos do Google Cloud em uma região do Google Cloud na zona de IA da região. No entanto, acessar serviços em uma região do Google Cloud de uma zona de IA pode adicionar latência de rede, porque o local da zona de IA pode estar fisicamente separado dos locais das zonas padrão da região.

  • Recomendamos que você execute cargas de trabalho que não sejam de ML em zonas padrão, não em zonas de IA, porque as zonas de IA não oferecem todos os serviços do Google Cloud localmente.

A seguir