Zonas de IA

Este documento oferece uma visão geral das zonas de IA para o Cloud Storage. As zonas de IA são zonas Google Cloud especializadas projetadas para oferecer capacidade de computação para cargas de trabalho de inteligência artificial (IA) e machine learning (ML). Elas oferecem uma capacidade significativa de aceleradores de ML (GPU e TPU).

As zonas de IA são otimizadas para cargas de trabalho de IA e ML, como:

  • Treinamento em grande escala
  • Treinamento em pequena escala, ajuste, inferência em massa e retreinamento
  • Inferência de ML em tempo real

Para informações básicas sobre zonas de IA, consulte Zonas de IA na documentação do Compute Engine.

Em uma região, as zonas de IA podem estar geograficamente localizadas longe das zonas padrão (não de IA).

As zonas de IA são compatíveis com outros recursos do Cloud Storage e do Google Cloud.

Recomendações de arquitetura de armazenamento

Recomendamos que você use uma arquitetura de armazenamento em camadas para equilibrar custo, durabilidade e desempenho:

  • Camada de armazenamento de acesso raro: use buckets regionais do Cloud Storage em zonas padrão para armazenamento persistente e altamente durável (a "fonte da verdade") dos seus conjuntos de dados de treinamento e checkpoints de modelo.

  • Camada de desempenho: use serviços especializados de armazenamento zonal para atuar como um cache de alta velocidade ou espaço de trabalho temporário. Essa abordagem elimina a latência entre zonas e maximiza a capacidade de processamento durante jobs ativos.

As seguintes soluções de armazenamento são recomendadas para otimizar a performance do sistema de IA e ML com zonas de IA:

Serviço ou produto de armazenamento Descrição Casos de uso
Rapid Cache produto do Cloud Storage

Um cache de leitura zonal totalmente gerenciado com suporte de SSD que traz dados lidos com frequência de um bucket para a zona de IA.

Crie uma instância do Rapid Cache em uma zona de IA para o bucket de origem regional que contém os conjuntos de dados ou modelos de treinamento que você quer disponibilizar. Quando o job de treinamento lê um arquivo, ele é extraído para o cache rápido na zona. As leituras subsequentes são veiculadas diretamente do cache, ignorando a rede regional. Isso é ideal para os padrões repetitivos de acesso aos dados no treinamento de modelo e para a disponibilização do modelo de baixa latência.

Recomendado para:

  • Cargas de trabalho com muita leitura
  • Treinamento e disponibilização de modelos de baixa latência
Produto Rapid Bucket do Cloud Storage.

Um recurso de alto desempenho que permite localizar buckets em zonas e usar a classe de armazenamento Rapid Storage. Otimizado para cargas de trabalho intensivas em E/S, projetado especificamente para aplicativos de IA/ML que exigem colocação com os dados que precisam acessar.

Para otimizar o armazenamento de dados em cargas de trabalho que exigem baixa latência e alta capacidade de processamento, crie um bucket zonal que use o Rapid Storage e monte o bucket como um diretório na sua máquina virtual usando o Cloud Storage FUSE. Em seguida, configure o aplicativo para armazenar ou acessar dados no bucket zonal usando o ponto de montagem dele. Por exemplo, para armazenar checkpoints de modelo no bucket zonal, configure o diretório de checkpoint para o ponto de montagem no código de treinamento.

Para resiliência regional, faça backup dos seus pontos de verificação em buckets regionais, multirregionais ou birregionais. Use o Serviço de transferência do Cloud Storage para mover dados de um bucket zonal para um bucket em outro local. Use o Gerenciamento do ciclo de vida de objetos para excluir dados após um período definido.

Recomendado para:

  • Cargas de trabalho de leitura e gravação de alta capacidade de processamento
  • Criação de checkpoints de alta velocidade
  • Treinamento e disponibilização de modelos de baixa latência

Práticas recomendadas

Siga estas práticas recomendadas de armazenamento ao usar zonas de IA:

  • Provisione sua camada de desempenho na mesma zona de IA que seus recursos de computação. A colocação de computação e armazenamento ajuda a garantir que as GPUs e TPUs permaneçam totalmente saturadas, maximizando o "goodput" (taxa de transferência útil).

  • Para o Rapid Cache, antes de iniciar a época de treinamento principal, faça uma pré-leitura do conjunto de dados para preencher ou aquecer o cache com suporte de SSD.

Zonas de IA disponíveis

A tabela a seguir mostra as zonas de IA e as regiões Google Cloud principais.

Área geográfica Região principal Zona de IA
Europa europe-west4 europe-west4-ai1a
Estados Unidos us-central1 us-central1-ai1a
Estados Unidos us-south1 us-south1-ai1b

Considerações

  • É possível acessar os produtos do Google Cloud em uma Google Cloud região na zona de IA da região. No entanto, acessar serviços em uma região Google Cloudde uma zona de IA pode adicionar latência de rede, porque a localização da zona de IA pode estar fisicamente separada das localizações das zonas padrão da região.

  • Recomendamos que você execute cargas de trabalho que não são de ML em zonas padrão, não em zonas de IA, porque elas não oferecem todos os serviços do Google Cloud localmente.

A seguir