Perspectiva de IA e ML: otimização de custos

Last reviewed 2026-10-29 UTC

Este documento no Google Cloud Well-Architected Framework: perspectiva de IA e ML oferece uma visão geral dos princípios e recomendações para otimizar o custo dos seus sistemas de IA em todo o ciclo de vida de ML. Ao adotar uma abordagem proativa e informada de gerenciamento de custos, sua organização pode aproveitar todo o potencial dos sistemas de IA e ML e manter a disciplina financeira. As recomendações neste documento estão alinhadas com o pilar de otimização de custos do Well-Architected Framework.

Os sistemas de IA e ML podem ajudar você a descobrir insights valiosos e recursos preditivos com base em dados. Por exemplo, é possível reduzir o atrito em processos internos, melhorar as experiências do usuário e receber insights mais detalhados sobre os clientes. A nuvem oferece grandes quantidades de recursos e um rápido retorno do investimento sem grandes investimentos iniciais para cargas de trabalho de IA e ML. Para maximizar o valor comercial e alinhar os gastos com as metas de negócios, é preciso entender os fatores de custo, otimizar os custos de forma proativa, configurar controles de gastos e adotar práticas de FinOps.

As recomendações neste documento são mapeadas para os seguintes princípios básicos:

Definir e medir custos e retornos

Para gerenciar de forma eficaz os custos de IA e ML no Google Cloud, é necessário definir e medir os custos dos recursos de nuvem e o valor comercial das suas iniciativas de IA e ML. Para ajudar você a acompanhar as despesas de maneira granular, o Google Cloud oferece ferramentas abrangentes de faturamento e gerenciamento de custos, como as seguintes:

  • Relatórios de faturamento e tabelas do Cloud Billing
  • Painéis, orçamentos e alertas do Data Studio
  • Cloud Monitoring
  • Cloud Logging

Para tomar decisões fundamentadas sobre a alocação e a otimização de recursos, considere as seguintes recomendações.

Estabelecer metas de negócios e KPIs

Alinhar as escolhas técnicas nos seus projetos de IA e ML com as metas de negócios e os indicadores principais de desempenho (KPIs).

Definir objetivos estratégicos e KPIs focados em ROI

Garantir que os projetos de IA e ML estejam alinhados com objetivos estratégicos, como crescimento da receita, redução de custos, satisfação do cliente e eficiência. Envolva as partes interessadas para entender as prioridades de negócios. Defina objetivos de IA e ML que sejam específicos, mensuráveis, alcançáveis, relevantes e temporais (SMART). Por exemplo, um objetivo SMART é: "Reduzir o tempo de atendimento do chat para suporte ao cliente em 15% em 6 meses usando um chatbot de IA".

Para progredir em direção às suas metas de negócios e medir o retorno do investimento (ROI), defina KPIs para as seguintes categorias de métricas:

  • Custos de treinamento, inferência, armazenamento e recursos de rede, incluindo custos unitários específicos (como o custo por inferência, ponto de dados ou tarefa). Essas métricas ajudam você a entender as oportunidades de eficiência e otimização de custos. É possível acompanhar esses custos usando os relatórios de faturamento do Cloud Billing e os painéis do Monitoring.
  • Métricas de valor comercial, como crescimento da receita, economia de custos, satisfação do cliente, eficiência, precisão e adoção. É possível acompanhar essas métricas usando a análise do BigQuery e os painéis do Looker.
  • Métricas específicas do setor, como:

    • Setor de varejo: medir o aumento de receita e a desistência de usuários
    • Setor de saúde: medir o tempo e os resultados dos pacientes
    • Setor financeiro: medir a redução de fraudes
  • Métricas específicas do projeto. É possível acompanhar essas métricas usando Experimentos na Gemini Enterprise Agent Platform e avaliação.

    • IA preditiva: medir a acurácia e a precisão
    • IA generativa: medir a adoção, a satisfação e a qualidade do conteúdo
    • IA de visão computacional: medir a precisão

Promover uma cultura de conscientização de custos e otimização contínua

Adote os princípios de FinOps para garantir que cada projeto de IA e ML tenha custos estimados e formas de medir e acompanhar os custos reais ao longo do ciclo de vida. Garanta que os custos e os benefícios comerciais dos seus projetos tenham proprietários atribuídos e responsabilidade clara.

Para mais informações, consulte Promover uma cultura de conscientização de custos no pilar de otimização de custos do Well-Architected Framework.

Gerar valor e otimização contínua por meio de iteração e feedback

Mapeie seus aplicativos de IA e ML diretamente para suas metas de negócios e meça o ROI.

Para validar suas hipóteses de ROI, comece com projetos-piloto e use o seguinte ciclo de otimização iterativo:

  1. Monitorar continuamente e analisar dados: monitore KPIs e custos para identificar desvios e oportunidades de otimização.
  2. Fazer ajustes com base em dados: otimizar estratégias, modelos, infraestrutura e alocação de recursos com base em insights de dados.
  3. Refinar de forma iterativa: adapte os objetivos de negócios e os KPIs com base no que você aprendeu e nas necessidades em constante evolução da empresa. Essa iteração ajuda a manter a relevância e o alinhamento estratégico.
  4. Estabeleça um ciclo de feedback: analise o desempenho, os custos e o valor com as partes interessadas para informar a otimização contínua e o planejamento de projetos futuros.

Gerenciar dados de faturamento com o Cloud Billing e rótulos

A otimização de custos eficaz requer visibilidade da origem de cada elemento de custo. As recomendações nesta seção podem ajudar você a usar as ferramentas do Google Cloud para receber insights detalhados sobre seus custos de IA e ML. Também é possível atribuir custos a projetos, equipes e atividades específicos de IA e ML. Esses insights estabelecem as bases para a otimização de custos.

Organizar e rotular Google Cloud recursos

  • Estruture seus projetos e recursos em uma hierarquia que reflita sua estrutura organizacional e seus fluxos de trabalho de IA e ML. Para acompanhar e analisar custos em diferentes níveis, organize seus recursos do Google Cloud usando organizações, pastas e projetos. Para mais informações, consulte Decidir uma hierarquia de recursos para a zona de destino do Google Cloud .
  • Aplique rótulos significativos aos seus recursos. É possível usar rótulos que indicam o projeto, a equipe, o ambiente, o nome do modelo, o conjunto de dados, o caso de uso e os requisitos de desempenho. Os rótulos fornecem um contexto valioso para seus dados de faturamento e permitem uma análise de custo granular.
  • Mantenha a consistência nas convenções de rotulagem em todos os seus projetos de IA e ML. Convenções de rotulagem consistentes ajudam a garantir que os dados de faturamento sejam organizados e possam ser analisados com facilidade.
  • Para facilitar a análise e os relatórios detalhados, exporte os dados de faturamento para o BigQuery. O BigQuery tem recursos de consulta avançados que permitem analisar os dados de faturamento para entender seus custos.
  • Para agregar custos por rótulos, projetos ou períodos específicos, escreva consultas SQL personalizadas no BigQuery. Essas consultas permitem atribuir custos a atividades específicas de IA e ML, como treinamento de modelo, ajuste de hiperparâmetros ou inferência.
  • Para identificar anomalias de custo ou picos de gastos inesperados, use os recursos de análise no BigQuery. Essa abordagem pode ajudar você a detectar possíveis problemas ou ineficiências nas cargas de trabalho de IA e ML.
  • Para identificar e gerenciar custos inesperados, use o painel de detecção de anomalias no Cloud Billing.
  • Para distribuir custos entre diferentes equipes ou departamentos com base no uso de recursos, use o recurso de alocação de custos do Google Cloud. A alocação de custos promove a responsabilidade e a transparência.
  • Para ter insights sobre os padrões de gastos, explore os relatórios de faturamento do Cloud Billing pré-criados. É possível filtrar e personalizar esses relatórios para se concentrar em projetos ou serviços específicos de IA e ML.

Monitorar recursos continuamente com painéis, alertas e relatórios

Para criar uma maneira escalonável e resiliente de acompanhar os custos, é necessário monitorar e gerar relatórios continuamente. Painéis, alertas e relatórios são a base para um monitoramento de custos eficaz. Essa base permite que você mantenha acesso constante às informações de custo, identifique áreas de otimização e garanta o alinhamento entre as metas de negócios e os custos.

Criar um sistema de relatórios

Criar relatórios programados e compartilhá-los com as partes interessadas.

Use o Monitoring para coletar métricas de várias fontes, incluindo aplicativos, infraestrutura e serviços do Google Cloud , como o Compute Engine, o Google Kubernetes Engine (GKE) e o Cloud Run functions. Para visualizar métricas e registros em tempo real, use o painel pré-criado do Monitoring ou crie painéis personalizados. Com os painéis personalizados, é possível definir e adicionar métricas para monitorar aspectos específicos dos seus sistemas, como desempenho do modelo, chamadas de API ou KPIs de negócios.

Use o Logging para coleta e armazenamento centralizados de registros de aplicativos, sistemas e serviços do Google Cloud . Use os registros para as seguintes finalidades:

  • Acompanhe os custos e a utilização de recursos como CPU, memória, armazenamento e rede.
  • Identifique casos de provisionamento excessivo (em que os recursos não são totalmente utilizados) e provisionamento insuficiente (em que não há recursos suficientes). O provisionamento excessivo resulta em custos desnecessários. O subprovisionamento reduz os tempos de treinamento e pode causar problemas de desempenho.
  • Identifique recursos inativos ou subutilizados, como VMs e GPUs, e tome medidas para encerrá-los ou redimensioná-los para otimizar os custos.
  • Identifique picos de custo para detectar aumentos repentinos e inesperados no uso ou nos custos de recursos.

Use o Looker ou o Data Studio para criar painéis e relatórios interativos. Conecte os painéis e relatórios a várias fontes de dados, incluindo o BigQuery e o Monitoring.

Definir limites de alerta com base nos principais KPIs

Para seus KPIs, determine os limites que devem acionar alertas. Limites de alerta significativos podem ajudar a evitar a fadiga de alerta. Crie políticas de alertas no Monitoring para receber notificações relacionadas aos seus KPIs. Por exemplo, é possível receber notificações quando a precisão cai abaixo de um determinado limite ou a latência excede um limite definido. Os alertas com base em dados de registro podem notificar você sobre possíveis problemas de custo em tempo real. Esses alertas permitem que você tome ações corretivas imediatamente e evite mais perdas financeiras.

Otimizar a alocação de recursos

Para otimizar os custos das cargas de trabalho de IA e ML no Google Cloud, é necessário otimizar a alocação de recursos. Para evitar despesas desnecessárias e garantir que as cargas de trabalho tenham os recursos necessários para um desempenho ideal, alinhe a alocação de recursos às necessidades das cargas de trabalho.

Para otimizar a alocação de recursos de nuvem para cargas de trabalho de IA e ML, considere as recomendações a seguir.

Use o escalonamento automático para ajustar os recursos de acordo com a demanda.

Use serviços do Google Cloud que oferecem suporte ao escalonamento automático, que ajusta automaticamente a alocação de recursos para atender à demanda atual. O escalonamento automático oferece os seguintes benefícios:

  • Otimização de custos e desempenho: você evita pagar por recursos ociosos. Ao mesmo tempo, o escalonamento automático garante que os sistemas tenham os recursos necessários para funcionar de maneira ideal, mesmo em picos de carga.
  • Mais eficiência: sua equipe fica livre para se concentrar em outras tarefas.
  • Maior agilidade: é possível responder rapidamente às mudanças nas demandas e manter alta disponibilidade para seus aplicativos.

As seções a seguir resumem as técnicas que podem ser usadas para implementar o escalonamento automático em diferentes estágios dos seus projetos de IA.

Treinamento

  • Use serviços gerenciados como a Gemini Enterprise Agent Platform ou o GKE, que oferecem recursos integrados de escalonamento automático para jobs de treinamento.
  • Configure políticas de escalonamento automático para ajustar o número de instâncias de treinamento com base em métricas como utilização da CPU, uso da memória e tamanho da fila de jobs.
  • Use métricas de escalonamento personalizadas para ajustar o comportamento de escalonamento automático para suas cargas de trabalho específicas.

Inferência

  • Implante seus modelos em plataformas escalonáveis, como Inferência da Gemini Enterprise Agent Platform, GPUs no GKE ou Cloud TPU no GKE.
  • Use recursos de escalonamento automático para ajustar o número de réplicas com base em métricas como taxa de solicitação, latência e utilização de recursos.
  • Implemente o balanceamento de carga para distribuir o tráfego de maneira uniforme entre as réplicas e garantir alta disponibilidade.

Comece com modelos e conjuntos de dados pequenos

Para ajudar a reduzir custos, teste hipóteses de ML em pequena escala quando possível e use uma abordagem iterativa. Essa abordagem, com modelos e conjuntos de dados menores, oferece os seguintes benefícios:

  • Custos reduzidos desde o início: menos capacidade de computação, armazenamento e tempo de processamento podem resultar em custos mais baixos durante as fases iniciais de experimentação e desenvolvimento.
  • Iteração mais rápida: é necessário menos tempo de treinamento, o que permite iterar mais rapidamente, explorar abordagens alternativas e identificar direções promissoras com mais eficiência.
  • Complexidade reduzida: depuração, análise e interpretação mais simples dos resultados, o que leva a ciclos de desenvolvimento mais rápidos.
  • Uso eficiente de recursos: menor chance de provisionamento excessivo de recursos. Você provisiona apenas os recursos necessários para a carga de trabalho atual.

Recomendações:

  • Use dados de amostra primeiro: treine seus modelos em um subconjunto representativo dos seus dados. Essa abordagem permite avaliar o desempenho do modelo e identificar possíveis problemas sem processar todo o conjunto de dados.
  • Faça experimentos usando notebooks: comece com instâncias menores e escalone conforme necessário. Use o Gemini Enterprise Agent Platform Workbench, um ambiente de notebook Jupyter gerenciado que é adequado para testar diferentes arquiteturas de modelo e conjuntos de dados.
  • Comece com modelos mais simples ou pré-treinados: use o Model Garden para descobrir e explorar os modelos pré-treinados. Esses modelos exigem menos recursos computacionais. Aumente gradualmente a complexidade conforme necessário com base nos requisitos de desempenho.

    • Use modelos pré-treinados para tarefas como classificação de imagens e processamento de linguagem natural. Para economizar nos custos de treinamento, é possível ajustar os modelos em conjuntos de dados menores inicialmente.
    • Use o BigQuery ML para dados estruturados. O BigQuery ML permite criar e implantar modelos diretamente no BigQuery. Essa abordagem pode ser econômica para experimentos iniciais, porque você pode aproveitar o modelo de preços de pagamento por consulta do BigQuery.
  • Escalonar para otimizar recursos: use a infraestrutura flexível do Google Cloudpara escalonar recursos conforme necessário. Comece com instâncias menores e ajuste o tamanho ou o número delas quando necessário.

Descobrir os requisitos de recursos por meio de testes

Os requisitos de recursos para cargas de trabalho de IA e ML podem variar significativamente. Para otimizar a alocação de recursos e os custos, é necessário entender as necessidades específicas das cargas de trabalho por meio de experimentos sistemáticos. Para identificar a configuração mais eficiente para seus modelos, teste diferentes configurações e analise o desempenho delas. Em seguida, com base nos requisitos, dimensione os recursos usados para treinamento e disponibilização.

Recomendamos a seguinte abordagem para experimentos:

  1. Comece com uma referência: comece com uma configuração de referência baseada nas suas estimativas iniciais dos requisitos da carga de trabalho. Para criar um valor de referência, use a calculadora de preços doGoogle Cloud para novas cargas de trabalho ou use um relatório de faturamento atual.
  2. Entenda suas cotas: antes de iniciar experimentos extensos, conheça as cotas do seu projeto do Google Cloud para os recursos e as APIs que você planeja usar. As cotas determinam o intervalo de configurações que você pode testar de forma realista. Ao se familiarizar com as cotas, é possível trabalhar dentro dos limites de recursos disponíveis durante a fase de experimentação.
  3. Faça experimentos sistemáticos: ajuste parâmetros como o número de CPUs, a quantidade de memória, o número e o tipo de GPUs e Cloud TPU e a capacidade de armazenamento. O treinamento gerenciado da Gemini Enterprise Agent Platform e a inferência da Agent Platform permitem que você teste diferentes tipos e configurações de máquina.
  4. Monitorar a utilização, o custo e o desempenho: acompanhe a utilização de recursos, o custo e as principais métricas de performance, como tempo de treinamento, latência de inferência e acurácia do modelo, para cada configuração experimental.

    • Para acompanhar as métricas de performance e utilização de recursos, use o console da Agent Platform.
    • Para coletar e analisar métricas de performance detalhadas, use o Monitoring.
    • Para ver os custos, use os relatórios do Cloud Billing e os painéis do Monitoring.
    • Para identificar gargalos de desempenho nos modelos e otimizar a utilização de recursos, use ferramentas de criação de perfil, como o TensorBoard da plataforma de agentes.
  5. Analisar custos: compare o custo e o desempenho de cada configuração para identificar a opção mais econômica.

  6. Estabeleça limites de recursos e metas de melhoria com base em cotas: defina limites para quando o escalonamento começar a gerar retornos decrescentes no desempenho, como redução mínima no tempo de treinamento ou latência para um aumento significativo de custo. Considere as cotas do projeto ao definir esses limites. Determine o ponto em que o custo e as possíveis implicações de cota de um escalonamento maior não são mais justificados por ganhos de desempenho.

  7. Refinar de forma iterativa: repita o processo de experimentação com configurações refinadas com base nas suas descobertas. Sempre verifique se o uso de recursos permanece dentro das cotas de alocação e se está alinhado com os limites de custo-benefício estabelecidos.

Usar MLOps para reduzir ineficiências

À medida que as organizações usam cada vez mais o ML para impulsionar a inovação e a eficiência, gerenciar o ciclo de vida do ML de maneira eficaz se torna fundamental. As operações de ML (MLOps) são um conjunto de práticas que automatizam e simplificam o ciclo de vida de ML, desde o desenvolvimento do modelo até a implantação e o monitoramento.

Alinhar as MLOps com os fatores de custo

Para aproveitar as MLOps e ter um bom custo-benefício, identifique os principais fatores de custo no ciclo de vida de ML. Em seguida, adote e implemente práticas de MLOps alinhadas aos fatores de custo. Priorize e adote os recursos de MLOps que abordam os fatores de custo mais impactantes. Essa abordagem ajuda a garantir um caminho gerenciável e bem-sucedido para uma economia de custos significativa.

Implementar MLOps para otimização de custos

Confira a seguir as práticas comuns de MLOps que ajudam a reduzir custos:

  • Controle de versões: ferramentas como o Git podem ajudar a rastrear versões de códigos, dados e modelos. O controle de versões garante a reprodutibilidade, facilita a colaboração e evita retrabalhos caros que podem ser causados por problemas de controle de versões.
  • Integração e entrega contínua (CI/CD): o Cloud Build e o Artifact Registry permitem implementar pipelines de CI/CD para automatizar a criação, o teste e a implantação dos seus modelos de ML. Os pipelines de CI/CD garantem o uso eficiente de recursos e minimizam os custos associados a intervenções manuais.
  • Observabilidade: o Monitoramento e a Geração de registros permitem acompanhar o desempenho do modelo em produção, identificar problemas e acionar alertas para intervenção proativa. A observabilidade permite manter a precisão do modelo, otimizar a alocação de recursos e evitar tempos de inatividade caros ou degradação de desempenho.
  • Novo treinamento de modelos: os pipelines da Gemini Enterprise Agent Platform simplificam os processos para treinar novamente os modelos periodicamente ou quando o desempenho diminui. Ao usar os pipelines da Agent Platform para retreinamento, você garante que seus modelos permaneçam precisos e eficientes, o que pode evitar o consumo desnecessário de recursos e manter o desempenho ideal.
  • Teste e avaliação automatizados: a Agent Platform ajuda a acelerar e padronizar a avaliação de modelos. Implemente testes automatizados em todo o ciclo de vida de ML para garantir a qualidade e a confiabilidade dos modelos. Esses testes podem ajudar a detectar erros com antecedência, evitar problemas dispendiosos na produção e reduzir a necessidade de testes manuais extensos.

Para mais informações, consulte MLOps: pipelines de entrega contínua e automação no aprendizado de máquina.

Aplicar práticas de gerenciamento e governança de dados

Práticas eficazes de gerenciamento de dados e governança são essenciais para a otimização de custos. Dados bem organizados podem incentivar as equipes a reutilizar conjuntos de dados, evitar duplicações desnecessárias e reduzir o esforço para obter dados de alta qualidade. Ao gerenciar os dados de forma proativa, é possível reduzir os custos de armazenamento, melhorar a qualidade de dados e garantir que os modelos de ML sejam treinados com os dados mais relevantes e valiosos.

Para implementar práticas de gerenciamento de dados e governança, considere as seguintes recomendações.

Estabelecer e adotar um framework de governança de dados

O destaque cada vez maior da IA e do ML tornou os dados o recurso mais valioso para as organizações que estão passando pela transformação digital. Uma estrutura robusta para governança de dados é um requisito crucial para gerenciar cargas de trabalho de IA e ML de maneira econômica em grande escala. Um framework de governança de dados com políticas, procedimentos e funções claramente definidos oferece uma abordagem estruturada para gerenciar dados ao longo do ciclo de vida. Esse framework ajuda a melhorar a qualidade de dados, aumentar a segurança, melhorar a utilização e reduzir a redundância.

Estabelecer um framework de governança de dados

Há muitos frameworks preexistentes para governança de dados, como os publicados pelo EDM Council, com opções disponíveis para diferentes setores e tamanhos de organização. Escolha e adapte um framework que se alinhe às suas necessidades e prioridades específicas.

Implementar o framework de governança de dados

OGoogle Cloud oferece os seguintes serviços e ferramentas para ajudar você a implementar um framework robusto de governança de dados:

  • O Knowledge Catalog é uma malha de dados inteligente que ajuda a unificar dados distribuídos e automatizar a governança de dados sem a necessidade de consolidar conjuntos de dados em um só lugar. Isso ajuda a reduzir o custo de distribuição e manutenção de dados, facilitar a descoberta de dados e promover a reutilização.

  • O Knowledge Catalog também é um serviço de gerenciamento de metadados totalmente gerenciado e escalonável. O catálogo fornece uma base que garante que os recursos de dados sejam acessíveis e reutilizáveis.

    • Os metadados das fontes Google Cloud compatíveis são ingeridos automaticamente no catálogo. Para fontes de dados fora do Google Cloud, crie entradas personalizadas.
    • Para melhorar a facilidade de descoberta e o gerenciamento de recursos de dados, enriqueça os metadados técnicos com metadados de negócios usando aspectos.
    • Verifique se os cientistas de dados e profissionais de ML têm permissões suficientes para acessar o Knowledge Catalog e usar a função de pesquisa.
  • O BigQuery Sharing permite trocar recursos de dados de maneira eficiente e segura entre as organizações para enfrentar desafios de confiabilidade e custo de dados.

    • Configure trocas de dados e garanta que os recursos de dados selecionados possam ser visualizados como listagens.
    • Use data clean rooms para gerenciar com segurança o acesso a dados sensíveis e colaborar de forma eficiente com equipes e organizações externas em projetos de IA e ML.
    • Verifique se os cientistas de dados e os profissionais de ML têm permissões suficientes para visualizar e publicar conjuntos de dados no BigQuery Sharing.

Tornar os conjuntos de dados e os atributos reutilizáveis em todo o ciclo de vida de ML

Para ter benefícios significativos de eficiência e custo, reutilize conjuntos de dados e recursos em vários projetos de ML. Ao evitar esforços redundantes de engenharia de dados e desenvolvimento de atributos, sua organização pode acelerar o desenvolvimento de modelos, reduzir os custos de infraestrutura e liberar recursos valiosos para outras tarefas críticas.

OGoogle Cloud oferece os seguintes serviços e ferramentas para ajudar você a reutilizar conjuntos de dados e recursos:

  • Os profissionais de dados e ML podem publicar produtos de dados para maximizar a reutilização entre as equipes. Os produtos de dados podem ser descobertos e usados pelo Knowledge Catalog e pelo BigQuery Sharing.
  • Para conjuntos de dados tabulares e estruturados, use o Feature Store da Agent Platform para promover a reutilização e simplificar o gerenciamento de atributos com o BigQuery.
  • É possível armazenar dados não estruturados no Cloud Storage e governá-los usando tabelas de objetos do BigQuery e URLs assinados.
  • É possível gerenciar embeddings de vetor incluindo metadados nos índices da Busca Vetorial.

Automatizar e simplificar com MLOps

Um dos principais benefícios de adotar as práticas de MLOps é a redução de custos com tecnologia e pessoal. Automation ajuda a evitar a duplicação de atividades de ML e reduzir a carga de trabalho de cientistas de dados e engenheiros de ML.

Para automatizar e simplificar o desenvolvimento de ML com MLOps, considere as seguintes recomendações.

Automatizar e padronizar a coleta e o processamento de dados

Para reduzir o esforço e o tempo de desenvolvimento de ML, automatize e padronize suas tecnologias de coleta e processamento de dados.

Automatizar a coleta de dados e o processamento

Nesta seção, resumimos os produtos, as ferramentas e as técnicas que podem ser usados para automatizar a coleta de dados e o processamento.

Identifique e escolha as fontes de dados relevantes para suas tarefas de IA e ML:

Para cada uma das suas fontes de dados, escolha uma ferramenta de ingestão:

  • Dataflow: para processamento em lote e processamento de stream de dados de várias fontes, com integração de componentes de ML. Para uma arquitetura orientada a eventos, é possível combinar o Dataflow com o Eventarc para processar dados de ML com eficiência. Para melhorar a eficiência dos jobs de MLOps e ML, use os recursos de GPU e ajuste correto.
  • Cloud Run functions: para ingestão de dados orientada a eventos que é acionada por mudanças em fontes de dados para aplicativos em tempo real.
  • BigQuery: para ingestão de dados tabulares clássicos com acesso frequente.

Escolha ferramentas para transformação e carregamento de dados:

  • Use ferramentas como o Dataflow ou o Dataform para automatizar transformações de dados, como escalonamento de atributos, codificação de variáveis categóricas e criação de novos atributos em lote, streaming ou tempo real. As ferramentas selecionadas dependem dos seus requisitos e dos serviços escolhidos.
  • Use o Feature Store para automatizar a criação e o gerenciamento de atributos. É possível centralizar recursos para reutilização em diferentes modelos e projetos.

Padronizar a coleta e o processamento de dados

Para descobrir, entender e gerenciar recursos de dados, use serviços de gerenciamento de metadados, como o Knowledge Catalog. Ele ajuda a padronizar as definições de dados e garantir a consistência em toda a organização.

Para aplicar a padronização e evitar o custo de manter várias implementações personalizadas, use pipelines de treinamento e orquestração automatizados. Para saber mais, consulte a seção a seguir.

Automatizar pipelines de treinamento e reutilizar recursos

Para aumentar a eficiência e a produtividade em MLOps, os pipelines de treinamento automatizados são cruciais. O Google Cloud oferece um conjunto robusto de ferramentas e serviços para criar e implantar pipelines de treinamento, com forte ênfase na reutilização de recursos existentes. Os pipelines de treinamento automatizados ajudam a acelerar o desenvolvimento de modelos, garantir a consistência e reduzir o esforço redundante.

Automatizar pipelines de treinamento

A tabela a seguir descreve os serviços e recursos do Google Cloud que podem ser usados para automatizar as diferentes funções de um pipeline de treinamento.

Função Google Cloud serviços e recursos
Orquestração: defina fluxos de trabalho de ML complexos com várias etapas e dependências. É possível definir cada etapa como uma tarefa conteinerizada separada, o que ajuda a gerenciar e escalonar tarefas individuais com facilidade.
  • Para criar e orquestrar pipelines, use os Pipelines da Agent Platform ou o Kubeflow Pipelines. Essas ferramentas são compatíveis com transformação de dados simples, treinamento de modelo, implantação de modelos e controle de versões de pipelines. Eles permitem definir dependências entre as etapas, gerenciar o fluxo de dados e automatizar a execução de todo o fluxo de trabalho.
  • Para tarefas operacionais complexas com requisitos pesados de CI/CD e extração, transformação e carregamento (ETL), use o Serviço Gerenciado para Apache Airflow. Se você prefere o Airflow para orquestração de dados, o Airflow Gerenciado é um serviço gerenciado compatível criado no Airflow.
  • Para pipelines gerenciados fora dos Pipelines da Agent Platform, use o Workflows para tarefas focadas em infraestrutura, como iniciar e interromper VMs ou fazer integração com sistemas externos.
  • Para automatizar o processo de CI/CD, use o Cloud Build com o Pub/Sub. É possível configurar notificações e gatilhos automáticos para quando um novo código for enviado ou quando um novo modelo precisar ser treinado.
  • Para uma solução totalmente gerenciada e escalonável para gerenciamento de pipelines, use o Cloud Data Fusion.
Controle de versões: rastreie e controle diferentes versões de pipelines e componentes para garantir a reprodutibilidade e a auditabilidade. Armazene modelos de pipeline do Kubeflow em um repositório do Kubeflow Pipelines no Artifact Registry.
Reutilização: reutilize componentes e artefatos de pipeline, como conjuntos de dados preparados e modelos treinados, para acelerar o desenvolvimento. Armazene seus modelos de pipeline no Cloud Storage e compartilhe-os com toda a organização.
Monitoramento: monitore a execução do pipeline para identificar e resolver problemas. Usar o Logging e o Monitoring. Para mais informações, consulte Monitorar recursos continuamente com painéis, alertas e relatórios.

Ampliar a reutilização além dos pipelines

Procure oportunidades para expandir a reutilização além dos pipelines de treinamento. Veja a seguir exemplos de recursos do Google Cloud que permitem reutilizar recursos, conjuntos de dados, modelos e códigos de ML.

  • O Feature Store oferece um repositório centralizado para organizar, armazenar e disponibilizar atributos de ML. Ele permite reutilizar atributos em diferentes projetos e modelos, o que pode melhorar a consistência e reduzir o esforço de engenharia de atributos. É possível armazenar, compartilhar e acessar atributos para casos de uso on-line e off-line.
  • Os conjuntos de dados da plataforma de agentes permitem que as equipes criem e gerenciem conjuntos de dados de forma centralizada, para que sua organização possa maximizar a reutilização e reduzir a duplicação de dados. Suas equipes podem pesquisar e descobrir os conjuntos de dados usando o Knowledge Catalog.
  • O Model Registry na Gemini Enterprise Agent Platform permite armazenar, gerenciar e implantar seus modelos treinados. O Model Registry permite reutilizar os modelos em pipelines subsequentes ou para previsão on-line, o que ajuda a aproveitar os esforços de treinamento anteriores.
  • Os contêineres personalizados permitem empacotar o código de treinamento e as dependências em contêineres e armazená-los no Artifact Registry. Os contêineres personalizados permitem fornecer ambientes de treinamento consistentes e reproduzíveis em diferentes pipelines e projetos.

Usar os serviços do Google Cloud para avaliação e ajuste de modelos

AGoogle Cloud oferece um conjunto avançado de ferramentas e serviços para simplificar e automatizar a avaliação e o ajuste de modelos. Essas ferramentas e serviços podem ajudar você a reduzir o tempo de produção e os recursos necessários para treinamento e monitoramento contínuos. Ao usar esses serviços, suas equipes de IA e ML podem melhorar o desempenho do modelo com menos iterações caras, alcançar resultados mais rápidos e minimizar o desperdício de recursos de computação.

Usar avaliação e experimentação de modelos com eficiência de recursos

Comece um projeto de IA com experimentos antes de escalonar verticalmente sua solução. Nos seus experimentos, acompanhe vários metadados, como versão do conjunto de dados, parâmetros do modelo e tipo de modelo. Para maior reprodutibilidade e comparação dos resultados, use o rastreamento de metadados além do controle de versões de código, semelhante aos recursos do Git. Para evitar a perda de informações ou a implantação da versão errada na produção, use Experimentos na Plataforma de Agentes antes de implementar jobs de treinamento ou implantação em grande escala.

Com os experimentos na Agent Platform, você pode:

  • Simplifique e automatize o rastreamento e a descoberta de metadados com uma UI do usuário fácil de usar e uma API para cargas de trabalho prontas para produção.
  • Analise as métricas de performance do modelo e compare as métricas de performance de vários modelos.

Depois que o modelo for treinado, monitore continuamente o desempenho e o desvio de dados ao longo do tempo para os dados recebidos. Para simplificar esse processo, use o Model Monitoring na Gemini Enterprise Agent Platform para acessar diretamente os modelos criados no Model Registry. O Model Monitoring na Agent Platform também automatiza o monitoramento de dados e resultados por meio de predições on-line e em lote. É possível exportar os resultados para o BigQuery para análise e acompanhamento adicionais.

Escolher as melhores estratégias para automatizar o treinamento

Para o ajuste de hiperparâmetros, recomendamos as seguintes abordagens:

  • Para automatizar o processo de encontrar os hiperparâmetros ideais para seus modelos, use o ajuste de hiperparâmetros da Agent Platform. A Agent Platform usa algoritmos avançados para explorar o espaço de hiperparâmetros e identificar a melhor configuração.
  • Para um ajuste eficiente de hiperparâmetros, considere usar técnicas de otimização bayesiana, especialmente ao lidar com modelos complexos e grandes conjuntos de dados.

Para treinamento distribuído, recomendamos as seguintes abordagens:

  • Para grandes conjuntos de dados e modelos complexos, use a infraestrutura de treinamento distribuído da Agent Platform. Essa abordagem permite treinar seus modelos em várias máquinas, o que ajuda a reduzir significativamente o tempo de treinamento e os custos associados. Use ferramentas como as seguintes:

  • Escolha frameworks de ML otimizados, como Keras e PyTorch, que oferecem suporte ao treinamento distribuído e à utilização eficiente de recursos.

Usar a IA explicável

É fundamental entender por que um modelo toma determinadas decisões e identificar possíveis vieses ou áreas de melhoria. Use técnicas de explicabilidade para receber insights sobre as previsões do modelo.

  • Baseado em recursos: para entender quais recursos são mais influentes nas previsões do modelo, analise as atribuições de recursos. Esse entendimento pode orientar os esforços de engenharia de atributos e melhorar a interpretabilidade do modelo.
  • Baseadas em exemplos: para retornar uma lista de exemplos (geralmente do conjunto de treinamento) que são mais semelhantes à entrada, use a pesquisa de vizinhos mais próximos. Como entradas semelhantes geralmente geram previsões semelhantes, é possível usar essas explicações para explorar e explicar o comportamento de um modelo.

Usar serviços gerenciados e modelos pré-treinados

Adote uma abordagem incremental para a seleção e o desenvolvimento de modelos. Essa abordagem ajuda a evitar custos excessivos associados ao início do zero todas as vezes. Para controlar os custos, use frameworks de ML, serviços gerenciados e modelos pré-treinados.

Para aproveitar ao máximo os serviços gerenciados e os modelos pré-treinados, considere as recomendações a seguir.

Usar notebooks para exploração e experimentos

Os ambientes de notebook são essenciais para a experimentação de ML com bom custo-benefício. Um notebook oferece um espaço interativo e colaborativo para cientistas e engenheiros de dados explorarem dados, desenvolverem modelos, compartilharem conhecimento e iterarem com eficiência. A colaboração e o compartilhamento de conhecimento por meio de notebooks aceleram significativamente o desenvolvimento, as revisões de código e a transferência de conhecimento. Os notebooks ajudam a simplificar os fluxos de trabalho e reduzir o esforço duplicado.

Em vez de adquirir e gerenciar hardware caro para seu ambiente de desenvolvimento, use a infraestrutura escalonável e sob demanda do Agent Platform Workbench e do Colab Enterprise.

  • O Agent Platform Workbench é um ambiente de desenvolvimento baseado em notebook do Jupyter para todo o fluxo de trabalho da ciência de dados. É possível interagir com a Plataforma de Agentes e outros serviços do Google Cloud em um notebook do Jupyter de uma instância. As integrações e os recursos do Workbench da Agent Platform ajudam você a:

    • Acesse e analise dados de um notebook do Jupyter usando as integrações do BigQuery e do Cloud Storage.
    • Automatize as atualizações recorrentes de um modelo usando execuções programadas de código que são executadas na Agent Platform.
    • Processe dados rapidamente executando um notebook em um cluster do Serviço Gerenciado para Apache Spark.
    • Executar um notebook como uma etapa em um pipeline usando o Agent Platform Pipelines.
  • O Colab Enterprise é um ambiente de notebook gerenciado e colaborativo com os recursos de segurança e compliance do Google Cloud. O Colab Enterprise é ideal se as prioridades do seu projeto incluem o desenvolvimento colaborativo e a redução do esforço para gerenciar a infraestrutura. O Colab Enterprise se integra aos serviços doGoogle Cloud e à assistência com tecnologia de IA que usa o Gemini. Com o Colab Enterprise, é possível:

    • Trabalhe em notebooks sem precisar gerenciar a infraestrutura.
    • Compartilhe um notebook com um único usuário, grupo do Google ou domínio do Google Workspace. É possível controlar o acesso a notebooks pelo IAM.
    • Interagir com recursos integrados à Agent Platform e ao BigQuery.

Para acompanhar as mudanças e reverter para versões anteriores quando necessário, integre seus notebooks a ferramentas de controle de versões, como o Git.

Comece com modelos atuais e pré-treinados

Treinar modelos complexos do zero, especialmente modelos de aprendizado profundo, requer recursos computacionais e tempo significativos. Para acelerar o processo de seleção e desenvolvimento de modelos, comece com modelos atuais e pré-treinados. Esses modelos, que são treinados em conjuntos de dados vastos, eliminam a necessidade de treinar modelos do zero e reduzem significativamente o custo e o tempo de desenvolvimento.

Reduzir os custos de treinamento e desenvolvimento

Selecionar um modelo ou uma API apropriada para cada tarefa de ML e combiná-los para criar um processo de desenvolvimento de ML de ponta a ponta.

O Model Garden oferece uma vasta coleção de modelos pré-treinados para tarefas como classificação de imagens, detecção de objetos e processamento de linguagem natural. Os modelos são agrupados nas seguintes categorias:

  • Modelos do Google, como a família Gemini e o Imagen para geração de imagens.
  • Modelos abertos, como Gemma e Llama.
  • Modelos de terceiros de parceiros como a Anthropic.

OGoogle Cloud oferece APIs de IA e ML que permitem aos desenvolvedores integrar recursos avançados de IA aos aplicativos sem precisar criar modelos do zero.

  • A API Cloud Vision permite extrair insights de imagens. Essa API é útil para aplicativos como análise de imagens, moderação de conteúdo e entrada de dados automatizada.
  • A API Cloud Natural Language permite analisar textos para entender a estrutura e o significado deles. Essa API é útil para tarefas como análise de feedback de clientes, categorização de conteúdo e compreensão de tendências de redes sociais.
  • A API Speech-to-Text converte áudio em texto. Essa API é compatível com vários idiomas e dialetos.
  • A API Document AI processa documentos para extrair, classificar e entender dados. Essa API ajuda a automatizar os fluxos de trabalho de processamento de documentos.
  • A API Dialogflow permite a criação de interfaces de conversação, como chatbots e assistentes por voz. É possível usar essa API para criar bots de atendimento ao cliente e assistentes virtuais.
  • A API Gemini oferece acesso ao modelo de IA mais capaz e de uso geral do Google.

Reduzir os custos de ajuste

Para reduzir a necessidade de dados extensos e tempo de computação, ajuste os modelos pré-treinados em conjuntos de dados específicos. Recomendamos as seguintes abordagens:

  • Transferência de aprendizado: use o conhecimento de um modelo pré-treinado para uma nova tarefa, em vez de começar do zero. Essa abordagem requer menos dados e tempo de computação, o que ajuda a reduzir os custos.
  • Ajuste do adaptador (ajuste da eficiência dos parâmetros): adapte modelos a novas tarefas ou domínios sem ajuste fino completo. Essa abordagem exige recursos computacionais significativamente menores e um conjunto de dados menor.
  • Ajuste supervisionado: adapte o comportamento do modelo com um conjunto de dados rotulado. Essa abordagem simplifica o gerenciamento da infraestrutura subjacente e o esforço de desenvolvimento necessário para um job de treinamento personalizado.

Conheça e teste o Agent Studio na Gemini Enterprise Agent Platform

O Agent Studio permite testar, prototipar e implantar rapidamente aplicativos de IA generativa.

  • Integração com o Model Garden: oferece acesso rápido aos modelos mais recentes e permite implantar os modelos de maneira eficiente para economizar tempo e custos.
  • Acesso unificado a modelos especializados: consolida o acesso a uma ampla gama de modelos e APIs pré-treinados, incluindo os de chat, texto, mídia, tradução e fala. Esse acesso unificado pode ajudar a reduzir o tempo gasto na pesquisa e integração de serviços individuais.

Usar serviços gerenciados para treinar ou disponibilizar modelos

Os serviços gerenciados podem ajudar a reduzir o custo do treinamento de modelo e simplificar o gerenciamento da infraestrutura, permitindo que você se concentre no desenvolvimento e na otimização de modelos. Essa abordagem pode resultar em benefícios de custo significativos e maior eficiência.

Redução da sobrecarga operacional

Para reduzir a complexidade e o custo do gerenciamento de infraestrutura, use serviços gerenciados como os seguintes:

  • O treinamento gerenciado da Agent Platform oferece um ambiente totalmente gerenciado para treinar modelos em escala. É possível escolher entre vários contêineres predefinidos com frameworks de ML conhecidos ou usar seus próprios contêineres personalizados. O Google Cloud lida com o provisionamento, o escalonamento e a manutenção da infraestrutura, o que reduz a sobrecarga operacional.
  • A Inferência da plataforma de agentes processa o escalonamento da infraestrutura, o balanceamento de carga e o roteamento de solicitações. Você tem alta disponibilidade e desempenho sem intervenção manual.
  • O Ray na Gemini Enterprise Agent Platform oferece um cluster do Ray totalmente gerenciado. É possível usar o cluster para executar cargas de trabalho de IA personalizadas e complexas que realizam muitos cálculos (ajuste de hiperparâmetros, ajuste de modelos, treinamento de modelo distribuídos e aprendizado por reforço com feedback humano) sem precisar gerenciar sua própria infraestrutura.

Usar serviços gerenciados para otimizar a utilização de recursos

Para detalhes sobre a utilização eficiente de recursos, consulte Otimizar a alocação de recursos.

Colaboradores

Autores:

  • Isaac Lo | Gerente de desenvolvimento de negócios de IA
  • Anastasia Prokaeva | Arquiteta de soluções de campo, IA generativa
  • Amy Southwood | Consultora de soluções técnicas, análise de dados e IA

Outros colaboradores: