MLOps na plataforma de agentes do Gemini Enterprise

Nesta seção, descrevemos os serviços da Gemini Enterprise Agent Platform que ajudam a implementar operações de machine learning (MLOps) com seu fluxo de trabalho de machine learning (ML).

Depois de implantados, os modelos precisam acompanhar a alteração de dados do ambiente para ter um desempenho ideal e se manter relevantes. MLOps é um conjunto de práticas que melhoram a estabilidade e a confiabilidade dos sistemas de ML.

As ferramentas de MLOps da Gemini Enterprise Agent Platform ajudam a colaborar com as equipes de IA e melhorar os modelos por meio de monitoramento de modelo preditivo, alerta, diagnóstico e explicações acionáveis. Todas as ferramentas são modulares, para que você possa integrá-las aos seus sistemas atuais conforme necessário.

Para mais informações sobre MLOps, consulte Pipelines de entrega contínua e automação em machine learning e o Guia de práticas para MLOps.

diagrama dos recursos de MLOps

  • Orquestre fluxos de trabalho: a execução manual de processos de ML de várias etapas pode ser demorada e propensa a erros. Para automatizar, monitorar e controlar seus pipelines, o Google Cloud fornece orquestradores adaptados ao escopo da sua arquitetura:

    • Pipelines da Gemini Enterprise Agent Platform: um orquestrador sem servidor ideal para fluxos de trabalho de ML independentes e nativos de contêiner que operam estritamente no ecossistema da Agent Platform usando o Kubeflow Pipelines ou o TFX. É a opção com menos atrito para loops puros de treinamento e implantação de modelos.

    • Serviço gerenciado para Apache Airflow: um ambiente do Apache Airflow totalmente gerenciado, ideal para MLOps empresariais de ponta a ponta. Se o pipeline exigir heterogeneidade (como orquestrar pipelines de dados no BigQuery ou no Dataflow, treinar na Agent Platform e enviar previsões para CRMs ou data lakes externos), o Airflow Gerenciado vai atuar como um plano de controle unificado. Ele elimina a dívida técnica de contêineres personalizados com uma biblioteca extensa de mais de mil integrações pré-criadas. Como alternativa à criação de DAGs do Python do Airflow, o Airflow Gerenciado oferece Orquestração de Pipelines, um framework YAML declarativo que fornece uma matriz pronta para uso de mecanismos de execução para executar jobs do PySpark no Serviço Gerenciado para Apache Spark ou jobs SQL no BigQuery.

  • Gerenciar e escalonar jobs de treinamento: gerenciar com eficiência os recursos de computação para treinamento é um desafio central de MLOps, especialmente ao escalonar da experimentação para a produção. O Vertex AI Training resolve isso oferecendo serviços flexíveis e totalmente gerenciados com opções de computação para todo o ciclo de vida de ML.

    • Para experimentação e cargas de trabalho variáveis, o treinamento personalizado envolve a plataforma sem servidor padrão que provisiona recursos sob demanda, oferecendo flexibilidade máxima.

    • Para cargas de trabalho previsíveis e em grande escala, os clusters de treinamento da Gemini Enterprise Agent Platform em clusters reservados oferecem um ambiente persistente e dedicado que garante a disponibilidade de recursos, oferece desempenho estável e ajuda a otimizar os custos para equipes de alta utilização.

  • Rastrear os metadados usados no seu sistema de ML: na ciência de dados, é importante rastrear os parâmetros, artefatos e métricas usados no fluxo de trabalho de ML, especialmente quando você repete vários fluxos de trabalho vezes.

    • O Vertex ML Metadata permite que você registre os metadados, parâmetros e artefatos usados no seu sistema de ML. Em seguida, é possível consultar esses metadados para ajudar a analisar, depurar e auditar o desempenho do sistema de ML ou dos artefatos que ele produz.
  • Identificar o melhor modelo para um caso de uso: ao testar novos algoritmos de treinamento, você precisa saber qual modelo treinado tem o melhor desempenho.

    • Os Experimentos da Vertex AI permitem rastrear e analisar diferentes arquiteturas de modelo, hiperparâmetros e ambientes de treinamento para identificar o melhor modelo para seu caso de uso.

    • O Vertex AI TensorBoard ajuda a rastrear, visualizar e comparar experimentos de ML para medir o desempenho dos modelos.

  • Gerencie versões de modelos: adicionar modelos a um repositório central ajuda a acompanhar as versões de modelos.

    • O Model Registry da Gemini Enterprise Agent Platform fornece uma visão geral dos seus modelos para que você possa organizar, rastrear e treinar melhor novas versões. No Model Registry, é possível avaliar modelos, implantar modelos em um endpoint, criar inferências em lote e visualizar detalhes sobre modelos específicos e versões de modelos.
  • Gerenciar recursos: ao reutilizar recursos de ML em várias equipes, você precisa de uma maneira rápida e eficiente de compartilhar e exibir os recursos.

    • O Vertex AI Feature Store oferece um repositório centralizado para organizar, armazenar e disponibilizar atributos de ML. Um featurestore central permite que uma organização reutilize recursos de ML em escala e aumente a velocidade de desenvolvimento e implantação de novos aplicativos de ML.
  • Monitorar a qualidade do modelo: um modelo implantado em produção tem um desempenho melhor nos dados de entrada de inferência semelhantes aos dados de treinamento. Quando os dados de entrada se desviam dos dados usados para treinar o modelo, o desempenho do modelo pode se deteriorar, mesmo que o próprio modelo não tenha mudado.

    • O Monitoramento de modelos da Gemini Enterprise Agent Platform monitora modelos para desvio de dados de treinamento e disponibilização e desvio de degradação de inferência e envia alertas quando os dados de inferência de entrada estão muito distantes do valor de referência de treinamento. É possível usar os alertas e as distribuições de recursos para avaliar se você precisa treinar novamente seu modelo.
  • Escalonar aplicativos de IA e Python: o Ray é um framework de código aberto para escalonar aplicativos de IA e Python. O Ray fornece a infraestrutura para realizar computação distribuída e processamento paralelo para seu fluxo de trabalho de machine learning (ML).

    • O Ray na Agent Platform foi projetado para que você possa usar o mesmo código aberto do Ray para escrever programas e desenvolver aplicativos na Gemini Enterprise Agent Platform com alterações mínimas. Em seguida, é possível usar as integrações da Gemini Enterprise Agent Platform com outros serviços do Google Cloud , como o Vertex AI Inference e o BigQuery, como parte do seu fluxo de trabalho de machine learning (ML).

A seguir