Vista geral dos modelos implementados autonomamente

O Model Garden permite-lhe implementar e apresentar modelos abertos, de parceiros e personalizados no Vertex AI. Ao contrário das ofertas de modelo como serviço (MaaS), que são sem servidor e não requerem implementação manual, os modelos implementados automaticamente são executados em segurança no seu projeto e rede VPC, o que lhe dá controlo total sobre o ambiente de implementação. Google Cloud

Implemente modelos abertos de forma autónoma

Os modelos abertos oferecem capacidades pré-preparadas para várias tarefas de IA, incluindo modelos Gemini que se destacam no processamento multimodal. Estes modelos estão disponíveis para utilização gratuita, e pode publicar os respetivos resultados desde que cumpra os respetivos termos de licenciamento. O Vertex AI oferece modelos de código aberto e com pesos abertos.

Quando usa um modelo aberto com o Vertex AI, usa o Vertex AI para a sua infraestrutura. Também pode usar modelos abertos com outros produtos de infraestrutura, como o PyTorch ou o Jax.

Modelos de peso aberto

Muitos modelos abertos são considerados grandes modelos de linguagem (GMLs) de peso aberto. Os modelos de ponderação aberta oferecem mais transparência do que os modelos que não são de ponderação aberta. Os pesos de um modelo são os valores numéricos armazenados na arquitetura da rede neural do modelo que representam padrões e relações aprendidos a partir dos dados com os quais um modelo é preparado. Os parâmetros ou os pesos pré-treinados dos modelos de peso aberto são lançados. Pode usar um modelo de ponderação aberto para inferência e ajuste. Os detalhes, como o conjunto de dados original, a arquitetura do modelo e o código de preparação, nem sempre são fornecidos.

Modelos de código aberto

Os modelos abertos diferem dos modelos de IA de código aberto. Embora os modelos abertos exponham frequentemente os pesos e a representação numérica principal dos padrões aprendidos, não fornecem necessariamente o código fonte completo nem os detalhes de preparação. Por outro lado, os modelos de código aberto disponibilizam normalmente todo o código base, incluindo scripts e dados de preparação, publicamente. A disponibilização de ponderações oferece um nível de transparência do modelo de IA, o que lhe permite compreender as capacidades do modelo sem ter de o criar.

Modelos de parceiros implementados autonomamente

O Model Garden ajuda a comprar e gerir licenças de modelos de parceiros que oferecem modelos proprietários como uma opção de implementação autónoma. Pode aceder a estes modelos através do Cloud Marketplace. Depois de ter uma licença, pode optar por implementar em hardware a pedido ou usar as suas reservas do Compute Engine e descontos por utilização garantida existentes para gerir os custos. Com os modelos de parceiros implementados automaticamente, a faturação é feita com base na utilização do modelo e na infraestrutura subjacente da Vertex AI consumida.

Para pedir a utilização de um modelo de parceiro implementado autonomamente:

  1. Navegue para a consola do Model Garden.
  2. Encontre o modelo de parceiro relevante.
  3. Clique em Ativar e preencha o formulário fornecido para obter as licenças de utilização comercial necessárias.

Para mais informações sobre a implementação e a utilização de modelos de parceiros, consulte o artigo Implemente um modelo de parceiro e faça pedidos de previsão.

Considerações

Quando usar modelos de parceiros implementados por si, tenha em atenção o seguinte:

  • Exportação de ponderações: ao contrário do que acontece com alguns modelos abertos, não pode exportar as ponderações dos modelos de parceiros implementados automaticamente.
  • Tipo de ponto final: apenas o tipo de ponto final público partilhado é suportado para estas implementações.

Saiba mais sobre os modelos implementados autonomamente na Vertex AI