Testar recursos do modelo no Model Garden

O Model Garden oferece várias opções para você conferir e testar rapidamente os recursos do modelo. Para modelos compatíveis, você pode testar playgrounds de demonstração ou iniciar aplicativos de demonstração chamados Model Garden Spaces, que podem ser compartilhados com outras pessoas para mostrar as capacidades de um modelo.

Os playgrounds são alimentados por endpoints de previsão on-line da plataforma de agentes do Gemini Enterprise pré-implantados e não geram cobranças. Ao abrir o card de modelo para um modelo compatível, use o painel Testar para testar rapidamente as funcionalidades dele enviando um comando de texto. Também é possível definir alguns dos parâmetros mais comuns, como temperatura e número de tokens de saída. O playground é limitado apenas a entrada e saída de texto.

Ao iniciar o Spaces, você tem um aplicativo da Web funcional pronto para uso com muito menos esforço manual do que implantar um modelo e criar um app para usar o endpoint do modelo. O Model Garden implanta o modelo selecionado na plataforma de agentes do Gemini Enterprise e o app de exemplo em uma instância do Cloud Run que usa o endpoint do modelo implantado. O aplicativo também pode usar endpoints atuais ou um endpoint de MaaS.

Antes de começar

Neste tutorial, você precisa configurar um projeto Google Cloud e ativar a API Agent Platform.

Faça login na sua conta do Google Cloud . Se você começou a usar o Google Cloud, crie uma conta para avaliar o desempenho de nossos produtos em situações reais. Clientes novos também recebem US$ 300 em créditos para executar, testar e implantar cargas de trabalho.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

If you're using an existing project for this guide, verify that you have the permissions required to complete this guide. If you created a new project, then you already have the required permissions.

Verify that billing is enabled for your Google Cloud project.

Enable the Gemini Enterprise Agent Platform, Artifact Registry, Cloud Build, Cloud Logging, and Cloud Run Admin APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

If you're using an existing project for this guide, verify that you have the permissions required to complete this guide. If you created a new project, then you already have the required permissions.

Verify that billing is enabled for your Google Cloud project.

Enable the Gemini Enterprise Agent Platform, Artifact Registry, Cloud Build, Cloud Logging, and Cloud Run Admin APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

1. Se você quiser testar os espaços do Model Garden, verifique se a conta de serviço padrão do Compute Engine tem as permissões necessárias para iniciar os espaços.

Funções exigidas

Para testar os recursos do modelo no Model Garden, verifique se você e a conta de serviço padrão do Compute Engine têm os papéis necessários do IAM.

Funções necessárias para usuários

Para receber as permissões necessárias para testar recursos de modelo no Model Garden, peça ao administrador para conceder a você os seguintes papéis do IAM no seu projeto Google Cloud :

• Administrador do Service Usage (roles/serviceusage.serviceUsageAdmin)
• Administrador do Artifact Registry (roles/artifactregistry.admin)
• Administrador do Cloud Run (roles/run.admin)
• Administrador de armazenamento (roles/storage.admin)
• Usuário da plataforma de agentes (roles/aiplatform.user)

Para mais informações sobre a concessão de papéis, consulte Gerenciar o acesso a projetos, pastas e organizações.

Também é possível conseguir as permissões necessárias usando papéis personalizados ou outros papéis predefinidos.

Papéis necessários para a conta de serviço padrão do Compute Engine

A conta de serviço padrão do Compute Engine é usada para iniciar os espaços.

Para garantir que a conta de serviço padrão do Compute Engine tenha as permissões necessárias para iniciar os espaços, peça ao administrador para conceder os seguintes papéis do IAM à conta de serviço padrão do Compute Engine no projeto Google Cloud :

Importante:conceda esses papéis à conta de serviço padrão do Compute Engine, não à sua conta de usuário. Se o papel não for concedido ao principal correto, poderão ocorrer erros de permissão.

• Agente de serviço da plataforma de agentes (roles/aiplatform.serviceAgent)
• Conta de serviço do Cloud Build (roles/cloudbuild.builds.builder)

Para mais informações sobre a concessão de papéis, consulte Gerenciar o acesso a projetos, pastas e organizações.

O administrador também pode conceder à conta de serviço padrão do Compute Engine as permissões necessárias por meio de papéis personalizados ou outros papéis predefinidos.

Teste um playground

1. No console Google Cloud , acesse o card de modelo de um modelo compatível, como o card de modelo Gemma 2.

   Acessar o Gemma 2

2. No painel Teste:

   1. Em Região, aceite o padrão ou escolha sua região.
   2. Em Endpoint, selecione Playground de demonstração.
   3. Na caixa Comando, digite Why is the sky blue?.
   4. Abra a seção Opções avançadas e confira os parâmetros padrão.

   

3. Clique em Enviar. A saída aparece abaixo do botão "Enviar".

Teste os Espaços

Observação: o recurso Espaços só está disponível para projetos que não são controlados por uma organização. Para saber como criar um projeto sem uma organização, consulte Criar um projeto.

Para iniciar um modelo, abra o card de modelo para o modelo compatível e, no painel Testar os Spaces, clique em um Space para iniciar um. Você recebe uma cobrança pelas máquinas usadas na implantação e pela instância do Cloud Run que hospeda o app.

Você pode iniciar os espaços com modelos como Gemini, Gemma, Llama e Stable Diffusion.

Iniciar o Spaces

Inicie o Spaces para testar e experimentar um modelo de um aplicativo de amostra do Gradio.

1. No console Google Cloud , acesse o Model Garden para conferir o card de modelo de um modelo.

   Acessar o Model Garden

2. Selecione o modelo que você quer usar. Os modelos compatíveis têm um painel Testar o Spaces, como o card do modelo Gemma 3.

   Acessar o Gemma 3

3. Clique em rocket_launch Executar para iniciar um espaço.

   1. Você pode Exigir autenticação (via Identity Aware Proxy) ou Permitir acesso público. Para mais informações, consulte Ativar APIs para a primeira implantação e conceder permissões.
   Importante: ao usar o app, não inclua informações sensíveis ou de identificação pessoal nos comandos.
   1. Clique em Criar novo serviço para iniciar a implantação. É possível monitorar o status da implantação no card do modelo.

4. Depois que o status do Spaces mudar para Pronto, clique nele para conferir os detalhes da implantação.

   Para proteção básica, o aplicativo da Web exige uma chave secreta que precisa ser adicionada ao URL ao enviar comandos. Essa chave secreta é fornecida no campo Chave secreta.

   1. Clique em Abrir para começar a usar o app. Você pode enviar comandos para o modelo e conferir as respostas dele no app.

   Você pode compartilhar o URL para que outras pessoas também possam testar o app.

   1. Para fechar o acesso ao app, clique em Editar no campo Controle de acesso.

   Na guia Segurança do aplicativo do Cloud Run, selecione Exigir autenticação e clique em Salvar. O aplicativo não está mais disponível no URL. As visitas ao URL resultam em um erro 403 (proibido).

Limpar

Para evitar cobranças na conta do Google Cloud pelos recursos usados nesta página, siga as etapas abaixo.

Excluir espaços

Para limpar os espaços, é preciso excluir os recursos do modelo e do aplicativo de exemplo no Cloud Run.

Excluir recursos do modelo

No app Gradio, é possível excluir endpoints de modelo para limpar recursos da plataforma do Gemini Enterprise Agent. Em seguida, exclua o serviço do Cloud Run para interromper e excluir o app do Gradio.

Para excluir manualmente os recursos da plataforma de agentes do Gemini Enterprise, consulte Remover implantação de modelos e excluir recursos.

Excluir serviço do Cloud Run

Exclua recursos relacionados a um serviço, incluindo todas as revisões dele. A exclusão de um serviço não inclui itens como imagens de contêiner do Artifact Registry. Para mais informações, consulte Gerenciar serviços na documentação do Cloud Run.

1. No console do Google Cloud , confira a lista de serviços do Cloud Run:

   Acessar o Cloud Run

2. Localize e selecione o serviço que você quer excluir.

3. Clique em excluir Excluir. Isso exclui todas as revisões do serviço.

Excluir o projeto

O jeito mais fácil de evitar cobranças é excluindo o projeto que você criou para o tutorial.

Para excluir o projeto:

Cuidado: excluir um projeto tem os seguintes efeitos:

• Tudo no projeto é excluído. Se você tiver usado um projeto atual para as tarefas neste documento, a exclusão dele incluirá a exclusão de quaisquer outros trabalhos feitos nele.
• Os IDs do projeto personalizados são perdidos. Ao criar o projeto, você pode ter criado um ID do projeto personalizado para ser usado no futuro. Para preservar os URLs que usam o ID do projeto, como um URL appspot.com, exclua recursos específicos do projeto, em vez de excluir o projeto inteiro.

Se você planeja explorar várias arquiteturas, tutoriais e guias de início rápido, a reutilização de projetos pode evitar que você exceda limites da cota.

1. No console Google Cloud , acesse a página Gerenciar recursos.

   Acessar "Gerenciar recursos"

2. Na lista de projetos, selecione o projeto que você quer excluir e clique em Excluir .
3. Na caixa de diálogo, digite o ID do projeto e clique em Encerrar para excluí-lo.

A seguir

Confira uma visão geral do Model Garden.