Acessar o painel de monitoramento

O Model Armor examina os comandos e as respostas dos seus aplicativos de LLM. O painel de monitoramento fornece os dados, as métricas e as visualizações geradas nesse processo de triagem. Use esses insights para entender como o Model Armor protege seus aplicativos de IA, identifica tentativas de injeção de comandos e outras atividades maliciosas.

Antes de começar

Ative o Model Armor.

Permissões necessárias

Para receber as permissões necessárias para acessar o painel de monitoramento, peça ao administrador para conceder a você o papel do IAM no projeto. Para mais informações sobre a concessão de papéis, consulte Gerenciar o acesso a projetos, pastas e organizações.

Esse papel predefinido contém as permissões necessárias para acessar o painel de monitoramento. Para acessar as permissões exatas necessárias, expanda a seção Permissões necessárias:

Permissões necessárias

As seguintes permissões são necessárias para acessar o painel de monitoramento:

  • monitoring.monitoredResourceDescriptors.list
  • monitoring.metricDescriptors.list

Essas permissões também podem ser concedidas com funções personalizadas ou outros papéis predefinidos.

Acessar o painel de monitoramento

  1. No console Google Cloud , acesse a página Model Armor.

    Acessar o Model Armor

  2. Verifique se você está visualizando o projeto em que ativou o Model Armor.

  3. Acesse a guia Monitoramento.

Nessa página, é possível fazer o seguinte:

  • Veja as interações durante a data e hora selecionadas.
  • Filtre as interações com base nos modelos ou configurações de piso, locais, pontos de integração e tipos de entrada associados.
  • Baixe os dados em um arquivo PNG ou CSV.
  • Acompanhe as violações ao longo do tempo com um gráfico de tendências.
  • Veja os modelos usados no projeto.

  • Inspecione os registros relacionados para ver os registros durante a data e hora selecionadas. Para fazer isso, clique em Mais opções de gráfico > Inspecionar registros relacionados.

    Para inspecionar os registros relacionados, é necessário ativar o registro em modelos e configurações de piso e ter permissões do IAM para ver os registros.

Principais métricas

As principais métricas no painel de monitoramento incluem:

  • Total de interações verificadas: o volume total de comandos e respostas analisados pelo Model Armor.
  • Interações sinalizadas: o número de interações que violaram pelo menos uma política configurada no modelo do Model Armor ou nas configurações mínimas.
  • Interações bloqueadas: o número de interações bloqueadas (se você configurou o Model Armor no modo de inspeção e bloqueio).
  • Violações por categoria:
    • Todos os detectores: conteúdo violado por todos os detectores.
    • Violação de dados sensíveis: presença de informações de identificação pessoal (PII), dados financeiros ou tipos de dados personalizados definidos por você.
    • IA responsável: conteúdo que viola filtros de segurança, como discurso de ódio, conteúdo perigoso, assédio ou sexualmente explícito.

A seguir