O Model Armor filtra os comandos e as respostas das suas aplicações de MDIs. O painel de controlo de monitorização fornece-lhe os dados, as métricas e as visualizações geradas a partir deste processo de rastreio. Use estas estatísticas para compreender como o Model Armor protege as suas aplicações de IA e identifica tentativas de injeção de comandos ou outras atividades maliciosas.
Antes de começar
Autorizações necessárias
Para receber as autorizações de que precisa para aceder ao painel de controlo de monitorização, peça ao seu administrador para lhe conceder a função de IAM no projeto. Para mais informações sobre a atribuição de funções, consulte o artigo Faça a gestão do acesso a projetos, pastas e organizações.
Esta função predefinida contém as autorizações necessárias para aceder ao painel de controlo de monitorização. Para ver as autorizações exatas que são necessárias, expanda a secção Autorizações necessárias:
Autorizações necessárias
São necessárias as seguintes autorizações para aceder ao painel de controlo de monitorização:
-
monitoring.monitoredResourceDescriptors.list -
monitoring.metricDescriptors.list
Também pode conseguir estas autorizações com funções personalizadas ou outras funções predefinidas.
Aceda ao painel de controlo de monitorização
Na Google Cloud consola, aceda à página Model Armor.
Verifique se está a ver o projeto no qual ativou o Model Armor.
Aceda ao separador Monitorização.
Nesta página, pode fazer o seguinte:
- Veja as interações durante a data e a hora selecionadas.
- Filtre as interações com base nos modelos ou nas definições de pisos associados, nas localizações, nos pontos de integração e nos tipos de entrada.
- Transfira dados para um ficheiro PNG ou CSV.
- Monitorize as violações ao longo do tempo com um gráfico de tendências.
- Veja os modelos usados no projeto.
Inspeção dos registos relacionados para a data e a hora selecionadas. Para o fazer, clique em Mais opções de gráficos > Inspeccionar registos relacionados.
Para inspecionar os registos relacionados, tem de ativar o registo em modelos e definições de base, e tem de ter autorizações de IAM para ver os registos.
Principais métricas
As principais métricas no painel de controlo de monitorização incluem o seguinte:
- Total de interações analisadas: o volume total de comandos e respostas analisados pelo Model Armor.
- Interações denunciadas: o número de interações que violaram, pelo menos, uma política configurada no seu modelo do Model Armor ou nas definições de limite mínimo.
- Interações bloqueadas: o número de interações bloqueadas (se tiver configurado o Model Armor no modo de inspeção e bloqueio).
- Violações por categoria:
- Todos os detetores: conteúdo violado por todos os detetores.
- Violação de dados confidenciais: presença de informações de identificação pessoal (IIP), dados financeiros ou tipos de dados personalizados que definiu.
- IA responsável: conteúdo que viola filtros de segurança, como incitamento ao ódio, conteúdo perigoso, assédio ou conteúdo sexualmente explícito.
O que se segue?
- Saiba mais sobre o Model Armor.
- Saiba mais sobre os modelos do Model Armor.
- Saiba mais acerca das definições mínimas do Model Armor.
- Saiba mais sobre os pontos finais do Model Armor.
- Limpar comandos e respostas.
- Saiba mais sobre o registo de auditoria do Model Armor.
- Configure o registo para o Model Armor
- Resolva problemas do Model Armor.