Neste documento, descrevemos como visualizar e atualizar as configurações de piso do Model Armor e mostramos um exemplo de violação de configuração de piso.
As configurações de preço mínimo têm duas finalidades principais:
Conformidade do modelo: garanta que os novos modelos sejam pelo menos tão restritivos quanto os definidos nas configurações mínimas. A conformidade do modelo é definida nos níveis da organização e da pasta.
Aplicação inline: aplique as proteções do Model Armor aos modelos do Gemini e aos servidores MCP do Google Cloud. A aplicação inline é configurada no nível do projeto. Se você usar as configurações de piso para aplicação inline, qualquer modelo criado no projeto precisará estar em conformidade com essas configurações.
Quando usar as configurações mínimas
Veja alguns casos de uso comuns:
- Aplicar a conformidade com modelos e evitar regressões de políticas: defina limites mínimos de filtro no nível da organização, da pasta ou do projeto para garantir que os modelos recém-criados e atualizados atendam aos seus padrões de segurança e não possam reduzir a proteção abaixo das linhas de base estabelecidas.
- Ativar a aplicação inline para modelos e ferramentas: ajude a proteger os modelos do Gemini compatíveis e os servidores MCP remotos do Google Cloud no nível do projeto sem alterar o código do aplicativo.
- Controlar configurações de equipes descentralizadas: permita que equipes de projeto autônomas criem modelos personalizados, garantindo que as configurações estejam em conformidade com as políticas de governança organizacional.
Antes de começar
Antes de começar, conclua as tarefas a seguir.
Conseguir as permissões necessárias
Para receber as permissões necessárias
para gerenciar as configurações de piso,
peça ao administrador para conceder a você o
papel do IAM de Administrador de configurações de piso do Model Armor (roles/modelarmor.floorSettingsAdmin) nas configurações de piso do Model Armor.
Para mais informações sobre a concessão de papéis, consulte Gerenciar o acesso a projetos, pastas e organizações.
Também é possível conseguir as permissões necessárias usando papéis personalizados ou outros papéis predefinidos.
Ativar APIs
É necessário ativar a API Model Armor antes de usar o Model Armor.
Console
Ative a API Model Armor, se ainda não estiver ativada.
Funções necessárias para ativar APIs
Para ativar APIs, você precisa da permissão
serviceusage.services.enable. Se você criou o projeto, provavelmente já tem essa permissão pelo papel de proprietário (roles/owner). Caso contrário, é possível conseguir essa permissão pelo papel de administrador do Service Usage (roles/serviceusage.serviceUsageAdmin). Saiba como conceder papéis.Selecione o projeto em que você quer ativar o Model Armor.
gcloud
Antes de começar, siga estas etapas usando a Google Cloud CLI com a API Model Armor:
No console do Google Cloud , ative o Cloud Shell.
Na parte inferior do console do Google Cloud , uma sessão do Cloud Shell é iniciada e exibe um prompt de linha de comando. O Cloud Shell é um ambiente shell com a CLI do Google Cloud já instalada e com valores já definidos para o projeto atual. A inicialização da sessão pode levar alguns segundos.
Ative a API Model Armor, se ainda não estiver ativada:
Funções necessárias para ativar APIs
Para ativar APIs, você precisa da permissão
serviceusage.services.enable. Se você criou o projeto, provavelmente já tem essa permissão pelo papel de proprietário (roles/owner). Caso contrário, é possível conseguir essa permissão pelo papel de administrador do Service Usage (roles/serviceusage.serviceUsageAdmin). Saiba como conceder papéis.gcloud services enable modelarmor.googleapis.com
Defina a substituição do endpoint de API usando a CLI gcloud.
Definir a substituição do endpoint de API usando a CLI gcloud
Essa etapa só é necessária se você usa a CLI gcloud com o Model Armor e quer usar uma região ou multirregião diferente da multirregião padrão us. É necessário definir manualmente a substituição do endpoint de API
para garantir que a CLI gcloud encaminhe corretamente as solicitações para o
serviço Model Armor.
Execute o comando a seguir para usar o endpoint de API global:
gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.googleapis.com/"
Aplicação das configurações mínimas
As configurações locais são sempre aplicadas. Por exemplo, se as configurações mínimas entrarem em conflito, as configurações mais baixas na hierarquia de recursos terão precedência. Da mesma forma, as configurações mínimas para envolvidos no projeto substituem as configurações mínimas conflitantes no nível da pasta.
A tabela a seguir lista como as configurações de preço mínimo são aplicadas em diferentes níveis:
| Nível das configurações mínimas | Aplicativo |
|---|---|
| Nível da organização | Aplica-se a tudo na organização. |
| Nível da pasta | Aplica-se a todos os projetos dentro dessa pasta específica. |
| Nível do projeto | Aplica-se apenas àquele projeto específico. |
Para ilustrar como as configurações de preço mínimo são aplicadas quando definidas em níveis diferentes, considere o cenário de exemplo a seguir. Por exemplo, suponha que você defina as configurações mínimas da seguinte maneira:
- Configurações mínimas no nível da pasta (menos específicas): todo o conteúdo nesta pasta precisa ativar um filtro de URI malicioso.
- Configurações mínimas para envolvidos no projeto (mais específicas): seu projeto na pasta precisa usar a detecção de injeção de comando e jailbreak com confiança média.
Nesse cenário, as configurações resultam no seguinte:
Qualquer modelo criado no projeto precisa incluir o filtro de detecção de injeção de comando e jailbreak, porque as configurações para envolvidos no projeto sempre têm prioridade sobre as configurações no nível da pasta.
Um modelo criado em um projeto ou pasta diferente não é afetado pela regra de filtro de URI malicioso da primeira pasta.
As configurações de piso se aplicam apenas ao nível específico na hierarquia, a menos que sejam definidas no nível da organização. Nesse caso, elas se aplicam a toda a organização.
Conformidade com modelos e configurações mínimas
Quando um modelo do Model Armor é criado ou atualizado, o Model Armor verifica se a configuração do modelo está de acordo com as configurações mínimas. Não é possível criar ou atualizar um modelo menos rigoroso do que as configurações mínimas.
É possível definir configurações mínimas nos níveis da organização, da pasta e do projeto. A interface do usuário está disponível apenas no nível do projeto e permite herdar configurações no nível da organização ou da pasta. Para definir as configurações de piso no nível da organização ou da pasta, use a API.
A conformidade de modelos valida as configurações de modelos. A inspeção de dados usa as configurações definidas em um modelo compatível para analisar comandos ou respostas durante o ambiente de execução. A tabela a seguir descreve como a conformidade com o modelo e a inspeção de dados se aplicam aos modelos e às configurações de preço mínimo.
| Verificação | Configurações mínimas | Modelos |
|---|---|---|
| Conformidade de modelos | Configurado no nível da organização, da pasta ou do projeto. Observação: a Proteção de Dados Sensíveis pode ser configurada para aplicar políticas de segurança de dados nos modelos. No entanto, ele não valida a conformidade do modelo. |
Configurado apenas no nível do projeto. |
| Inspeção de dados | Aplicada apenas no nível do projeto usando o modo de inspeção e bloqueio. | Aplicado usando a API REST, as extensões de serviço, o Gemini Enterprise e o Agent Runtime. |
Integração com a Gemini Enterprise Agent Platform e os servidores MCP do Google Cloud
O Model Armor se integra à Plataforma de Agentes e aos servidores MCP do Google Cloud para analisar solicitações e respostas de modelos do Gemini e servidores MCP remotos doGoogle Cloud com base nas configurações mínimas que você definir. É preciso ativar o Cloud Logging para ver comandos e respostas. Para mais informações, consulte Integração do Model Armor com a Gemini Enterprise Agent Platform e Integração do Model Armor com servidores MCP do Google Cloud.
Versões de filtro das configurações mínimas
As configurações de preço mínimo usam a versão de filtro Stable por padrão.
A lista a seguir descreve como as versões de filtro funcionam com cada integração:
- Integração com a Gemini Enterprise Agent Platform:
se você quiser substituir essa configuração, especifique um modelo na chamada
generateContentpara o modelo do Gemini. - Integração com servidores do Google e do Google Cloud MCP: não é possível substituir a versão do filtro porque essa integração só aceita configurações de preço mínimo.
Definir configurações mínimas
Defina as configurações mínimas para estabelecer os limites de detecção mínimos para os modelos do Model Armor. Essas configurações garantem que todos os modelos novos e modificados atendam a requisitos específicos.
Para definir as configurações de piso, escolha uma das seguintes opções:
Console
- No console do Google Cloud , acesse a página Model Armor.
- Selecione um projeto.
- Na página Model Armor, acesse a guia Configurações de piso e clique em Definir configurações de piso.
- Na página Definir as configurações do andar, selecione a opção de configuração.
- Na seção Detecções, defina as configurações de detecção.
- Opcional: se você selecionar a detecção da Proteção de Dados Sensíveis, defina as configurações da Proteção de Dados Sensíveis.
Na seção IA responsável, defina o nível de confiança para cada filtro de conteúdo.
Na seção Serviços, selecione os serviços em que essas configurações mínimas se aplicam.
Na seção Registros, selecione Ativar o Cloud Logging para registrar todos os comandos do usuário, as respostas do modelo e os resultados do detector de configurações mínimas.
Selecione Ativar suporte para vários idiomas para usar as configurações de detecção de vários idiomas.
Clique em Salvar configurações de piso.
Terraform
Para aplicar limites mínimos de segurança em toda uma organização, pasta ou
hierarquia de projetos de forma declarativa, configure o recurso
google_model_armor_floorsetting
usando o provedor google (>= 6.13.0):
resource "google_model_armor_floorsetting" "floor_setting" {
parent = RESOURCE_PARENT
location = "global"
filter_config {
rai_settings {
rai_filters {
filter_type = "HATE_SPEECH"
confidence_level = "MEDIUM_AND_ABOVE"
}
rai_filters {
filter_type = "HARASSMENT"
confidence_level = "HIGH"
}
rai_filters {
filter_type = "DANGEROUS"
confidence_level = "MEDIUM_AND_ABOVE"
}
rai_filters {
filter_type = "SEXUALLY_EXPLICIT"
confidence_level = "MEDIUM_AND_ABOVE"
}
}
sdp_settings {
basic_config {
filter_enforcement = "ENABLED"
}
}
pi_and_jailbreak_filter_settings {
filter_enforcement = "ENABLED"
confidence_level = "HIGH"
}
malicious_uri_filter_settings {
filter_enforcement = "ENABLED"
}
}
enable_floor_setting_enforcement = true
integrated_services = [
"AI_PLATFORM",
"GOOGLE_MCP_SERVER",
]
ai_platform_floor_setting {
inspect_and_block = true
enable_cloud_logging = true
}
google_mcp_server_floor_setting {
inspect_and_block = true
enable_cloud_logging = true
}
floor_setting_metadata {
multi_language_detection {
enable_multi_language_detection = true
}
}
}
Substitua RESOURCE_PARENT pelo escopo da hierarquia em que
a configuração de piso se aplica:
Nível da organização:
organizations/ORGANIZATION_ID, que rege todas as pastas e projetos na organização.Nível da pasta:
folders/FOLDER_ID, que rege todos os projetos na pasta.Nível do projeto:
projects/PROJECT_ID, que rege um único projeto.
Aguarde alguns minutos para que as mudanças nas configurações de piso entrem em vigor.
Definir como as configurações mínimas são herdadas
Ao definir as configurações mínimas, selecione a opção de configuração.
Herdar as configurações mínimas do nível pai: herda as configurações mínimas definidas anteriormente na hierarquia de recursos. Clique em Salvar configurações de piso e pule as etapas restantes. Para ver as configurações herdadas, acesse a guia Configurações de piso.
Personalizado: defina as configurações mínimas para este projeto. As configurações personalizadas que você define para um projeto substituem as configurações mínimas herdadas.
Desativar: desativa as configurações mínimas herdadas. Isso significa que nenhuma regra de detecção se aplica aos modelos do Model Armor e à Agent Platform para suas cargas de trabalho do Gemini. Clique em Salvar configurações de piso e pule as etapas restantes. Confira o status de desativação na guia Configurações de piso.
Definir onde as configurações mínimas são aplicadas
Selecione um dos seguintes serviços em que as configurações mínimas definidas se aplicam.
Model Armor: criação e atualização de modelos: o Model Armor verifica todos os modelos novos e modificados em um projeto para garantir que as configurações mínimas estejam alinhadas com as configurações mínimas.
Servidor MCP do Google: as configurações mínimas verificam as solicitações enviadas para ou de servidores MCP do Google ou remotos do Google Cloud para garantir que atendam aos limites das configurações mínimas. Para mais informações, consulte Integração do Model Armor com servidores MCP do Google Cloud (pré-lançamento).
Agent Platform: filtre as solicitações enviadas aos modelos do Gemini e, em seguida, registre ou bloqueie as solicitações que atendem aos limites das configurações mínimas.
Se você selecionar Plataforma de agentes, a seção Plataforma de agentes vai aparecer para você escolher como as configurações de piso são aplicadas.
- Somente inspeção: detecte solicitações que não seguem as configurações mínimas, mas não as bloqueie.
- Inspecionar e bloquear violações: detecte e bloqueie solicitações que não seguem as configurações mínimas.
Ver as configurações mínimas do Model Armor
Confira as configurações mínimas do Model Armor para verificar as configurações atuais, identificar os requisitos mínimos para seus aplicativos de IA ou resolver problemas quando um modelo não estiver se comportando como esperado.
Execute o comando a seguir para conferir as configurações de nível do Model Armor.
Console
No console do Google Cloud , acesse a página Model Armor.
Verifique se você está visualizando o projeto em que o Model Armor foi ativado.
Na página Model Armor, acesse a guia Configurações de piso. Se as configurações mínimas estiverem definidas no nível da organização, você poderá visualizá-las. Se nenhuma configuração de andar estiver definida, você precisará configurá-las. Para mais informações, consulte Configurar as definições de piso.
gcloud
Ver a configuração mínima do Model Armor de um projeto.
gcloud model-armor floorsettings describe \ --full-uri='projects/PROJECT_ID/locations/global/floorSetting'
Ver a configuração mínima do Model Armor para uma organização.
gcloud model-armor floorsettings describe \ --full-uri='organizations/ORGANIZATION_ID/locations/global/floorSetting'
Ver a configuração mínima do Model Armor para uma pasta.
gcloud model-armor floorsettings describe \ --full-uri='folders/FOLDER_ID/locations/global/floorSetting'
Substitua:
- O ID do projeto para as configurações de piso.
- O ID da pasta para as configurações mínimas.
- O ID da organização para as configurações mínimas.
REST
Ver a configuração mínima do Model Armor de um projeto.
curl -X GET \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://modelarmor.googleapis.com/v1/projects/PROJECT_ID/locations/global/floorSetting"
Ver a configuração mínima do Model Armor para uma pasta.
curl -X GET \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://modelarmor.googleapis.com/v1/folders/FOLDER_ID/locations/global/floorSetting"
Ver a configuração mínima do Model Armor para uma organização.
curl -X GET \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://modelarmor.googleapis.com/v1/organizations/ORGANIZATION_ID/locations/global/floorSetting"
Substitua:
- O ID do projeto para as configurações de piso.
- O ID da pasta para as configurações mínimas.
- O ID da organização para as configurações mínimas.
C#
Para executar esse código, primeiro configure um ambiente de desenvolvimento em C# e instale o SDK do Model Armor em C#.
Ver a configuração mínima do Model Armor para um determinado projeto.
Confira a configuração mínima do Model Armor para uma determinada pasta.
Ver a configuração mínima do Model Armor para uma determinada organização.
Go
Para executar esse código, primeiro configure um ambiente de desenvolvimento em Go e instale o SDK do Model Armor para Go.
Ver a configuração mínima do Model Armor para um determinado projeto.
Confira a configuração mínima do Model Armor para uma determinada pasta.
Ver a configuração mínima do Model Armor para uma determinada organização.
Java
Para executar esse código, primeiro configure um ambiente de desenvolvimento Java e instale o SDK do Model Armor para Java.
Ver a configuração mínima do Model Armor para um determinado projeto.
Confira a configuração mínima do Model Armor para uma determinada pasta.
Ver a configuração mínima do Model Armor para uma determinada organização.
Node.js
Para executar esse código, primeiro configure um ambiente de desenvolvimento do Node.js e instale o SDK do Model Armor para Node.js.
Ver a configuração mínima do Model Armor para um determinado projeto.
Confira a configuração mínima do Model Armor para uma determinada pasta.
Ver a configuração mínima do Model Armor para uma determinada organização.
PHP
Para executar esse código, primeiro configure um ambiente de desenvolvimento em PHP e instale o SDK do Model Armor para PHP.
Ver a configuração mínima do Model Armor para um determinado projeto.
Confira a configuração mínima do Model Armor para uma determinada pasta.
Ver a configuração mínima do Model Armor para uma determinada organização.
Python
Para executar esse código, primeiro configure um ambiente de desenvolvimento em Python e instale o SDK do Model Armor para Python.
Ver a configuração mínima do Model Armor para um determinado projeto.
Confira a configuração mínima do Model Armor para uma determinada pasta.
Ver a configuração mínima do Model Armor para uma determinada organização.
Atualizar as configurações mínimas do Model Armor
Atualize as configurações mínimas do Model Armor para mudar os requisitos mínimos dos modelos, refletir mudanças nas políticas de segurança, corrigir configurações incorretas ou resolver conflitos entre as configurações mínimas.
Execute o comando a seguir para atualizar as configurações de piso do Model Armor.
Console
No console do Google Cloud , acesse a página Model Armor.
Verifique se você está visualizando o projeto em que o Model Armor foi ativado.
Na página Model Armor, acesse a guia Configurações de piso e clique em Definir configurações de piso.
Atualize os campos obrigatórios e clique em Salvar configurações de piso.
gcloud
gcloud model-armor floorsettings update --full-uri=<full-uri-of-the-floorsetting>
Exemplo de comando:
gcloud model-armor floorsettings update \
--malicious-uri-filter-settings-enforcement=ENABLED \
--pi-and-jailbreak-filter-settings-enforcement=DISABLED \
--pi-and-jailbreak-filter-settings-confidence-level=LOW_AND_ABOVE \
--basic-config-filter-enforcement=ENABLED \
--add-rai-settings-filters='[{"confidenceLevel": "low_and_above", "filterType": "HARASSMENT"}, {"confidenceLevel": "high", "filterType": "SEXUALLY_EXPLICIT"}]' \
--full-uri='folders/FOLDER_ID/locations/global/floorSetting' \
--enable-floor-setting-enforcement=true
Para definir as configurações de piso com a detecção de vários idiomas ativada, execute o seguinte comando:
gcloud model-armor floorsettings update \
--full-uri=projects/PROJECT_ID/locations/global/floorSetting \
--enable-multi-language-detection
Substitua:
PROJECT_ID: o ID do projeto para as configurações de andar.FOLDER_ID: o ID da pasta para as configurações de andar.
REST
Atualize a configuração de nível do Model Armor para um determinado projeto.
curl -X PATCH -d '{"filterConfig" :{"piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" }, "rai_settings":{"rai_filters":{"filter_type":"DANGEROUS", "confidence_level":"LOW_AND_ABOVE" }, \ "rai_filters":{"filter_type":"HATE_SPEECH", "confidence_level":"LOW_AND_ABOVE" }, "rai_filters":{"filter_type":"HARASSMENT", "confidence_level":"LOW_AND_ABOVE" }, "rai_filters":{"filter_type":"SEXUALLY_EXPLICIT", "confidence_level":"LOW_AND_ABOVE" }}},"enableFloorSettingEnforcement":"true"}' \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $(gcloud auth print-access-token) \ "https://modelarmor.googleapis.com/v1/projects/PROJECT_ID/locations/global/floorSetting"
Atualize a configuração mínima do Model Armor para uma determinada pasta.
curl -X PATCH \ -d '{"filterConfig" :{"piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": {"filterEnforcement": "ENABLED" }},"enableFloorSettingEnforcement":"true"}' \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.googleapis.com/v1/folders/FOLDER_ID/locations/global/floorSetting"
Atualize a configuração de nível do Model Armor para uma determinada organização.
curl -X PATCH \ -d '{"filterConfig" :{"piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" }},"enableFloorSettingEnforcement":"true"}' \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.googleapis.com/v1/organizations/ORGANIZATION_ID/locations/global/floorSetting"
Substitua:
PROJECT_ID: o ID do projeto para as configurações de andar.FOLDER_ID: o ID da pasta para as configurações de andar.ORGANIZATION_ID: o ID da organização para as configurações de andar.
O comando de atualização retorna a seguinte resposta:
{ "name": "projects/PROJECT_ID/locations/global/floorSetting", "updateTime": "2024-12-19T15:36:21.318191Z", "filterConfig": { "piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED" }, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" } } }
C#
Para executar esse código, primeiro configure um ambiente de desenvolvimento em C# e instale o SDK do Model Armor em C#.
Atualize a configuração de nível do Model Armor para um determinado projeto.
Atualize a configuração mínima do Model Armor para uma determinada pasta.
Atualize a configuração de nível do Model Armor para uma determinada organização.
Go
Para executar esse código, primeiro configure um ambiente de desenvolvimento em Go e instale o SDK do Model Armor para Go.
Atualize a configuração de nível do Model Armor para um determinado projeto.
Atualize a configuração mínima do Model Armor para uma determinada pasta.
Atualize a configuração de nível do Model Armor para uma determinada organização.
Java
Para executar esse código, primeiro configure um ambiente de desenvolvimento Java e instale o SDK do Model Armor para Java.
Atualize a configuração de nível do Model Armor para um determinado projeto.
Atualize a configuração mínima do Model Armor para uma determinada pasta.
Atualize a configuração de nível do Model Armor para uma determinada organização.
Node.js
Para executar esse código, primeiro configure um ambiente de desenvolvimento do Node.js e instale o SDK do Model Armor para Node.js.
Atualize a configuração de nível do Model Armor para um determinado projeto.
Atualize a configuração mínima do Model Armor para uma determinada pasta.
Atualize a configuração de nível do Model Armor para uma determinada organização.
PHP
Para executar esse código, primeiro configure um ambiente de desenvolvimento em PHP e instale o SDK do Model Armor para PHP.
Atualize a configuração de nível do Model Armor para um determinado projeto.
Atualize a configuração mínima do Model Armor para uma determinada pasta.
Atualize a configuração de nível do Model Armor para uma determinada organização.
Python
Para executar esse código, primeiro configure um ambiente de desenvolvimento em Python e instale o SDK do Model Armor para Python.
Atualize a configuração de nível do Model Armor para um determinado projeto.
Atualize a configuração mínima do Model Armor para uma determinada pasta.
Atualize a configuração de nível do Model Armor para uma determinada organização.
Analisar descobertas sobre violação de configuração mínima
Cada descoberta do Model Armor identifica uma violação de configuração mínima. Uma violação ocorre quando um modelo do Model Armor não atende aos padrões mínimos de segurança definidos pelas configurações mínimas da hierarquia de recursos. As configurações mínimas definem os requisitos mínimos para os modelos.
As descobertas são geradas quando ocorre qualquer uma das seguintes violações de configuração mínima:
- Um modelo com configurações menos restritivas é criado antes de você definir as configurações mínimas.
- Um modelo não tem os filtros obrigatórios.
- Um modelo não atende ao nível de confiança mínimo para os filtros.
Quando o sistema detecta uma violação, ele gera uma descoberta de alta gravidade no Security Command Center (se você usar o nível de serviço Premium ou Enterprise do Security Command Center). A descoberta especifica a configuração mínima violada, o modelo não compatível e detalhes sobre a violação.
O exemplo a seguir mostra o campo sourceProperties da descoberta. Essa
violação, relacionada ao filtro de URI malicioso, ocorreu
porque a configuração do modelo para maliciousUriFilterSettings está
DESATIVADA, mas as configurações mínimas exigem que ela esteja ATIVADA.
{ "filterConfig": { "raiSettings": { "raiFilters": [ { "filterType": "HATE_SPEECH", "confidenceLevel": { "floorSettings": "LOW_AND_ABOVE", "template": "MEDIUM_AND_ABOVE" } }, { "filterType": "HARASSMENT", "confidenceLevel": { "floorSettings": "MEDIUM_AND_ABOVE", "template": "HIGH" } } ] }, "piAndJailbreakFilterSettings": { "confidenceLevel": { "floorSettings": "LOW_AND_ABOVE", "template": "HIGH" } }, "maliciousUriFilterSettings": { "floorSettings": "ENABLED", "template": "DISABLED" } } }
A seguir
- Saiba mais sobre o Model Armor.
- Aprenda mais sobre os modelos do Model Armor.
- Limpar comandos e respostas.
- Resolver problemas do Model Armor.