Configure as definições de visualização baseadas em funcionalidades

O Vertex Explainable AI oferece capacidades de visualização incorporadas para os seus dados de imagens. Pode configurar visualizações para modelos de imagens com preparação personalizada.

Quando pede uma explicação sobre um modelo de classificação de imagens, recebe a classe prevista juntamente com uma sobreposição de imagem que mostra os píxeis ou as regiões que contribuíram para a previsão.

As imagens seguintes mostram visualizações numa imagem de um husky. A visualização à esquerda usa o método de gradientes integrados e realça as áreas de atribuição positiva. A visualização correta usa um método XRAI com um gradiente de cores que indica áreas de menor (azul) e maior (amarelo) influência na realização de uma previsão positiva.

Uma visualização da atribuição de funcionalidades de um husky com gradientes integrados
Uma visualização de atribuição de funcionalidades de um husky através do XRAI

O tipo de dados com que está a trabalhar pode influenciar se usa uma abordagem de gradientes integrados ou XRAI para visualizar as suas explicações.

  • O XRAI tende a ser melhor com imagens naturais e oferece um melhor resumo de alto nível das estatísticas, como mostrar que a atribuição positiva está relacionada com a forma do rosto de um cão.
  • Os gradientes integrados (IG) tendem a fornecer detalhes ao nível do píxel e são úteis para descobrir atribuições mais detalhadas.

Saiba mais sobre os métodos de atribuição na página Vista geral do Vertex Explainable AI.

Começar

Configure a visualização quando criar um recurso Model que suporte a IA explicável do Vertex ou quando substituir o Model's ExplanationSpec.

Para configurar a visualização do seu modelo, preencha o campo visualization da mensagem InputMetadata correspondente à funcionalidade que quer visualizar. Nesta mensagem de configuração, pode incluir opções como o tipo de sobreposição usado, as atribuições realçadas, a cor e muito mais. Todas as definições são opcionais.

Opções de visualização

As predefinições e as definições recomendadas dependem do método de atribuição (gradientes integrados ou XRAI). A lista seguinte descreve as opções de configuração e como as pode usar. Para ver uma lista completa de opções, consulte a referência da API para a mensagem Visualization.

  • type: o tipo de visualização usado: OUTLINES ou PIXELS. O campo type tem como predefinição OUTLINES, que mostra as regiões de atribuição. Para mostrar a atribuição por píxel, defina o campo como PIXELS.

  • polarity: a direcionalidade das atribuições realçadas. positive está definido por predefinição, o que realça as áreas com as atribuições positivas mais elevadas. Isto significa realçar os píxeis que foram mais influentes na previsão positiva do modelo. A definição da polaridade como negative realça as áreas que levam o modelo a não prever a classe positiva. A utilização de uma polaridade negativa pode ser útil para depurar o seu modelo, identificando regiões falsas negativas. Também pode definir a polaridade como both, que mostra atribuições positivas e negativas.

  • clip_percent_upperbound: exclui atribuições acima do percentil especificado das áreas realçadas. A utilização dos parâmetros de recorte em conjunto pode ser útil para filtrar o ruído e facilitar a visualização das áreas de forte atribuição.

  • clip_percent_lowerbound: exclui atribuições abaixo do percentil especificado das áreas realçadas.

  • color_map: o esquema de cores usado para as áreas realçadas. A predefinição é pink_green para gradientes integrados, que mostra atribuições positivas a verde e negativas a rosa. Para as visualizações XRAI, o mapa de cores é um gradiente. A predefinição do XRAI é viridis, que realça as regiões mais influentes a amarelo e as menos influentes a azul.

    Para ver uma lista completa dos valores possíveis, consulte a referência da API para a mensagem Visualization.

  • overlay_type: como a imagem original é apresentada na visualização. Ajustar a sobreposição pode ajudar a aumentar a nitidez visual se a imagem original dificultar a visualização.

    Para ver uma lista completa dos valores possíveis, consulte a referência da API para a mensagem Visualization.

Exemplos de configurações

Para começar, abaixo encontra exemplos de configurações de Visualization que pode usar como ponto de partida e imagens que mostram um intervalo de definições aplicadas.

Gradientes integrados

Para os gradientes integrados, pode ter de ajustar os valores de recorte se as áreas de atribuição forem demasiado ruidosas.

visualization: {
  "type": "OUTLINES",
  "polarity": "positive",
  "clip_percent_lowerbound": 70,
  "clip_percent_upperbound": 99.9,
  "color_map": "pink_green",
  "overlay_type": "grayscale"
}

As visualizações seguintes usam os tipos outlines e pixels. As colunas etiquetadas como "Apenas altamente preditivo", "Moderadamente preditivo" e "Quase tudo" são exemplos de recorte a diferentes níveis que podem ajudar a focar a visualização.

Uma visualização de atribuição de funcionalidades com contornos para a atribuição de IG

Uma visualização de atribuição de funcionalidades com píxeis para atribuição de IG

XRAI

Para as visualizações do XRAI, recomendamos que comece sem valores de recorte para o XRAI, uma vez que a sobreposição usa um gradiente para mostrar áreas de atribuição alta e baixa.

visualization: {
  "type": "PIXELS",
  "polarity": "positive",
  "clip_percent_lowerbound": 0,
  "clip_percent_upperbound": 100,
  "color_map": "viridis",
  "overlay_type": "grayscale"
}

A imagem seguinte é uma visualização do XRAI que usa o mapa de cores viridis predefinido e uma variedade de tipos de sobreposição. As áreas a amarelo indicam as regiões mais influentes que contribuíram positivamente para a previsão.

Uma visualização de atribuição de funcionalidades para a atribuição da XRAI

O que se segue?