O Knowledge Catalog (antigo Dataplex Universal Catalog) oferece suporte a uma variedade de modelos de regras que podem ser usados para definir e automatizar processos de qualidade e validação de dados. A implementação desses modelos é uma parte fundamental da governança de dados, garantindo que os conjuntos de dados permaneçam precisos e consistentes.
Para identificar qual desses modelos usar, crie um perfil de dados nos seus recursos para identificar possíveis problemas de qualidade. Depois de identificar as verificações de qualidade necessárias, selecione os modelos adequados nesta página para definir regras para seus recursos.
Esta página lista os modelos de regras do sistema disponíveis que podem ser usados em qualquer região.
Formato da tabela
| Nome | Descrição |
|---|---|
| Expectativa de igualdade de contagem de colunas | Regra agregada que avalia se o número de colunas na tabela é igual a um valor especificado. Essa regra exige permissões bigquery.tables.get, bigquery.tables.list e bigquery.datasets.get na tabela e no conjunto de dados que está sendo consultado. |
| Expectativa de intervalo de contagem de colunas | Regra agregada que avalia se o número de colunas na tabela está dentro de um intervalo especificado. Essa regra exige permissões bigquery.tables.get, bigquery.tables.list e bigquery.datasets.get na tabela e no conjunto de dados que está sendo consultado. |
| Expectativa de existência de colunas | Regra agregada que avalia se uma coluna específica existe na tabela. Essa regra exige permissões bigquery.tables.get, bigquery.tables.list e bigquery.datasets.get na tabela e no conjunto de dados que está sendo consultado. |
| Expectativa de atualização | Regra agregada que avalia se os dados mais recentes em uma coluna são mais novos que um intervalo especificado. |
| Expectativa de atualização agrupada | Regra agregada que avalia se os dados agrupados mais recentes em uma coluna são mais novos que um intervalo especificado. |
| Expectativa de correspondência de esquema ordenada | Regra agregada que avalia se as colunas ordenadas na tabela correspondem exatamente a uma lista especificada e ordenada. |
| Expectativa de igualdade de contagem de linhas | Regra agregada que avalia se o número de linhas na tabela é igual a um valor especificado. |
| Expectativa de intervalo de contagem de linhas | Regra agregada que avalia se o número de linhas na tabela está dentro de um intervalo especificado. |
| Expectativa de contenção de esquema | Regra agregada que avalia se o conjunto de colunas na tabela contém todas as colunas em um conjunto especificado. Essa regra exige permissões bigquery.tables.get, bigquery.tables.list e bigquery.datasets.get na tabela e no conjunto de dados que está sendo consultado. |
| Expectativa de exclusão de esquema | Regra agregada que avalia se as colunas na tabela não estão em um conjunto especificado. Essa regra exige permissões bigquery.tables.get, bigquery.tables.list e bigquery.datasets.get na tabela e no conjunto de dados que está sendo consultado. |
| Expectativa de correspondência de esquema | Regra agregada que avalia se as colunas na tabela correspondem exatamente a um conjunto especificado. Essa regra exige permissões bigquery.tables.get, bigquery.tables.list e bigquery.datasets.get na tabela e no conjunto de dados que está sendo consultado. |
| Expectativa de igualdade agregada de comparação de tabelas | Regra agregada que avalia se o resultado de uma expressão agregada é igual entre a tabela atual e uma tabela de referência especificada. |
| Expectativa de intervalo agregado de comparação de tabelas | Regra agregada que avalia se o resultado de uma expressão agregada na tabela atual se desvia da tabela de referência em mais de uma tolerância especificada. |
| Expectativa de igualdade de contagem de linhas de comparação de tabelas | Regra agregada que avalia se o número de linhas na tabela atual é igual ao número de linhas em uma tabela de referência especificada, com filtragem de linhas opcional antes da contagem. |
| Expectativa de igualdade de fator de contagem de linhas de comparação de tabelas | Regra agregada que avalia se o número de linhas na tabela atual é igual a um fator do número de linhas em uma tabela de referência especificada, com filtragem de linhas opcional antes da contagem. |
Valores ausentes, valores exclusivos e tipos
| Nome | Descrição |
|---|---|
| Expectativa de tipo de coluna | Regra agregada que avalia se o tipo de dados da coluna corresponde a um tipo especificado. Essa regra exige permissões bigquery.tables.get, bigquery.tables.list e bigquery.datasets.get na tabela e no conjunto de dados que está sendo consultado. |
| Expectativa de lista de tipos de coluna | Regra agregada que avalia se o tipo de dados da coluna está em um conjunto especificado. Essa regra exige permissões bigquery.tables.get, bigquery.tables.list e bigquery.datasets.get na tabela e no conjunto de dados que está sendo consultado. |
| Expectativa não nula | Regra de nível de linha que avalia se cada valor de coluna não é nulo. |
| Expectativa nula | Regra de nível de linha que avalia se cada valor de coluna é nulo. |
| Expectativa de caso de string | Regra de nível de linha que avalia se cada string de valor de coluna corresponde a um caso especificado. |
| Expectativa de exclusividade | Regra de nível de linha que avalia se cada valor de coluna é exclusivo. |
Conjuntos e intervalos
| Nome | Descrição |
|---|---|
| Expectativa de diminuição | Regra agregada que avalia se os valores em uma coluna estão diminuindo. Os valores NULL são ignorados. Retorna a primeira linha em que a expectativa não é atendida. |
| Expectativa de aumento | Regra agregada que avalia se os valores em uma coluna estão aumentando. Os valores NULL são ignorados. Retorna a primeira linha em que a expectativa não é atendida. |
| Expectativa de intervalo | Regra de nível de linha que avalia se cada valor de coluna está dentro de um intervalo especificado. |
| Expectativa de conjunto de referência | Regra de nível de linha que avalia se cada valor de coluna está contido em um conjunto de referência especificado. |
| Expectativa de exclusão de conjunto | Regra de nível de linha que avalia se cada valor de coluna não está contido em um conjunto especificado. |
| Expectativa de conjunto | Regra de nível de linha que avalia se cada valor de coluna está contido em um conjunto especificado. |
Correspondência de strings
| Nome | Descrição |
|---|---|
| Expectativa de exclusão de padrão | Regra de nível de linha que avalia se cada valor de coluna não corresponde a um padrão LIKE de SQL especificado. |
| Lista de expectativas de exclusão de padrão | Regra de nível de linha que avalia se cada valor de coluna não corresponde a nenhum dos padrões LIKE de SQL especificados. |
| Expectativa de padrão | Regra de nível de linha que avalia se cada valor de coluna corresponde a um padrão LIKE de SQL especificado. |
| Lista de expectativas de padrão | Regra de nível de linha que avalia se cada valor de coluna corresponde a pelo menos um dos padrões LIKE de SQL especificados. |
| Expectativa de exclusão de regex | Regra de nível de linha que avalia se cada valor de coluna não corresponde a uma expressão regular especificada. |
| Lista de expectativas de exclusão de regex | Regra de nível de linha que avalia se cada valor de coluna não corresponde a nenhuma das expressões regulares especificadas. |
| Expectativa de regex | Regra de nível de linha que avalia se cada valor de coluna corresponde a uma expressão regular especificada. |
| Lista de expectativas de regex | Regra de nível de linha que avalia se cada valor de coluna corresponde a pelo menos uma das expressões regulares especificadas. |
| Expectativa de igualdade de comprimento de string | Regra de nível de linha que avalia se cada comprimento de string de valor de coluna é igual a um valor especificado. |
| Expectativa de intervalo de comprimento de string | Regra de nível de linha que avalia se cada comprimento de string de valor de coluna está dentro de um intervalo especificado. |
Funções de agregação
| Nome | Descrição |
|---|---|
| Expectativa de contenção de valores distintos | Regra agregada que avalia se o conjunto de valores de coluna distintos contém todos os valores em um conjunto especificado. |
| Expectativa de igualdade de contagem de valores distintos | Regra agregada que avalia se o número de valores distintos na coluna é igual a um valor especificado. |
| Expectativa de intervalo de contagem de valores distintos | Regra agregada que avalia se o número de valores distintos na coluna está dentro de um intervalo especificado. |
| Expectativa de correspondência de valores distintos | Regra agregada que avalia se o conjunto de valores de coluna distintos corresponde exatamente a um conjunto especificado. |
| Expectativa de proporção de valores distintos | Regra agregada que avalia se a proporção de valores distintos na coluna (ou seja, contagem de valores distintos / contagem total de linhas) está dentro de um intervalo especificado. |
| Expectativa de conjunto de valores distintos | Regra agregada que avalia se cada valor de coluna distinto está contido em um conjunto especificado. |
| Expectativa de intervalo máximo | Regra agregada que avalia se o máximo da coluna está dentro de um intervalo especificado. |
| Expectativa de intervalo médio | Regra agregada que avalia se a média da coluna está dentro de um intervalo especificado. Se um tipo de usar pontos flutuantes for retornado, o AVG() resultado da função será não determinístico. |
| Expectativa de intervalo mediano | Regra agregada que avalia se a mediana da coluna está dentro de um intervalo especificado. |
| Expectativa de intervalo mínimo | Regra agregada que avalia se o mínimo da coluna está dentro de um intervalo especificado. |
| Expectativa de intervalo de modo | Regra agregada que avalia se todos os modos de coluna (valores mais frequentes) estão dentro de um intervalo especificado. Se houver vários modos, cada um será verificado em relação ao intervalo, e todos os modos com falha serão retornados. |
| Expectativa de conjunto de modo | Regra agregada que avalia se todos os modos de coluna (valores mais frequentes) estão dentro do conjunto especificado. Os valores NULL são ignorados ao calcular os modos. Se houver vários modos com a mesma frequência mais alta, cada um será verificado em relação ao conjunto, e todos os modos com falha serão retornados em uma matriz. |
| Expectativa de intervalo de quantil | Regra agregada que avalia se o valor no quantil especificado para a coluna está dentro de um intervalo especificado. |
| Expectativa de intervalo de desvio padrão | Regra agregada que avalia se o desvio padrão da coluna está dentro de um intervalo especificado. |
| Expectativa de intervalo de soma | Regra agregada que avalia se a soma da coluna está dentro de um intervalo especificado. Se um tipo de usar pontos flutuantes for retornado, o SUM() resultado da função será não determinístico. |
| Expectativa de igualdade de contagem de valores exclusivos de comparação de tabelas | Regra agregada que avalia se o número de valores exclusivos em uma coluna especificada é igual entre a tabela atual e uma tabela de referência. |
Várias colunas
| Nome | Descrição |
|---|---|
| Expectativa de igualdade de comparação de colunas | Regra de nível de linha que avalia se o valor na coluna A é igual ao valor na coluna B para cada linha. |
| Expectativa maior de comparação de colunas | Regra de nível de linha que avalia se o valor na coluna A é maior que o valor na coluna B para cada linha. |
| Expectativa de conjunto de pares de colunas | Regra agregada que avalia se os valores pareados da coluna A e da coluna B estão contidos em um conjunto especificado. |
| Expectativa de igualdade de soma de várias colunas | Regra agregada que avalia se a soma de todas as linhas em uma lista especificada de colunas é igual a um valor especificado. Se um tipo de usar pontos flutuantes for retornado, o SUM() resultado da função será não determinístico. |
| Expectativa de exclusividade de várias colunas | Regra de nível de linha que avalia se a combinação de valores em uma lista especificada de colunas é exclusiva para cada linha (por exemplo, uma chave primária de várias colunas). |
| Expectativa de exclusividade de coluna de registro | Regra de nível de linha que avalia se os valores em uma lista especificada de colunas são exclusivos em cada registro (linha). Os registros podem ser duplicados. |
Funções de distribuição
| Nome | Descrição |
|---|---|
| Expectativa de integridade da parte da data | Regra agregada que avalia se uma tabela tem dados para cada intervalo (por exemplo, todos os dias) dentro de um período. |
| Expectativa de valores de desvio padrão | Regra de nível de linha que avalia se cada valor de coluna está dentro de um número especificado de desvios padrão da média da coluna. |
Condições genéricas
| Nome | Descrição |
|---|---|
| Expectativa de condição de linha | Regra de nível de linha que avalia se cada linha em uma tabela atende à condição especificada. |
| Declaração SQL | Regra agregada que avalia o número de linhas retornadas para a instrução fornecida. Se alguma linha for retornada, essa regra falhará. |
| Expectativa de condição de tabela | Regra agregada que avalia se a expressão fornecida é verdadeira para uma tabela. |
A seguir
- Saiba como usar a qualidade de dados automática para validação de dados.
- Saiba mais sobre o gerenciamento de metadados no Knowledge Catalog.
- Saiba mais sobre a criação do perfil dos dados.
- Saiba como reutilizar regras de qualidade de dados.