Gerenciar tabelas, visualizações materializadas e índices do ScaNN
Com base na sua carga de trabalho, é possível adicionar manualmente colunas ao repositório de colunas ou remover algumas ou todas as colunas de uma tabela ou visualização materializada do repositório de colunas. A avaliação de consulta usa automaticamente os dados em colunas armazenados para responder às consultas.
Da mesma forma, é possível adicionar manualmente um índice ScaNN ao mecanismo colunar para acelerar a pesquisa vetorial. Isso permite pesquisas eficientes de vizinho mais próximo em grandes conjuntos de dados de embeddings de vetor.
Ao escolher quais tabelas, visualizações materializadas e colunas adicionar ao repositório de colunas, considere o tamanho do repositório e o formato da carga de trabalho. Bons candidatos para seleção incluem tabelas ou visualizações grandes que são verificadas com frequência. Dentro dessas tabelas ou visualizações, identifique os índices grandes não exclusivos usados pela carga de trabalho do OLAP. Você pode adicionar as colunas desses índices ao repositório de colunas e talvez descartar os índices, eliminando assim o custo de desempenho associado à manutenção deles na instância principal.
Use um dos seguintes métodos para gerenciar o conteúdo do mecanismo colunar:
- Gerenciar o conteúdo do columnstore atualizando as flags do banco de dados
- Gerenciar conteúdo do column store usando funções SQL
Consulte Quais dados podem ser adicionados ao repositório de colunas para saber quais tipos e fontes de dados podem ser usados ao adicionar tabelas, colunas e visualizações materializadas ao repositório de colunas.
Gerenciar o conteúdo do columnstore atualizando flags de banco de dados
É possível gerenciar o conteúdo do columnstore manualmente atualizando a flag de banco de dados google_columnar_engine.relations. Ela tem um único valor que especifica todas as fontes de dados do columnstore. Durante a reinicialização, as colunas especificadas nessa flag são preenchidas automaticamente no columnstore.
É possível usar essa flag com auto-columnarization. Se o mecanismo colunar tiver memória disponível depois de preencher as colunas especificadas com a flag google_columnar_engine.relations, a columnarização automática vai adicionar mais colunas ao repositório de colunas, conforme necessário.
Para mais informações sobre como definir flags de banco de dados, consulte Configurar flags de banco de dados do AlloyDB Omni.
Adicionar colunas usando flags
Para adicionar colunas ao columnstore, defina a flag google_columnar_engine.relations. Defina o valor dela como uma lista separada por vírgulas de itens, em que cada item especifica uma lista de colunas a serem incluídas de uma tabela específica, neste formato:
DATABASE_NAME.SCHEMA_NAME.TABLE_NAME(COLUMN_LIST)
Substitua:
DATABASE_NAME: o banco de dados que contém as colunas a serem adicionadas ao repositório de colunas.
SCHEMA_NAME: o esquema que identifica as tabelas ou as visualizações materializadas a serem adicionadas ao armazenamento de colunas. Por exemplo,
public.TABLE_NAME: a tabela ou a visualização materializada que contém as colunas a serem adicionadas ao repositório de colunas.
COLUMN_LIST: uma lista separada por vírgulas das colunas a serem adicionadas ao repositório de colunas.
Para adicionar todas as colunas de uma tabela ou visualização materializada, omita a lista de colunas:
DATABASE_NAME.SCHEMA_NAME.TABLE_NAME
Sintaxe SQL ao usar google_columnar_engine.relations
O exemplo a seguir demonstra como usar o comando ALTER SYSTEM para adicionar duas colunas no esquema public ao armazenamento de colunas.
ALTER SYSTEM SET google_columnar_engine.relations='DATABASE_NAME.public.TABLE_NAME(COLUMN_1,COLUMN_2)';Descartar colunas usando flags
Para remover colunas do repositório de colunas, defina um novo valor para a flag google_columnar_engine.relations descrita na seção anterior, deixando de fora as colunas que você quer remover.
Para descartar todas as colunas do armazenamento de colunas, desmarque a flag google_columnar_engine.relations.
Para mais informações sobre como definir flags de banco de dados, consulte Configurar flags de banco de dados do AlloyDB Omni.
Gerenciar conteúdo do column store usando funções SQL
É possível gerenciar o conteúdo do columnstore manualmente usando funções SQL.
Estimar os requisitos de espaço do repositório de colunas
Execute a função SQL google_columnar_engine_estimate para estimar a quantidade total de espaço necessário para uma relação no mecanismo colunar.
Cliente psql
SELECT google_columnar_engine_estimate(
relation => 'TABLE_NAME',
columns => 'COLUMN_LIST'
);
-
Substitua:
-
TABLE_NAME: uma string que contém o nome da tabela ou da visualização materializada. Se a tabela ou a visualização estiver em um esquema diferente de "public", especifique o nome do esquema, um ponto e o nome da tabela ou da visualização. Por exemplo,'myschema.mytable'. -
COLUMN_LIST: uma string que contém uma lista separada por vírgulas e sensível a maiúsculas e minúsculas dos nomes das colunas que você quer adicionar. Se você quiser adicionar todas as colunas da tabela ou da visualização materializada ao repositório de colunas, omita esse parâmetro.
Adicionar colunas usando funções SQL
Execute a função SQL google_columnar_engine_add para adicionar colunas ao repositório de colunas.
Esse método adiciona as colunas especificadas ao repositório de colunas e gerencia as colunas apenas no nó conectado. As novas colunas não persistem no armazenamento em reinicializações de instâncias.
Esse método não muda a flag do banco de dados
google_columnar_engine.relations. A colunarização automática não considera as colunas adicionadas por essa função SQL.
Cliente psql
SELECT google_columnar_engine_add(
relation => 'TABLE_NAME',
columns => 'COLUMN_LIST'
);
-
Substitua:
- "TABLE_NAME": uma string que contém o nome da tabela ou da visualização materializada. Se a tabela ou a visualização estiver em um esquema diferente de
public, especifique o nome do esquema, um ponto e o nome da tabela ou da visualização. Por exemplo,'myschema.mytable'. - "COLUMN_LIST": uma string que contém uma lista separada por vírgulas e sensível a maiúsculas e minúsculas dos nomes das colunas que você quer adicionar. Se quiser adicionar todas as colunas da tabela ou da visualização materializada ao repositório de colunas, omita esse parâmetro.
Remover colunas usando funções SQL
Execute a função SQL google_columnar_engine_drop da seguinte maneira:
Cliente psql
SELECT google_columnar_engine_drop(
relation => 'TABLE_NAME',
columns => 'COLUMN_LIST'
);
- "TABLE_NAME": uma string que contém o nome da tabela ou da visualização materializada. Se a tabela ou a visualização estiver em um esquema diferente de
public, especifique o nome do esquema, um ponto e o nome da tabela ou da visualização. Por exemplo,'myschema.mytable'. - "COLUMN_LIST": uma string que contém uma lista separada por vírgulas e sensível a maiúsculas e minúsculas dos nomes das colunas que você quer adicionar. Se quiser adicionar todas as colunas da tabela ou da visualização materializada ao repositório de colunas, omita esse parâmetro.
É possível usar a função google_columnar_engine_drop para remover colunas adicionadas
ao editar a flag do banco de dados google_columnar_engine.relations. No entanto, quando você faz isso, essas colunas são adicionadas novamente ao armazenamento colunar quando a instância é reiniciada.
Gerenciar índices do ScaNN no mecanismo colunar
Para acelerar a pesquisa de vetor, carregue os índices do ScaNN no cache de índice do mecanismo colunar.
Adicionar, remover e verificar índices do ScaNN usando funções SQL
É possível adicionar, remover e verificar manualmente os índices do ScaNN no cache de índice usando funções SQL. Adicionar um índice ao cache pode acelerar as consultas de pesquisa de vetor.
Adicionar um índice do ScaNN
Para adicionar um índice específico ao cache de índice do mecanismo colunar, use a seguinte função SQL:
SELECT google_columnar_engine_add_index(index => 'SCANN_INDEX_NAME');
Substitua SCANN_INDEX_NAME pelo nome do índice do ScaNN que você quer adicionar ao cache de índice do mecanismo colunar.
Remover um índice do ScaNN
Para remover um índice do ScaNN específico do mecanismo colunar, use a seguinte função SQL:
SELECT google_columnar_engine_drop_index(index => 'SCANN_INDEX_NAME');
Substitua SCANN_INDEX_NAME pelo nome do índice do ScaNN que você quer remover.
Verificar o uso do mecanismo colunar
Para verificar se as verificações de índice vetorial usam o mecanismo colunar, execute o comando EXPLAIN ANALYZE com a opção COLUMNAR_ENGINE:
EXPLAIN (ANALYZE TRUE, SCANN TRUE, COSTS FALSE, TIMING FALSE, SUMMARY FALSE, VERBOSE FALSE, COLUMNAR_ENGINE TRUE)
SELECT * FROM t ORDER BY val <=> '[0.5,0.5,0.5,0.5]' LIMIT 100;
O comando retorna um plano de consulta semelhante a este:
Index Scan using t_ix3 on t t_1 (actual rows=100 loops=1)
Order By: (val <=> '[0.5,0.5,0.5,0.5]'::vector)
Limit: 100
ScaNN Info: (... columnar engine nodes hit=6...)
Columnar Engine ScaNN Info: (index found=true)
A presença de columnar engine nodes hit e Columnar Engine ScaNN Info: (index found=true) na saída confirma que o mecanismo colunar é usado para a consulta.