Otimizar uso alto de memória em instâncias

É um problema comum que as instâncias consumam muita memória ou tenham eventos de falta de memória (OOM). Uma instância de banco de dados em execução com alta utilização de memória geralmente causa problemas de desempenho, interrupções ou até mesmo inatividade no banco de dados.

Alguns blocos de memória do MySQL são usados globalmente. Isso significa que todas as cargas de trabalho de consulta compartilham locais de memória, são ocupadas o tempo todo e liberadas apenas quando o processo do MySQL é interrompido. Alguns blocos de memória são baseados em sessão, o que significa que, assim que a sessão é encerrada, a memória usada por ela também é liberada de volta para o sistema.

Sempre que houver alta utilização de memória por uma instância do Cloud SQL para MySQL, o Cloud SQL recomenda que você identifique a consulta ou o processo que está usando muita memória e libere. O consumo de memória do MySQL é dividido em três partes principais:

  • Consumo de memória de processos e threads
  • Consumo de memória de buffer
  • Consumo de memória cache

Consumo de memória de processos e threads

Cada sessão do usuário consome memória, dependendo das consultas em execução, dos buffers ou do cache usados por ela e é controlada pelos parâmetros da sessão do MySQL. Os principais parâmetros incluem:

  • thread_stack
  • net_buffer_length
  • read_buffer_size
  • read_rnd_buffer_size
  • sort_buffer_size
  • join_buffer_size
  • max_heap_table_size
  • tmp_table_size

Se houver N consultas em execução em um determinado momento, cada uma delas vai consumir memória de acordo com esses parâmetros durante a sessão.

Consumo de memória de buffer

Essa parte da memória é comum a todas as consultas e é controlada por parâmetros como innodb_buffer_pool_size, innodb_log_buffer_size e key_buffer_size.

O pool de buffers do InnoDB, configurado pela flag innodb_buffer_pool_size, ocupa uma quantidade significativa de memória na instância do Cloud SQL para MySQL e serve como um cache para melhorar o desempenho. Para reduzir o risco de eventos de falta de memória (OOM), é possível ativar o pool de buffers gerenciado (prévia).

Consumo de memória cache

A memória cache inclui um cache de consulta, que é usado para salvar as consultas e os resultados delas para uma recuperação de dados mais rápida das mesmas consultas subsequentes. Ele também inclui o cache binlog para manter as alterações feitas no registro binário enquanto a transação está em execução e é controlado por binlog_cache_size.

Outro consumo de memória

A memória também é usada por operações de mesclagem e ordenação. Se as consultas usarem operações de mesclagem ou ordenação, elas vão usar a memória com base em join_buffer_size e sort_buffer_size.

Além disso, se você ativar o esquema de desempenho, ele vai consumir memória. Para verificar o uso da memória pelo esquema de performance, use a seguinte consulta:

SELECT *
FROM
  performance_schema.memory_summary_global_by_event_name
WHERE EVENT_NAME LIKE 'memory/performance_schema/%';

Há muitos instrumentos disponíveis no MySQL que podem ser configurados para monitorar o uso da memória pelo esquema de desempenho. Para saber mais, consulte a documentação do MySQL.

O parâmetro relacionado ao MyISAM para inserção de dados em massa é bulk_insert_buffer_size.

Para saber como o MySQL usa a memória, consulte a documentação do MySQL.

Recomendações

As seções a seguir oferecem algumas recomendações para o uso ideal da memória.

Ativar o pool de buffer gerenciado

Se o uso da memória for alto, a instância poderá sofrer eventos de falta de memória (OOM). Para evitar eventos de falta de memória, ative o pool de buffers gerenciado para reduzir o valor de innodb_buffer_pool_size e liberar memória. Quando o uso de memória se estabiliza em um valor menor, o MySQL aumenta o valor de innodb_buffer_pool_size de forma incremental até o valor original.

Não é possível ativar o pool de buffers gerenciado para instâncias de núcleo compartilhado ou para o MySQL 5.6 ou 5.7.

Para ativar o pool de buffers gerenciado na instância, defina a flag innodb_cloudsql_managed_buffer_pool como on. Para mais informações sobre a configuração de flags de banco de dados, consulte Definir uma flag de banco de dados.

Alterar o valor da flag innodb_cloudsql_managed_buffer_pool não exige uma reinicialização da instância do Cloud SQL.

Por padrão, se o banco de dados MySQL exceder 95% da memória alocada, o Cloud SQL começará a reduzir o tamanho do innodb_buffer_pool_size. Para modificar o limite de 95%, defina a flag innodb_cloudsql_managed_buffer_pool_threshold_pct como um valor de porcentagem diferente. Por exemplo, para ajustar o limite para 97%, use o seguinte comando:

gcloud sql instances patch INSTANCE_NAME
   --database-flags=EXISTING_FLAGS,innodb_cloudsql_managed_buffer_pool=on,\
     innodb_cloudsql_managed_buffer_pool_threshold_pct=97

Você pode definir a flag innodb_cloudsql_managed_buffer_pool_threshold_pct como um valor inteiro entre 50 e 99. Não é necessário reiniciar a instância do Cloud SQL para mudar o valor do limite de uso da memória.

Reduzir o tamanho do pool de buffers não impede erros de falta de memória em todos os casos. Por exemplo, algumas cargas de trabalho podem consumir memória de maneira insustentável ou aumentar a uma taxa repentina, algumas instâncias do Cloud SQL podem estar subprovisionadas ou o pool de buffer pode não estar aquecido. O Cloud SQL talvez não consiga liberar memória com rapidez suficiente para acomodar mudanças repentinas na carga de trabalho de memória. Além disso, o Cloud SQL não pode acomodar valores mal configurados de outras flags de memória.

Usar o Metrics Explorer para identificar o uso da memória

É possível analisar o uso de memória de uma instância com a métrica database/memory/components.usage no Metrics Explorer.

Em geral, se você tiver menos de 10% de memória em database/memory/components.cache e database/memory/components.free combinados, o risco de um evento OOM será alto. Para monitorar o uso da memória e evitar eventos OOM, recomendamos que você configure uma política de alertas com uma condição de limite de métrica em database/memory/components.usage.

A seguinte tabela mostra a relação entre a memória da instância e o limite de alertas recomendado:

Memória da instância Limite de alertas recomendado
Menor ou igual a 16 GB 90%
Mais de 16 GB 95%

Calcular o consumo de memória

Calcule o uso máximo da memória pelo seu banco de dados MySQL para selecionar o tipo de instância adequado. Use a seguinte fórmula:

Uso máximo de memória do MySQL = innodb_buffer_pool_size + innodb_additional_mem_pool_size + innodb_log_buffer_size + tmp_table_size + key_buffer_size + ((read_buffer_size + read_rnd_buffer_size + sort_buffer_size + join_buffer_size) x max_connections)

Estes são os parâmetros usados na fórmula:

  • innodb_buffer_pool_size: o tamanho em bytes do pool de buffer, a área de memória em que o InnoDB armazena em cache os dados de tabela e índice.
  • innodb_additional_mem_pool_size: o tamanho em bytes de um pool de memória que o InnoDB usa para armazenar informações do dicionário de dados e outras estruturas de dados internas.
  • innodb_log_buffer_size: o tamanho em bytes do buffer que o InnoDB usa para gravar nos arquivos de registro no disco.
  • tmp_table_size: o tamanho máximo das tabelas temporárias na memória criadas pelo mecanismo de armazenamento MEMORY e pelo TempTable a partir do MySQL 8.0.28.
  • key_buffer_size: o tamanho do buffer usado para blocos de índice. Os blocos de índice para tabelas MyISAM são armazenados em buffer e compartilhados por todas as linhas de execução.
  • read_buffer_size: cada linha de execução que faz uma verificação sequencial de uma tabela MyISAM aloca um buffer desse tamanho (em bytes) para cada tabela verificada.
  • read_rnd_buffer_size: essa variável é usada para leituras de tabelas MyISAM, para qualquer mecanismo de armazenamento e para otimização de leitura de vários intervalos.
  • sort_buffer_size: cada sessão que precisa realizar uma classificação aloca um buffer desse tamanho. sort_buffer_size não é específico para nenhum mecanismo de armazenamento e se aplica de maneira geral para otimização.
  • join_buffer_size: o tamanho mínimo do buffer usado para verificações de índice simples, verificações de índice de intervalo e junções que não usam índices e, portanto, realizam verificações completas da tabela.
  • max_connections: o número máximo permitido de conexões simultâneas de clientes.

Resolver problemas de alto consumo de memória

  • Execute SHOW PROCESSLIST para conferir as consultas em andamento que estão consumindo memória. Ele mostra todas as linhas de execução conectadas e as instruções SQL em execução, além de tentar otimizá-las. Veja com atenção as colunas Estado e Duração.

    mysql> SHOW [FULL] PROCESSLIST;
    
    
  • Verifique SHOW ENGINE INNODB STATUS na seção BUFFER POOL AND MEMORY para conferir o pool de buffers atual e o uso de memória, o que pode ajudar a definir o tamanho do pool de buffers.

    mysql> SHOW ENGINE INNODB STATUS \G
    ----------------------
    BUFFER POOL AND MEMORY
    ----------------------
    Total memory allocated 398063986; in additional pool allocated 0
    Dictionary memory allocated 12056
    Buffer pool size 89129
    Free buffers 45671
    Database pages 1367
    Old database pages 0
    Modified db pages 0
    
  • Use o comando SHOW variables do MySQL para verificar os valores do contador, que fornecem informações como o número de tabelas temporárias, o número de linhas de execução, o número de caches de tabela, páginas sujas, tabelas abertas e uso do pool de buffer.

    mysql> SHOW variables like 'VARIABLE_NAME'
    

Aplicar alterações

Depois de analisar o uso da memória por diferentes componentes, defina o flag apropriado no banco de dados MySQL. Para mudar o flag na instância do Cloud SQL para MySQL, use o console Google Cloud ou a CLI gcloud. Para mudar o valor da flag usando o console do Google Cloud , edite a seção Flags, selecione a flag e digite o novo valor.

Por fim, se o uso de memória ainda estiver alto e você achar que as consultas e os valores dos flags estão otimizados, considere aumentar o tamanho da instância para evitar OOM.

A seguir