Almacenamiento en caché de consultas

Looker reduce la carga en tu base de datos y mejora el rendimiento usando los resultados almacenados en caché de las consultas en SQL anteriores cuando están disponibles y cuando tu política de almacenamiento en caché permite esta función. En esta página, se describe la política de almacenamiento en caché predeterminada de Looker, junto con las opciones disponibles para modificar la duración de los resultados almacenados en caché en tu instancia de Looker.

Cómo Looker usa las consultas almacenadas en caché

En el caso de las consultas en SQL, el mecanismo de almacenamiento en caché de Looker funciona de la siguiente manera:

  1. Cuando se ejecuta una consulta en SQL desde una exploración, una vista o un panel, Looker verifica la caché para ver si ya hay resultados almacenados en caché para esa consulta. Los resultados almacenados en caché se usarán solo si todos los aspectos de la consulta son los mismos, incluidos los campos, los filtros, los parámetros y los límites de filas.

  2. Si se encuentran resultados almacenados en caché, Looker verifica la política de almacenamiento en caché definida en el modelo de LookML para determinar si vencieron. Si no vencieron, Looker los usa para la consulta.

  3. Si no se encuentran resultados almacenados en caché para la consulta o si vencieron, Looker ejecutará la consulta en la base de datos. Luego, se almacenarán en caché los nuevos resultados de la consulta.

La política de retención de caché predeterminada es de una hora. En la siguiente sección, Modifica las políticas de retención de caché, se explica cómo acortar o extender este período, además de describir las opciones para sincronizar tu política de retención de caché con el proceso de ETL (extracción, transformación y carga) de tu base de datos.

Modifica las políticas de retención de caché

Puedes especificar políticas de retención de caché a nivel de la exploración de LookML y a nivel del modelo de LookML.

El mecanismo de almacenamiento en caché recomendado es usar un datagroup parámetro a nivel del modelo. Los grupos de datos te permiten sincronizar la política de retención de caché de un modelo con el programa de ETL de tu base de datos usando el parámetro sql_trigger y estableciendo un intervalo de vencimiento de caché con el parámetro max_cache_age. Para obtener más información, consulta la sección Almacena consultas en caché y vuelve a compilar tablas derivadas persistentes (PDT) con grupos de datos.

Para un enfoque más simple, puedes usar el parámetro persist_for a nivel del modelo o de la exploración. Si usas el parámetro persist_for de esta manera, puedes establecer un intervalo de vencimiento de caché que anule el intervalo predeterminado de una hora. Sin embargo, usar persist_for es menos sólido que usar grupos de datos por algunos motivos, como se explica en la sección Almacena consultas en caché con persist_for.

Si una exploración o un modelo tiene un grupo de datos o un persist_for definido, la política de almacenamiento en caché se modifica de la siguiente manera:

  • Antes de que venza el intervalo persist_for o el intervalo max_cache_age del grupo de datos: Si se vuelve a ejecutar la consulta, Looker extrae datos de la caché.
  • En el momento en que vence el intervalo persist_for o el intervalo max_cache_age del grupo de datos: Looker borra los datos de la caché.
  • Después de que venza el intervalo persist_for o el intervalo max_cache_age del grupo de datos: Si se vuelve a ejecutar la consulta, Looker extrae los datos directamente de la base de datos y restablece el intervalo persist_for o max_cache_age.

Un punto clave aquí es que los datos se borran de la caché cuando vence el intervalo persist_for o max_cache_age.

Si la caché alcanza el límite de almacenamiento, los datos se expulsan según un algoritmo de menos usado recientemente (LRU), sin garantía de que los datos con intervalos persist_for o max_cache_age vencidos se borren todos a la vez.

Minimiza el tiempo que tus datos pasan en la caché

Looker siempre escribirá los resultados de las consultas en la caché. Incluso si los intervalos persist_for y max_cache_age se establecen en cero, los datos almacenados en caché aún se pueden almacenar hasta por 10 minutos. Todos los datos del cliente que se almacenan en la caché de disco están encriptados con el Estándar de encriptación avanzada (AES).

Para minimizar la cantidad de tiempo que los datos se almacenan en la caché, haz lo siguiente:

  • Para cualquier parámetro persist_for (para un modelo o una exploración) o parámetro max_cache_age (para un grupo de datos), establece el valor en 0 minutes. Looker borra la caché cuando vence el intervalo persist_for o cuando los datos alcanzan el intervalo max_cache_age especificado en su grupo de datos. (No es necesario establecer el persist_for parámetro de las tablas derivadas persistentes (PDT) en 0 minutes para minimizar la cantidad de datos que se almacenan en la caché. Las PDT se escriben en la base de datos y no en la caché).
  • Establece el suggest_persist_for parámetro en un intervalo pequeño. El valor suggest_persist_for especifica cuánto tiempo Looker debe conservar las sugerencias de filtros en la caché. Las sugerencias de filtros se basan en una consulta de los valores del campo que se está filtrando. Estos resultados de la consulta se conservan en la caché para que Looker pueda proporcionar sugerencias rápidamente a medida que el usuario escribe en el campo de texto del filtro. La opción predeterminada es almacenar en caché las sugerencias de filtros durante 6 horas. Para minimizar la cantidad de tiempo que tus datos pasan en la caché, establece el valor suggest_persist_for en un valor más bajo, como 5 minutes.

Verifica si una consulta se mostró desde la caché

En una ventana de exploración, puedes determinar si una consulta se mostró desde la caché consultando la información junto al botón Ejecutar después de ejecutar una consulta.

Cuando una consulta se muestra desde la caché, se muestra el texto "from cache". De lo contrario, se muestra la cantidad de tiempo que tardó en mostrar la consulta.

Fuerza la generación de resultados nuevos desde la base de datos

En una ventana de exploración, puedes forzar la recuperación de resultados nuevos de la base de datos. Después de ejecutar una consulta (incluidas las consultas de resultados combinados), selecciona la opción Borrar caché y actualizar en el menú de ajustes Acciones de exploración.

Almacena consultas en caché y vuelve a compilar tablas derivadas persistentes (PDT) con grupos de datos

Usa grupos de datos para coordinar el programa de ETL (extracción, transformación y carga) de tu base de datos con la política de almacenamiento en caché de Looker y el programa de recompilación de tablas derivadas persistentes (PDT).

Puedes usar un grupo de datos para especificar el activador de recompilación de las PDT en función de cuándo se agregan datos nuevos a tu base de datos. Luego, puedes aplicar el mismo grupo de datos a tu exploración o modelo para que los resultados almacenados en caché también venzan cuando se vuelvan a compilar tus PDT.

Como alternativa, puedes usar un grupo de datos para desacoplar el activador de recompilación de PDT de la antigüedad máxima de la caché. Esto puede ser útil si tienes una exploración que se basa en datos que se actualizan con mucha frecuencia y que se une a una PDT que se vuelve a compilar con menos frecuencia. En este caso, es posible que desees que la caché de consultas se restablezca con más frecuencia que la PDT.

Define un grupo de datos

Define un grupo de datos con el datagroup parámetro, ya sea en un archivo de modelo o en su propio archivo de LookML. Puedes definir varios grupos de datos si deseas diferentes políticas de almacenamiento en caché y de recompilación de tablas derivadas persistentes (PDT) para diferentes exploraciones o PDT en tu proyecto.

El parámetro datagroup puede tener los siguientes subparámetros:

  • label : Especifica una etiqueta opcional para el grupo de datos.
  • description : Especifica una descripción opcional para el grupo de datos que se puede usar para explicar el propósito y el mecanismo del grupo de datos.
  • max_cache_age : Especifica una cadena que define un período. Cuando la antigüedad de la caché de una consulta supera el período, Looker invalida la caché. La próxima vez que se emita la consulta, Looker la enviará a la base de datos para obtener resultados nuevos.
  • sql_trigger : Especifica una consulta en SQL que muestra una fila con una columna. Si el valor que muestra la consulta es diferente de los resultados anteriores de la consulta, el grupo de datos pasa a un estado activado.
  • interval_trigger: Especifica un programa de tiempo para activar el grupo de datos, como "24 hours".

Como mínimo, un grupo de datos debe tener al menos el parámetro max_cache_age, el parámetro sql_trigger o el parámetro interval_trigger.

Este es un ejemplo de un grupo de datos que tiene un sql_trigger configurado para volver a compilar la PDT todos los días. Además, max_cache_age está configurado para borrar la caché de consultas cada dos horas, en caso de que alguna exploración una PDT a otros datos que se actualicen con más frecuencia que una vez al día.

datagroup: customers_datagroup {
  sql_trigger: SELECT DATE(NOW());;
  max_cache_age: "2 hours"
}

Una vez que definas el grupo de datos, podrás asignarlo a exploraciones y PDT:

Usa un grupo de datos para especificar un activador de recompilación para PDT

Para definir un activador de recompilación de PDT con grupos de datos, crea un datagroup parámetro con el subparámetro sql_trigger o interval_trigger. Luego, asigna el grupo de datos a PDT individuales con el datagroup_trigger subparámetro en la definición derived_table de la PDT. Si usas datagroup_trigger para tu PDT, no necesitas especificar ninguna otra estrategia de persistencia para la tabla derivada. Si especificas varias estrategias de persistencia para una PDT, recibirás una advertencia en el IDE de Looker y solo se usará datagroup_trigger.

A continuación, se muestra un ejemplo de una definición de PDT que usa el grupo de datos customers_datagroup. Esta definición también agrega varios índices, tanto en customer_id como en first_order_date. Para obtener más información sobre la definición de PDT, consulta la página de documentación Tablas derivadas en Looker.

view: customer_order_facts {
  derived_table: {
    sql: ... ;;
    datagroup_trigger: customers_datagroup
    indexes: ["customer_id", "first_order_date"]
  }
}

Consulta la página de documentación Tablas derivadas en Looker para obtener más información sobre cómo funcionan los grupos de datos con las PDT.

Usa un grupo de datos para especificar el restablecimiento de la caché de consultas para exploraciones

Cuando se activa un grupo de datos, el regenerador de Looker volverá a compilar las PDT que usan ese grupo de datos como estrategia de persistencia. Una vez que se vuelvan a compilar las PDT del grupo de datos, Looker borrará la caché de las exploraciones que usan las PDT recompiladas del grupo de datos. Puedes agregar el max_cache_age parámetro a la definición de tu grupo de datos si deseas personalizar un programa de restablecimiento de la caché de consultas para el grupo de datos. El parámetro max_cache_age te permite borrar la caché de consultas en un programa especificado, además del restablecimiento automático de la caché de consultas que realiza Looker cuando se vuelven a compilar las PDT del grupo de datos.

Para definir una política de almacenamiento en caché de consultas con grupos de datos, crea un datagroup parámetro con el max_cache_age subparámetro.

Para especificar un grupo de datos que se usará para restablecer la caché de consultas en las exploraciones, usa el persist_with parámetro:

En el siguiente ejemplo, se muestra un grupo de datos llamado orders_datagroup que se define en un archivo de modelo. El grupo de datos tiene un parámetro sql_trigger, que especifica que la consulta select max(id) from my_tablename se usará para detectar cuándo ocurrió un ETL. Incluso si ese ETL no ocurre por un tiempo, el max_cache_age del grupo de datos especifica que los datos almacenados en caché se usarán solo durante un máximo de 24 horas.

El parámetro persist_with del modelo apunta a la política de almacenamiento en caché orders_datagroup, lo que significa que esta será la política de almacenamiento en caché predeterminada para todas las exploraciones del modelo. Sin embargo, no queremos usar la política de almacenamiento en caché predeterminada del modelo para las exploraciones customer_facts y customer_background, por lo que podemos agregar el parámetro persist_with para especificar una política de almacenamiento en caché diferente para estas dos exploraciones. Las exploraciones orders y orders_facts no tienen un parámetro persist_with, por lo que usarán la política de almacenamiento en caché predeterminada del modelo: orders_datagroup.

datagroup: orders_datagroup {
  sql_trigger: SELECT max(id) FROM my_tablename ;;
  max_cache_age: "24 hours"
}

datagroup: customers_datagroup {
  sql_trigger: SELECT max(id) FROM my_other_tablename ;;
}

persist_with: orders_datagroup

explore: orders { ... }

explore: order_facts { ... }

explore: customer_facts {
  persist_with: customers_datagroup
  ...
}

explore: customer_background {
  persist_with: customers_datagroup
  ...
}

Si se especifican persist_with y persist_for, recibirás una advertencia de validación y se usará persist_with.

Usa un grupo de datos para activar entregas programadas

Los grupos de datos también se pueden usar para activar la entrega de un panel o una vista. Con esta opción, Looker enviará tus datos cuando se complete el grupo de datos, de modo que el contenido programado esté actualizado.

Usa el panel Administrador para grupos de datos

Si tienes el rol de administrador de Looker, puedes usar la página Grupos de datos del panel Administrador para ver los grupos de datos existentes. Puedes ver la conexión, el modelo y el estado actual de cada grupo de datos y, si se especifica en LookML, una etiqueta y una descripción para cada grupo de datos. También puedes restablecer la caché de un grupo de datos, activar el grupo de datos o navegar al LookML del grupo de datos.

Almacena consultas en caché con persist_for

Usa el parámetro persist_for a nivel del modelo o de la exploración para modificar el intervalo de retención de caché predeterminado de Looker de 1 hora. Puedes establecer intervalos tan pequeños como 0 minutes y tan altos como 8760 hours (1 año) o más.

Definir parámetros persist_for puede ser más rápido y simple, pero menos sólido que definir grupos de datos. Se recomiendan los grupos de datos en lugar de persist_for por los siguientes motivos:

  • Los grupos de datos se pueden sincronizar con el proceso de ETL de tu base de datos.
  • Puedes volver a usar grupos de datos en varios modelos y exploraciones. Esto significa que puedes actualizar el max_cache_age de un grupo de datos y se actualizará la política de almacenamiento en caché en cada lugar donde se use el grupo de datos.
  • Puedes borrar toda la caché asociada con un grupo de datos desde la página Grupos de datos.