精确率

用法

view: view_name {
  measure: field_name {
    precision: 10 
  }
}

层次结构 查看文件 view 字段类型 precision

可能的字段类型 测量 默认值 6 接受 整数

定义

在扇出联接可能会导致聚合函数结果不正确的探索中，Looker 会应用 对称聚合 逻辑来返回正确的计算结果。

对于应用了对称聚合逻辑的聚合字段，Looker 默认返回小数点后六位数字。您可以使用 precision 字段更改小数点后的位数：

• 如果您需要在计算中使用更多的小数位数，请将 precision 的值设置为 7 或更高。

• 在处理非常大的数字时，请将 precision 的值设置为 5 或更低，以避免数据库中的小数位数超出限制。

  重要提示： 如果 precision 设置为高于 5，对超过 14 位的大数字执行对称聚合可能会导致错误，例如 value overflow or collision when computing sum。

如需详细了解对称聚合，请参阅了解对称聚合最佳实践页面。

注意： precision 参数仅适用于使用 Looker 的对称聚合功能进行的计算。如果您想更改数据表和可视化图表中字段值的小数精度，请改用 value_format 参数。

示例

此示例通过对 value 维度求平均值来创建名为 average_value 的字段，并保持小数点后 10 位的精度：

measure: average_value {
  type: average
  precision: 10
  sql: ${value} ;;
}