precision

用途

view: view_name {
  measure: field_name {
    precision: 10 
  }
}

階層 ビューファイル view フィールド タイプ precision

使用可能なフィールドタイプ 測定 デフォルト値 6 許可 整数

定義

ファンアウト結合によって集計関数の結果が正しくなくなる可能性がある Explore では、Looker は 対称集計 ロジックを適用して正しい計算結果を返します。

対称集計ロジックが適用される集計フィールドの場合、デフォルトでは小数点以下 6 桁が返されます。precision フィールドを使用して、小数点以下の桁数を変更します。

• 計算で小数点以下の桁数を増やす必要がある場合は、precision の値を 7 以上に設定します。

• 非常に大きな数値を扱う場合は、データベースの小数点の制限を超えないように、precision の値を 5 以下に設定します。

  重要: 14 桁を超える大きな数値の指標に対して対称集計を行うと、value overflow or collision when computing sum が precision より大きい値に設定されている場合、5 などのエラーが発生する可能性があります。

対称集計の詳細については、対称集計のベスト プラクティスをご覧ください。

注: precision パラメータは、Looker の対称集計機能を使用した計算にのみ適用されます。データテーブルと可視化のフィールド値の小数点の精度を変更する場合は、代わりに value_format パラメータを使用します。

例

この例では、average_value というフィールドを作成し、value ディメンションの平均を計算して、小数点以下 10 桁の精度を維持します。

measure: average_value {
  type: average
  precision: 10
  sql: ${value} ;;
}