Precision

Nutzung

view: view_name {
  measure: field_name {
    precision: 10 
  }
}

Hierarchie Datei ansehen view Feldtyp precision

Mögliche Feldtypen Messen Standardwert 6 Akzeptiert Ganzzahl

Definition

In Explores, in denen Fanout-Joins zu falschen Ergebnissen für Aggregationsfunktionen führen könnten, wendet Looker die Logik für symmetrische Summen an, um korrekte Berechnungen zurückzugeben.

Bei aggregierten Feldern, auf die die Logik für symmetrische Aggregation angewendet wird, gibt Looker standardmäßig sechs Stellen nach dem Dezimalkomma zurück. Im Feld precision können Sie die Anzahl der Ziffern nach dem Dezimalkomma ändern:

• Legen Sie den Wert von precision auf 7 oder höher fest, wenn Sie für Ihre Berechnungen mehr Stellen nach dem Dezimalkomma benötigen.

• Legen Sie den Wert von precision auf 5 oder niedriger fest, wenn Sie mit sehr großen Zahlen arbeiten, um zu vermeiden, dass das Dezimallimit in Ihrer Datenbank überschritten wird.

Weitere Informationen zu symmetrischen Summen finden Sie auf der Seite mit Best Practices für symmetrische Summen.

Hinweis :Der Parameter precision gilt nur für Berechnungen mit der symmetrischen Aggregatfunktion von Looker. Wenn Sie nur die Dezimalgenauigkeit von Feldwerten in der Datentabelle und Visualisierung ändern möchten, verwenden Sie stattdessen den Parameter value_format.

Beispiele

In diesem Beispiel wird ein Feld namens average_value erstellt, indem der Durchschnitt der Dimension value berechnet wird. Die Genauigkeit beträgt 10 Ziffern nach dem Dezimalkomma:

measure: average_value {
  type: average
  precision: 10
  sql: ${value} ;;
}