Precision

Nutzung

view: view_name {
  measure: field_name {
    precision: 10 
  }
}

Hierarchie Datei ansehen view Feldtyp precision

Mögliche Feldtypen Messung Standardwert 6 Akzeptiert Ganzzahl

Definition

In Analysen, in denen Fanout-Joins zu falschen Ergebnissen für Aggregatfunktionen führen könnten, wendet Looker die Logik für symmetrische Summen an, um korrekte Berechnungen zurückzugeben.

Bei Aggregatfeldern, auf die die Logik für symmetrische Summen angewendet wird, gibt Looker standardmäßig sechs Stellen nach dem Komma zurück. Mit dem Feld precision können Sie die Anzahl der Stellen nach dem Komma ändern:

• Legen Sie den Wert von precision auf 7 oder höher fest, wenn Sie für Ihre Berechnungen mehr Stellen nach dem Komma benötigen.

• Legen Sie den Wert von precision auf 5 oder niedriger fest, wenn Sie mit sehr großen Zahlen arbeiten, um zu vermeiden, dass das Dezimallimit in Ihrer Datenbank überschritten wird.

  Wichtig: Wenn Sie symmetrische Summen für Messwerte mit großen Zahlen über 14 Stellen berechnen, können Fehler wie value overflow or collision when computing sum auftreten, wenn precision auf einen Wert über 5 festgelegt ist.

Weitere Informationen zu symmetrischen Aggregaten finden Sie auf der Best Practices-Seite Symmetrische Aggregate verstehen.

Hinweis: Der Parameter precision gilt nur für Berechnungen mit der Funktion für symmetrische Summen von Looker. Wenn Sie die Dezimalgenauigkeit von Feldwerten in der Datentabelle und Visualisierung ändern möchten, verwenden Sie stattdessen den Parameter value_format.

Beispiele

In diesem Beispiel wird ein Feld namens average_value erstellt, indem der Durchschnitt der Dimension value berechnet wird. Dabei wird eine Genauigkeit von 10 Stellen nach dem Komma beibehalten:

measure: average_value {
  type: average
  precision: 10
  sql: ${value} ;;
}