precision

사용

view: view_name {
  measure: field_name {
    precision: 10 
  }
}

계층 구조 파일 보기 view 입력란 유형 precision

가능한 입력란 유형 측정 기본값 6 수락함 정수

정의

팬아웃 조인으로 인해 집계 함수의 결과가 잘못될 수 있는 탐색에서 Looker는 대칭 집계 로직을 적용하여 올바른 계산을 반환합니다.

대칭 집계 로직이 적용되는 집계 필드의 경우 Looker는 기본적으로 소수점 이하 6자리를 반환합니다. precision 필드를 사용하여 소수점 이하 자릿수를 변경합니다.

• 계산에 소수점 이하 자릿수가 더 필요한 경우 precision 값을 7 이상으로 설정합니다.

• 매우 큰 숫자로 작업할 때는 데이터베이스의 소수점 한도를 초과하지 않도록 precision 값을 5 이하로 설정합니다.

  중요: 14자리보다 큰 숫자가 있는 측정항목에 대칭 집계를 실행하면 precision이(가) 5보다 높게 설정된 경우 value overflow or collision when computing sum과(와) 같은 오류가 발생할 수 있습니다.

대칭 집계에 대한 자세한 내용은 대칭 집계 권장사항 이해 페이지를 참고하세요.

참고: precision 매개변수는 Looker의 대칭 집계 기능이 있는 계산에만 적용됩니다. 데이터 테이블 및 시각화에서 필드 값의 소수점 정밀도를 변경하려면 대신 value_format 매개변수를 사용하세요.

예시

이 예에서는 value 측정기준의 평균을 구하고 소수점 이하 10자리의 정밀도를 유지하여 average_value라는 필드를 만듭니다.

measure: average_value {
  type: average
  precision: 10
  sql: ${value} ;;
}