Mappature dei tipi di dati in BigQuery

Questa pagina descrive come Datastream esegue il mapping dei tipi di dati di vari database di origine ai tipi di dati BigQuery corrispondenti. Scopri come vengono convertiti i diversi tipi di dati quando esegui la migrazione dei dati a BigQuery, come BigQuery rappresenta i documenti JSON binari (BSON) di MongoDB e come eseguire query sui dati degli array PostgreSQL come tipo di dati ARRAY di BigQuery.

Tipi di dati della mappa

La seguente tabella elenca le conversioni dei tipi di dati dai database di origine supportati alla destinazione BigQuery.

Database di origine Tipo di dati di origine Tipo di dati BigQuery
MySQL BIGINT(size) INT64
MySQL BIGINT (unsigned) DECIMAL
MySQL BINARY(size) STRING (hex encoded)
MySQL BIT(size) INT64
MySQL BLOB(size) STRING (hex encoded)
MySQL BOOL INT64
MySQL CHAR(size) STRING
MySQL DATE DATE
MySQL DATETIME(fsp) DATETIME
MySQL DECIMAL(precision, scale) Se il valore di precisione è ≤ 38 e il valore di scala è ≤ 9, allora NUMERIC. Altrimenti, BIGNUMERIC.
MySQL DOUBLE(size, d) FLOAT64
MySQL ENUM(val1, val2, val3, ...) STRING
MySQL FLOAT(precision) FLOAT64
MySQL FLOAT(size, d) FLOAT64
MySQL INTEGER(size) INT64
MySQL INTEGER (unsigned) INT64
MySQL

JSON

 JSON
MySQL LONGBLOB STRING (hex encoded)
MySQL LONGTEXT STRING
MySQL MEDIUMBLOB STRING (hex encoded)
MySQL MEDIUMINT(size) INT64
MySQL MEDIUMTEXT STRING
MySQL SET(val1, val2, val3, ...) STRING
MySQL SMALLINT(size) INT64
MySQL TEXT(size) STRING
MySQL TIME(fsp) INTERVAL
MySQL TIMESTAMP(fsp) TIMESTAMP
MySQL TINYBLOB STRING (hex encoded)
MySQL TINYINT(size) INT64
MySQL TINYTEXT STRING
MySQL VARBINARY(size) STRING (hex encoded)
MySQL VARCHAR STRING
MySQL YEAR INT64
Oracle ANYDATA UNSUPPORTED
Oracle BFILE UNSUPPORTED
Oracle BINARY DOUBLE FLOAT64
Oracle BINARY FLOAT FLOAT64
Oracle BLOB BYTES
Oracle CHAR STRING
Oracle CLOB STRING
Oracle DATE DATETIME
Oracle DOUBLE PRECISION FLOAT64
Oracle FLOAT(p) FLOAT64
Oracle INTERVAL DAY TO SECOND UNSUPPORTED
Oracle INTERVAL YEAR TO MONTH UNSUPPORTED
Oracle LONG o LONG RAW UNSUPPORTED
Oracle NCHAR STRING
Oracle NCLOB STRING
Oracle NUMBER STRING
Oracle NUMBER(precision=*) STRING
Oracle NUMBER(precision, scale<=0) Se precisione ≤ 18, allora INT64. Se 18 < precisione ≤ 78, esegui il mapping ai tipi decimali parametrizzati. Se la precisione è ≥ 79, mappala su STRING.
Oracle NUMBER(precision, scale>0) Se 0 < precisione ≤ 78, esegui la mappatura ai tipi decimali parametrizzati. Se la precisione è ≥ 79, mappala su STRING.
Oracle NVARCHAR2 STRING
Oracle RAW STRING
Oracle ROWID STRING
Oracle SDO_GEOMETRY UNSUPPORTED
Oracle SMALLINT INT64
Oracle TIMESTAMP TIMESTAMP
Oracle TIMESTAMP WITH TIME ZONE TIMESTAMP
Oracle UDT (user-defined type) UNSUPPORTED
Oracle UROWID UNSUPPORTED
Oracle VARCHAR STRING
Oracle VARCHAR2 STRING
Oracle XMLTYPE UNSUPPORTED
PostgreSQL ARRAY JSON
PostgreSQL BIGINT INT64
PostgreSQL BIT BYTES
PostgreSQL BIT VARYING BYTES
PostgreSQL BOOLEAN BOOLEAN
PostgreSQL BOX UNSUPPORTED
PostgreSQL BYTEA BYTES
PostgreSQL CHARACTER STRING
PostgreSQL CHARACTER VARYING STRING
PostgreSQL CIDR STRING
PostgreSQL CIRCLE UNSUPPORTED
PostgreSQL DATE DATE
PostgreSQL DOUBLE PRECISION FLOAT64
PostgreSQL ENUM STRING
PostgreSQL INET STRING
PostgreSQL INTEGER INT64
PostgreSQL INTERVAL INTERVAL
PostgreSQL JSON JSON
PostgreSQL JSONB JSON
PostgreSQL LINE UNSUPPORTED
PostgreSQL LSEG UNSUPPORTED
PostgreSQL MACADDR STRING
PostgreSQL MONEY FLOAT64
PostgreSQL NUMERIC Se precision = -1, allora STRING (i tipi BigQuery NUMERIC richiedono una precisione fissa). In caso contrario, BIGNUMERIC o NUMERIC. Per maggiori informazioni, consulta la sezione Numeri con precisione arbitraria nella documentazione di PostgreSQL.
PostgreSQL OID INT64
PostgreSQL PATH UNSUPPORTED
PostgreSQL POINT UNSUPPORTED
PostgreSQL POLYGON UNSUPPORTED
PostgreSQL REAL FLOAT64
PostgreSQL SMALLINT INT64
PostgreSQL SMALLSERIAL INT64
PostgreSQL SERIAL INT64
PostgreSQL TEXT STRING
PostgreSQL TIME TIME
PostgreSQL TIMESTAMP TIMESTAMP
PostgreSQL TIMESTAMP WITH TIME ZONE TIMESTAMP
PostgreSQL TIME WITH TIME ZONE TIME
PostgreSQL TSQUERY STRING
PostgreSQL TSVECTOR STRING
PostgreSQL TXID SNAPSHOT STRING
PostgreSQL UUID STRING
PostgreSQL XML STRING
SQL Server BIGINT INT64
SQL Server BINARY BYTES
SQL Server BIT BOOL
SQL Server CHAR STRING
SQL Server DATE DATE
SQL Server DATETIME2 DATETIME
SQL Server DATETIME DATETIME
SQL Server DATETIMEOFFSET TIMESTAMP
SQL Server DECIMAL Se il valore della scala è ≤ 9 e il valore di (precision - scale) è ≤ 29, allora NUMERIC. Altrimenti, BIGNUMERIC.
SQL Server FLOAT FLOAT64
SQL Server IMAGE BYTES
SQL Server INT INT64
SQL Server MONEY NUMERIC
SQL Server NCHAR STRING
SQL Server NTEXT STRING
SQL Server NUMERIC Se il valore della scala è ≤ 9 e il valore di (precision - scale) è ≤ 29, allora NUMERIC. Altrimenti, BIGNUMERIC.
SQL Server NVARCHAR STRING
SQL Server NVARCHAR(MAX) STRING
SQL Server REAL FLOAT64
SQL Server SMALLDATETIME DATETIME
SQL Server SMALLINT INT64
SQL Server SMALLMONEY NUMERIC
SQL Server TEXT STRING
SQL Server TIME TIME
SQL Server TIMESTAMP o ROWVERSION BYTES
SQL Server TINYINT INT64
SQL Server UNIQUEIDENTIFIER STRING
SQL Server VARBINARY BYTES
SQL Server VARBINARY(MAX) BYTES
SQL Server VARCHAR STRING
SQL Server VARCHAR(MAX) STRING
SQL Server XML STRING
Salesforce BOOLEAN BOOLEAN
Salesforce BYTE BYTES
Salesforce DATE DATE
Salesforce DATETIME DATETIME
Salesforce DOUBLE BIGNUMERIC
Salesforce INT INT64
Salesforce STRING STRING
Salesforce TIME TIME
Salesforce ANYTYPE
(può essere STRING, DATE, NUMBER o BOOLEAN)		 STRING
Salesforce COMBOBOX STRING
Salesforce CURRENCY FLOAT64

La lunghezza massima consentita è di 18 cifre.
Salesforce DATACATEGORYGROUPREFERENCE STRING
Salesforce EMAIL STRING
Salesforce ENCRYPTEDSTRING STRING
Salesforce ID STRING
Salesforce JUNCTIONIDLIST STRING
Salesforce MASTERRECORD STRING
Salesforce MULTIPICKLIST STRING
Salesforce PERCENT FLOAT64

La lunghezza massima consentita è di 18 cifre.
Salesforce PHONE STRING
Salesforce PICKLIST STRING
Salesforce REFERENCE STRING
Salesforce TEXTAREA STRING

La lunghezza massima consentita è di 255 caratteri.
Salesforce URL STRING
Spanner (GoogleSQL) ARRAY JSON
Spanner (GoogleSQL) BOOL BOOLEAN
Spanner (GoogleSQL) BYTES BYTES
Spanner (GoogleSQL) DATE DATE
Spanner (GoogleSQL) FLOAT32 FLOAT64
Spanner (GoogleSQL) FLOAT64 FLOAT64
Spanner (GoogleSQL) INT64 INT64
Spanner (GoogleSQL) JSON JSON
Spanner (GoogleSQL) NUMERIC STRING
Spanner (GoogleSQL) STRING STRING
Spanner (GoogleSQL) TIMESTAMP TIMESTAMP WITH TIME ZONE
Spanner (GoogleSQL) UUID STRING
Spanner (GoogleSQL) PROTO UNSUPPORTED
Spanner (GoogleSQL) ENUM UNSUPPORTED
Spanner (PostgreSQL) ARRAY JSON
Spanner (PostgreSQL) BIGINT INT64
Spanner (PostgreSQL) BOOL BOOLEAN
Spanner (PostgreSQL) BYTEA BYTES
Spanner (PostgreSQL) DATE DATE
Spanner (PostgreSQL) DECIMAL STRING
Spanner (PostgreSQL) DOUBLE PRECISION FLOAT64
Spanner (PostgreSQL) FLOAT8 FLOAT64
Spanner (PostgreSQL) INT8 INT64
Spanner (PostgreSQL) JSONB JSON
Spanner (PostgreSQL) NUMERIC STRING
Spanner (PostgreSQL) TIMESTAMP WITH TIME ZONE TIMESTAMP WITH TIME ZONE
Spanner (PostgreSQL) TIMESTAMPZ TIMESTAMP WITH TIME ZONE
Spanner (PostgreSQL) UUID STRING
Spanner (PostgreSQL) VARCHAR STRING

Tipi di dati MongoDB

I documenti JSON binari (BSON) di MongoDB vengono scritti in BigQuery in una delle due modalità, a seconda di ciò che specifichi durante la creazione dello stream (vedi Gestire gli stream): modalità canonica (impostazione predefinita) o modalità rigorosa.

  • Modalità canonica (impostazione predefinita): il formato moderno e più descrittivo che dà la priorità alla fedeltà dei dati. Garantisce che ogni tipo BSON sia etichettato in modo esplicito, ad esempio che distingua tra un numero intero a 32 bit e uno a 64 bit, per evitare la perdita di precisione durante lo scambio di dati. La modalità canonica potrebbe essere leggermente più lenta della modalità StrictMode, ma supporta tutti i tipi di dati. Per saperne di più, consulta JSON esteso di MongoDB.
  • Modalità StrictMode: un formato legacy progettato per essere compatibile con i parser JSON, che utilizza convenzioni specifiche, ad esempio "$date", per rappresentare tipi che non esistono nel formato JSON standard. Alcuni tipi di dati, come Infinity, -Infinity e NaN, non sono supportati. Per saperne di più, consulta MongoDB Extended JSON (v1).

La tabella seguente mostra come vengono rappresentati i tipi di dati in BigQuery in entrambe le modalità, insieme ai valori di esempio:

Tipo di dati BSON Valore di esempio Modalità canonica Modalità più restrittiva
DOUBLE 3.1415926535 {"$numberDouble":"3.1415926535"} 3.1415926535
Infinity Infinity {"$numberDouble":"Infinity"} Non supportato
-Infinity -Infinity {"$numberDouble":"-Infinity"} Non supportato
NaN NaN {"$numberDouble":"NaN"} Non supportato
STRING "Hello, MongoDB!" "Hello, MongoDB!" "Hello, MongoDB!"
ARRAY 
[
  "item1",
  123,
  true,
  { subItem: "object in array" }
]
["item1",{"$numberInt":"123"},true,{"subItem":"object in array"}] ["item1",123,true,{"subItem":"object in array"}]
BINARY DATA new BinData(0, "SGVsbG8gQmluYXJ5IERhdGE=") {"$binary":{"base64":"SGVsbG8gQmluYXJ5IERhdGE=","subType":"00"}} {"$binary":"SGVsbG8gQmluYXJ5IERhdGE=","$type":"00"}
BOOLEAN true true true
DATE 2024-12-25T10:30:00.000+00:00 {"$date":{"$numberLong":"1735122600000"}} {"$date": 1735122600000}
NULL null null null
REGEX /^mongo(db)?$/i {"$regularExpression":{"pattern":"^mongo(db)?$","options":"i"}} {"$options":"i","$regex":"^mongo(db)?$"}
JAVASCRIPT function() {return this.stringField.length;} {"$code":"function() {\n return this.stringField.length;\n }"} {"$code":"function() {\n return this.stringField.length;\n }"}
DECIMAL128 NumberDecimal("1234567890.1234567890") {"$numberDecimal":"1234567890.1234567890"} {"$numberDecimal":"1234567890.1234567890"}
OBJECTID ObjectId('673c5d8dbfe2e51808cc2c3d') {"$oid": "673c5d8dbfe2e51808cc2c3d"} {"$oid": "673c5d8dbfe2e51808cc2c3d"}
LONG 3567587327 {"$numberLong": "3567587327"} {"$numberLong": "3567587327"}
INT32 42 {"$numberInt": "42"} 42
INT64 1864712049423024127 {"$numberLong": "1864712049423024127"} {"$numberLong": "1864712049423024127"}
TIMESTAMP new Timestamp(1747888877, 1) {"$timestamp":{"t":1747888877,"i":1}} {"$timestamp":{"i":1,"t":1747888877}}

Esegui una query su un array PostgreSQL come tipo di dati array BigQuery

Per eseguire query su un array PostgreSQL come tipo di dati ARRAY di BigQuery, converti i valori JSON in un array BigQuery utilizzando la funzione BigQuery JSON_VALUE_ARRAY:

  SELECT
    ARRAY(
      SELECT CAST(element AS TYPE)
      FROM UNNEST(JSON_VALUE_ARRAY(BQ_COLUMN_NAME, '$')) AS element
    ) AS array_col

Sostituisci quanto segue:

  • TYPE: il tipo BigQuery che corrisponde al tipo di elemento nell'array di origine PostgreSQL. Ad esempio, se il tipo di origine è un array di valori BIGINT, sostituisci TYPE con INT64. Per ulteriori informazioni su come mappare i tipi di dati, vedi Mappare i tipi di dati.
  • BQ_COLUMN_NAME: il nome della colonna pertinente nella tabella BigQuery.

Esistono due eccezioni al modo in cui converti i valori:

  • Per gli array di valori BIT, BIT_VARYING o BYTEA nella colonna di origine, esegui la seguente query:

    SELECT
  ARRAY(
    SELECT FROM_BASE64(element)
    FROM UNNEST(JSON_VALUE_ARRAY(BQ_COLUMN_NAME, '$')) AS element
  ) AS array_of_bytes

  • Per gli array di valori JSON o JSONB nella colonna di origine, utilizza la funzione JSON_QUERY_ARRAY:

    SELECT
  ARRAY(
    SELECT element
    FROM UNNEST(JSON_QUERY_ARRAY(BQ_COLUMN_NAME, '$')) AS element
  ) AS array_of_jsons