SQL-Übersetzungen mit YAML transformieren

In diesem Dokument erfahren Sie, wie Sie YAML-Konfigurationsdateien verwenden, um SQL-Code während seiner Migration zu BigQuery zu transformieren. Sie enthält Richtlinien zum Erstellen eigener YAML-Konfigurationsdateien und Beispiele für verschiedene Übersetzungstransformationen, die von dieser Funktion unterstützt werden.

Wenn Sie den interaktiven SQL-Übersetzer von BigQuery, die BigQuery Migration API oder eine Batch-SQL-Übersetzung verwenden, können Sie YAML-Konfigurationsdateien angeben, um die Übersetzung einer SQL-Abfrage zu ändern. Mithilfe von YAML-Konfigurationsdateien können Sie bei der Übersetzung von SQL-Abfragen aus Ihrer Quelldatenbank weitere Anpassungen vornehmen.

Sie können eine YAML-Konfigurationsdatei zur Verwendung in einer SQL-Übersetzung auf folgende Weisen angeben:

Der interaktive SQL-Übersetzer, die BigQuery Migration API und der Batch-SQL-Übersetzer unterstützen die Verwendung mehrerer YAML-Konfigurationsdateien in einem einzigen Übersetzungsjob. Weitere Informationen finden Sie unter Mehrere YAML-Konfigurationen anwenden.

Anforderungen an YAML-Konfigurationsdateien

Bevor Sie eine YAML-Konfigurationsdatei erstellen, sollten Sie die folgenden Informationen lesen, um sicherzustellen, dass Ihre YAML-Datei mit dem BigQuery Migration Service kompatibel ist:

  • Sie müssen die YAML-Konfigurationsdateien in das Verzeichnis des Cloud Storage-Bucket hochladen, der Ihre SQL-Übersetzungseingabedateien enthält. Informationen zum Erstellen von Buckets und zum Hochladen von Dateien in Cloud Storage erhalten Sie unter Buckets erstellen und Objekte aus einem Dateisystem hochladen.
  • Die Dateigröße für eine einzelne YAML-Konfigurationsdatei darf 1 MB nicht überschreiten.
  • Die Gesamtgröße aller YAML-Konfigurationsdateien, die in einem einzelnen SQL-Übersetzungsjob verwendet werden, darf 4 MB nicht überschreiten.
  • Wenn Sie die regex-Syntax für den Namensabgleich verwenden, nutzen Sie RE2/J.
  • Alle YAML-Dateinamen für die Konfiguration müssen die Erweiterung .config.yaml haben, z. B. change-case.config.yaml. config.yaml allein ist kein gültiger Name für die Konfigurationsdatei.

Richtlinien zum Erstellen einer YAML-Konfigurationsdatei

In diesem Abschnitt finden Sie einige allgemeine Richtlinien zum Erstellen einer YAML-Konfigurationsdatei:

Jede Konfigurationsdatei muss einen Header enthalten, der den Typ der Konfiguration angibt. Der Typ object_rewriter wird verwendet, um SQL-Übersetzungen in einer YAML-Konfigurationsdatei anzugeben. Im folgenden Beispiel wird der Typ object_rewriter verwendet, um die Groß-/Kleinschreibung eines Namens zu ändern:

type: object_rewriter
global:
  case:
    all: UPPERCASE

Entitätsauswahl

Wenn Sie entitätsspezifische Transformationen ausführen möchten, geben Sie die Entität in der Konfigurationsdatei an. Alle match-Attribute sind optional. Verwenden Sie nur die match-Attribute, die für eine Transformation erforderlich sind. In der folgenden YAML-Konfigurationsdatei werden Attribute enthüllt, die zugeordnet werden sollen, um bestimmte Entitäten auszuwählen:

match:
  database: <literal_name>
  schema: <literal_name>
  relation: <literal_name>
  attribute: <literal_name>
  databaseRegex: <regex>
  schemaRegex: <regex>
  relationRegex: <regex>
  attributeRegex: <regex>

Beschreibung der einzelnen match-Attribute:

  • database oder db: die Komponente „project_id“.
  • schema: die Dataset-Komponente.
  • relation: die Tabellenkomponente.
  • attribute: die Spaltenkomponente. Nur für die Attributauswahl gültig
  • databaseRegex oder dbRegex: ordnet ein database-Attribut einem regulären Ausdruck zu (Vorschau).
  • schemaRegex: ordnet schema-Attribute regulären Ausdrücken zu (Vorschau).
  • relationRegex: ordnet relation-Attribute regulären Ausdrücken zu (Vorschau).
  • attributeRegex: ordnet attribute-Attribute regulären Ausdrücken zu Nur für die Attributauswahl gültig (Vorschau).

In der folgenden YAML-Konfigurationsdatei werden beispielsweise die match-Attribute angegeben, um die Tabelle testdb.acme.employee für eine Transformation in eine temporäre Tabelle auszuwählen.

type: object_rewriter
relation:
-
  match:
    database: testdb
    schema: acme
    relation: employee
  temporary: true

Sie können die Attribute databaseRegex, schemaRegex, relationRegex und attributeRegex verwenden, um reguläre Ausdrücke anzugeben und eine Teilmenge von Entitäten auszuwählen. Im folgenden Beispiel werden alle Beziehungen vom tmp_schema-Schema in testdb zu temporär geändert, solange ihr Name mit tmp_ beginnt:

type: object_rewriter
relation:
-
  match:
    schema: tmp_schema
    relationRegex: "tmp_.*"
  temporary: true

Sowohl bei Literal- als auch bei regex-Attributen wird die Groß- und Kleinschreibung nicht berücksichtigt. Sie können die Berücksichtigung der Groß-/Kleinschreibung erzwingen, indem Sie einen regex mit einem deaktivierten i-Flag verwenden, wie im folgenden Beispiel gezeigt:

match:
  relationRegex: "(?-i:<actual_regex>)"

Sie können vollständig qualifizierte Entitäten auch mit einer entsprechenden Kurzstring-Syntax angeben. Eine Kurzstring-Syntax erwartet genau 3 (für die Beziehungsauswahl) oder 4 (für die Attributauswahl) Namenssegmente, die durch Punkte getrennt sind, wie im Beispiel testdb.acme.employee. Die Segmente werden dann intern so interpretiert, als wären sie database, schema, relation und attribute respektive übergeben worden. Das heißt, dass Namen exakt abgeglichen werden. Daher sind reguläre Ausdrücke in der abgekürzten Syntax nicht zulässig. Das folgende Beispiel zeigt die Verwendung der Kurzstring-Syntax, um eine vollständig qualifizierte Entität in einer YAML-Konfigurationsdatei anzugeben:

type: object_rewriter
relation:
-
  match : "testdb.acme.employee"
  temporary: true

Wenn eine Tabelle einen Punkt im Namen enthält, können Sie den Namen nicht in einer abgekürzten Syntax angeben. In diesem Fall müssen Sie einen Objekt-Abgleich verwenden. Im folgenden Beispiel wird die Tabelle testdb.acme.stg.employee zu temporär geändert:

type: object_rewriter
relation:
-
  match:
    database: testdb
    schema: acme
    relation: stg.employee
  temporary: true

Die YAML-Konfiguration akzeptiert key als Alias für match.

Standarddatenbank

Einige SQL-Eingabedialekte, insbesondere Teradata, unterstützen database-name im qualifizierten Namen nicht. In diesem Fall ist es am einfachsten, die Entitäten abzugleichen, indem Sie das Attribut database in match weglassen.

Sie können jedoch das Attribut default_database des BigQuery-Migrationsdienstes festlegen und diese Standarddatenbank in der match verwenden.

Unterstützte Zielattributtypen

Sie können die YAML-Konfigurationsdatei verwenden, um Attributtyp-Transformationen durchzuführen, bei denen Sie den Datentyp einer Spalte vom Quelltyp in einen Zieltyp transformieren. Die YAML-Konfigurationsdatei unterstützt die folgenden Zieltypen:

  • BOOLEAN
  • TINYINT
  • SMALLINT
  • INTEGER
  • BIGINT
  • FLOAT
  • DOUBLE
  • NUMERIC (Unterstützt optionale Genauigkeit und Skalierung, z. B. NUMERIC(18, 2))
  • TIME
  • TIMETZ
  • DATE
  • DATETIME
  • TIMESTAMP
  • TIMESTAMPTZ
  • CHAR (Unterstützt optionale Genauigkeit, z. B. CHAR(42))
  • VARCHAR (Unterstützt optionale Genauigkeit, z. B. VARCHAR(42))

Beispiele für YAML-Konfigurationen

Dieser Abschnitt enthält Beispiele zum Erstellen verschiedener YAML-Konfigurationsdateien für Ihre SQL-Übersetzungen. In jedem Beispiel wird die YAML-Syntax zum Transformieren Ihrer SQL-Übersetzung auf bestimmte Weisen beschrieben, und zwar mit einer kurzen Beschreibung. Jedes Beispiel enthält auch den Inhalt einer teradata-input.sql- oder hive-input.sql-Datei und einer bq-output.sql-Datei, sodass Sie die Auswirkungen einer Konfigurations-YAML in einer BigQuery-SQL-Abfrageübersetzung vergleichen können.

In den folgenden Beispielen wird Teradata oder Apache Hive als Eingabe-SQL-Dialekt und BigQuery-SQL als Ausgabe-Dialekt verwendet. In den folgenden Beispielen wird außerdem testdb als Standarddatenbank und testschema als Schemasuchpfad verwendet.

Objektnamen ändern

Mit der folgenden YAML-Konfigurationsdatei wird die Groß- oder Kleinschreibung von Objektnamen geändert:

type: object_rewriter
global:
  case:
    all: UPPERCASE
    database: LOWERCASE
    attribute: LOWERCASE

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

teradata-input.sql 
      create table x(a int);
      select * from x;
bq-output.sql 
      CREATE TABLE testdb.TESTSCHEMA.X
      (
        a INT64
      )
      ;
      SELECT
          X.a
        FROM
          testdb.TESTSCHEMA.X
      ;

Tabelle temporär machen

Mit der folgenden YAML-Konfigurationsdatei wird eine reguläre Tabelle in eine temporäre Tabelle umgewandelt:

type: object_rewriter
relation:
  -
    match: "testdb.testschema.x"
    temporary: true

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

teradata-input.sql 
    create table x(a int);
bq-output.sql 
    CREATE TEMPORARY TABLE x
    (
      a INT64
    )
    ;

Tabelle sitzungsspezifisch machen

Mit der folgenden YAML-Konfigurationsdatei wird eine reguläre Tabelle in eine sitzungsspezifische Tabelle mit einer Ablaufzeit von 60 Sekunden geändert.

type: object_rewriter
relation:
  -
    match: "testdb.testschema.x"
    ephemeral:
      expireAfterSeconds: 60

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

teradata-input.sql 
    create table x(a int);
bq-output.sql 
    CREATE TABLE testdb.testschema.x
    (
      a INT64
    )
    OPTIONS(
      expiration_timestamp=timestamp_add(current_timestamp(), interval 60 SECOND)
    );

Partitionsablauf festlegen

Mit der folgenden Konfigurations-YAML-Datei wird der Ablauf einer partitionierten Tabelle in 1 Tag geändert:

type: object_rewriter
relation:
  -
    match: "testdb.testschema.x"
    partitionLifetime:
      expireAfterSeconds: 86400

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

teradata-input.sql 
    create table x(a int, b int) partition by (a);
bq-output.sql 
    CREATE TABLE testdb.testschema.x
    (
      a INT64,
      b INT64
    )
    CLUSTER BY a
    OPTIONS(
      partition_expiration_days=1
    );

Externen Speicherort oder Format für eine Tabelle ändern

Mit der folgenden YAML-Konfigurationsdatei werden der externe Speicherort und das Format für eine Tabelle geändert:

type: object_rewriter
relation:
  -
    match: "testdb.testschema.x"
    external:
      locations: "gs://path/to/department/files"
      format: ORC

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

teradata-input.sql 
    create table x(a int);
bq-output.sql 
    CREATE EXTERNAL TABLE testdb.testschema.x
    (
      a INT64
    )
    OPTIONS(
      format='ORC',
      uris=[
        'gs://path/to/department/files'
      ]
    );

Tabellenbeschreibung festlegen oder ändern

Mit der folgenden YAML-Konfiguration wird die Beschreibung einer Tabelle festgelegt:

type: object_rewriter
relation:
  -
    match: "testdb.testschema.x"
    description:
      text: "Example description."

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

teradata-input.sql 
    create table x(a int);
bq-output.sql 
    CREATE TABLE testdb.testschema.x
    (
      a INT64
    )
    OPTIONS(
      description='Example description.'
    );

Tabellenpartitionierung festlegen oder ändern

Mit der folgenden Konfigurations-YAML-Datei wird das Partitionierungsschema einer Tabelle so geändert, dass sie nach einer Datumsspalte partitioniert wird:

type: object_rewriter
relation:
  -
    match: "testdb.testschema.x"
    partition:
      simple:
        add: [a]
  -
    match: "testdb.testschema.y"
    partition:
      simple:
        remove: [a]

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

teradata-input.sql 
    create table x(a date, b int);
    create table y(a date, b int) partition by (a);
bq-output.sql 
    CREATE TABLE testdb.testschema.x
    (
      a DATE,
      b INT64
    )
    PARTITION BY a;
    CREATE TABLE testdb.testschema.y
    (
      a DATE,
      b INT64
    )
    ;

Mit der folgenden Konfigurations-YAML-Datei wird das Partitionierungsschema einer Tabelle so geändert, dass sie nach Bereichs-Bucket partitioniert wird:

type: object_rewriter
relation:
-
  key: "testdb.testschema.mytable"
  partition:
    range_bucket:
      column: "id"
      start: 0
      end: 100
      step: 10
      options:
        require_partition_filter: "TRUE"

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

snowflake-input.sql 
     create table testschema.mytable (date timestamp_ntz, id number, content variant);
bq-output.sql 
     create table testdb.testschema.mytable
      (
        date datetime,
        id int64,
        content json
      )
      partition by range_bucket(id, generate_array(0, 100, 10))
      options(
        require_partition_filter=true
      );

Tabellen-Clustering festlegen oder ändern

Mit der folgenden YAML-Konfigurationsdatei wird das Clustering-Schema einer Tabelle geändert:

type: object_rewriter
relation:
  -
    match: "testdb.testschema.x"
    clustering:
      add: [a]
  -
    match: "testdb.testschema.y"
    clustering:
      remove: [b]

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

hive-input.sql 
    create table x(a int, b int);
    create table y(a int, b int) clustered by (b) into 16 buckets;
bq-output.sql 
    CREATE TABLE testdb.testschema.x
    (
      a INT64,
      b INT64
    )
    CLUSTER BY a;
    CREATE TABLE testdb.testschema.y
    (
      a INT64,
      b INT64
    )
    ;

Typ eines Spaltenattributs ändern

Mit der folgenden YAML-Konfigurationsdatei wird der Datentyp für ein Attribut einer Spalte geändert:

type: object_rewriter
attribute:
  -
    match:
      database: testdb
      schema: testschema
      attributeRegex: "a+"
    type:
      target: NUMERIC(10,2)

Sie können den Quelldatentyp in einen der unterstützten Zielattributtypen umwandeln.

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

teradata-input.sql 
    create table x(a int, b int, aa int);
bq-output.sql 
    CREATE TABLE testdb.testschema.x
    (
      a NUMERIC(31, 2),
      b INT64,
      aa NUMERIC(31, 2)
    )
    ;

Verbindung zu externem Data Lake hinzufügen

Mit der folgenden YAML-Konfigurationsdatei wird die Quelltabelle als externe Tabelle gekennzeichnet, die auf in einem externen Data Lake gespeicherte Daten verweist. Der Data Lake wird durch eine Data-Lake-Verbindung angegeben.

type: object_rewriter
relation:
-
  key: "testdb.acme.employee"
  external:
    connection_id: "connection_test"

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

hive-input.sql 
    CREATE TABLE x
    (
      a VARCHAR(150),
      b INT
    );
bq-output.sql 
    CREATE EXTERNAL TABLE x
    (
      a STRING,
      b INT64
    )
    WITH CONNECTION `connection_test`
    OPTIONS(
    );

Zeichencodierung einer Eingabedatei ändern

Standardmäßig versucht der BigQuery Migration Service, die Zeichencodierung von Eingabedateien automatisch zu erkennen. Wenn der BigQuery Migration Service die Codierung einer Datei falsch erkennt, können Sie die Zeichencodierung mit einer YAML-Konfigurationsdatei explizit angeben.

In der folgenden YAML-Konfigurationsdatei wird die explizite Zeichencodierung der Eingabedatei als ISO-8859-1 angegeben.

type: experimental_input_formats
formats:
- source:
    pathGlob: "*.sql"
  contents:
    raw:
      charset: iso-8859-1

Globale Typkonvertierung

Die folgende YAML-Konfigurationsdatei ändert einen Datentyp in allen Skripts in einen anderen. Außerdem wird ein Quelldatentyp angegeben, der im transpilierten Skript vermieden werden soll. Dies unterscheidet sich von der Konfiguration Spaltenattributstyp ändern, bei der nur der Datentyp für ein einzelnes Attribut geändert wird.

BigQuery unterstützt die folgenden Datentypkonvertierungen:

  • DATETIME bis TIMESTAMP
  • TIMESTAMP nach DATETIME (akzeptiert optionale Zeitzone)
  • TIMESTAMP WITH TIME ZONE nach DATETIME (akzeptiert optionale Zeitzone)
  • CHAR bis VARCHAR

Im folgenden Beispiel wandelt die YAML-Konfiguration den Datentyp TIMESTAMP in DATETIME um.

type: experimental_object_rewriter
global:
  typeConvert:
    timestamp: DATETIME

Standardzeitzone festlegen

Datenbankdialekte haben unterschiedliche Semantiken und Namen für verschiedene Datums- und Uhrzeitdatentypen. Der Übersetzungsdienst verwendet in seiner YAML-Konfiguration die folgende Terminologie, unabhängig vom Namen des Datentyps des Eingabedialekts:

  • Ein datetime ist eine Kombination aus Y-M-D H:M:S, die nicht an eine bestimmte Zeitzone gebunden ist. datetime stellt eine Uhrzeit und keinen bestimmten Zeitpunkt dar.
  • Ein timestamp steht für einen bestimmten oder absoluten Zeitpunkt und ist daher implizit an eine bestimmte Zeitzone gebunden, die eine Einstellung auf Sitzungsebene oder eine Datenbankeinstellung sein kann.
  • Ein timestamptz stellt einen bestimmten Zeitpunkt wie ein timestamp dar, enthält aber im Gegensatz zu einem timestamp einen bestimmten Zeitzonen-Offset. Obwohl sie denselben Zeitpunkt darstellen, werden 2019-06-01 12:00:00+4 und 2019-06-01 06:00:00-2 als unterschiedliche timestamptz-Werte betrachtet.

In Dialekten wie Teradata geben datums-/uhrzeitbezogene Funktionen wie current_date, current_time oder current_timestamp Zeitstempel basierend auf einem implizit konfigurierten Zeitzonenparameter für die Sitzung zurück. BigQuery gibt hingegen immer Zeitstempel in UTC zurück. Für ein konsistentes Verhalten zwischen den beiden Dialekten muss die Zeitzone entsprechend konfiguriert werden.

Wir empfehlen, die Standardzeitzone für die Übersetzung anzugeben, wenn Ihre Quelldatenbank eine andere Standardzeitzone als UTC hat. So wird die Zeitzone beibehalten und die übersetzte Abfrage funktioniert korrekt.

Im folgenden Beispiel werden in der Konfigurations-YAML-Datei ein TIMESTAMP- und ein TIMESTAMPTZ-Datentyp in DATETIME konvertiert. Die Zielzeitzone ist auf Europe/Paris festgelegt.

Gültige Zeitzonenwerte finden Sie unter Zeitzonen.

type: experimental_object_rewriter
global:
  typeConvert:
    timestamp:
      target: DATETIME
      timezone: Europe/Paris
    timestamptz:
      target: DATETIME
      timezone: Europe/Paris

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

snowflake-input.sql 
      create table x(c_timestamp timestamp_ltz, c_timestamptz timestamp_tz, c_datetime timestamp_ntz);

      select c_timestamp from x where c_timestamp > current_timestamp(0);
      select c_timestamptz from x where c_timestamptz > cast(current_timestamp(0) as timestamp_tz);
      select c_datetime from x where c_datetime > cast(current_timestamp(0) as timestamp_ntz);
bq-output.sql 
      CREATE TABLE x
      (
        c_timestamp DATETIME,
        c_timestamptz DATETIME,
        c_datetime DATETIME
      )
      ;
      SELECT
          x.c_timestamp
        FROM
          test.x
        WHERE x.c_timestamp > datetime(current_timestamp(), 'Europe/Paris')
      ;
      SELECT
          x.c_timestamptz
        FROM
          test.x
        WHERE x.c_timestamptz > datetime(current_timestamp(), 'Europe/Paris')
      ;
      SELECT
          x.c_datetime
        FROM
          test.x
        WHERE x.c_datetime > datetime(current_timestamp(), 'Europe/Paris')
      ;

Im folgenden Beispiel wandelt die YAML-Konfiguration den Datentyp DATETIME in TIMESTAMP um.

Standardmäßig wird TIMESTAMPTZ ohne Konfiguration in TIMESTAMP konvertiert.

type: experimental_object_rewriter
global:
  typeConvert:
    datetime:
      target: TIMESTAMP

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

snowflake-input.sql 
      create table x(c_timestamp timestamp_ltz, c_timestamptz timestamp_tz, c_datetime timestamp_ntz);

      select c_timestamp from x where c_timestamp > current_timestamp(0);
      select c_timestamptz from x where c_timestamptz > cast(current_timestamp(0) as timestamp_tz);
      select c_datetime from x where c_datetime > cast(current_timestamp(0) as timestamp_ntz);
bq-output.sql 
      CREATE TABLE x
      (
        c_timestamp TIMESTAMP,
        c_timestamptz TIMESTAMP,
        c_datetime TIMESTAMP
      )
      ;
      SELECT
          x.c_timestamp
        FROM
          test.x
        WHERE x.c_timestamp > current_timestamp()
      ;
      SELECT
          x.c_timestamptz
        FROM
          test.x
        WHERE x.c_timestamptz > current_timestamp()
      ;
      SELECT
          x.c_datetime
        FROM
          test.x
        WHERE x.c_datetime > current_timestamp()
      ;

Änderung der Abrechnung auswählen

Mit der folgenden YAML-Konfigurationsdatei werden die Klauseln „Sternprojektion“, GROUP BY und ORDER BY in SELECT-Anweisungen geändert.

starProjection unterstützt die folgenden Konfigurationen:

  • ALLOW
  • PRESERVE (Standard)
  • EXPAND

groupBy und orderBy unterstützen die folgenden Konfigurationen:

  • EXPRESSION
  • ALIAS
  • INDEX

Im folgenden Beispiel wird in der YAML-Konfiguration die Sternprojektion auf EXPAND festgelegt.

type: experimental_statement_rewriter
select:
  starProjection: EXPAND

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

teradata-input.sql 
      create table x(a int, b TIMESTAMP);
      select * from x;
bq-output.sql 
      CREATE TABLE x
      (
        a INT64,
        b DATETIME
      )
      ;
      SELECT
          x.a
          x.b
        FROM
          x
      ;

UDF-Spezifikation

In den meisten Fällen kann der BigQuery SQL-Übersetzer die Datendefinitionssprache (DDL) externer benutzerdefinierter Funktionen (UDFs) automatisch parsen, um ihre Eingabe- und Ausgabedatentypen zu bestimmen, auch wenn der UDF-Text in einer externen Sprache geschrieben ist. Bei bestimmten Quelldialekten kann der Übersetzer die UDF-Signatur jedoch möglicherweise nicht automatisch kompilieren. Damit SQL-Anweisungen, die auf diese UDFs verweisen, korrekt übersetzt werden, ohne dass die ursprüngliche DDL angegeben werden muss, können Sie eine YAML-Konfigurationsdatei verwenden, um die UDF-Signaturen explizit zu registrieren.

In der folgenden YAML-Konfiguration wird die Signatur benutzerdefinierter Funktionen (UDFs) angegeben, die in den Quellskripts verwendet werden. Ähnlich wie Metadaten-ZIP-Dateien können UDF-Definitionen dazu beitragen, eine genauere Übersetzung von Eingabeskripts zu erstellen.

type: metadata
udfs:
  - "date parse_short_date(dt int)"

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

teradata-input.sql 
      create table x(dt int);
      select parse_short_date(dt) + 1 from x;
bq-output.sql 
      CREATE TABLE x
      (
        dt INT64
      )
      ;
      SELECT
          date_add(parse_short_date(x.dt), interval 1 DAY)
        FROM
          x
      ;

Strenge der Dezimalpräzision festlegen

Standardmäßig erhöht der BigQuery Migration Service die numerische Genauigkeit auf die höchste Genauigkeit, die für eine bestimmte Skalierung verfügbar ist. Das folgende Konfigurations-YAML überschreibt dieses Verhalten, indem die Genauigkeitsstriktheit so konfiguriert wird, dass die Dezimalgenauigkeit der Quellanweisung beibehalten wird.

type: experimental_statement_rewriter
common:
  decimalPrecision: STRICT

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

teradata-input.sql 
      create table x(a decimal(3,0));
bq-output.sql 
      CREATE TABLE x
      (
        a NUMERIC(3)
      )
      ;

Strenge der Stringpräzision festlegen

Standardmäßig lässt der BigQuery Migration Service die Stringgenauigkeit beim Übersetzen von CHAR- und VARCHAR-Spalten weg. So können Kürzungsfehler beim Schreiben von Werten vermieden werden. Einige SQL-Dialekte wie Teradata kürzen Werte, die die maximale Genauigkeit beim Schreiben überschreiten, während BigQuery in diesem Szenario einen Fehler zurückgibt.

Wenn Ihre Anwendung nicht auf dem Kürzungsverhalten des Quelldialekts basiert, sollten Sie die Genauigkeit der Spalte in der übersetzten Typdefinition beibehalten.

Das folgende Konfigurations-YAML überschreibt dieses Verhalten, indem die Genauigkeitsstriktheit so konfiguriert wird, dass die Stringgenauigkeit der Quellanweisung beibehalten wird.

type: experimental_statement_rewriter
common:
  stringPrecision: STRICT

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

teradata-input.sql 
      create table x(a varchar(3));
bq-output.sql 
      CREATE TABLE x
      (
        a STRING(3)
      )
      ;

Zuordnung von Ausgabenamen

Sie können die YAML-Konfiguration verwenden, um SQL-Objektnamen zuzuordnen. Je nach zugeordnetem Objekt können Sie verschiedene Teile des Namens ändern.

Statische Namenszuordnung

Verwenden Sie die statische Namenszuordnung, um den Namen einer Entität zuzuordnen. Wenn Sie nur bestimmte Teile des Namens ändern, aber andere Teile des Namens beibehalten möchten, fügen Sie nur die Teile ein, die geändert werden müssen.

Mit der folgenden YAML-Konfigurationsdatei wird der Name der Tabelle von my_db.my_schema.my_table in my_new_db.my_schema.my_new_table geändert.

type: experimental_object_rewriter
relation:
-
  match: "my_db.my_schema.my_table"
  outputName:
    database: "my_new_db"
    relation: "my_new_table"

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

teradata-input.sql 
      create table my_db.my_schema.my_table(a int);
bq-output.sql 
      CREATE TABLE my_new_db.my_schema.my_new_table
      (
        a INT64
      )

Sie können die statische Namenszuordnung verwenden, um die Region zu aktualisieren, die von Namen in den öffentlichen benutzerdefinierten Funktionen verwendet wird.

Im folgenden Beispiel werden die Namen in der UDF bqutil.fn von der standardmäßigen multiregionalen us-Region in die Region europe_west2 geändert:

type: experimental_object_rewriter
function:
-
  match:
    database: bqutil
    schema: fn
  outputName:
    database: bqutil
    schema: fn_europe_west2

Dynamische Namenszuordnung

Mit der dynamischen Namenszuordnung können Sie mehrere Objekte gleichzeitig ändern und neue Namen basierend auf den zugeordneten Objekten erstellen.

Mit der folgenden YAML-Konfigurationsdatei wird der Name aller Tabellen geändert, indem das Präfix stg_ den Tabellen hinzugefügt wird, die zum Schema staging gehören. Anschließend werden diese Tabellen in das Schema production verschoben.

type: experimental_object_rewriter
relation:
-
  match:
    schema: staging
  outputName:
    schema: production
    relation: "stg_${relation}"

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

teradata-input.sql 
      create table staging.my_table(a int);
bq-output.sql 
      CREATE TABLE production.stg_my_table
      (
        a INT64
      )
      ;

Standard-Datenbank und Schemasuchepfad angeben

In der folgenden YAML-Konfigurationsdatei werden eine Standarddatenbank und ein Schemasuchpfad angegeben.

type: environment
session:
  defaultDatabase: myproject
  schemaSearchPath: [myschema1, myschema2]

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

teradata-input.sql 
      SELECT * FROM database.table
      SELECT * FROM table1
bq-output.sql 
      SELECT * FROM myproject.database.table.
      SELECT * FROM myproject.myschema1.table1

Einstellen von NLS_DATE_FORMAT

Mit der folgenden YAML-Konfiguration wird der Parameter NLS_DATE_FORMAT auf das Format DD/MM/YYYY festgelegt. Wir empfehlen, NLS_DATE_FORMAT für die implizite Verwendung von Datumsformaten und Umwandlungen anzugeben. Wenn keine Angabe erfolgt, wird das Standardformat für die Übersetzung, DD-MON-RR, verwendet.

type: environment
session:
  dateFormat: DD/MM/YYYY

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

oracle-input.sql 
    create table x(dt date default '31/12/1999');
    insert into x values ('01/01/2000');
bq-output.sql 
    CREATE TABLE testdb.testschema.x
      (
        DT DATETIME DEFAULT DATETIME '1999-12-31 00:00:00'
      )
      ;
      INSERT INTO testdb.testschema.x (DT)
        VALUES (DATETIME '2000-01-01 00:00:00')
      ;

Umschreibung des globalen Ausgabenamens

Mit der folgenden YAML-Konfigurationsdatei werden die Ausgabenamen aller Objekte (Datenbank, Schema, Beziehung und Attribute) im Skript gemäß den konfigurierten Regeln geändert.

type: experimental_object_rewriter
global:
  outputName:
    regex:
      - match: '\s'
        replaceWith: '_'
      - match: '>='
        replaceWith: 'gte'
      - match: '^[^a-zA-Z_].*'
        replaceWith: '_$0'

Eine SQL-Übersetzung mit dieser YAML-Konfigurationsdatei könnte so aussehen:

teradata-input.sql 
      create table "test special chars >= 12"("42eid" int, "custom column" varchar(10));
bq-output.sql 
      CREATE TABLE test_special_chars_employees_gte_12
      (
        _42eid INT64,
        custom_column STRING
      )
      ;

Leistung von übersetztem SQL optimieren und verbessern

Optionale Transformationen können auf übersetztes SQL angewendet werden, um Änderungen einzuführen, die die Leistung oder die Kosten verbessern können. Diese Optimierungen sind strikt von der Groß- und Kleinschreibung abhängig und sollten daher anhand der unveränderten SQL-Ausgabe bewertet werden, um ihre tatsächliche Auswirkung auf die Leistung zu ermitteln.

Mit der folgenden YAML-Konfiguration werden optionale Transformationen aktiviert. Die Konfiguration akzeptiert eine Liste von Optimierungen und bei Optimierungen, die Parameter akzeptieren, einen Abschnitt mit optionalen Parameterwerten.

type: optimizer
transformations:
  - name: PRECOMPUTE_INDEPENDENT_SUBSELECTS
  - name: REWRITE_CTE_TO_TEMP_TABLE
    parameters:
      threshold: 1
Optimierung Optionaler Parameter Beschreibung
PRECOMPUTE_INDEPENDENT_SUBSELECTS scope: [PREDICATE, PROJECTION] Schreibt die Abfrage um, indem eine DECLARE-Anweisung hinzugefügt wird, um einen Ausdruck in einer PREDICATE-Klausel oder PROJECTION durch eine vorausberechnete Variable zu ersetzen. Dies wird als statisches Prädikat erkannt, wodurch die Menge der gelesenen Daten reduziert werden kann. Wenn der Umfang weggelassen wird, ist der Standardwert PREDICATE (d. h. WHERE- und JOIN-ON-Klausel).

Wenn Sie eine skalare Unterabfrage in eine DECLARE-Anweisung extrahieren, wird das ursprüngliche Prädikat statisch und kann daher für eine verbesserte Ausführungsplanung verwendet werden. Durch diese Optimierung werden neue SQL-Anweisungen eingeführt.
REWRITE_CTE_TO_TEMP_TABLE threshold: N Schreibt allgemeine Tabellenausdrücke (CTE) in temporäre Tabellen um, wenn mehr als N-Verweise auf denselben allgemeinen Tabellenausdruck vorhanden sind. Dies reduziert die Abfragekomplexität und erzwingt die einzige Ausführung des allgemeinen Tabellenausdrucks. Wenn N weggelassen wird, ist der Standardwert 4.

Wir empfehlen diese Optimierung, wenn nicht triviale CTEs mehrmals referenziert werden. Die Einführung von temporären Tabellen hat einen Overhead, der höher sein kann als die Ausführung mehrerer CTEs mit geringer Komplexität oder Kardinalität. Durch diese Optimierung werden neue SQL-Anweisungen eingeführt.
REWRITE_ZERO_SCALE_NUMERIC_AS_INTEGER bigint: N NUMERIC/BIGNUMERIC-Attribute mit Nullskala werden in den Typ INT64 umgeschrieben, wenn die Genauigkeit innerhalb von N liegt. Wenn N weggelassen wird, ist der Standardwert 18.

Wir empfehlen diese Optimierung bei der Übersetzung von Quelldialekten, die keine Ganzzahltypen haben. Wenn Sie Spaltentypen ändern, müssen Sie alle nachgelagerten Verwendungen auf Typkompatibilität und semantische Änderungen prüfen. Beispiel: Bruchteilungen werden zu Ganzzahldivisionen, Code, der numerische Werte erwartet.

Bei Snowflake-Übersetzungen ist diese Optimierung für numerische Werte ohne Dezimalstellen bis zu einer Genauigkeit von 38 standardmäßig aktiviert. Diese Optimierung sorgt dafür, dass ein Snowflake-INTEGER, der in Snowflake implizit als NUMBER(38,0) dargestellt wird, in einen BigQuery-INT64 anstelle eines BIGNUMERIC(38) übersetzt wird.

Wenn Ihre Anwendung Zahlen mit einer Genauigkeit von mehr als 18 Stellen verwendet, empfehlen wir, diese Funktion zu deaktivieren, damit BigQuery den gesamten Wertebereich verarbeiten kann, der für Ihre Anwendung erforderlich ist.
DROP_TEMP_TABLE Fügt DROP TABLE-Anweisungen für alle temporären Tabellen hinzu, die in einem Script erstellt und bis zum Ende nicht gelöscht wurden. Dadurch wird der Abrechnungszeitraum für die temporäre Tabelle von 24 Stunden auf die Ausführungszeit des Skripts reduziert. Durch diese Optimierung werden neue SQL-Anweisungen eingeführt.

Wir empfehlen diese Optimierung, wenn nach dem Ende der Skriptausführung nicht auf temporäre Tabellen zugegriffen wird, um weitere Verarbeitungsschritte auszuführen. Durch diese Optimierung werden neue SQL-Anweisungen eingeführt.
REGEXP_CONTAINS_TO_LIKE Schreibt einige Kategorien von REGEXP_CONTAINS-Übereinstimmungsmustern in LIKE-Ausdrücke um.

Wir empfehlen diese Optimierung, wenn kein anderer Prozess wie der Makroersatz darauf angewiesen ist, dass die regulären Ausdrucksmusterliterale unverändert in der Ausgabe-SQL-Anweisung beibehalten werden.
ADD_DISTINCT_TO_SUBQUERY_IN_SET_COMPARISON Fügt Unterabfragen eine DISTINCT-Klausel hinzu, die als Wert für den [NOT] IN-Operator verwendet werden.

Wir empfehlen diese Optimierung, wenn die Kardinalität (bestimmte Anzahl von Werten) des Unterabfrageergebnisses deutlich niedriger als die Anzahl der Werte ist. Wenn diese Voraussetzung nicht erfüllt ist, kann sich diese Transformation negativ auf die Leistung auswirken.
APPROXIMATE_RANGE_PARTITIONS Nicht zusammenhängende oder nicht reguläre Ganzzahlpartitionierungsschemas werden angenähert, indem sie in zusammenhängende, gleich große Partitionsbereiche konvertiert werden, die von BigQuery unterstützt werden. Standardmäßig haben solche Partitionierungsschemas keinen Einfluss auf das Tabellenpartitionierungsschema in übersetzten DDL-Anweisungen.

Wir empfehlen diese Optimierung, wenn die Quelltabelle eine nicht zusammenhängende Partitionierungsfunktion wie die Teradata-Funktion RANGE_N verwendet und von einem gleich großen Partitionierungsschema in BigQuery profitieren würde.

Beispiele für Optimierungen

Bei der folgenden Optimierung werden numerische Typen mit einer Skalierung von null und einer Genauigkeit von maximal 38 in BigQuery in INT64 konvertiert.

# An INTEGER is internally represented as NUMBER(38,0) in Snowflake.
# To convert Snowflake INTEGER to INT64 in BigQuery, enable the rewrite for precision <= 38.
# Note that this can produce incorrect results if your application logic uses more than 18 digits of precision.
#
# This configuration is enabled by default for the Snowflake Dialect.
type: optimizer
transformations:
  - name: REWRITE_ZERO_SCALE_NUMERIC_AS_INTEGER
    parameters:
      bigint: 38

Eine SQL-Übersetzung mit dieser Optimierung könnte so aussehen:

snowflake-input.sql 
      CREATE TABLE numbers(i INTEGER, n NUMERIC(10,0));
bq-output.sql 
      CREATE TABLE numbers(i INT64, n INT64);

Mit der folgenden Konfiguration wird die Optimierung in Dialekten wie Snowflake deaktiviert, in denen sie standardmäßig aktiviert ist. Bei dieser Konfiguration werden numerische Typen je nach Eingabegenauigkeit in NUMERIC oder BIGNUMERIC konvertiert, anstatt den Standardwert INT64 zu verwenden.

type: optimizer
transformations:
  - name: REWRITE_ZERO_SCALE_NUMERIC_AS_INTEGER
    enabled: false

Eine SQL-Übersetzung mit dieser Optimierung könnte so aussehen:

snowflake-input.sql 
      CREATE TABLE numbers(i INTEGER, n NUMERIC(10,0));
bq-output.sql 
      CREATE TABLE numbers(i BIGNUMERIC(38), n NUMERIC(29));

Gemini-basierte YAML-Konfigurationsdatei erstellen

Damit KI-Ausgaben generiert werden können, muss das Quellverzeichnis mit Ihrer SQL-Übersetzungseingabe eine YAML-Konfigurationsdatei enthalten.

Voraussetzungen

Die YAML-Konfigurationsdatei für KI-Ausgaben muss das Suffix .ai_config.yaml haben. Beispiel: rules_1.ai_config.yaml.

Unterstützte Felder

Mit den folgenden Feldern können Sie die Ausgabe der KI-Übersetzung konfigurieren:

  • suggestion_type (optional): Geben Sie den Typ des KI-Vorschlags an, der generiert werden soll. Die folgenden Vorschlagstypen werden unterstützt:
    • QUERY_CUSTOMIZATION (Standard): Generiert KI-Vorschläge für SQL-Code basierend auf den in der YAML-Konfigurationsdatei angegebenen Übersetzungsregeln.
    • TRANSLATION_EXPLANATION: Generiert Text, der eine Zusammenfassung der übersetzten GoogleSQL-Abfrage sowie die Unterschiede und Inkonsistenzen zwischen der SQL-Abfrage und der übersetzten GoogleSQL-Abfrage enthält.
  • rewrite_target (optional): Geben Sie SOURCE_SQL an, wenn Sie die Übersetzungsregel auf Ihre Eingabe-SQL anwenden möchten, oder TARGET_SQL (Standard), wenn Sie die Übersetzungsregel auf Ihre Ausgabe-SQL anwenden möchten.
  • instruction (optional): Beschreiben Sie in natürlicher Sprache eine Änderung am Ziel-SQL. Die mit Gemini optimierte SQL-Übersetzung bewertet die Anfrage und nimmt die angegebene Änderung vor.
  • examples (optional): Geben Sie SQL-Beispiele dafür an, wie das SQL-Muster geändert werden soll.

Sie können bei Bedarf zusätzliche translation_rules und zusätzliche examples hinzufügen.

Beispiele

In den folgenden Beispielen werden Gemini-basierte YAML-Konfigurationsdateien erstellt, die Sie für Ihre SQL-Übersetzungen verwenden können.

Entfernen Sie die Funktion „upper“ in der Standardabfrage für die Übersetzungsausgabe.

translation_rules:
- instruction: "Remove upper() function"
  examples:
  - input: "upper(X)"
    output: "X"

Mehrere Übersetzungsregeln erstellen, um die Übersetzungsausgabe anzupassen

translation_rules:
- instruction: "Remove upper() function"
  suggestion_type: QUERY_CUSTOMIZATION
  rewrite_target: TARGET_SQL
  examples:
  - input: "upper(X)"
    output: "X"
- instruction: "Insert a comment at the head that explains each statement in detail.
  suggestion_type: QUERY_CUSTOMIZATION
  rewrite_target: TARGET_SQL

SQL-Kommentare aus der Eingabeabfrage für die Übersetzung entfernen

translation_rules:
- instruction: "Remove all the sql comments in the input sql query."
  suggestion_type: QUERY_CUSTOMIZATION
  rewrite_target: SOURCE_SQL

Übersetzungserklärungen mit dem Standard-LLM-Prompt generieren

In diesem Beispiel werden die vom Übersetzungsdienst bereitgestellten Standard-LLM-Prompts verwendet, um Texterklärungen zu generieren:

translation_rules:
- suggestion_type: "TRANSLATION_EXPLANATION"

Generiert Erläuterungen zu Übersetzungen mithilfe Ihrer eigenen Prompts in natürlicher Sprache

translation_rules:
- suggestion_type: "TRANSLATION_EXPLANATION"
  instruction: "Explain the syntax differences between the source Teradata query and the translated GoogleSQL query."

Mehrere Vorschlagstypen in einer einzigen YAML-Konfigurationsdatei

translation_rules:
- suggestion_type: "TRANSLATION_EXPLANATION"
  instruction: "Explain the syntax differences between the source Teradata query and the translated GoogleSQL query."
- instruction: "Remove upper() function"
  suggestion_type: QUERY_CUSTOMIZATION
  rewrite_target: TARGET_SQL
  examples:
  - input: "upper(X)"
    output: "X"
- instruction: "Remove all the sql comments in the input sql query."
  suggestion_type: QUERY_CUSTOMIZATION
  rewrite_target: SOURCE_SQL

Mehrere YAML-Konfigurationen anwenden

Wenn Sie eine YAML-Konfigurationsdatei in einer Batch- oder interaktiven SQL-Übersetzung angeben, können Sie mehrere YAML-Konfigurationsdateien in einem einzelnen Übersetzungsjob auswählen, um verschiedene Transformationen widerzuspiegeln. Wenn mehrere Konfigurationen in Konflikt stehen, kann eine Transformation eine andere überschreiben. Wir empfehlen, in jeder Datei unterschiedliche Arten von Konfigurationseinstellungen zu verwenden, um widersprüchliche Transformationen im selben Übersetzungsjob zu vermeiden.

Im folgenden Beispiel werden zwei separate YAML-Konfigurationsdateien aufgelistet, die für einen einzelnen SQL-Übersetzungsjob bereitgestellt wurden. Eine zum Ändern des Attributs einer Spalte und eine, um die Tabelle als temporär zu bestimmen:

change-type-example.config.yaml:

type: object_rewriter
attribute:
  -
    match: "testdb.testschema.x.a"
    type:
      target: NUMERIC(10,2)

make-temp-example.config.yaml:

type: object_rewriter
relation:
  -
    match: "testdb.testschema.x"
    temporary: true

Eine SQL-Übersetzung mit diesen beiden YAML-Konfigurationsdateien könnte so aussehen:

teradata-input.sql 
    create table x(a int);
bq-output.sql 
    CREATE TEMPORARY TABLE x
    (
      a NUMERIC(31, 2)
    )
    ;