Funktion zur Textgenerierung auswählen

In diesem Dokument werden die BigQuery ML AI.GENERATE_TEXT und AI.GENERATE Funktionen zur Textgenerierung verglichen. Anhand der Informationen in diesem Dokument können Sie entscheiden, welche Funktion Sie verwenden sollten, wenn sich die Funktionen in ihren Capabilities überschneiden.

Ähnlichkeiten zwischen Funktionen

Die Funktionen AI.GENERATE_TEXT und AI.GENERATE sind in folgenden Punkten ähnlich:

  • Zweck: Text generieren, indem ein Prompt an ein Large Language Model (LLM) übergeben wird.
  • Abrechnung: BigQuery ML-Gebühren für verarbeitete Daten. Weitere Informationen finden Sie unter BigQuery ML-Preise. Gebühren für die Gemini Enterprise Agent Platform für Aufrufe des LLM. Wenn Sie ein Gemini-Modell der Version 2.0 oder höher verwenden, wird der Aufruf zum Batch-API-Preis abgerechnet. Weitere Informationen finden Sie unter Kosten für das Erstellen und Bereitstellen von KI-Modellen in der Agent Platform.
  • Skalierbarkeit: Zwischen 1 Million und 10 Millionen Zeilen für jeden 6-stündigen Abfragejob verarbeiten. Der tatsächliche Durchsatz hängt von Faktoren wie der durchschnittlichen Tokenlänge in den Eingabezeilen ab. Weitere Informationen finden Sie unter Funktionen für generative KI.
  • Eingabedaten: Unterstützung von Text- und unstrukturierten Daten aus BigQuery-Standardtabellen und Objekttabellen.

Unterschiede zwischen Funktionen

In der folgenden Tabelle werden die Unterschiede zwischen den AI.GENERATE_TEXT und AI.GENERATE Funktionen verglichen:

AI.GENERATE_TEXT AI.GENERATE
Funktionssignatur Eine Tabellenwertfunktion, die eine Tabelle als Eingabe akzeptiert und eine Tabelle als Ausgabe zurückgibt. Eine Skalarfunktion, die einen einzelnen Wert als Eingabe akzeptiert und einen einzelnen Wert als Ausgabe zurückgibt.
Unterstützte LLMs
  • Gemini-Modelle
  • Partnermodelle wie Anthropic Claude, Llama und Mistral AI
  • Offene Modelle
Gemini-Modelle
Ausgabeinhalt der Funktion

Ausgabeinhalt der Funktion für Gemini-Modelle:

  • Generierter Text
  • Ergebnisse der verantwortungsbewussten Anwendung von KI (Responsible AI, RAI)
  • Ergebnisse der Fundierung mit der Google Suche, falls aktiviert
  • Status des LLM-Aufrufs

Ausgabeinhalt der Funktion für andere Modelltypen:

  • Generierter Text
  • Status des LLM-Aufrufs
  • Generierter Text
  • Vollständige Modellantwort im JSON-Format
  • Status des LLM-Aufrufs
Ausgabeformat der Funktion Generierte Werte werden je nach Wert des Arguments flatten_json_output in einer einzelnen JSON-Spalte oder in separaten Tabellenspalten zurückgegeben. Generierte Werte werden als Felder in einem STRUCT-Objekt zurückgegeben.
Nutzerpfad Sie müssen ein Remote-Modell erstellen, bevor Sie die Funktion verwenden können. Sie können die Funktion direkt verwenden, ohne ein Remote-Modell erstellen zu müssen.
Berechtigungen einrichten Sie müssen manuell eine BigQuery-Verbindung erstellen und dem Dienstkonto der Verbindung die Berechtigung „Vertex AI-Nutzer“ erteilen. Wenn Sie die BigQuery Standardverbindung verwenden, können Sie diesen Schritt überspringen. Sie können diese Funktion mit Ihren Endnutzeranmeldedaten aufrufen.
Vorteile Ermöglicht flexiblere Eingabe- und Ausgabeformate. Einfachere Integration in SQL-Abfragen.
Erweiterte Funktionen Mit der AI.GENERATE_TABLE Funktion können Sie eine Ausgabe generieren, die gemäß einem von Ihnen angegebenen SQL-Ausgabeschema strukturiert ist. Mit den AI.GENERATE_BOOL, AI.GENERATE_INT und AI.GENERATE_DOUBLE Funktionen können Sie verschiedene Arten von Skalarwerten generieren.