Funktion zur Textgenerierung auswählen
In diesem Dokument werden die BigQuery ML
AI.GENERATE_TEXT
und
AI.GENERATE
Funktionen zur Textgenerierung verglichen. Anhand der Informationen in diesem Dokument können Sie entscheiden, welche Funktion Sie verwenden sollten, wenn sich die Funktionen in ihren Capabilities überschneiden.
Ähnlichkeiten zwischen Funktionen
Die Funktionen AI.GENERATE_TEXT und AI.GENERATE sind in folgenden Punkten ähnlich:
- Zweck: Text generieren, indem ein Prompt an ein Large Language Model (LLM) übergeben wird.
- Abrechnung: BigQuery ML-Gebühren für verarbeitete Daten. Weitere Informationen finden Sie unter BigQuery ML-Preise. Gebühren für die Gemini Enterprise Agent Platform für Aufrufe des LLM. Wenn Sie ein Gemini-Modell der Version 2.0 oder höher verwenden, wird der Aufruf zum Batch-API-Preis abgerechnet. Weitere Informationen finden Sie unter Kosten für das Erstellen und Bereitstellen von KI-Modellen in der Agent Platform.
- Skalierbarkeit: Zwischen 1 Million und 10 Millionen Zeilen für jeden 6-stündigen Abfragejob verarbeiten. Der tatsächliche Durchsatz hängt von Faktoren wie der durchschnittlichen Tokenlänge in den Eingabezeilen ab. Weitere Informationen finden Sie unter Funktionen für generative KI.
- Eingabedaten: Unterstützung von Text- und unstrukturierten Daten aus BigQuery-Standardtabellen und Objekttabellen.
Unterschiede zwischen Funktionen
In der folgenden Tabelle werden die Unterschiede zwischen den
AI.GENERATE_TEXT und AI.GENERATE Funktionen verglichen:
AI.GENERATE_TEXT |
AI.GENERATE |
|
|---|---|---|
| Funktionssignatur | Eine Tabellenwertfunktion, die eine Tabelle als Eingabe akzeptiert und eine Tabelle als Ausgabe zurückgibt. | Eine Skalarfunktion, die einen einzelnen Wert als Eingabe akzeptiert und einen einzelnen Wert als Ausgabe zurückgibt. |
| Unterstützte LLMs |
|
Gemini-Modelle |
| Ausgabeinhalt der Funktion |
Ausgabeinhalt der Funktion für Gemini-Modelle:
Ausgabeinhalt der Funktion für andere Modelltypen:
|
|
| Ausgabeformat der Funktion | Generierte Werte werden je nach Wert des Arguments flatten_json_output in einer einzelnen JSON-Spalte oder in separaten Tabellenspalten zurückgegeben. |
Generierte Werte werden als Felder in einem STRUCT-Objekt zurückgegeben. |
| Nutzerpfad | Sie müssen ein Remote-Modell erstellen, bevor Sie die Funktion verwenden können. | Sie können die Funktion direkt verwenden, ohne ein Remote-Modell erstellen zu müssen. |
| Berechtigungen einrichten | Sie müssen manuell eine BigQuery-Verbindung erstellen und dem Dienstkonto der Verbindung die Berechtigung „Vertex AI-Nutzer“ erteilen. Wenn Sie die BigQuery Standardverbindung verwenden, können Sie diesen Schritt überspringen. | Sie können diese Funktion mit Ihren Endnutzeranmeldedaten aufrufen. |
| Vorteile | Ermöglicht flexiblere Eingabe- und Ausgabeformate. | Einfachere Integration in SQL-Abfragen. |
| Erweiterte Funktionen | Mit der
AI.GENERATE_TABLE Funktion
können Sie eine Ausgabe generieren, die gemäß einem von Ihnen angegebenen SQL-Ausgabeschema strukturiert ist. |
Mit den AI.GENERATE_BOOL,
AI.GENERATE_INT und
AI.GENERATE_DOUBLE
Funktionen können Sie verschiedene Arten von Skalarwerten generieren. |