Choisir une fonction de génération de texte
Ce document compare les fonctions de génération de texte
AI.GENERATE_TEXT
et
AI.GENERATE
de BigQuery ML. Vous pouvez utiliser les informations de ce document pour vous aider à choisir la fonction à utiliser lorsque les fonctions se chevauchent.
Similitudes entre les fonctions
Les fonctions AI.GENERATE_TEXT et AI.GENERATE sont similaires pour les
raisons suivantes :
- Objectif : générer du texte en transmettant une requête à un grand modèle de langage (LLM).
- Facturation : des frais BigQuery ML sont facturés pour les données traitées. Pour en savoir plus, consultez la page Tarifs de BigQuery ML. Des frais Gemini Enterprise Agent Platform sont facturés pour les appels au LLM. Si vous utilisez un modèle Gemini 2.0 ou une version ultérieure, l'appel est facturé au tarif de l'API par lots. Pour en savoir plus, consultez Coût de la création et du déploiement de modèles d'IA dans Agent Platform.
- Scalabilité : traitez entre 1 million et 10 millions de lignes pour chaque tâche de requête de six heures. Le débit réel dépend de facteurs tels que la longueur moyenne des jetons dans les lignes d'entrée. Pour en savoir plus, consultez Fonctions d'IA générative.
- Données d'entrée : prennent en charge les données textuelles et non structurées provenant des tables standards et des tables d'objets BigQuery.
Différences entre les fonctions
Utilisez le tableau suivant pour évaluer les différences entre les
AI.GENERATE_TEXT et AI.GENERATE fonctions :
AI.GENERATE_TEXT |
AI.GENERATE |
|
|---|---|---|
| Signature de la fonction | Fonction de valeur de table qui prend une table en entrée et renvoie une table en sortie. | Fonction scalaire qui prend une seule valeur en entrée et renvoie une seule valeur en sortie. |
| LLM compatibles |
|
Modèles Gemini |
| Contenu de sortie de la fonction |
Contenu de sortie de la fonction pour les modèles Gemini :
Contenu de sortie de la fonction pour d'autres types de modèles :
|
|
| Format de sortie de la fonction | Les valeurs générées sont renvoyées dans une seule colonne JSON ou dans des colonnes de table distinctes, selon
la valeur de l'argument flatten_json_output. |
Les valeurs générées sont renvoyées sous forme de champs dans un objet STRUCT. |
| Parcours utilisateur | Vous devez créer un modèle distant avant d'utiliser la fonction. | Vous pouvez utiliser la fonction directement, sans avoir à créer de modèle distant. |
| Configuration des autorisations | Vous devez créer manuellement une connexion BigQuery et accorder l'autorisation du rôle Utilisateur Agent Platform au compte de service de la connexion. Vous pouvez ignorer cette étape si vous utilisez la BigQuery connexion par défaut. | Vous pouvez appeler cette fonction à l'aide de vos identifiants d'utilisateur final. |
| Avantages | Permet des formats d'entrée et de sortie plus flexibles. | Plus facile à intégrer dans les requêtes SQL. |
| Fonctions étendues | Vous pouvez utiliser la
AI.GENERATE_TABLE fonction
pour générer une sortie structurée selon un schéma de sortie SQL que vous spécifiez. |
Vous pouvez utiliser les fonctions AI.GENERATE_BOOL,
AI.GENERATE_INT et
AI.GENERATE_DOUBLE
pour générer différents types de valeurs scalaires. |