Membuat teks menggunakan fungsi AI.GENERATE_TEXT

Dokumen ini menunjukkan cara membuat model jarak jauh BigQuery ML yang merepresentasikan model Gemini Enterprise Agent Platform, lalu menggunakan model jarak jauh tersebut dengan fungsi AI.GENERATE_TEXT untuk membuat teks.

Jenis model jarak jauh berikut didukung:

Bergantung pada model Agent Platform yang Anda pilih, Anda dapat membuat teks berdasarkan input data tidak terstruktur dari tabel objek atau input teks dari tabel standar.

Peran yang diperlukan

Untuk membuat model jarak jauh dan membuat teks yang dihasilkan, Anda memerlukan peran Identity and Access Management (IAM) berikut:

  • Membuat dan menggunakan set data, tabel, dan model BigQuery: BigQuery Data Editor (roles/bigquery.dataEditor) di project Anda.

  • Membuat, mendelegasikan, dan menggunakan koneksi BigQuery: BigQuery Connections Admin (roles/bigquery.connectionsAdmin) di project Anda.

    Jika Anda belum mengonfigurasi koneksi default, Anda dapat membuat dan menetapkannya sebagai bagian dari menjalankan pernyataan CREATE MODEL. Untuk melakukannya, Anda harus memiliki BigQuery Admin (roles/bigquery.admin) di project Anda. Untuk mengetahui informasi selengkapnya, lihat Mengonfigurasi koneksi default.

  • Berikan izin ke akun layanan koneksi: Project IAM Admin (roles/resourcemanager.projectIamAdmin) pada project yang berisi endpoint Gemini Enterprise Agent Platform. Ini adalah project saat ini untuk model jarak jauh yang Anda buat dengan menentukan nama model sebagai endpoint. Ini adalah project yang diidentifikasi dalam URL untuk model jarak jauh yang Anda buat dengan menentukan URL sebagai endpoint.

    Jika Anda menggunakan model jarak jauh untuk menganalisis data tidak terstruktur dari tabel objek, dan bucket Cloud Storage yang Anda gunakan dalam tabel objek berada dalam project yang berbeda dengan endpoint Agent Platform, Anda juga harus memiliki Storage Admin (roles/storage.admin) di bucket Cloud Storage yang digunakan oleh tabel objek.

  • Membuat tugas BigQuery: BigQuery Job User (roles/bigquery.jobUser) di project Anda.

Peran yang telah ditetapkan ini berisi izin yang diperlukan untuk melakukan tugas dalam dokumen ini. Untuk melihat izin yang benar-benar diperlukan, luaskan bagian Izin yang diperlukan:

Izin yang diperlukan

  • Membuat set data: bigquery.datasets.create
  • Membuat, mendelegasikan, dan menggunakan koneksi: bigquery.connections.*
  • Menetapkan izin akun layanan: resourcemanager.projects.getIamPolicy dan resourcemanager.projects.setIamPolicy
  • Buat model dan jalankan inferensi:
    • bigquery.jobs.create
    • bigquery.models.create
    • bigquery.models.getData
    • bigquery.models.updateData
    • bigquery.models.updateMetadata

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Sebelum memulai

  1. Di konsol Google Cloud , pada halaman pemilih project, pilih atau buat project Google Cloud .

    Peran yang diperlukan untuk memilih atau membuat project

    • Memilih project: Memilih project tidak memerlukan peran IAM tertentu—Anda dapat memilih project apa pun yang perannya telah diberikan kepada Anda.
    • Membuat project: Untuk membuat project, Anda memerlukan peran Project Creator (roles/resourcemanager.projectCreator), yang berisi izin resourcemanager.projects.create. Pelajari cara memberikan peran.

    Buka pemilih project

  2. Pastikan penagihan diaktifkan untuk project Google Cloud Anda.

  3. Aktifkan BigQuery API, BigQuery Connection API, dan Agent Platform API, jika belum diaktifkan.

    Peran yang diperlukan untuk mengaktifkan API

    Untuk mengaktifkan API, Anda memerlukan izin serviceusage.services.enable. Jika Anda membuat project, kemungkinan Anda sudah memiliki izin ini melalui peran Pemilik (roles/owner). Jika tidak, Anda bisa mendapatkan izin ini melalui peran Service Usage Admin (roles/serviceusage.serviceUsageAdmin). Pelajari cara memberikan peran.

    Aktifkan API

Membuat set data

Buat set data BigQuery untuk menampung resource Anda:

Konsol

  1. Di konsol Google Cloud , buka halaman BigQuery.

    Buka BigQuery

  2. Di panel kiri, klik Explorer:

    Tombol yang ditandai untuk panel Explorer.

    Jika Anda tidak melihat panel kiri, klik Luaskan panel kiri untuk membuka panel.

  3. Di panel Explorer, klik nama project Anda.

  4. Klik View actions > Create dataset.

  5. Di halaman Create dataset, lakukan hal berikut:

    1. Untuk Dataset ID, ketik nama untuk set data.

    2. Untuk Location type, pilih Region atau Multi-region.

      • Jika Anda memilih Region, pilih lokasi dari daftar Region.
      • Jika Anda memilih Multi-region, pilih US atau Europe dari daftar Multi-region.

    3. Klik Create dataset.

bq

  1. Untuk membuat set data baru, gunakan perintah bq mk dengan flag --location:

    bq --location=LOCATION mk -d DATASET_ID

    Ganti kode berikut:

    • LOCATION: lokasi set data.
    • DATASET_ID: ID set data yang Anda buat.

  2. Pastikan set data telah dibuat:

    bq ls

Membuat koneksi

Buat koneksi resource Cloud untuk digunakan oleh model jarak jauh, dan dapatkan akun layanan koneksi. Buat koneksi di lokasi yang sama dengan set data yang Anda buat di langkah sebelumnya.

Anda dapat melewati langkah ini jika telah mengonfigurasi koneksi default, atau memiliki peran BigQuery Admin.

Pilih salah satu opsi berikut:

Konsol

  1. Buka halaman BigQuery.

    Buka BigQuery

  2. Di panel kiri, klik Explorer:

    Tombol yang ditandai untuk panel Explorer.

    Jika Anda tidak melihat panel kiri, klik Luaskan panel kiri untuk membuka panel.

  3. Di panel Explorer, luaskan nama project Anda, lalu klik Connections.

  4. Di halaman Connections, klik Create connection.

  5. Untuk Connection type, pilih Vertex AI remote models, remote functions, BigLake and Spanner (Cloud Resource).

  6. Di kolom Connection ID, masukkan nama untuk koneksi Anda.

  7. Untuk Location type, pilih lokasi untuk koneksi Anda. Koneksi harus ditempatkan bersama resource Anda yang lain, seperti set data.

  8. Klik Create connection.

  9. Klik Go to connection.

  10. Di panel Connection info, salin ID akun layanan untuk digunakan di langkah berikutnya.

SQL

Gunakan pernyataan CREATE CONNECTION:

  1. Di konsol Google Cloud , buka halaman BigQuery.

    Buka BigQuery

  2. Di editor kueri, masukkan pernyataan berikut:

    CREATE CONNECTION [IF NOT EXISTS] `CONNECTION_NAME`
OPTIONS (
  connection_type = "CLOUD_RESOURCE",
  friendly_name = "FRIENDLY_NAME",
  description = "DESCRIPTION"
  );

    Ganti kode berikut:

    • CONNECTION_NAME: nama koneksi dalam format PROJECT_ID.LOCATION.CONNECTION_ID, LOCATION.CONNECTION_ID, atau CONNECTION_ID. Jika project atau lokasi dihilangkan, keduanya akan disimpulkan dari project dan lokasi tempat pernyataan dijalankan.
    • FRIENDLY_NAME (opsional): nama deskriptif untuk koneksi.
    • DESCRIPTION (opsional): deskripsi koneksi.

  3. Klik Run.

Untuk mengetahui informasi selengkapnya tentang cara menjalankan kueri, lihat Menjalankan kueri interaktif.

bq

  1. Di lingkungan command line, buat koneksi:

    bq mk --connection --location=REGION --project_id=PROJECT_ID \
    --connection_type=CLOUD_RESOURCE CONNECTION_ID

    Parameter --project_id akan mengganti project default.

    Ganti kode berikut:

    • REGION: region koneksi Anda
    • PROJECT_ID: Project ID Google Cloud Anda
    • CONNECTION_ID: ID untuk koneksi Anda

    Saat Anda membuat resource koneksi, BigQuery akan membuat akun layanan sistem unik dan mengaitkannya dengan koneksi.

    Pemecahan masalah: Jika Anda mendapatkan error koneksi berikut, update Google Cloud SDK:

    Flags parsing error: flag --connection_type=CLOUD_RESOURCE: value should be one of...

  2. Ambil dan salin ID akun layanan untuk digunakan pada langkah berikutnya:

    bq show --connection PROJECT_ID.REGION.CONNECTION_ID

    Outputnya mirip dengan hal berikut ini:

    name                          properties
1234.REGION.CONNECTION_ID     {"serviceAccountId": "connection-1234-9u56h9@gcp-sa-bigquery-condel.iam.gserviceaccount.com"}

Python

Sebelum mencoba contoh ini, ikuti petunjuk penyiapan Python di Panduan memulai BigQuery menggunakan library klien. Untuk mengetahui informasi selengkapnya, lihat Dokumentasi referensi BigQuery Python API.

Untuk melakukan autentikasi ke BigQuery, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk library klien. 

import google.api_core.exceptions
from google.cloud import bigquery_connection_v1

client = bigquery_connection_v1.ConnectionServiceClient()


def create_connection(
    project_id: str,
    location: str,
    connection_id: str,
):
    """Creates a BigQuery connection to a Cloud Resource.

    Cloud Resource connection creates a service account which can then be
    granted access to other Google Cloud resources for federated queries.

    Args:
        project_id: The Google Cloud project ID.
        location: The location of the connection (for example, "us-central1").
        connection_id: The ID of the connection to create.
    """

    parent = client.common_location_path(project_id, location)

    connection = bigquery_connection_v1.Connection(
        friendly_name="Example Connection",
        description="A sample connection for a Cloud Resource.",
        cloud_resource=bigquery_connection_v1.CloudResourceProperties(),
    )

    try:
        created_connection = client.create_connection(
            parent=parent, connection_id=connection_id, connection=connection
        )
        print(f"Successfully created connection: {created_connection.name}")
        print(f"Friendly name: {created_connection.friendly_name}")
        print(
            f"Service Account: {created_connection.cloud_resource.service_account_id}"
        )

    except google.api_core.exceptions.AlreadyExists:
        print(f"Connection with ID '{connection_id}' already exists.")
        print("Please use a different connection ID.")
    except Exception as e:
        print(f"An unexpected error occurred while creating the connection: {e}")

Node.js

Sebelum mencoba contoh ini, ikuti petunjuk penyiapan Node.js di Panduan memulai BigQuery menggunakan library klien. Untuk mengetahui informasi selengkapnya, lihat Dokumentasi referensi BigQuery Node.js API.

Untuk melakukan autentikasi ke BigQuery, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk library klien. 

const {ConnectionServiceClient} =
  require('@google-cloud/bigquery-connection').v1;
const {status} = require('@grpc/grpc-js');

const client = new ConnectionServiceClient();

/**
 * Creates a new BigQuery connection to a Cloud Resource.
 *
 * A Cloud Resource connection creates a service account that can be granted access
 * to other Google Cloud resources.
 *
 * @param {string} projectId The Google Cloud project ID. for example, 'example-project-id'
 * @param {string} location The location of the project to create the connection in. for example, 'us-central1'
 * @param {string} connectionId The ID of the connection to create. for example, 'example-connection-id'
 */
async function createConnection(projectId, location, connectionId) {
  const parent = client.locationPath(projectId, location);

  const connection = {
    friendlyName: 'Example Connection',
    description: 'A sample connection for a Cloud Resource',
    // The service account for this cloudResource will be created by the API.
    // Its ID will be available in the response.
    cloudResource: {},
  };

  const request = {
    parent,
    connectionId,
    connection,
  };

  try {
    const [response] = await client.createConnection(request);

    console.log(`Successfully created connection: ${response.name}`);
    console.log(`Friendly name: ${response.friendlyName}`);

    console.log(`Service Account: ${response.cloudResource.serviceAccountId}`);
  } catch (err) {
    if (err.code === status.ALREADY_EXISTS) {
      console.log(`Connection '${connectionId}' already exists.`);
    } else {
      console.error(`Error creating connection: ${err.message}`);
    }
  }
}

Java

Sebelum mencoba contoh ini, ikuti petunjuk penyiapan Java di Panduan memulai BigQuery menggunakan library klien. Untuk mengetahui informasi selengkapnya, lihat Dokumentasi referensi BigQuery Java API.

Untuk melakukan autentikasi ke BigQuery, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk library klien. 

import com.google.api.gax.rpc.AlreadyExistsException;
import com.google.api.gax.rpc.ApiException;
import com.google.cloud.bigquery.connection.v1.CloudResourceProperties;
import com.google.cloud.bigquery.connection.v1.Connection;
import com.google.cloud.bigquery.connection.v1.CreateConnectionRequest;
import com.google.cloud.bigquery.connection.v1.LocationName;
import com.google.cloud.bigqueryconnection.v1.ConnectionServiceClient;
import java.io.IOException;

public class CreateConnection {

  /**
   * Creates a BigQuery connection to a Cloud Resource. A Cloud Resource connection provisions a
   * service account that can be granted access to other Google Cloud resources for federated
   * queries.
   *
   * @param projectId The Google Cloud project ID (for example, "example-project-id").
   * @param location The geographic location of the connection (for example, "us-central1").
   * @param connectionId The ID of the connection to create (for example, "example-connection-id").
   */
  public static void createConnection(String projectId, String location, String connectionId) {
    LocationName parent = LocationName.of(projectId, location);

    // CloudResourceProperties provisions a managed Google Cloud service account on creation.
    CloudResourceProperties cloudResourceProperties = CloudResourceProperties.newBuilder().build();
    Connection connection =
        Connection.newBuilder()
            .setFriendlyName("Example Connection")
            .setDescription("Cloud Resource connection for federated queries.")
            .setCloudResource(cloudResourceProperties)
            .build();

    CreateConnectionRequest request =
        CreateConnectionRequest.newBuilder()
            .setParent(parent.toString())
            .setConnectionId(connectionId)
            .setConnection(connection)
            .build();

    try (ConnectionServiceClient client = ConnectionServiceClient.create()) {
      Connection response = client.createConnection(request);

      System.out.printf("Successfully created connection: %s%n", response.getName());
      System.out.printf("Friendly name: %s%n", response.getFriendlyName());
      System.out.printf(
          "Service Account: %s%n", response.getCloudResource().getServiceAccountId());
    } catch (AlreadyExistsException err) {
      System.err.printf(
          "error: connection '%s' already exists in location '%s' for project '%s': %s%n",
          connectionId, location, projectId, err.getMessage());
    } catch (ApiException | IOException err) {
      System.err.printf(
          "error: failed to create connection '%s' in location '%s' for project '%s': %s%n",
          connectionId, location, projectId, err.getMessage());
    }
  }

Terraform

Gunakan resource google_bigquery_connection.

Untuk melakukan autentikasi ke BigQuery, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk library klien.

Contoh berikut membuat koneksi resource Cloud bernama my_cloud_resource_connection di region US:


# This queries the provider for project information.
data "google_project" "default" {}

# This creates a cloud resource connection in the US region named my_cloud_resource_connection.
# Note: The cloud resource nested object has only one output field - serviceAccountId.
resource "google_bigquery_connection" "default" {
  connection_id = "my_cloud_resource_connection"
  project       = data.google_project.default.project_id
  location      = "US"
  cloud_resource {}
}

Untuk menerapkan konfigurasi Terraform di project Google Cloud , selesaikan langkah-langkah di bagian berikut.

Menyiapkan Cloud Shell

  1. Luncurkan Cloud Shell.

  2. Tetapkan project Google Cloud default tempat Anda ingin menerapkan konfigurasi Terraform.

    Anda hanya perlu menjalankan perintah ini sekali per project, dan dapat dijalankan di direktori mana pun.

    export GOOGLE_CLOUD_PROJECT=PROJECT_ID

    Variabel lingkungan akan diganti jika Anda menetapkan nilai eksplisit dalam file konfigurasi Terraform.

Menyiapkan direktori

Setiap file konfigurasi Terraform harus memiliki direktorinya sendiri (juga disebut modul root).

  1. Di Cloud Shell, buat direktori dan file baru di dalam direktori tersebut. Nama file harus memiliki ekstensi .tf—misalnya main.tf. Dalam tutorial ini, file ini disebut sebagai main.tf. 
    mkdir DIRECTORY && cd DIRECTORY && touch main.tf

  2. Jika mengikuti tutorial, Anda dapat menyalin kode contoh di setiap bagian atau langkah.

    Salin kode contoh ke dalam main.tf yang baru dibuat.

    Atau, salin kode dari GitHub. Tindakan ini direkomendasikan jika cuplikan Terraform adalah bagian dari solusi menyeluruh.

  3. Tinjau dan ubah contoh parameter untuk diterapkan pada lingkungan Anda.
  4. Simpan perubahan Anda.
  5. Lakukan inisialisasi Terraform. Anda hanya perlu melakukan ini sekali per direktori. 
    terraform init

    Secara opsional, untuk menggunakan versi penyedia Google terbaru, sertakan opsi -upgrade: 

    terraform init -upgrade

Menerapkan perubahan

  1. Tinjau konfigurasi dan pastikan resource yang akan dibuat atau diupdate oleh Terraform sesuai yang Anda inginkan: 
    terraform plan

    Koreksi konfigurasi jika diperlukan.

  2. Terapkan konfigurasi Terraform dengan menjalankan perintah berikut dan memasukkan yes pada prompt: 
    terraform apply

    Tunggu hingga Terraform menampilkan pesan "Apply complete!".

  3. Buka project Google Cloud Anda untuk melihat hasilnya. Di konsol Google Cloud , buka resource Anda di UI untuk memastikan bahwa Terraform telah membuat atau mengupdatenya.

Memberikan peran ke akun layanan koneksi model jarak jauh

Anda harus memberikan peran Agent Platform User ke akun layanan koneksi yang digunakan model jarak jauh.

Jika Anda berencana menentukan endpoint model jarak jauh sebagai URL, misalnya endpoint = 'https://us-central1-aiplatform.googleapis.com/v1/projects/myproject/locations/us-central1/publishers/google/models/gemini-2.0-flash', berikan peran ini dalam project yang sama dengan yang Anda tentukan di URL.

Jika Anda berencana menentukan endpoint model jarak jauh menggunakan nama model, misalnya endpoint = 'gemini-2.0-flash', berikan peran ini dalam project yang sama tempat Anda berencana membuat model jarak jauh.

Memberikan peran dalam project yang berbeda akan menghasilkan error bqcx-1234567890-wxyz@gcp-sa-bigquery-condel.iam.gserviceaccount.com does not have the permission to access resource.

Untuk memberikan peran Agent Platform User, ikuti langkah-langkah berikut:

Konsol

  1. Buka halaman IAM & Admin.

    Buka IAM & Admin

  2. Klik Add.

    Dialog Add principals akan terbuka.

  3. Di kolom New principals, masukkan ID akun layanan yang Anda salin sebelumnya.

  4. Di kolom Select a role, telusuri Agent Platform User.

  5. Klik Simpan.

gcloud

Gunakan perintah gcloud projects add-iam-policy-binding.

gcloud projects add-iam-policy-binding 'PROJECT_NUMBER' --member='serviceAccount:MEMBER' --role='roles/aiplatform.user' --condition=None

Ganti kode berikut:

  • PROJECT_NUMBER: nomor project Anda
  • MEMBER: ID akun layanan yang Anda salin sebelumnya

Memberikan peran ke akun layanan koneksi tabel objek

Jika Anda menggunakan model jarak jauh untuk membuat teks dari data tabel objek, berikan peran Agent Platform User ke akun layanan koneksi tabel objek dalam project yang sama tempat Anda berencana membuat model jarak jauh. Jika tidak, Anda dapat melewati langkah ini.

Untuk menemukan akun layanan untuk koneksi tabel objek, ikuti langkah-langkah berikut:

  1. Buka halaman BigQuery.

    Buka BigQuery

  2. Di panel kiri, klik Explorer:

    Tombol yang ditandai untuk panel Explorer.

    Jika Anda tidak melihat panel kiri, klik Luaskan panel kiri untuk membuka panel.

  3. Di panel Explorer, klik Datasets, lalu pilih set data yang berisi tabel objek.

  4. Klik Overview > Tables, lalu pilih tabel objek.

  5. Di panel editor, klik tab Details.

  6. Catat nama koneksi di kolom Connection ID.

  7. Di panel Explorer, klik Connections.

  8. Pilih koneksi yang cocok dengan koneksi dari kolom Connection ID tabel objek.

  9. Salin nilai di kolom ID akun layanan.

Untuk memberikan peran, ikuti langkah-langkah berikut:

Konsol

  1. Buka halaman IAM & Admin.

    Buka IAM & Admin

  2. Klik Add.

    Dialog Add principals akan terbuka.

  3. Di kolom New principals, masukkan ID akun layanan yang Anda salin sebelumnya.

  4. Di kolom Select a role, telusuri Agent Platform User.

  5. Klik Simpan.

gcloud

Gunakan perintah gcloud projects add-iam-policy-binding.

gcloud projects add-iam-policy-binding 'PROJECT_NUMBER' --member='serviceAccount:MEMBER' --role='roles/aiplatform.user' --condition=None

Ganti kode berikut:

  • PROJECT_NUMBER: nomor project Anda
  • MEMBER: ID akun layanan yang Anda salin sebelumnya

Mengaktifkan model partner

Langkah ini hanya diperlukan jika Anda ingin menggunakan model Anthropic Claude, Llama, atau Mistral AI.

  1. Di konsol Google Cloud , buka halaman Model Garden Agent Platform.

    Buka Model Garden

  2. Telusuri atau cari model partner yang ingin Anda gunakan.

  3. Klik kartu model.

  4. Di halaman model, klik Enable.

  5. Isi informasi pengaktifan yang diminta, lalu klik Berikutnya.

  6. Di bagian Terms and conditions, centang kotak.

  7. Klik Agree untuk menyetujui persyaratan dan ketentuan serta mengaktifkan model.

Memilih metode deployment model terbuka

Jika Anda membuat model jarak jauh melalui model terbuka yang didukung, Anda dapat otomatis men-deploy model terbuka tersebut pada saat yang sama dengan saat Anda membuat model jarak jauh dengan menentukan ID model Hugging Face atau Model Garden Agent Platform dalam pernyataan CREATE MODEL. Atau, Anda dapat men-deploy model terbuka secara manual terlebih dahulu, lalu menggunakan model terbuka tersebut dengan model jarak jauh dengan menentukan endpoint model dalam pernyataan CREATE MODEL. Untuk mengetahui informasi selengkapnya, lihat Men-deploy model terbuka.

Membuat model jarak jauh BigQuery ML

Buat model jarak jauh:

Model Agent Platform

  1. Di konsol Google Cloud , buka halaman BigQuery.

    Buka BigQuery

  2. Dengan menggunakan editor SQL, buat model jarak jauh:

    CREATE OR REPLACE MODEL
`PROJECT_ID.DATASET_ID.MODEL_NAME`
REMOTE WITH CONNECTION {DEFAULT | `PROJECT_ID.REGION.CONNECTION_ID`}
OPTIONS (ENDPOINT = 'ENDPOINT');

    Ganti kode berikut:

    • PROJECT_ID: project ID Anda.
    • DATASET_ID: ID set data yang akan berisi model. Set data ini harus berada di lokasi yang sama dengan koneksi yang Anda gunakan.
    • MODEL_NAME: nama model.
    • REGION: region yang digunakan oleh koneksi.
    • CONNECTION_ID: ID koneksi BigQuery Anda.

      Anda bisa mendapatkan nilai ini dengan melihat detail koneksi di konsol Google Cloud dan menyalin nilai di bagian terakhir ID koneksi yang sepenuhnya memenuhi syarat yang ditampilkan di Connection ID. Misalnya, projects/myproject/locations/connection_location/connections/myconnection.

    • ENDPOINT: endpoint model Agent Platform yang akan digunakan.

      Untuk model Agent Platform terlatih, model Claude, dan model Mistral AI, tentukan nama model. Untuk beberapa model ini, Anda dapat menentukan versi tertentu dari model sebagai bagian dari nama. Untuk model Gemini yang didukung, Anda dapat menentukan endpoint global untuk meningkatkan ketersediaan.

      Untuk model Llama, tentukan endpoint OpenAI API dalam format openapi/<publisher_name>/<model_name>. Misalnya, openapi/meta/llama-3.1-405b-instruct-maas.

      Untuk mengetahui informasi tentang nama dan versi model yang didukung, lihat ENDPOINT.

      Model Agent Platform yang Anda tentukan harus tersedia di lokasi tempat Anda membuat model jarak jauh. Untuk mengetahui informasi selengkapnya, lihat Lokasi.

Model terbuka baru

  1. Di konsol Google Cloud , buka halaman BigQuery.

    Buka BigQuery

  2. Dengan menggunakan editor SQL, buat model jarak jauh:

    CREATE OR REPLACE MODEL
`PROJECT_ID.DATASET_ID.MODEL_NAME`
REMOTE WITH CONNECTION {DEFAULT | `PROJECT_ID.REGION.CONNECTION_ID`}
OPTIONS (
  {HUGGING_FACE_MODEL_ID = 'HUGGING_FACE_MODEL_ID' |
     MODEL_GARDEN_MODEL_NAME = 'MODEL_GARDEN_MODEL_NAME'}
  [, HUGGING_FACE_TOKEN = 'HUGGING_FACE_TOKEN' ]
  [, MACHINE_TYPE = 'MACHINE_TYPE' ]
  [, MIN_REPLICA_COUNT = MIN_REPLICA_COUNT ]
  [, MAX_REPLICA_COUNT = MAX_REPLICA_COUNT ]
  [, RESERVATION_AFFINITY_TYPE = {'NO_RESERVATION' | 'ANY_RESERVATION' | 'SPECIFIC_RESERVATION'} ]
  [, RESERVATION_AFFINITY_KEY = 'compute.googleapis.com/reservation-name' ]
  [, RESERVATION_AFFINITY_VALUES = RESERVATION_AFFINITY_VALUES ]
  [, ENDPOINT_IDLE_TTL = ENDPOINT_IDLE_TTL ]
);

    Ganti kode berikut:

    • PROJECT_ID: project ID Anda.
    • DATASET_ID: ID set data yang akan berisi model. Set data ini harus berada di lokasi yang sama dengan koneksi yang Anda gunakan.
    • MODEL_NAME: nama model.
    • REGION: region yang digunakan oleh koneksi.
    • CONNECTION_ID: ID koneksi BigQuery Anda.

      Anda bisa mendapatkan nilai ini dengan melihat detail koneksi di konsol Google Cloud dan menyalin nilai di bagian terakhir ID koneksi yang sepenuhnya memenuhi syarat yang ditampilkan di Connection ID. Misalnya, projects/myproject/locations/connection_location/connections/myconnection.

    • HUGGING_FACE_MODEL_ID: nilai STRING yang menentukan ID model untuk model Hugging Face yang didukung, dalam format provider_name/model_name. Misalnya, deepseek-ai/DeepSeek-R1. Anda bisa mendapatkan ID model dengan mengklik nama model di Hugging Face Model Hub, lalu menyalin ID model dari bagian atas kartu model.
    • MODEL_GARDEN_MODEL_NAME: nilai STRING yang menentukan ID model dan versi model dari model Model Garden Gemini Enterprise Agent Platform yang didukung, dalam format publishers/publisher/models/model_name@model_version. Misalnya, publishers/openai/models/gpt-oss@gpt-oss-120b. Anda bisa mendapatkan ID model dengan mengklik kartu model di Agent Platform Model Garden, lalu menyalin ID model dari kolom Model ID. Anda bisa mendapatkan versi model default dengan menyalinnya dari kolom Version di kartu model. Untuk melihat versi model lain yang dapat Anda gunakan, klik Deploy model, lalu klik kolom Resource ID.
    • HUGGING_FACE_TOKEN: nilai STRING yang menentukan Token Akses Pengguna Hugging Face yang akan digunakan. Anda hanya dapat menentukan nilai untuk opsi ini jika Anda juga menentukan nilai untuk opsi HUGGING_FACE_MODEL_ID.

      Token harus memiliki peran read minimal, tetapi token dengan cakupan yang lebih luas juga dapat diterima. Opsi ini diperlukan jika model yang diidentifikasi oleh nilai HUGGING_FACE_MODEL_ID adalah model Hugging Face gated atau pribadi.

      Beberapa model yang dibatasi memerlukan persetujuan eksplisit terhadap persyaratan layanan sebelum akses diberikan. Untuk menyetujui persyaratan ini, ikuti langkah-langkah berikut:

      1. Buka halaman model di situs Hugging Face.
      2. Temukan dan tinjau persyaratan layanan model. Link ke perjanjian layanan biasanya dapat ditemukan di kartu model.
      3. Setujui persyaratan seperti yang diminta di halaman.
    • MACHINE_TYPE: nilai STRING yang menentukan jenis mesin yang akan digunakan saat men-deploy model ke Agent Platform. Untuk mengetahui informasi tentang jenis mesin yang didukung, lihat Jenis mesin. Jika Anda tidak menentukan nilai untuk opsi MACHINE_TYPE, jenis mesin default Agent Platform Model Garden untuk model akan digunakan.
    • MIN_REPLICA_COUNT: nilai INT64 yang menentukan jumlah minimum replika mesin yang digunakan saat men-deploy model di endpoint Agent Platform. Layanan ini menambah atau mengurangi jumlah replika sesuai kebutuhan beban inferensi pada endpoint. Jumlah replika yang digunakan tidak pernah lebih rendah dari nilai MIN_REPLICA_COUNT dan tidak pernah lebih tinggi dari nilai MAX_REPLICA_COUNT. Nilai MIN_REPLICA_COUNT harus dalam rentang [1, 4096]. Nilai defaultnya adalah 1.
    • MAX_REPLICA_COUNT: nilai INT64 yang menentukan jumlah maksimum replika mesin yang digunakan saat men-deploy model di endpoint Agent Platform. Layanan ini menambah atau mengurangi jumlah replika sesuai kebutuhan beban inferensi pada endpoint. Jumlah replika yang digunakan tidak pernah lebih rendah dari nilai MIN_REPLICA_COUNT dan tidak pernah lebih tinggi dari nilai MAX_REPLICA_COUNT. Nilai MAX_REPLICA_COUNT harus berada dalam rentang [1, 4096]. Nilai defaultnya adalah nilai MIN_REPLICA_COUNT.
    • RESERVATION_AFFINITY_TYPE: menentukan apakah model yang di-deploy menggunakan pemesanan Compute Engine untuk memberikan ketersediaan virtual machine (VM) yang terjamin saat menyajikan prediksi, dan menentukan apakah model menggunakan VM dari semua pemesanan yang tersedia atau hanya satu pemesanan tertentu. Untuk mengetahui informasi selengkapnya, lihat Afinitas pemesanan Compute Engine.

      Anda hanya dapat menggunakan reservasi Compute Engine yang dibagikan ke Agent Platform. Untuk mengetahui informasi selengkapnya, lihat Mengizinkan pemesanan digunakan.

      Nilai yang didukung adalah sebagai berikut:

      • NO_RESERVATION: tidak ada reservasi yang digunakan saat model Anda di-deploy ke endpoint Agent Platform. Menentukan NO_RESERVATION memiliki efek yang sama dengan tidak menentukan afinitas pemesanan.
      • ANY_RESERVATION: deployment model Agent Platform menggunakan virtual machine (VM) dari pemesanan Compute Engine yang ada dalam project saat ini atau yang dibagikan dengan project, dan yang dikonfigurasi untuk penggunaan otomatis. Hanya VM yang memenuhi kualifikasi berikut yang digunakan:
        • Node menggunakan jenis mesin yang ditentukan oleh nilai MACHINE_TYPE.
        • Jika set data BigQuery tempat Anda membuat model jarak jauh adalah satu region, pemesanan harus berada di region yang sama. Jika set data berada di multiregion US, pemesanan harus berada di region us-central1. Jika set data berada di multiregion EU, pemesanan harus berada di region europe-west4.

        Jika kapasitas dalam pemesanan yang tersedia tidak mencukupi, atau jika tidak ditemukan pemesanan yang sesuai, sistem akan menyediakan VM Compute Engine on-demand untuk memenuhi persyaratan resource.

      • SPECIFIC_RESERVATION: deployment model Agent Platform hanya menggunakan VM dari pemesanan yang Anda tentukan dalam nilai RESERVATION_AFFINITY_VALUES. Pemesanan ini harus dikonfigurasi untuk konsumsi yang ditargetkan secara khusus. Deployment akan gagal jika pemesanan yang ditentukan tidak memiliki kapasitas yang memadai.
    • RESERVATION_AFFINITY_KEY: string compute.googleapis.com/reservation-name. Anda harus menentukan opsi ini saat nilai RESERVATION_AFFINITY_TYPE adalah SPECIFIC_RESERVATION.
    • RESERVATION_AFFINITY_VALUES: nilai ARRAY<STRING> yang menentukan nama resource lengkap pemesanan Compute Engine, dalam format berikut:

      projects/myproject/zones/reservation_zone/reservations/reservation_name

      Contoh, RESERVATION_AFFINITY_values = ['projects/myProject/zones/us-central1-a/reservations/myReservationName'].

      Anda bisa mendapatkan nama dan zona pemesanan dari halaman Reservations di konsol Google Cloud . Untuk mengetahui informasi selengkapnya, lihat Melihat pemesanan.

      Anda harus menentukan opsi ini jika nilai RESERVATION_AFFINITY_TYPE adalah SPECIFIC_RESERVATION.

    • ENDPOINT_IDLE_TTL: nilai INTERVAL yang menentukan durasi tidak aktif setelah model terbuka otomatis dibatalkan deployment-nya dari endpoint Agent Platform.

      Untuk mengaktifkan pembatalan deployment otomatis, tentukan nilai literal interval antara 390 menit (6,5 jam) dan 7 hari. Misalnya, tentukan INTERVAL 8 HOUR agar model dicabut deployment-nya setelah 8 jam tidak ada aktivitas. Nilai defaultnya adalah 390 menit (6,5 jam).

      Tidak aktifnya model didefinisikan sebagai jumlah waktu yang telah berlalu sejak salah satu operasi berikut dilakukan pada model:

      Setiap operasi ini akan mereset timer tidak aktif ke nol. Reset dipicu pada awal tugas BigQuery yang menjalankan operasi.

      Setelah model dibatalkan deployment-nya, permintaan inferensi yang dikirim ke model akan menampilkan error. Objek model BigQuery tetap tidak berubah, termasuk metadata model. Untuk menggunakan model untuk inferensi lagi, Anda harus men-deploy ulang model dengan menjalankan pernyataan ALTER MODEL pada model dan menetapkan opsi DEPLOY_MODEL ke TRUE.

Model terbuka yang di-deploy

  1. Di konsol Google Cloud , buka halaman BigQuery.

    Buka BigQuery

  2. Dengan menggunakan editor SQL, buat model jarak jauh:

    CREATE OR REPLACE MODEL
`PROJECT_ID.DATASET_ID.MODEL_NAME`
REMOTE WITH CONNECTION {DEFAULT | `PROJECT_ID.REGION.CONNECTION_ID`}
OPTIONS (
  ENDPOINT = 'https://ENDPOINT_REGION-aiplatform.googleapis.com/v1/projects/ENDPOINT_PROJECT_ID/locations/ENDPOINT_REGION/endpoints/ENDPOINT_ID'
);

    Ganti kode berikut:

    • PROJECT_ID: project ID Anda.
    • DATASET_ID: ID set data yang akan berisi model. Set data ini harus berada di lokasi yang sama dengan koneksi yang Anda gunakan.
    • MODEL_NAME: nama model.
    • REGION: region yang digunakan oleh koneksi.
    • CONNECTION_ID: ID koneksi BigQuery Anda.

      Anda bisa mendapatkan nilai ini dengan melihat detail koneksi di konsol Google Cloud dan menyalin nilai di bagian terakhir ID koneksi yang sepenuhnya memenuhi syarat yang ditampilkan di ID Koneksi. Misalnya, projects/myproject/locations/connection_location/connections/myconnection.

    • ENDPOINT_REGION: region tempat model terbuka di-deploy.
    • ENDPOINT_PROJECT_ID: project tempat model terbuka di-deploy.
    • ENDPOINT_ID: ID endpoint HTTPS yang digunakan oleh model terbuka. Anda bisa mendapatkan ID endpoint dengan menemukan model terbuka di halaman Online prediction dan menyalin nilai di kolom ID.

Membuat teks dari data tabel standar

Buat teks menggunakan fungsi AI.GENERATE_TEXT dengan data perintah dari tabel standar:

Gemini 

SELECT *
FROM AI.GENERATE_TEXT(
  MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME`,
  {TABLE PROJECT_ID.DATASET_ID.TABLE_NAME | (PROMPT_QUERY)},
  STRUCT(
  {
    {
      [MAX_OUTPUT_TOKENS AS max_output_tokens]
      [, TOP_P AS top_p]
      [, TEMPERATURE AS temperature]
      [, STOP_SEQUENCES AS stop_sequences]
      [, GROUND_WITH_GOOGLE_SEARCH AS ground_with_google_search]
      [, SAFETY_SETTINGS AS safety_settings]
    }
    |
    [, MODEL_PARAMS AS model_params]
  }
  [, REQUEST_TYPE AS request_type])
);

Ganti kode berikut:

  • PROJECT_ID: project ID Anda.
  • DATASET_ID: ID set data yang berisi model.
  • MODEL_NAME: nama model.
  • TABLE_NAME: nama tabel yang berisi prompt. Tabel ini harus memiliki kolom yang bernama prompt, atau Anda dapat menggunakan alias untuk menggunakan kolom dengan nama yang berbeda.
  • PROMPT_QUERY: kueri yang menyediakan data prompt. Kueri ini harus menghasilkan kolom bernama prompt.
  • TOKENS: nilai INT64 yang menetapkan jumlah maksimum token yang dapat dibuat dalam respons. Nilai ini harus dalam rentang [1,8192]. Tentukan nilai yang lebih rendah untuk respons yang lebih singkat dan nilai yang lebih tinggi untuk respons yang lebih panjang. Defaultnya adalah 128.
  • TEMPERATURE: nilai FLOAT64 dalam rentang [0.0,1.0] yang mengontrol tingkat keacakan dalam pemilihan token. Defaultnya adalah 0.

    Nilai yang lebih rendah untuk temperature cocok untuk prompt yang memerlukan respons yang lebih deterministik dan kurang terbuka atau kreatif, sedangkan nilai yang lebih tinggi untuk temperature dapat memberikan hasil yang lebih beragam atau kreatif. Nilai 0 untuk temperature bersifat deterministik, yang berarti bahwa respons probabilitas tertinggi selalu dipilih.

  • TOP_P: nilai FLOAT64 dalam rentang [0.0,1.0] membantu menentukan probabilitas token yang dipilih. Tentukan nilai yang lebih rendah untuk respons dengan tingkat keacakan yang lebih rendah dan nilai yang lebih tinggi untuk respons dengan tingkat keacakan yang lebih tinggi. Defaultnya adalah 0.95.
  • STOP_SEQUENCES: nilai ARRAY<STRING> yang menghapus string yang ditentukan jika disertakan dalam respons dari model. String dicocokkan persis, termasuk kapitalisasi. Defaultnya adalah array kosong.
  • GROUND_WITH_GOOGLE_SEARCH: nilai BOOL yang menentukan apakah model Gemini Enterprise Agent Platform menggunakan [Grounding dengan Google Penelusuran](/vertex-ai/generative-ai/docs/grounding/overview#ground-public) saat menghasilkan respons. Grounding memungkinkan model menggunakan informasi tambahan dari internet saat menghasilkan respons, agar respons model lebih spesifik dan faktual. Jika kolom ini ditetapkan ke True, kolom grounding_result tambahan akan disertakan dalam hasil, yang memberikan sumber yang digunakan model untuk mengumpulkan informasi tambahan. Defaultnya adalah FALSE.
  • SAFETY_SETTINGS: nilai ARRAY<STRUCT<STRING AS category, STRING AS threshold>> yang mengonfigurasi nilai minimum keamanan konten untuk memfilter respons. Elemen pertama dalam struct menentukan kategori bahaya, dan elemen kedua dalam struct menentukan nilai minimum pemblokiran yang sesuai. Model akan memfilter konten yang melanggar setelan ini. Anda hanya dapat menentukan setiap kategori satu kali. Misalnya, Anda tidak dapat menentukan STRUCT('HARM_CATEGORY_DANGEROUS_CONTENT' AS category, 'BLOCK_MEDIUM_AND_ABOVE' AS threshold) dan STRUCT('HARM_CATEGORY_DANGEROUS_CONTENT' AS category, 'BLOCK_ONLY_HIGH' AS threshold) sekaligus. Jika tidak ada setelan keamanan untuk kategori tertentu, setelan keamanan BLOCK_MEDIUM_AND_ABOVE akan digunakan. Kategori yang didukung adalah sebagai berikut:
    • HARM_CATEGORY_HATE_SPEECH
    • HARM_CATEGORY_DANGEROUS_CONTENT
    • HARM_CATEGORY_HARASSMENT
    • HARM_CATEGORY_SEXUALLY_EXPLICIT
    Nilai minimum yang didukung adalah sebagai berikut:
    • BLOCK_NONE (Dibatasi)
    • BLOCK_LOW_AND_ABOVE
    • BLOCK_MEDIUM_AND_ABOVE (Default)
    • BLOCK_ONLY_HIGH
    • HARM_BLOCK_THRESHOLD_UNSPECIFIED
    Untuk mengetahui informasi selengkapnya, lihat definisi kategori keamanan dan nilai minimum pemblokiran.
  • REQUEST_TYPE: nilai STRING yang menentukan jenis permintaan inferensi yang akan dikirim ke model Gemini. Jenis permintaan menentukan kuota yang digunakan permintaan. Nilai yang valid adalah sebagai berikut:
    • DEDICATED: Fungsi AI.GENERATE_TEXT hanya menggunakan kuota Throughput yang Disediakan. Fungsi AI.GENERATE_TEXT menampilkan error Provisioned throughput is not purchased or is not active jika kuota Throughput yang Disediakan tidak tersedia.
    • SHARED: Fungsi AI.GENERATE_TEXT hanya menggunakan kuota bersama dinamis (DSQ), meskipun Anda telah membeli kuota Throughput yang Disediakan.
    • UNSPECIFIED: Fungsi AI.GENERATE_TEXT menggunakan kuota sebagai berikut:
      • Jika Anda belum membeli kuota Throughput yang Disediakan, fungsi AI.GENERATE_TEXT akan menggunakan kuota DSQ.
      • Jika Anda telah membeli kuota Throughput yang Disediakan, fungsi AI.GENERATE_TEXT akan menggunakan kuota Throughput yang Disediakan terlebih dahulu. Jika permintaan melebihi kuota Throughput yang Disediakan, traffic tambahan akan menggunakan kuota DSQ.

    Nilai defaultnya adalah UNSPECIFIED.

    Untuk mengetahui informasi selengkapnya, lihat Menggunakan Throughput yang Disediakan Agent Platform.

  • MODEL_PARAMS: literal string berformat JSON yang menyediakan parameter ke model. Nilai harus sesuai dengan format isi permintaan generateContent. Anda dapat memberikan nilai untuk kolom apa pun dalam isi permintaan, kecuali untuk kolom contents[]. Jika Anda menetapkan kolom ini, Anda juga tidak dapat menentukan parameter model apa pun dalam argumen struct level teratas untuk fungsi AI.GENERATE_TEXT. Anda harus menentukan setiap parameter model di kolom MODEL_PARAMS, atau menghapus kolom ini dan menentukan setiap parameter secara terpisah.

Contoh 1

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Meminta ringkasan teks di kolom body pada tabel articles.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.text_model`,
    (
      SELECT CONCAT('Summarize this text', body) AS prompt
      FROM mydataset.articles
    ));

Contoh 2

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Menggunakan kueri untuk membuat data prompt dengan menyambungkan string yang memberikan awalan prompt dengan kolom tabel.
  • Menampilkan respons singkat.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.text_model`,
    (
      SELECT CONCAT(question, 'Text:', description, 'Category') AS prompt
      FROM mydataset.input_table
    ),
    STRUCT(
      100 AS max_output_tokens));

Contoh 3

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Menggunakan kolom prompt dari tabel prompts untuk prompt.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.text_model`,
    TABLE mydataset.prompts);

Contoh 4

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Menggunakan kolom prompt dari tabel prompts untuk prompt.
  • Menampilkan respons singkat.
  • Mengambil dan menampilkan data web publik untuk grounding respons.
  • Memfilter respons yang tidak aman menggunakan dua setelan keamanan.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.text_model`,
    TABLE mydataset.prompts,
    STRUCT(
      100 AS max_output_tokens, 0.5 AS top_p,
      TRUE AS ground_with_google_search,
      [STRUCT('HARM_CATEGORY_HATE_SPEECH' AS category,
        'BLOCK_LOW_AND_ABOVE' AS threshold),
      STRUCT('HARM_CATEGORY_DANGEROUS_CONTENT' AS category,
        'BLOCK_MEDIUM_AND_ABOVE' AS threshold)] AS safety_settings));

Contoh 5

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Menggunakan kolom prompt dari tabel prompts untuk prompt.
  • Menampilkan respons yang lebih panjang.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.flash_2_model`,
    TABLE mydataset.prompts,
    STRUCT(
      0.4 AS temperature, 8192 AS max_output_tokens));

Contoh 6

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Meminta ringkasan teks di kolom body pada tabel articles.
  • Mengambil dan menampilkan data web publik untuk grounding respons.
  • Memfilter respons yang tidak aman menggunakan dua setelan keamanan.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.text_model`,
    (
      SELECT CONCAT('Summarize this text', body) AS prompt
      FROM mydataset.articles
    ),
    STRUCT(
      .1 AS TEMPERATURE,
      TRUE AS ground_with_google_search,
      [STRUCT('HARM_CATEGORY_HATE_SPEECH' AS category,
        'BLOCK_LOW_AND_ABOVE' AS threshold),
      STRUCT('HARM_CATEGORY_DANGEROUS_CONTENT' AS category,
        'BLOCK_MEDIUM_AND_ABOVE' AS threshold)] AS safety_settings));

Claude 

SELECT *
FROM AI.GENERATE_TEXT(
  MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME`,
  {TABLE PROJECT_ID.DATASET_ID.TABLE_NAME | (PROMPT_QUERY)},
  STRUCT(
  {
    {
      [MAX_OUTPUT_TOKENS AS max_output_tokens]
      [, TOP_K AS top_k]
      [, TOP_P AS top_p]
    }
    |
    [, MODEL_PARAMS AS model_params]
  })
);

Ganti kode berikut:

  • PROJECT_ID: project ID Anda.
  • DATASET_ID: ID set data yang berisi model.
  • MODEL_NAME: nama model.
  • TABLE_NAME: nama tabel yang berisi prompt. Tabel ini harus memiliki kolom yang bernama prompt, atau Anda dapat menggunakan alias untuk menggunakan kolom dengan nama yang berbeda.
  • PROMPT_QUERY: kueri yang menyediakan data prompt. Kueri ini harus menghasilkan kolom bernama prompt.
  • TOKENS: nilai INT64 yang menetapkan jumlah maksimum token yang dapat dibuat dalam respons. Nilai ini harus dalam rentang [1,4096]. Tentukan nilai yang lebih rendah untuk respons yang lebih singkat dan nilai yang lebih tinggi untuk respons yang lebih panjang. Defaultnya adalah 128.
  • TOP_K: nilai INT64 dalam rentang [1,40] yang menentukan kumpulan awal token yang dipertimbangkan model untuk dipilih. Tentukan nilai yang lebih rendah untuk respons dengan tingkat keacakan lebih rendah, dan nilai yang lebih tinggi untuk respons dengan tingkat keacakan lebih tinggi. Jika Anda tidak menentukan nilai, model akan menentukan nilai yang sesuai.
  • TOP_P: nilai FLOAT64 dalam rentang [0.0,1.0] membantu menentukan probabilitas token yang dipilih. Tentukan nilai yang lebih rendah untuk respons dengan tingkat keacakan yang lebih rendah dan nilai yang lebih tinggi untuk respons dengan tingkat keacakan yang lebih tinggi. Jika Anda tidak menentukan nilai, model akan menentukan nilai yang sesuai.
  • MODEL_PARAMS: literal string berformat JSON yang menyediakan parameter ke model. Nilai harus sesuai dengan format isi permintaan generateContent. Anda dapat memberikan nilai untuk kolom apa pun dalam isi permintaan, kecuali untuk kolom contents[]. Jika Anda menetapkan kolom ini, Anda juga tidak dapat menentukan parameter model apa pun dalam argumen struct level teratas untuk fungsi AI.GENERATE_TEXT. Anda harus menentukan setiap parameter model di kolom MODEL_PARAMS, atau menghapus kolom ini dan menentukan setiap parameter secara terpisah.

Contoh 1

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Meminta ringkasan teks di kolom body pada tabel articles.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.text_model`,
    (
      SELECT CONCAT('Summarize this text', body) AS prompt
      FROM mydataset.articles
    ));

Contoh 2

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Menggunakan kueri untuk membuat data prompt dengan menyambungkan string yang memberikan awalan prompt dengan kolom tabel.
  • Menampilkan respons singkat.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.text_model`,
    (
      SELECT CONCAT(question, 'Text:', description, 'Category') AS prompt
      FROM mydataset.input_table
    ),
    STRUCT(
      100 AS max_output_tokens));

Contoh 3

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Menggunakan kolom prompt dari tabel prompts untuk prompt.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.text_model`,
    TABLE mydataset.prompts);

Llama 

SELECT *
FROM AI.GENERATE_TEXT(
  MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME`,
  {TABLE PROJECT_ID.DATASET_ID.TABLE_NAME | (PROMPT_QUERY)},
  STRUCT(
  {
    {
      [MAX_OUTPUT_TOKENS AS max_output_tokens]
      [, TOP_P AS top_p]
      [, TEMPERATURE AS temperature]
      [, STOP_SEQUENCES AS stop_sequences]
    |
    }
    [, MODEL_PARAMS AS model_params]
  })
);

Ganti kode berikut:

  • PROJECT_ID: project ID Anda.
  • DATASET_ID: ID set data yang berisi model.
  • MODEL_NAME: nama model.
  • TABLE_NAME: nama tabel yang berisi prompt. Tabel ini harus memiliki kolom yang bernama prompt, atau Anda dapat menggunakan alias untuk menggunakan kolom dengan nama yang berbeda.
  • PROMPT_QUERY: kueri yang menyediakan data prompt. Kueri ini harus menghasilkan kolom bernama prompt.
  • TOKENS: nilai INT64 yang menetapkan jumlah maksimum token yang dapat dibuat dalam respons. Nilai ini harus berada dalam rentang [1,4096]. Tentukan nilai yang lebih rendah untuk respons yang lebih singkat dan nilai yang lebih tinggi untuk respons yang lebih panjang. Defaultnya adalah 128.
  • TEMPERATURE: nilai FLOAT64 dalam rentang [0.0,1.0] yang mengontrol tingkat keacakan dalam pemilihan token. Defaultnya adalah 0.

    Nilai yang lebih rendah untuk temperature cocok untuk prompt yang memerlukan respons yang lebih deterministik dan kurang terbuka atau kreatif, sedangkan nilai yang lebih tinggi untuk temperature dapat memberikan hasil yang lebih beragam atau kreatif. Nilai 0 untuk temperature bersifat deterministik, yang berarti bahwa respons probabilitas tertinggi selalu dipilih.

  • TOP_P: nilai FLOAT64 dalam rentang [0.0,1.0] membantu menentukan probabilitas token yang dipilih. Tentukan nilai yang lebih rendah untuk respons dengan tingkat keacakan yang lebih rendah dan nilai yang lebih tinggi untuk respons dengan tingkat keacakan yang lebih tinggi. Defaultnya adalah 0.95.
  • STOP_SEQUENCES: nilai ARRAY<STRING> yang menghapus string yang ditentukan jika disertakan dalam respons dari model. String dicocokkan persis, termasuk kapitalisasi. Defaultnya adalah array kosong.
  • MODEL_PARAMS: literal string berformat JSON yang menyediakan parameter ke model. Nilai harus sesuai dengan format isi permintaan generateContent. Anda dapat memberikan nilai untuk kolom apa pun dalam isi permintaan, kecuali untuk kolom contents[]. Jika Anda menetapkan kolom ini, Anda juga tidak dapat menentukan parameter model apa pun dalam argumen struct level teratas untuk fungsi AI.GENERATE_TEXT. Anda harus menentukan setiap parameter model di kolom MODEL_PARAMS, atau menghapus kolom ini dan menentukan setiap parameter secara terpisah.

Contoh 1

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Meminta ringkasan teks di kolom body pada tabel articles.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.text_model`,
    (
      SELECT CONCAT('Summarize this text', body) AS prompt
      FROM mydataset.articles
    ));

Contoh 2

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Menggunakan kueri untuk membuat data prompt dengan menyambungkan string yang memberikan awalan prompt dengan kolom tabel.
  • Menampilkan respons singkat.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.text_model`,
    (
      SELECT CONCAT(question, 'Text:', description, 'Category') AS prompt
      FROM mydataset.input_table
    ),
    STRUCT(
      100 AS max_output_tokens));

Contoh 3

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Menggunakan kolom prompt dari tabel prompts untuk prompt.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.text_model`,
    TABLE mydataset.prompts);

Mistral AI 

SELECT *
FROM AI.GENERATE_TEXT(
  MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME`,
  {TABLE PROJECT_ID.DATASET_ID.TABLE_NAME | (PROMPT_QUERY)},
  STRUCT(
  {
    {
      [MAX_OUTPUT_TOKENS AS max_output_tokens]
      [, TOP_P AS top_p]
      [, TEMPERATURE AS temperature]
      [, STOP_SEQUENCES AS stop_sequences]
    |
    }
    [, MODEL_PARAMS AS model_params]
  })
);

Ganti kode berikut:

  • PROJECT_ID: project ID Anda.
  • DATASET_ID: ID set data yang berisi model.
  • MODEL_NAME: nama model.
  • TABLE_NAME: nama tabel yang berisi prompt. Tabel ini harus memiliki kolom yang bernama prompt, atau Anda dapat menggunakan alias untuk menggunakan kolom dengan nama yang berbeda.
  • PROMPT_QUERY: kueri yang menyediakan data prompt. Kueri ini harus menghasilkan kolom bernama prompt.
  • TOKENS: nilai INT64 yang menetapkan jumlah maksimum token yang dapat dibuat dalam respons. Nilai ini harus berada dalam rentang [1,4096]. Tentukan nilai yang lebih rendah untuk respons yang lebih singkat dan nilai yang lebih tinggi untuk respons yang lebih panjang. Defaultnya adalah 128.
  • TEMPERATURE: nilai FLOAT64 dalam rentang [0.0,1.0] yang mengontrol tingkat keacakan dalam pemilihan token. Defaultnya adalah 0.

    Nilai yang lebih rendah untuk temperature cocok untuk prompt yang memerlukan respons yang lebih deterministik dan kurang terbuka atau kreatif, sedangkan nilai yang lebih tinggi untuk temperature dapat memberikan hasil yang lebih beragam atau kreatif. Nilai 0 untuk temperature bersifat deterministik, yang berarti bahwa respons probabilitas tertinggi selalu dipilih.

  • TOP_P: nilai FLOAT64 dalam rentang [0.0,1.0] membantu menentukan probabilitas token yang dipilih. Tentukan nilai yang lebih rendah untuk respons dengan tingkat keacakan yang lebih rendah dan nilai yang lebih tinggi untuk respons dengan tingkat keacakan yang lebih tinggi. Defaultnya adalah 0.95.
  • STOP_SEQUENCES: nilai ARRAY<STRING> yang menghapus string yang ditentukan jika disertakan dalam respons dari model. String dicocokkan persis, termasuk kapitalisasi. Defaultnya adalah array kosong.
  • MODEL_PARAMS: literal string berformat JSON yang menyediakan parameter ke model. Nilai harus sesuai dengan format isi permintaan generateContent. Anda dapat memberikan nilai untuk kolom apa pun dalam isi permintaan, kecuali untuk kolom contents[]. Jika Anda menetapkan kolom ini, Anda juga tidak dapat menentukan parameter model apa pun dalam argumen struct level teratas untuk fungsi AI.GENERATE_TEXT. Anda harus menentukan setiap parameter model di kolom MODEL_PARAMS, atau menghapus kolom ini dan menentukan setiap parameter secara terpisah.

Contoh 1

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Meminta ringkasan teks di kolom body pada tabel articles.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.text_model`,
    (
      SELECT CONCAT('Summarize this text', body) AS prompt
      FROM mydataset.articles
    ));

Contoh 2

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Menggunakan kueri untuk membuat data prompt dengan menyambungkan string yang memberikan awalan prompt dengan kolom tabel.
  • Menampilkan respons singkat.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.text_model`,
    (
      SELECT CONCAT(question, 'Text:', description, 'Category') AS prompt
      FROM mydataset.input_table
    ),
    STRUCT(
      100 AS max_output_tokens));

Contoh 3

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Menggunakan kolom prompt dari tabel prompts untuk prompt.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.text_model`,
    TABLE mydataset.prompts);

Model terbuka 

SELECT *
FROM AI.GENERATE_TEXT(
  MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME`,
  {TABLE PROJECT_ID.DATASET_ID.TABLE_NAME | (PROMPT_QUERY)},
  STRUCT(
  {
    {
      [MAX_OUTPUT_TOKENS AS max_output_tokens]
      [, TOP_K AS top_k]
      [, TOP_P AS top_p]
      [, TEMPERATURE AS temperature]
    }
    |
    [, MODEL_PARAMS AS model_params]
  })
);

Ganti kode berikut:

  • PROJECT_ID: project ID Anda.
  • DATASET_ID: ID set data yang berisi model.
  • MODEL_NAME: nama model.
  • TABLE_NAME: nama tabel yang berisi prompt. Tabel ini harus memiliki kolom yang bernama prompt, atau Anda dapat menggunakan alias untuk menggunakan kolom dengan nama yang berbeda.
  • PROMPT_QUERY: kueri yang menyediakan data prompt. Kueri ini harus menghasilkan kolom bernama prompt.
  • TOKENS: nilai INT64 yang menetapkan jumlah maksimum token yang dapat dibuat dalam respons. Nilai ini harus dalam rentang [1,4096]. Tentukan nilai yang lebih rendah untuk respons yang lebih singkat dan nilai yang lebih tinggi untuk respons yang lebih panjang. Jika Anda tidak menentukan nilai, model akan menentukan nilai yang sesuai.
  • TEMPERATURE: nilai FLOAT64 dalam rentang [0.0,1.0] yang mengontrol tingkat keacakan dalam pemilihan token. Jika Anda tidak menentukan nilai, model akan menentukan nilai yang sesuai.

    Nilai yang lebih rendah untuk temperature cocok untuk prompt yang memerlukan respons yang lebih deterministik dan kurang terbuka atau kreatif, sedangkan nilai yang lebih tinggi untuk temperature dapat memberikan hasil yang lebih beragam atau kreatif. Nilai 0 untuk temperature bersifat deterministik, yang berarti bahwa respons probabilitas tertinggi selalu dipilih.

  • TOP_K: nilai INT64 dalam rentang [1,40] yang menentukan kumpulan awal token yang dipertimbangkan model untuk dipilih. Tentukan nilai yang lebih rendah untuk respons dengan tingkat keacakan lebih rendah, dan nilai yang lebih tinggi untuk respons dengan tingkat keacakan lebih tinggi. Jika Anda tidak menentukan nilai, model akan menentukan nilai yang sesuai.
  • TOP_P: nilai FLOAT64 dalam rentang [0.0,1.0] membantu menentukan probabilitas token yang dipilih. Tentukan nilai yang lebih rendah untuk respons dengan tingkat keacakan yang lebih rendah dan nilai yang lebih tinggi untuk respons dengan tingkat keacakan yang lebih tinggi. Jika Anda tidak menentukan nilai, model akan menentukan nilai yang sesuai.
  • MODEL_PARAMS: literal string berformat JSON yang menyediakan parameter ke model. Nilai harus sesuai dengan format isi permintaan generateContent. Anda dapat memberikan nilai untuk kolom apa pun dalam isi permintaan, kecuali untuk kolom contents[]. Jika Anda menetapkan kolom ini, Anda juga tidak dapat menentukan parameter model apa pun dalam argumen struct level teratas untuk fungsi AI.GENERATE_TEXT. Anda harus menentukan setiap parameter model di kolom MODEL_PARAMS, atau menghapus kolom ini dan menentukan setiap parameter secara terpisah.

Contoh 1

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Meminta ringkasan teks di kolom body pada tabel articles.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.text_model`,
    (
      SELECT CONCAT('Summarize this text', body) AS prompt
      FROM mydataset.articles
    ));

Contoh 2

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Menggunakan kueri untuk membuat data prompt dengan menyambungkan string yang memberikan awalan prompt dengan kolom tabel.
  • Menampilkan respons singkat.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.text_model`,
    (
      SELECT CONCAT(question, 'Text:', description, 'Category') AS prompt
      FROM mydataset.input_table
    ),
    STRUCT(
      100 AS max_output_tokens));

Contoh 3

Contoh berikut menunjukkan permintaan dengan karakteristik berikut:

  • Menggunakan kolom prompt dari tabel prompts untuk prompt.
SELECT *
FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.text_model`,
    TABLE mydataset.prompts);

Membuat teks dari data tabel objek

Buat teks menggunakan fungsi AI.GENERATE_TEXT dengan model Gemini untuk menganalisis data tidak terstruktur dari tabel objek. Anda memberikan data prompt dalam parameter prompt.

SELECT *
FROM AI.GENERATE_TEXT(
MODEL `PROJECT_ID.DATASET.MODEL`,
{ TABLE `PROJECT_ID.DATASET.TABLE` | (QUERY_STATEMENT) },
STRUCT(
  PROMPT AS prompt
  {
    {
      [, MAX_OUTPUT_TOKENS AS max_output_tokens]
      [, TOP_P AS top_p]
      [, TEMPERATURE AS temperature]
      [, STOP_SEQUENCES AS stop_sequences]
      [, SAFETY_SETTINGS AS safety_settings]
    }
    |
    [, MODEL_PARAMS AS model_params]
  })
);

Ganti kode berikut:

  • PROJECT_ID: project yang berisi resource.
  • DATASET: set data yang berisi resource.
  • MODEL: nama model jarak jauh di atas model Gemini Enterprise Agent Platform. Untuk mengetahui informasi selengkapnya tentang cara membuat jenis model jarak jauh ini, lihat Pernyataan CREATE MODEL untuk model jarak jauh melalui LLM .

    Anda dapat mengonfirmasi model yang digunakan oleh model jarak jauh dengan membuka konsol Google Cloud dan melihat kolom Endpoint jarak jauh di halaman detail model.

    Catatan: Penggunaan model jarak jauh yang didasarkan pada model Gemini 2.5 akan dikenai biaya untuk proses penalaran.

  • TABLE: nama tabel objek yang berisi konten yang akan dianalisis. Untuk mengetahui informasi selengkapnya tentang jenis konten yang dapat Anda analisis, lihat Input.

    Bucket Cloud Storage yang digunakan oleh tabel objek input harus berada di project yang sama tempat Anda membuat model dan tempat Anda memanggil fungsi AI.GENERATE_TEXT.

  • QUERY_STATEMENT: kueri GoogleSQL yang menghasilkan data gambar. Anda hanya dapat menentukan klausa WHERE dan ORDER BY dalam kueri.
  • PROMPT: nilai STRING yang berisi perintah yang akan digunakan untuk menganalisis konten visual. Nilai prompt harus berisi kurang dari 16.000 token. Token mungkin lebih kecil dari kata dan kira-kira empat karakter. Seratus token setara dengan sekitar 60-80 kata.

    • Menampilkan parameter opsional tambahan

  • MAX_OUTPUT_TOKENS: nilai INT64 yang menetapkan jumlah maksimum token yang dapat dibuat dalam respons. Nilai ini harus dalam rentang [1,8192]. Tentukan nilai yang lebih rendah untuk respons yang lebih singkat dan nilai yang lebih tinggi untuk respons yang lebih panjang. Defaultnya adalah 1024.
  • TOP_P: nilai FLOAT64 dalam rentang [0.0,1.0] yang mengubah cara model memilih token untuk output. Tentukan nilai yang lebih rendah untuk respons dengan tingkat keacakan yang lebih rendah dan nilai yang lebih tinggi untuk respons dengan tingkat keacakan yang lebih tinggi. Defaultnya adalah 0.95.

    Token dipilih dari yang paling mungkin hingga yang paling tidak mungkin sampai jumlah probabilitasnya sama dengan nilai TOP_P. Misalnya, jika token A, B, dan C memiliki probabilitas 0.3, 0.2, dan 0.1, serta nilai TOP_P adalah 0.5, maka model akan memilih A atau B sebagai token berikutnya dengan menggunakan nilai TEMPERATURE dan tidak mempertimbangkan C.

  • TEMPERATURE: nilai FLOAT64 dalam rentang [0.0,1.0] yang mengontrol tingkat keacakan dalam pemilihan token. Nilai TEMPERATURE yang lebih rendah cocok untuk perintah yang memerlukan respons yang lebih deterministik dan kurang terbuka atau kreatif, sedangkan nilai TEMPERATURE yang lebih tinggi dapat memberikan hasil yang lebih beragam atau kreatif. Nilai TEMPERATURE dari 0 bersifat deterministik, yang berarti bahwa respons probabilitas tertinggi selalu dipilih. Defaultnya adalah 0.
  • STOP_SEQUENCES: nilai ARRAY yang menghapus string yang ditentukan jika disertakan dalam respons dari model. String dicocokkan persis, termasuk kapitalisasi. Default-nya adalah array kosong.
  • SAFETY_SETTINGS: nilai ARRAY> yang mengonfigurasi nilai minimum keamanan konten untuk memfilter respons. Elemen pertama dalam struct menentukan kategori bahaya, dan elemen kedua dalam struct menentukan nilai minimum pemblokiran yang sesuai. Model akan memfilter konten yang melanggar setelan ini. Anda hanya dapat menentukan setiap kategori sekali. Misalnya, Anda tidak dapat menentukan STRUCT('HARM_CATEGORY_DANGEROUS_CONTENT' AS category, 'BLOCK_MEDIUM_AND_ABOVE' AS threshold) dan STRUCT('HARM_CATEGORY_DANGEROUS_CONTENT' AS category, 'BLOCK_ONLY_HIGH' AS threshold). Jika tidak ada setelan keamanan untuk kategori tertentu, setelan keamanan BLOCK_MEDIUM_AND_ABOVE akan digunakan.

    Kategori yang didukung adalah sebagai berikut:

    • HARM_CATEGORY_HATE_SPEECH
    • HARM_CATEGORY_DANGEROUS_CONTENT
    • HARM_CATEGORY_HARASSMENT
    • HARM_CATEGORY_SEXUALLY_EXPLICIT

    Nilai minimum yang didukung adalah sebagai berikut:

    • BLOCK_NONE ( Dibatasi )
    • BLOCK_LOW_AND_ABOVE
    • BLOCK_MEDIUM_AND_ABOVE (Default)
    • BLOCK_ONLY_HIGH
    • HARM_BLOCK_THRESHOLD_UNSPECIFIED

    Untuk mengetahui informasi selengkapnya, lihat definisi kategori keamanan dan nilai minimum pemblokiran .

  • MODEL_PARAMS: literal string berformat JSON yang memberikan parameter tambahan ke model. Nilai harus sesuai dengan format isi permintaan generateContent . Anda dapat memberikan nilai untuk kolom apa pun dalam isi permintaan, kecuali untuk kolom contents[]. Jika Anda menetapkan kolom ini, Anda juga tidak dapat menentukan parameter model apa pun dalam argumen struct level teratas ke fungsi AI.GENERATE_TEXT.
    •

Contoh

Contoh ini menerjemahkan dan mentranskripsikan konten audio dari tabel objek bernama feedback:

SELECT * FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.audio_model`,
    TABLE `mydataset.feedback`,
      STRUCT('What is the content of this audio clip, translated into Spanish?' AS PROMPT));

Contoh ini mengklasifikasikan konten PDF dari tabel objek yang bernama invoices:

SELECT * FROM
  AI.GENERATE_TEXT(
    MODEL `mydataset.classify_model`,
    TABLE `mydataset.invoices`,
      STRUCT('Classify this document based on the invoice total, using the following categories: 0 to 100, 101 to 200, greater than 200' AS PROMPT));