使用 ML.GENERATE_EMBEDDING 函式生成文字嵌入

本文說明如何建立參照嵌入模型的 BigQuery ML 遠端模型。接著，您將使用前面建立的模型和 ML.GENERATE_EMBEDDING 函式，透過 BigQuery 標準資料表的資料建立文字嵌入。

支援的遠端模型類型如下：

• 遠端模型 透過 Vertex AI 嵌入模型。
• 遠端模型 透過 支援的開放式模型 (預先發布版)。

必要的角色

如要建立遠端模型並使用 ML.GENERATE_EMBEDDING 函式，您需要下列 Identity and Access Management (IAM) 角色：

• 建立及使用 BigQuery 資料集、資料表和模型： 專案中的 BigQuery 資料編輯者 (roles/bigquery.dataEditor)。

• 建立、委派及使用 BigQuery 連線：專案的 BigQuery 連線管理員 (roles/bigquery.connectionsAdmin)。

  如果沒有設定預設連線，您可以在執行 CREATE MODEL 陳述式時建立並設定連線。如要這麼做，您必須具備專案的 BigQuery 管理員角色 (roles/bigquery.admin)。詳情請參閱「設定預設連線」。

• 將權限授予連線的服務帳戶：在包含 Vertex AI 端點的專案中，授予專案 IAM 管理員 (roles/resourcemanager.projectIamAdmin) 權限。這是您透過將模型名稱指定為端點所建立遠端模型的目前專案。這是您透過指定網址做為端點所建立遠端模型網址中識別的專案。

• 建立 BigQuery 工作：專案中的 BigQuery 工作使用者 (roles/bigquery.jobUser)。

這些預先定義的角色具備執行本文中工作所需的權限。如要查看確切的必要權限，請展開「必要權限」部分：

所需權限

• 建立資料集：bigquery.datasets.create
• 建立、委派及使用連線： bigquery.connections.*
• 設定服務帳戶權限： resourcemanager.projects.getIamPolicy 和 resourcemanager.projects.setIamPolicy
• 建立模型並執行推論：
  • bigquery.jobs.create
  • bigquery.models.create
  • bigquery.models.getData
  • bigquery.models.updateData
  • bigquery.models.updateMetadata
• 查詢資料表資料：bigquery.tables.getData

您或許還可透過自訂角色或其他預先定義的角色取得這些權限。

事前準備

1. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Roles required to select or create a project

   • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
   • Create a project: To create a project, you need the Project Creator (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.
   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

2. Verify that billing is enabled for your Google Cloud project.

3. Enable the BigQuery, BigQuery Connection, and Vertex AI APIs.

   Roles required to enable APIs

   To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

   Enable the APIs

建立資料集

建立 BigQuery 資料集來存放資源：

控制台

1. 前往 Google Cloud 控制台的「BigQuery」頁面。

   前往「BigQuery」

2. 在左側窗格中，按一下「Explorer」：

   

   如果沒有看到左側窗格，請按一下「展開左側窗格」圖示 開啟窗格。

3. 在「Explorer」窗格中，按一下專案名稱。

4. 依序點按 「View actions」(查看動作) >「Create dataset」(建立資料集)。

5. 在「建立資料集」頁面中，執行下列操作：

   1. 在「Dataset ID」(資料集 ID) 部分，輸入資料集的名稱。

   2. 在「位置類型」部分，選取「區域」或「多區域」。

      • 如果選取「區域」，請從「區域」清單中選取位置。
      • 如果選取「多區域」，請從「多區域」清單中選取「美國」或「歐洲」。

   3. 點選「建立資料集」。

bq

1. 如要建立新的資料集，請使用 bq mk 指令搭配 --location 旗標：

   bq --location=LOCATION mk -d DATASET_ID

   更改下列內容：

   • LOCATION：資料集的位置。
   • DATASET_ID 是您要建立的資料集 ID。

2. 確認資料集已建立完成：

   bq ls

建立連線

如果您已設定預設連線，或具備 BigQuery 管理員角色，可以略過這個步驟。

建立供遠端模型使用的 Cloud 資源連線，並取得連線的服務帳戶。在與上一步建立的資料集相同的位置中建立連線。

選取下列選項之一：

主控台

1. 前往「BigQuery」頁面

   前往「BigQuery」

2. 在「Explorer」窗格中，按一下 「新增資料」：

   

   「新增資料」對話方塊隨即開啟。

3. 在「Filter By」(篩選依據) 窗格的「Data Source Type」(資料來源類型) 區段中，選取「Business Applications」(商務應用程式)。

   或者，您也可以在「Search for data sources」(搜尋資料來源) 欄位中輸入 Vertex AI。

4. 在「精選資料來源」部分，點選「Vertex AI」。

5. 按一下「Vertex AI Models: BigQuery Federation」解決方案資訊卡。

6. 在「連線類型」清單中，選取「Vertex AI 遠端模型、遠端函式、BigLake 和 Spanner (Cloud 資源)」。

7. 在「連線 ID」欄位中，輸入連線名稱。

8. 點選「建立連線」。

9. 點選「前往連線」。

10. 在「連線資訊」窗格中，複製服務帳戶 ID，以供後續步驟使用。

bq

1. 在指令列環境中建立連線：

   bq mk --connection --location=REGION --project_id=PROJECT_ID \
       --connection_type=CLOUD_RESOURCE CONNECTION_ID

   --project_id 參數會覆寫預設專案。

   更改下列內容：

   • REGION：您的連線區域
   • PROJECT_ID：您的 Google Cloud 專案 ID
   • CONNECTION_ID：連線的 ID

   建立連線資源時，BigQuery 會建立專屬的系統服務帳戶，並將其與連線建立關聯。

   疑難排解：如果收到下列連線錯誤訊息，請更新 Google Cloud SDK：

   Flags parsing error: flag --connection_type=CLOUD_RESOURCE: value should be one of...
   

2. 擷取並複製服務帳戶 ID，以供後續步驟使用：

   bq show --connection PROJECT_ID.REGION.CONNECTION_ID

   輸出結果會與下列內容相似：

   name                          properties
   1234.REGION.CONNECTION_ID     {"serviceAccountId": "[e-mail]"}
   

Terraform

使用 google_bigquery_connection 資源。

注意： 如要使用 Terraform 建立 BigQuery 物件，請務必啟用 Cloud Resource Manager API。

如要向 BigQuery 進行驗證，請設定應用程式預設憑證。詳情請參閱「設定用戶端程式庫的驗證機制」。

下列範例會在 US 地區中建立名為 my_cloud_resource_connection 的 Cloud 資源連線：

# This queries the provider for project information.
data "google_project" "default" {}

# This creates a cloud resource connection in the US region named my_cloud_resource_connection.
# Note: The cloud resource nested object has only one output field - serviceAccountId.
resource "google_bigquery_connection" "default" {
  connection_id = "my_cloud_resource_connection"
  project       = data.google_project.default.project_id
  location      = "US"
  cloud_resource {}
}

如要在 Google Cloud 專案中套用 Terraform 設定，請完成下列各節的步驟。

準備 Cloud Shell

1. 啟動 Cloud Shell。

2. 設定要套用 Terraform 設定的預設 Google Cloud 專案。

   每項專案只需要執行一次這個指令，且可以在任何目錄中執行。

   export GOOGLE_CLOUD_PROJECT=PROJECT_ID

   如果您在 Terraform 設定檔中設定明確值，環境變數就會遭到覆寫。

準備目錄

每個 Terraform 設定檔都必須有自己的目錄 (也稱為根模組)。

1. 在 Cloud Shell 中建立目錄，並在該目錄中建立新檔案。檔案名稱的副檔名必須是 .tf，例如 main.tf。在本教學課程中，這個檔案稱為 main.tf。

   mkdir DIRECTORY && cd DIRECTORY && touch main.tf

2. 如果您正在學習教學課程，可以複製每個章節或步驟中的範例程式碼。

   將範例程式碼複製到新建立的 main.tf。

   視需要從 GitHub 複製程式碼。如果 Terraform 代码片段是端對端解決方案的一部分，建議使用這個方法。

3. 查看並修改範例參數，套用至您的環境。
4. 儲存變更。
5. 初始化 Terraform。每個目錄只需執行一次這項操作。

   terraform init

   如要使用最新版 Google 供應商，請加入 -upgrade 選項：

   terraform init -upgrade

套用變更

1. 檢查設定，確認 Terraform 即將建立或更新的資源符合您的預期：

   terraform plan

   視需要修正設定。

2. 執行下列指令並在提示中輸入 yes，即可套用 Terraform 設定：

   terraform apply

   等待 Terraform 顯示「Apply complete!」訊息。

3. 開啟 Google Cloud 專案即可查看結果。在 Google Cloud 控制台中，前往 UI 中的資源，確認 Terraform 已建立或更新這些資源。

注意：Terraform 範例通常會假設您已在 Google Cloud 專案中啟用必要的 API。

將角色指派給遠端模型連線的服務帳戶

您必須為連線的服務帳戶授予 Vertex AI 使用者角色。

如果您打算在建立遠端模型時將端點指定為網址 (例如 endpoint = 'https://us-central1-aiplatform.googleapis.com/v1/projects/myproject/locations/us-central1/publishers/google/models/text-embedding-005')，請在網址指定的專案中授予這個角色。

如果您打算在建立遠端模型時使用模型名稱指定端點 (例如 endpoint = 'text-embedding-005')，請在您要建立遠端模型的專案中授予這個角色。

在其他專案中授予角色會導致錯誤 [e-mail] does not have the permission to access resource。

如要授予角色，請按照下列步驟操作：

主控台

1. 前往「IAM & Admin」(IAM 與管理) 頁面。

   前往「IAM & Admin」(IAM 與管理)

2. 按一下「授予存取權」。

   「新增主體」對話方塊隨即開啟。

3. 在「新增主體」欄位，輸入先前複製的服務帳戶 ID。

4. 在「請選擇角色」欄位中，依序選取「Vertex AI」和「Vertex AI 使用者」。

5. 按一下 [儲存]。

gcloud

使用 gcloud projects add-iam-policy-binding 指令：

gcloud projects add-iam-policy-binding 'PROJECT_NUMBER' --member='serviceAccount:MEMBER' --role='roles/aiplatform.user' --condition=None

請替換下列項目：

• PROJECT_NUMBER：您的專案編號
• MEMBER：您先前複製的服務帳戶 ID

選擇開放模型部署方式

如果您要透過支援的開放式模型建立遠端模型，可以在 CREATE MODEL 陳述式中指定 Vertex AI Model Garden 或 Hugging Face 模型 ID，在建立遠端模型的同時自動部署開放式模型。或者，您也可以先手動部署開放模型，然後在 CREATE MODEL 陳述式中指定模型端點，將該開放模型與遠端模型搭配使用。詳情請參閱「部署開放模型」。

建立 BigQuery ML 遠端模型

建立遠端模型：

全新開放式模型

預先發布版

這項產品或功能 適用《服務專屬條款》。 正式發布前的產品和功能是按照「原樣」提供，支援範圍可能有限。 詳情請參閱推出階段說明。

1. 前往 Google Cloud 控制台的「BigQuery」頁面。

   前往「BigQuery」

2. 使用 SQL 編輯器建立遠端模型：

   CREATE OR REPLACE MODEL
   `PROJECT_ID.DATASET_ID.MODEL_NAME`
   REMOTE WITH CONNECTION {DEFAULT | `PROJECT_ID.REGION.CONNECTION_ID`}
   OPTIONS (
     {HUGGING_FACE_MODEL_ID = 'HUGGING_FACE_MODEL_ID' |
        MODEL_GARDEN_MODEL_NAME = 'MODEL_GARDEN_MODEL_NAME'}
     [, HUGGING_FACE_TOKEN = 'HUGGING_FACE_TOKEN' ]
     [, MACHINE_TYPE = 'MACHINE_TYPE' ]
     [, MIN_REPLICA_COUNT = MIN_REPLICA_COUNT ]
     [, MAX_REPLICA_COUNT = MAX_REPLICA_COUNT ]
     [, RESERVATION_AFFINITY_TYPE = {'NO_RESERVATION' | 'ANY_RESERVATION' | 'SPECIFIC_RESERVATION'} ]
     [, RESERVATION_AFFINITY_KEY = 'compute.googleapis.com/reservation-name' ]
     [, RESERVATION_AFFINITY_VALUES = RESERVATION_AFFINITY_VALUES ]
     [, ENDPOINT_IDLE_TTL = ENDPOINT_IDLE_TTL ]
   );

   請替換下列項目：

   • PROJECT_ID：您的專案 ID。
   • DATASET_ID：要包含模型的資料集 ID。這個資料集必須與您使用的連線位於相同的位置。
   • MODEL_NAME：模型名稱。
   • REGION：連線使用的區域。
   • CONNECTION_ID：BigQuery 連線的 ID。

     如要取得這個值，請在 Google Cloud 控制台中查看連線詳細資料，然後複製「連線 ID」中顯示的完整連線 ID 最後一個部分的值。例如：projects/myproject/locations/connection_location/connections/myconnection。

   • HUGGING_FACE_MODEL_ID： STRING 值，指定支援的 Hugging Face 模型的 ID， 格式為 provider_name/model_name。例如 deepseek-ai/DeepSeek-R1。如要取得模型 ID，請在 Hugging Face Model Hub 中按一下模型名稱，然後從模型資訊卡的頂端複製模型 ID。
   • MODEL_GARDEN_MODEL_NAME：STRING 值，指定支援的 Vertex AI Model Garden 模型的模型 ID 和模型版本，格式為 publishers/publisher/models/model_name@model_version。例如：publishers/openai/models/gpt-oss@gpt-oss-120b。如要取得模型 ID，請在 Vertex AI Model Garden 中點選模型資訊卡，然後從「模型 ID」欄位複製模型 ID。如要取得預設模型版本，請從模型資訊卡上的「版本」欄位複製。如要查看其他可用的模型版本，請按一下「部署模型」，然後點選「資源 ID」欄位。
   • HUGGING_FACE_TOKEN：指定要使用的 Hugging Face User Access Token 的 STRING 值。只有在同時指定 HUGGING_FACE_MODEL_ID 選項的值時，才能為這個選項指定值。

     權杖至少須具備 read 角色，但範圍較廣的權杖也適用。如果 HUGGING_FACE_MODEL_ID 值所識別的模型是 Hugging Face 封閉式或私人模型，則必須使用這個選項。

     部分受限模型需要明確同意服務條款，才能取得存取權。如要同意這些條款，請按照下列步驟操作：

     1. 前往 Hugging Face 網站上的模型頁面。
     2. 找出並詳閱模型服務條款。服務協議的連結通常會顯示在模型資訊卡上。
     3. 按照頁面上的提示接受條款。
   • MACHINE_TYPE：STRING 值，用於指定將模型部署至 Vertex AI 時要使用的機器類型。如要瞭解支援的機器類型，請參閱「機器類型」。如果未指定 MACHINE_TYPE 選項的值，系統會使用模型的 Vertex AI Model Garden 預設機器類型。
   • MIN_REPLICA_COUNT：INT64 值，用於指定在 Vertex AI 端點上部署模型時使用的最少機器副本數。服務會視端點的推論負載，增加或減少副本數量。使用的副本數量絕不會低於 MIN_REPLICA_COUNT 值，也不會高於 MAX_REPLICA_COUNT 值。MIN_REPLICA_COUNT 值必須介於 [1, 4096] 之間。預設值為 1。
   • MAX_REPLICA_COUNT：INT64 值，用於指定在 Vertex AI 端點上部署模型時使用的機器副本數量上限。服務會視端點的推論負載，增加或減少副本數量。使用的副本數量絕不會低於 MIN_REPLICA_COUNT 值，也不會高於 MAX_REPLICA_COUNT 值。MAX_REPLICA_COUNT 值必須介於 [1, 4096] 之間。預設值為 MIN_REPLICA_COUNT 值。
   • RESERVATION_AFFINITY_TYPE：判斷已部署的模型是否使用 Compute Engine 預留項目，確保在提供預測時虛擬機器 (VM) 可用性，並指定模型是否使用所有可用預留項目的 VM，或僅使用特定預留項目的 VM。詳情請參閱「Compute Engine 預留資源親和性」。

     您只能使用與 Vertex AI 共用的 Compute Engine 預留項目。詳情請參閱「允許使用預留項目」。

     支援的值如下：

     • NO_RESERVATION：將模型部署至 Vertex AI 端點時，不會消耗任何預留項目。指定 NO_RESERVATION 的效果等同於未指定預訂項目親和性。
     • ANY_RESERVATION：Vertex AI 模型部署會從目前專案中或與專案共用的 Compute Engine 預留項目，取用虛擬機器 (VM)，且這些預留項目已設定為自動取用。只有符合下列資格的 VM 才會使用：
       • 並使用 MACHINE_TYPE 值指定的機器類型。
       • 如果您要在單一區域的 BigQuery 資料集中建立遠端模型，保留項目必須位於相同區域。如果資料集位於US多區域，預留位置就必須位於us-central1區域。如果資料集位於EU多區域，預留位置必須位於europe-west4區域。

       如果可用預留容量不足，或找不到合適的預留項目，系統會佈建隨選 Compute Engine VM，以滿足資源需求。

     • SPECIFIC_RESERVATION：Vertex AI 模型部署作業只會使用您在 RESERVATION_AFFINITY_VALUES 值中指定的預留項目 VM。這項預留項目必須設定為明確指定的用量。如果指定的預留項目容量不足，部署作業就會失敗。
   • RESERVATION_AFFINITY_KEY：字串 compute.googleapis.com/reservation-name。當 RESERVATION_AFFINITY_TYPE 值為 SPECIFIC_RESERVATION 時，您必須指定這個選項。
   • RESERVATION_AFFINITY_VALUES：ARRAY<STRING> 值，指定 Compute Engine 預留項目的完整資源名稱，格式如下：
     
     projects/myproject/zones/reservation_zone/reservations/reservation_name

     例如：RESERVATION_AFFINITY_values = ['projects/myProject/zones/us-central1-a/reservations/myReservationName']。

     您可以從 Google Cloud 控制台的「預留項目」頁面取得預留項目名稱和區域。詳情請參閱「查看預留項目」。

     當 RESERVATION_AFFINITY_TYPE 值為 SPECIFIC_RESERVATION 時，您必須指定這個選項。

   • ENDPOINT_IDLE_TTL：INTERVAL 值，指定開放模型在閒置多久後，會自動從 Vertex AI 端點取消部署。

     如要啟用自動取消部署，請指定介於 390 分鐘 (6.5 小時) 至 7 天之間的間隔常值值。舉例來說，指定 INTERVAL 8 HOUR 可讓模型在閒置 8 小時後解除部署。預設值為 390 分鐘 (6.5 小時)。

     模型閒置時間是指自對模型執行下列任一項操作後經過的時間：

     • 正在執行 CREATE MODEL 陳述式。
     • 執行 ALTER MODEL 陳述式，並將 DEPLOY_MODEL 引數設為 TRUE。
     • 向模型端點傳送推論要求。舉例來說，您可以執行 ML.GENERATE_EMBEDDING 或 ML.GENERATE_TEXT 函式。

     這些作業都會將閒置計時器重設為零。在執行作業的 BigQuery 工作開始時，系統會觸發重設作業。

     取消部署模型後，傳送至模型的推論要求會傳回錯誤。BigQuery 模型物件維持不變，包括模型中繼資料。如要再次使用模型進行推論，請對模型執行 ALTER MODEL 陳述式，並將 DEPLOY_MODEL 選項設為 TRUE，重新部署模型。

已部署的開放式模型

1. 前往 Google Cloud 控制台的「BigQuery」頁面。

   前往「BigQuery」

2. 使用 SQL 編輯器建立遠端模型：

   CREATE OR REPLACE MODEL
   `PROJECT_ID.DATASET_ID.MODEL_NAME`
   REMOTE WITH CONNECTION {DEFAULT | `PROJECT_ID.REGION.CONNECTION_ID`}
   OPTIONS (
     ENDPOINT = 'https://ENDPOINT_REGION-aiplatform.googleapis.com/v1/projects/ENDPOINT_PROJECT_ID/locations/ENDPOINT_REGION/endpoints/ENDPOINT_ID'
   );

   請替換下列項目：

   • PROJECT_ID：您的專案 ID。
   • DATASET_ID：要包含模型的資料集 ID。這個資料集必須與您使用的連線位於相同的位置。
   • MODEL_NAME：模型名稱。
   • REGION：連線使用的區域。
   • CONNECTION_ID：BigQuery 連線的 ID。

     如要取得這個值，請在 Google Cloud 控制台中查看連線詳細資料，然後複製「連線 ID」中顯示的完整連線 ID 最後一個部分的值。例如：projects/myproject/locations/connection_location/connections/myconnection。

   • ENDPOINT_REGION：部署開放式模型的區域。
   • ENDPOINT_PROJECT_ID：部署開放式模型的專案。
   • ENDPOINT_ID：開放式模型使用的 HTTPS 端點 ID。如要取得端點 ID，請在「線上預測」頁面中找到開啟的模型，然後複製「ID」欄位中的值。

所有其他型號

1. 前往 Google Cloud 控制台的「BigQuery」頁面。

   前往「BigQuery」

2. 使用 SQL 編輯器建立遠端模型：

   CREATE OR REPLACE MODEL
   `PROJECT_ID.DATASET_ID.MODEL_NAME`
   REMOTE WITH CONNECTION {DEFAULT | `PROJECT_ID.REGION.CONNECTION_ID`}
   OPTIONS (ENDPOINT = 'ENDPOINT');

   請替換下列項目：

   • PROJECT_ID：您的專案 ID。
   • DATASET_ID：要包含模型的資料集 ID。這個資料集必須與您使用的連線位於相同的位置。
   • MODEL_NAME：模型名稱。
   • REGION：連線使用的區域。
   • CONNECTION_ID：BigQuery 連線的 ID。

     如要取得這個值，請在 Google Cloud 控制台中查看連線詳細資料，然後複製「連線 ID」中顯示的完整連線 ID 最後一個部分的值。例如：projects/myproject/locations/connection_location/connections/myconnection。

   • ENDPOINT：要使用的嵌入模型名稱。詳情請參閱 ENDPOINT。

     您指定的 Vertex AI 模型必須位於建立遠端模型的位置。詳情請參閱「位置」。

生成文字嵌入

使用資料表欄或查詢中的文字資料，透過 ML.GENERATE_EMBEDDING 函式生成文字嵌入。

一般來說，您會針對僅限文字的應用情境使用文字嵌入模型，並針對跨模式搜尋應用情境使用多模態嵌入模型，在相同的語意空間中產生文字和視覺內容的嵌入項目。

Vertex AI 文字

透過 Vertex AI 文字嵌入模型，使用遠端模型生成文字嵌入：

SELECT *
FROM ML.GENERATE_EMBEDDING(
  MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME`,
  {TABLE PROJECT_ID.DATASET_ID.TABLE_NAME | (CONTENT_QUERY)},
  STRUCT(FLATTEN_JSON AS flatten_json_output,
    TASK_TYPE AS task_type,
    OUTPUT_DIMENSIONALITY AS output_dimensionality)
);

請替換下列項目：

• PROJECT_ID：您的專案 ID。
• DATASET_ID：包含模型的資料集 ID。
• MODEL_NAME：嵌入模型上的遠端模型名稱。
• TABLE_NAME：包含要嵌入文字的表格名稱。這個資料表必須有名為 content 的資料欄，您也可以使用別名來使用名稱不同的資料欄。
• CONTENT_QUERY：查詢，結果包含名為 content 的 STRING 資料欄。
• FLATTEN_JSON：BOOL 值，指出是否要將嵌入內容剖析至個別資料欄。預設值為 TRUE。
• TASK_TYPE：STRING常值，指定預期的下游應用程式，協助模型產生品質較佳的嵌入內容。TASK_TYPE 接受下列值：
  • RETRIEVAL_QUERY：指定給定文字是搜尋或擷取設定中的查詢。
  • RETRIEVAL_DOCUMENT：指定指定文字是搜尋或擷取設定中的文件。

    使用這類工作時，建議在查詢陳述式中加入文件標題，以提升嵌入品質。文件標題必須位於名為 title 或別名為 title 的資料欄中，例如：

          SELECT *
          FROM
            ML.GENERATE_EMBEDDING(
              MODEL mydataset.embedding_model,
              (SELECT abstract as content, header as title, publication_number
              FROM mydataset.publications),
              STRUCT(TRUE AS flatten_json_output, 'RETRIEVAL_DOCUMENT' as task_type)
          );
          

    在輸入查詢中指定標題資料欄，即可填入傳送至模型的要求主體中的 title 欄位。如果使用任何其他工作類型時指定 title 值，系統會忽略該輸入內容，且不會對嵌入結果造成影響。

  • SEMANTIC_SIMILARITY：指定給定文字將用於語意文字相似度 (STS)。
  • CLASSIFICATION：指定嵌入內容將用於分類。
  • CLUSTERING：指定要將嵌入用於叢集。
  • QUESTION_ANSWERING：指定嵌入內容將用於問答。
  • FACT_VERIFICATION：指定嵌入內容將用於事實查證。
  • CODE_RETRIEVAL_QUERY：指定嵌入內容將用於程式碼擷取。
• OUTPUT_DIMENSIONALITY：INT64 值，用於指定產生嵌入時使用的維度數量。舉例來說，如果您指定 256 AS output_dimensionality，則 ml_generate_embedding_result 輸出資料欄會包含每個輸入值的 256 個嵌入。

  如果是 gemini-embedding-001 模型上的遠端模型，OUTPUT_DIMENSIONALITY 值必須在 [1, 3072] 範圍內。預設值為 3072。如果是透過 text-embedding 或 text-multilingual-embedding 的遠端模型，OUTPUT_DIMENSIONALITY 值必須介於 [1, 768] 範圍內。預設值為 768。

  如果透過 text-embedding 模型使用遠端模型，text-embedding 模型版本必須為 text-embedding-004 以上。如果透過 text-multilingual-embedding 模型使用遠端模型，text-multilingual-embedding 模型版本必須為 text-multilingual-embedding-002 以上。

範例：在表格中嵌入文字

以下範例顯示要求內嵌 text_data 資料表的 content 欄：

SELECT *
FROM
  ML.GENERATE_EMBEDDING(
    MODEL `mydataset.embedding_model`,
    TABLE mydataset.text_data,
    STRUCT(TRUE AS flatten_json_output, 'CLASSIFICATION' AS task_type)
  );

開放式文字

預先發布版

這項產品或功能 適用《服務專屬條款》。 正式發布前的產品和功能是按照「原樣」提供，支援範圍可能有限。 詳情請參閱推出階段說明。

注意： 如要提供意見回饋或尋求這項功能的支援，請傳送電子郵件至 [e-mail]。

透過開放式嵌入模型，使用遠端模型生成文字嵌入：

SELECT *
FROM ML.GENERATE_EMBEDDING(
  MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME`,
  {TABLE PROJECT_ID.DATASET_ID.TABLE_NAME | (CONTENT_QUERY)},
  STRUCT(FLATTEN_JSON AS flatten_json_output)
);

請替換下列項目：

• PROJECT_ID：您的專案 ID。
• DATASET_ID：包含模型的資料集 ID。
• MODEL_NAME：嵌入模型上的遠端模型名稱。
• TABLE_NAME：包含要嵌入文字的表格名稱。這個資料表必須有名為 content 的資料欄，您也可以使用別名來使用名稱不同的資料欄。
• CONTENT_QUERY：查詢，結果包含名為 content 的 STRING 資料欄。
• FLATTEN_JSON：BOOL 值，指出是否要將嵌入內容剖析至個別資料欄。預設值為 TRUE。

Vertex AI 多模態

透過 Vertex AI 多模態嵌入模型，使用遠端模型生成文字嵌入：

SELECT *
FROM ML.GENERATE_EMBEDDING(
  MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME`,
  {TABLE PROJECT_ID.DATASET_ID.TABLE_NAME | (CONTENT_QUERY)},
  STRUCT(FLATTEN_JSON AS flatten_json_output，
  OUTPUT_DIMENSIONALITY AS output_dimensionality)
);

請替換下列項目：

• PROJECT_ID：您的專案 ID。
• DATASET_ID：包含模型的資料集 ID。
• MODEL_NAME：multimodalembedding@001 模型上的遠端模型名稱。
• TABLE_NAME：包含要嵌入文字的表格名稱。這個資料表必須有名為 content 的資料欄，您也可以使用別名來使用名稱不同的資料欄。
• CONTENT_QUERY：查詢，結果包含名為 content 的 STRING 資料欄。
• FLATTEN_JSON：BOOL，指出是否要將嵌入內容剖析至獨立資料欄。預設值為 TRUE。
• OUTPUT_DIMENSIONALITY：INT64 值，用於指定產生嵌入時使用的維度數量。有效值為 128、256、512 和 1408。預設值為 1408。舉例來說，如果您指定 256 AS output_dimensionality，則輸出資料欄會為每個輸入值包含 256 個嵌入。ml_generate_embedding_result

範例：使用嵌入功能依語意相似度排序

以下範例會嵌入一系列電影評論，並使用 VECTOR_SEARCH 函式，依據與「這部電影很普通」評論的餘弦距離排序。距離越小，表示語意相似度越高。

如要進一步瞭解向量搜尋和向量索引，請參閱「向量搜尋簡介」。

CREATE TEMPORARY TABLE movie_review_embeddings AS (
  SELECT *
  FROM
    ML.GENERATE_EMBEDDING(
      MODEL `bqml_tutorial.embedding_model`,
      (
        SELECT "This movie was fantastic" AS content
        UNION ALL
        SELECT "This was the best movie I've ever seen!!" AS content
        UNION ALL
        SELECT "This movie was just okay..." AS content
        UNION ALL
        SELECT "This movie was terrible." AS content
      ),
      STRUCT(TRUE AS flatten_json_output)
    )
);

WITH average_review_embedding AS (
  SELECT ml_generate_embedding_result
  FROM
    ML.GENERATE_EMBEDDING(
      MODEL `bqml_tutorial.embedding_model`,
      (SELECT "This movie was average" AS content),
      STRUCT(TRUE AS flatten_json_output)
    )
)
SELECT
  base.content AS content,
  distance AS distance_to_average_review
FROM
  VECTOR_SEARCH(
    TABLE movie_review_embeddings,
    "ml_generate_embedding_result",
    (SELECT ml_generate_embedding_result FROM average_review_embedding),
    distance_type=>"COSINE",
    top_k=>-1
  )
ORDER BY distance_to_average_review;

結果如下：

+------------------------------------------+----------------------------+
| content                                  | distance_to_average_review |
+------------------------------------------+----------------------------+
| This movie was just okay...              | 0.062789813467745592       |
| This movie was fantastic                 |  0.18579561313064263       |
| This movie was terrible.                 |  0.35707466240930985       |
| This was the best movie I've ever seen!! |  0.41844932504542975       |
+------------------------------------------+----------------------------+

後續步驟

• 瞭解如何使用文字和圖片嵌入執行文字轉圖片的語意搜尋。
• 瞭解如何使用文字嵌入執行語意搜尋和檢索增強生成 (RAG)。