使用 AlloyDB AI 建構生成式 AI 應用程式

選取說明文件版本： 15.5.5

• 15.5.5

AlloyDB AI 是 AlloyDB for PostgreSQL 和 AlloyDB Omni 內建的一系列功能，可讓您將機器學習 (ML) 模型的語意和預測功能套用至資料。本頁面提供 AlloyDB 提供的 AI 函式總覽，這些函式皆由機器學習技術驅動。

注意： postgres_ann 擴充功能已重新命名為 alloydb_scann。升級至 AlloyDB Omni 15.5.5 版之前，請務必捨棄使用舊版 postgres_ann 建立的所有索引。接著升級 AlloyDB Omni，然後使用 alloydb_scann 擴充功能重新建立索引。這項限制僅適用於 AlloyDB Omni。

儲存、建立索引及查詢向量

pgvectorPostgreSQL 擴充功能經過自訂，適用於 AlloyDB，稱為 vector。並支援將生成的嵌入項目儲存在向量資料欄中。此外，擴充功能也支援純量量化功能，可建立 IVF 索引。您也可以建立股票pgvector提供的 IVFFlat 指數或 HSNW 指數。

如要進一步瞭解如何儲存向量，請參閱「儲存向量」。

預先發布版 — AlloyDB ScaNN index

這項功能 適用《服務專屬條款》。 正式發布前的功能是按照「原樣」提供，支援範圍可能有限。 詳情請參閱推出階段說明。

除了自訂 vector 擴充功能，AlloyDB 也包含 alloydb_scann 擴充功能，可實作由 ScaNN 演算法驅動的高效率最鄰近索引。

注意： alloydb_scann 擴充功能可用於與 PostgreSQL 15 相容的資料庫。

如要進一步瞭解如何建立索引及查詢向量，請參閱「建立索引及查詢向量」。

調整向量查詢效能

您可以調整索引，在每秒查詢次數 (QPS) 和查詢的召回率之間取得平衡。如要進一步瞭解如何調整索引，請參閱「調整向量查詢效能」。

生成嵌入項目和文字預測

AlloyDB AI 擴充了 PostgreSQL 語法，提供兩個函式，可使用 google_ml_integration 擴充功能查詢模型：

• 叫用預測：在交易中，使用 SQL 呼叫模型。

• 生成嵌入項目，讓 LLM 將文字提示轉換為數值向量。

  您可以使用 embedding() 函式查詢 Vertex AI 模型，而 google_ml.embedding() 函式則可用於查詢已註冊的 Vertex AI、代管和第三方模型。

  然後將這些向量嵌入項目套用為 pgvector 函式的輸入內容。包括根據相對語意距離比較及排序文字樣本的方法。

注意： 如要為自訂代管或第三方 AI 模型生成嵌入內容，請參閱「使用模型端點管理工具註冊及呼叫遠端 AI 模型」和「在 PostgreSQL 適用的 AlloyDB 中註冊及呼叫遠端 AI 模型」。這項功能適用於預先發布版。

使用 Vertex AI 在雲端中運用模型

您可以設定 AlloyDB Omni 與 Vertex AI 搭配運作。

這可為應用程式帶來下列好處：

• 應用程式可使用有權存取的 Vertex AI Model Garden 中儲存的任何模型，叫用預測功能。

• 您的應用程式可以使用英文模型 LLM 生成嵌入。textembedding-gecko

後續步驟

• 安裝 AlloyDB Omni with AlloyDB AI

• 建立索引和查詢向量