使用 AlloyDB AI 建構生成式 AI 應用程式

選取說明文件版本： 15.7.0

• 目前版本 (18.1.0)
• 18.1.0
• 17.7.0
• 17.5.0
• 16.11.0
• 16.9.0
• 16.8.0
• 16.3.0
• 15.15.0
• 15.13.0
• 15.12.0
• 15.7.1
• 15.7.0

AlloyDB AI 是 AlloyDB for PostgreSQL 和 AlloyDB Omni 隨附的一系列功能，可讓您將機器學習 (ML) 模型的語意和預測功能套用至資料。本頁面提供 AlloyDB 提供的 AI 函式總覽，這些函式皆採用機器學習技術。

注意： postgres_ann 擴充功能已重新命名為 alloydb_scann。升級至 AlloyDB Omni 15.7.0 版之前，請務必捨棄使用舊版 postgres_ann 建立的所有索引。接著升級 AlloyDB Omni，然後使用 alloydb_scann 擴充功能再次建立索引。這項功能僅適用於 AlloyDB Omni。

儲存、建立索引及查詢向量

pgvectorPostgreSQL 擴充功能經過自訂，可搭配 AlloyDB 使用，並稱為 vector。支援將生成的嵌入項目儲存在向量資料欄中。此外，擴充功能也新增了純量量化功能，可建立 IVF 索引。您也可以建立股票或指數的 IVFFlat 索引或 HSNW 索引。pgvector

如要進一步瞭解如何儲存向量，請參閱「儲存向量嵌入」。

除了自訂 vector 擴充功能，AlloyDB 還包含 alloydb_scann 擴充功能，可實作由 ScaNN 演算法驅動的高效率最近鄰索引。

注意： alloydb_scann 擴充功能可用於與 PostgreSQL 15 相容的資料庫。

如要進一步瞭解如何建立索引及查詢向量，請參閱「建立索引及查詢向量」。

調整向量查詢效能

您可以調整索引，在每秒查詢次數 (QPS) 和查詢的召回率之間取得平衡。如要進一步瞭解如何調整索引，請參閱「調整向量查詢效能」。

生成嵌入項目和文字預測

AlloyDB AI 透過 google_ml_integration 擴充功能，使用下列兩個函式查詢模型，擴充 PostgreSQL 語法：

• 叫用預測：在交易中透過 SQL 呼叫模型。

• 生成嵌入項目，讓 LLM 將文字提示轉換為數值向量。

  您可以使用 embedding() 函式查詢 Vertex AI 模型，而 google_ml.embedding() 函式則可用於查詢已註冊的 Vertex AI、代管和第三方模型。

  然後將這些向量嵌入項目套用為 pgvector 函式的輸入內容。包括根據相對語意距離比較及排序文字樣本的方法。

注意： 如要為自訂代管或第三方 AI 模型生成嵌入，請參閱「在 AlloyDB Omni 註冊及呼叫遠端 AI 模型」一文。

使用 Vertex AI 在雲端中運用模型

您可以設定 AlloyDB Omni 與 Vertex AI 搭配運作。

這可為應用程式帶來下列好處：

• 應用程式可使用有權存取的 Vertex AI Model Garden 中儲存的任何模型，叫用預測功能。

• 應用程式可以使用英文模型text-embedding-005 LLM 生成嵌入。

後續步驟

• 安裝 AlloyDB Omni with AlloyDB AI。

• 建立索引和查詢向量。