生成式 AI

關於使用 Google Cloud 工具和產品建構及導入生成式 AI 應用程式的說明文件和資源。

免費試用
  • 運用我們最新生成式 AI 模型和工具進行開發。
  • 免費使用 Compute Engine 和 AI API 等 20 多項熱銷產品。
  • 不會自動收費，也無需綁約
查看免費產品優惠

繼續探索 20 多項永久免費的產品

存取 20 多項常見用途的免費產品，包括 AI API、VM 和資料倉儲等。

瞭解如何建構生成式 AI 應用程式

存取 Google 的大型生成式 AI 模型，以便測試、調整及部署這些模型，然後在 AI 技術輔助應用程式中使用。
瞭解如何透過 Google Cloud 的 AI/機器學習平台 Vertex AI，將要求傳送至 Gemini API。
運用 GKE 的強大功能，打造可自訂的 AI/機器學習平台，以高效能、具成本效益的方式提供服務及訓練模型，並享有業界領先的擴充能力和彈性基礎架構選項。
判斷生成式 AI、傳統 AI 或兩者兼具是否適合您的業務用途。
瞭解如何解決開發生成式 AI 應用程式時，在各個階段遇到的難題。
查看常見用途的程式碼範例，並部署安全、有效率、具備復原能力、高效能且經濟實惠的生成式 AI 應用程式範例。
瞭解與生成式 AI 相關的特定字詞。

生成式 AI 工具

生成式 AI 工具清單，包括 Cloud Console 中列出的 Vertex AI Studio、Colab Enterprise/Notebooks 和 Workbench，以及列為獨立項目的 SDK/API。

生成式 AI 開發流程

生成式 AI 開發流程圖，包含六個階段：模型選取 (包括 Model Garden)、提示工程 (包括提示庫、Vertex AI Studio、比較提示和最佳化提示)、調整 (包括訓練和調整)、最佳化 (包括蒸餾)、部署 (包括 Model Registry、線上預測和批次預測)，以及監控。模型選取、提示工程、微調和最佳化階段屬於標示為「評估」的迴圈子週期。

模型探索與託管

Google Cloud 透過 Vertex AI 提供一系列最先進的基礎模型，包括 Gemini。您也可以將第三方模型部署至 Vertex AI Model Garden，或在 GKE 或 Compute Engine 上自行代管。

從機器學習模型程式庫探索、測試、自訂及部署 Google 模型和資產。
從機器學習模型程式庫中，探索、測試、自訂及部署所選的開放原始碼模型和資產。

透過 HuggingFace 存取的文字生成模型

瞭解如何將 HuggingFace 文字生成模型部署至 Vertex AI 或 Google Kubernetes Engine (GKE)。
將 GPU 附加至 VM 執行個體，加速處理 Compute Engine 上的生成式 AI 工作負載。

提示詞設計與提示工程

提示設計是指撰寫提示和回覆組合，為語言模型提供額外情境和指令的程序。撰寫提示詞後，請將其做為提示詞資料集提供給模型，進行預先訓練。模型提供預測結果時，會一併傳回您內建的指令。

設計、測試及自訂提示，然後傳送給 Google 的 Gemini 和 PaLM 2 大型語言模型 (LLM)。
瞭解提示工程工作流程和常見策略，以便影響模型回覆。
查看特定用途的提示和回覆範例。

建立基準和 RAG

建立基準可將 AI 模型連結至資料來源，提高回覆準確度並減少幻覺。RAG 是一種常見的建立基準技術，會搜尋相關資訊並新增至模型提示詞，確保輸出內容以事實和最新資訊為依據。

您可以透過 Google 搜尋或儲存在 Agent Search 中的自有資料，建立 Vertex AI 模型基準。
使用「以 Google 搜尋強化事實基礎」功能，將模型連結至網路上最新的知識。
使用 AlloyDB 生成及儲存向量嵌入，然後使用 pgvector 擴充功能為嵌入建立索引及查詢。
將向量嵌入儲存在 Postgres SQL 中，然後使用 pgvector 擴充功能建立嵌入索引及查詢。
使用 LangChain 從 BigQuery 擷取資料，並豐富及根據模型的回覆內容。
從 Firestore 資料建立向量嵌入，然後為嵌入建立索引並查詢。
使用 LangChain 從 Memorystore 擷取資料，並豐富及根據模型的回覆內容提供資訊。

代理和函式呼叫

透過 Agent，您將能輕鬆設計對話式使用者介面，並將介面整合至行動應用程式，而函式呼叫則可擴充模型的功能。

運用 Google 的基礎模型、搜尋專業知識和對話式 AI 技術，打造企業級生成式 AI 應用程式。
在模型中新增函式呼叫功能，即可根據擷取的日曆資訊預訂座位等。

模型自訂和訓練

如果需要執行特殊工作，例如訓練語言模型使用特定術語，可能需要比單純設計提示詞或基礎模型更多的訓練。在這種情況下，您可以使用模型調整功能來提升效能，或訓練自己的模型。

在 Vertex AI 中評估基礎模型和微調生成式 AI 模型的效能。
調整通用基礎模型，可提升模型在特定工作上的效能。
TPU 是 Google 量身打造的 ASIC，用於加速機器學習工作負載，例如訓練 LLM。
中階
參考架構：使用 Vertex AI 和 Vector Search 建構具備 RAG 功能的生成式 AI 應用程式。
中階
參考架構：使用 Vertex AI 和 AlloyDB for PostgreSQL 建構具備 RAG 功能的生成式 AI 應用程式。
中階
參考架構：使用 GKE、Cloud SQL 和開放原始碼工具 (例如 Ray、Hugging Face 和 LangChain)，建構支援 RAG 的生成式 AI 應用程式。

開始建構

LangChain 是生成式 AI 應用程式的開放原始碼框架，可讓您在提示詞中加入情境，並根據模型的應答採取行動。
查看常見用途的程式碼範例，並部署安全、有效率、具備復原能力、高效能且經濟實惠的生成式 AI 應用程式範例。