用於推論和說明的預先建構容器

Vertex AI 提供 Docker 容器映像檔，讓您做為預建容器來執行，以便從訓練好的模型構件提供推論和說明。這些容器是依據機器學習 (ML) 架構和架構版本來分類，其中提供 HTTP 推論伺服器，您只要進行最少的設定，就能使用這些伺服器提供推論結果。在許多情況下，使用預先建構的容器會比建立推論專用的自訂容器來得簡單。

本文列出用於推論和說明的預建容器，並說明如何搭配使用這些容器與模型構件。模型構件可透過 Vertex AI 的自訂訓練功能建立，也可以在 Vertex AI 以外的平台建立。

支援政策和時間表

Vertex AI 會根據排程支援各個架構版本，盡量減少安全漏洞。請參閱「支援政策時間表」，瞭解終止支援和終止供應日期帶來的影響。

可用的容器映像檔

下列每個容器映像檔都提供多個 Artifact Registry 存放區，這些存放區會將資料儲存在不同位置。執行自訂訓練時，您可以使用任何圖片的 URI，每個 URI 都提供相同的容器映像檔。如果您使用 Google Cloud 控制台建立 Model 資源， Google Cloud 控制台會選取最符合您使用 Vertex AI 的位置的 URI，以減少延遲。

TensorFlow

可用的 TensorFlow 容器映像檔 (按一下即可展開)

ML 架構版本 支援的加速器 (和 CUDA 版本，如適用) 修補程式和支援服務終止日期 供應期限 支援的圖片
2.15 僅限 CPU 2026 年 7 月 14 日 2027 年 1 月 14 日
  • us-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-15:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-15:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-15:latest
2.15 GPU (CUDA 12.x) 2026 年 7 月 14 日 2027 年 1 月 14 日
  • us-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-15:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-15:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-15:latest
2.14 僅限 CPU 2026 年 1 月 14 日 2027 年 1 月 14 日
  • us-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-14:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-14:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-14:latest
2.14 GPU (CUDA 12.x) 2026 年 1 月 14 日 2027 年 1 月 14 日
  • us-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-14:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-14:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-14:latest
2.13 僅限 CPU Nov 28, 2024 2025 年 11 月 28 日
2.13 GPU (CUDA 12.x) Nov 28, 2024 2025 年 11 月 28 日
2.12 僅限 CPU 2024 年 6 月 30 日 2025 年 6 月 30 日
2.12 GPU (CUDA 11.x) 2024 年 6 月 30 日 2025 年 6 月 30 日
2.11 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
2.11 GPU (CUDA 11.x) 2023 年 11 月 15 日 2024 年 11 月 15 日
2.10 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
2.10 GPU (CUDA 11.x) 2023 年 11 月 15 日 2024 年 11 月 15 日
2.9 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
2.9 GPU (CUDA 11.x) 2023 年 11 月 15 日 2024 年 11 月 15 日
2.8 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
2.8 GPU (CUDA 11.x) 2023 年 11 月 15 日 2024 年 11 月 15 日
2.7 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
2.7 GPU (CUDA 11.x) 2023 年 11 月 15 日 2024 年 11 月 15 日
2.6 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
2.6 GPU (CUDA 11.x) 2023 年 11 月 15 日 2024 年 11 月 15 日
2.5 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
2.5 GPU (CUDA 11.x) 2023 年 11 月 15 日 2024 年 11 月 15 日
2.4 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
2.4 GPU (CUDA 11.x) 2023 年 11 月 15 日 2024 年 11 月 15 日
2.3 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
2.3 GPU (CUDA 11.x) 2023 年 11 月 15 日 2024 年 11 月 15 日
2.2 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
2.2 GPU (CUDA 11.x) 2023 年 11 月 15 日 2024 年 11 月 15 日
2.1 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
2.1 GPU (CUDA 11.x) 2023 年 11 月 15 日 2024 年 11 月 15 日
1.15 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
1.15 GPU (CUDA 11.x) 2023 年 11 月 15 日 2024 年 11 月 15 日

最佳化 TensorFlow 執行階段

下列容器映像檔使用最佳化的 TensorFlow 執行階段。詳情請參閱「使用最佳化的 TensorFlow 執行階段」。

可用的最佳化 TensorFlow 執行階段容器映像檔 (按一下即可展開)

ML 架構版本 支援的加速器 (和 CUDA 版本，如適用) 修補程式和支援服務終止日期 供應期限 支援的圖片
每晚 僅限 CPU 不適用 不適用
  • us-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-cpu.nightly:latest
  • europe-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-cpu.nightly:latest
  • asia-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-cpu.nightly:latest
每晚 GPU (CUDA 12.x) 不適用 不適用
  • us-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-gpu.nightly:latest
  • europe-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-gpu.nightly:latest
  • asia-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-gpu.nightly:latest
每晚 Cloud TPU 不適用 不適用
  • us-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-tpu.nightly:latest
  • europe-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-tpu.nightly:latest
  • asia-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-tpu.nightly:latest
2.17 僅限 CPU 2024 年 7 月 11 日 2025 年 7 月 11 日
  • us-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-cpu.2-17:latest
  • europe-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-cpu.2-17:latest
  • asia-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-cpu.2-17:latest
2.17 GPU (CUDA 12.x) 2024 年 7 月 11 日 2025 年 7 月 11 日
  • us-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-gpu.2-17:latest
  • europe-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-gpu.2-17:latest
  • asia-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-gpu.2-17:latest
2.17 Cloud TPU 2024 年 7 月 11 日 2025 年 7 月 11 日
  • us-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-tpu.2-17:latest
  • europe-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-tpu.2-17:latest
  • asia-docker.pkg.dev/vertex-ai-restricted/prediction/tf_opt-tpu.2-17:latest
2.16 僅限 CPU 2024 年 4 月 26 日 2025 年 4 月 26 日
2.16 GPU (CUDA 12.x) 2024 年 4 月 26 日 2025 年 4 月 26 日
2.16 Cloud TPU 2024 年 4 月 26 日 2025 年 4 月 26 日
2.15 僅限 CPU 2024 年 8 月 15 日 2025 年 8 月 15 日
2.15 GPU (CUDA 12.x) 2024 年 8 月 15 日 2025 年 8 月 15 日
2.15 Cloud TPU 2024 年 8 月 15 日 2025 年 8 月 15 日
2.14 僅限 CPU 2024 年 8 月 15 日 2025 年 8 月 15 日
2.14 GPU (CUDA 12.x) 2024 年 8 月 15 日 2025 年 8 月 15 日
2.13 僅限 CPU 2024 年 8 月 15 日 2025 年 8 月 15 日
2.13 GPU (CUDA 11.x) 2024 年 8 月 15 日 2025 年 8 月 15 日
2.12 僅限 CPU 2024 年 5 月 15 日 2025 年 5 月 15 日
2.12 GPU (CUDA 11.x) 2024 年 5 月 15 日 2025 年 5 月 15 日
2.11 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
2.11 GPU (CUDA 11.x) 2023 年 11 月 15 日 2024 年 11 月 15 日
2.10 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
2.10 GPU (CUDA 11.x) 2023 年 11 月 15 日 2024 年 11 月 15 日
2.9 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
2.9 GPU (CUDA 11.x) 2023 年 11 月 15 日 2024 年 11 月 15 日
2.8 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
2.8 GPU (CUDA 11.x) 2023 年 11 月 15 日 2024 年 11 月 15 日

PyTorch

可用的 PyTorch 容器映像檔 (按一下即可展開)

ML 架構版本 支援的加速器 (和 CUDA 版本，如適用) 修補程式和支援服務終止日期 供應期限 支援的圖片
2.4 (Python 3.9) 僅限 CPU 2026 年 7 月 14 日 2027 年 1 月 14 日
  • us-docker.pkg.dev/vertex-ai/prediction/pytorch-cpu.2-4:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/pytorch-cpu.2-4:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/pytorch-cpu.2-4:latest
2.4 (Python 3.9) GPU (CUDA 12.x) 2026 年 7 月 14 日 2027 年 1 月 14 日
  • us-docker.pkg.dev/vertex-ai/prediction/pytorch-gpu.2-4:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/pytorch-gpu.2-4:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/pytorch-gpu.2-4:latest
2.4 (Python 3.9) Cloud TPU 2026 年 7 月 14 日 2027 年 1 月 14 日
  • us-docker.pkg.dev/vertex-ai/prediction/pytorch-tpu.2-4:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/pytorch-tpu.2-4:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/pytorch-tpu.2-4:latest
2.3 (Python 3.9) 僅限 CPU 2026 年 1 月 14 日 2027 年 1 月 14 日
  • us-docker.pkg.dev/vertex-ai/prediction/pytorch-cpu.2-3:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/pytorch-cpu.2-3:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/pytorch-cpu.2-3:latest
2.3 (Python 3.9) GPU (CUDA 12.x) 2026 年 1 月 14 日 2027 年 1 月 14 日
  • us-docker.pkg.dev/vertex-ai/prediction/pytorch-gpu.2-3:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/pytorch-gpu.2-3:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/pytorch-gpu.2-3:latest
2.3 (Python 3.9) Cloud TPU 2026 年 1 月 14 日 2027 年 1 月 14 日
  • us-docker.pkg.dev/vertex-ai/prediction/pytorch-tpu.2-3:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/pytorch-tpu.2-3:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/pytorch-tpu.2-3:latest
2.2 (Python 3.9) 僅限 CPU 2026 年 1 月 14 日 2027 年 1 月 14 日
  • us-docker.pkg.dev/vertex-ai/prediction/pytorch-cpu.2-2:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/pytorch-cpu.2-2:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/pytorch-cpu.2-2:latest
2.2 (Python 3.9) GPU (CUDA 12.x) 2026 年 1 月 14 日 2027 年 1 月 14 日
  • us-docker.pkg.dev/vertex-ai/prediction/pytorch-gpu.2-2:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/pytorch-gpu.2-2:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/pytorch-gpu.2-2:latest
2.2 (Python 3.9) Cloud TPU 2026 年 1 月 14 日 2027 年 1 月 14 日
  • us-docker.pkg.dev/vertex-ai/prediction/pytorch-tpu.2-2:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/pytorch-tpu.2-2:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/pytorch-tpu.2-2:latest
2.1 (Python 3.9) 僅限 CPU 2024 年 12 月 1 日 2025 年 12 月 1 日
2.1 (Python 3.9) GPU (CUDA 12.x) 2024 年 12 月 1 日 2025 年 12 月 1 日
2.1 (Python 3.9) Cloud TPU 2024 年 12 月 1 日 2025 年 12 月 1 日
2.0 (Python 3.9) 僅限 CPU 2024 年 7 月 27 日 2025 年 7 月 27 日
2.0 (Python 3.9) GPU (CUDA 11.x) 2024 年 7 月 27 日 2025 年 7 月 27 日
1.13 (Python 3.8) 僅限 CPU 2024 年 5 月 15 日 2025 年 5 月 15 日
1.13 (Python 3.8) GPU (CUDA 11.x) 2024 年 5 月 15 日 2025 年 5 月 15 日
1.12 僅限 CPU 2024 年 5 月 15 日 2025 年 5 月 15 日
1.12 GPU (CUDA 11.x) 2024 年 5 月 15 日 2025 年 5 月 15 日
1.11 僅限 CPU 2024 年 5 月 15 日 2025 年 5 月 15 日
1.11 GPU (CUDA 11.x) 2024 年 5 月 15 日 2025 年 5 月 15 日

scikit-learn

可用的 scikit-learn 容器映像檔 (按一下即可展開)

ML 架構版本 支援的加速器 (和 CUDA 版本，如適用) 修補程式和支援服務終止日期 供應期限 支援的圖片
1.6 (Python 3.10) 僅限 CPU 2026 年 10 月 14 日 Oct 14, 2027
  • us-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.1-6:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.1-6:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.1-6:latest
1.5 (Python 3.10) 僅限 CPU 2026 年 7 月 14 日 2027 年 1 月 14 日
  • us-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.1-5:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.1-5:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.1-5:latest
1.4 (Python 3.10) 僅限 CPU 2026 年 1 月 14 日 2027 年 1 月 14 日
  • us-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.1-4:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.1-4:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.1-4:latest
1.3 (Python 3.10) 僅限 CPU Nov 28, 2024 2025 年 11 月 28 日
1.2 (Python 3.10) 僅限 CPU 2024 年 6 月 30 日 2025 年 6 月 30 日
1.0 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
0.24 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
0.23 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
0.22 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
0.20 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日

XGBoost

可用的 XGBoost 容器映像檔 (按一下即可展開)

ML 架構版本 支援的加速器 (和 CUDA 版本，如適用) 修補程式和支援服務終止日期 供應期限 支援的圖片
2.1 (Python 3.10) 僅限 CPU 2026 年 7 月 14 日 2027 年 1 月 14 日
  • us-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.2-1:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.2-1:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.2-1:latest
2.0 (Python 3.10) 僅限 CPU 2026 年 1 月 14 日 2027 年 1 月 14 日
  • us-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.2-0:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.2-0:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.2-0:latest
1.7 (Python 3.10) 僅限 CPU 2024 年 6 月 30 日 2025 年 12 月 30 日
1.6 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
1.5 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
1.4 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
1.3 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
1.2 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
1.1 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
0.90 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日
0.82 僅限 CPU 2023 年 11 月 15 日 2024 年 11 月 15 日

使用預先建立的容器

建立自訂 TrainingPipeline 資源 (上傳 Model 時) 或匯入模型構件 (做為 Model 時)，可以指定用於推論的預先建構容器。

如要使用其中一個預先建構的容器，您必須將模型儲存為一或多個模型構件，且這些構件須符合預先建構容器的規定。詳情請參閱「匯出模型構件以進行推論」。

下列筆記本示範如何使用預先建構的容器來提供推論服務。

您要執行什麼操作？ 筆記本
使用預先建構的容器訓練及提供 TensorFlow 模型 自訂訓練和線上推論
使用預先建構的容器提供 PyTorch 模型 在 Vertex AI 中使用預建容器提供 PyTorch 圖片模型
使用預先建構的容器提供 Stable Diffusion 模型 在 Vertex AI 上部署及代管 Stable Diffusion 模型

筆記本

後續步驟