GKE 最佳做法

本文件提供綜合總覽,說明在 Google Kubernetes Engine (GKE) 設計、建構及操作應用程式的最佳做法。遵循這些建議,有助於您在成本、效能、安全性和可靠性方面達到最佳效果。每個項目都會連結至特定主題的詳細說明文件。

選取最佳做法類別:

類別 最佳做法 摘要
AI 和機器學習工作負載 提高 AI/機器學習工作負載效率 在 GKE 上盡可能提高 AI/機器學習工作的資源效率。
AI 和機器學習工作負載 推論工作負載 在 GKE 執行機器學習推論工作負載。

AI 和機器學習工作負載

可靠性和擴充性

使用 GPU 自動調度 LLM 推論資源 在 GKE 上使用 GPU,自動調度大型語言模型 (LLM) 推論資源。

AI 和機器學習工作負載

可靠性和擴充性

使用 TPU 自動調度 LLM 推論資源 在 GKE 上使用 TPU,自動調整大型語言模型 (LLM) 推論資源。
AI 和機器學習工作負載 使用 GPU 最佳化 LLM 推論 在 GKE 使用 GPU 最佳化 LLM 推論。
AI 和機器學習工作負載 批次處理平台 在 GKE 上建構及操作批次處理平台。
成本最佳化 設計及設定叢集,以達到最佳成本效益 實作高價值設定和策略,操作資源效率高的叢集。
資料庫 資料庫選項 選擇及管理 GKE 應用程式的資料庫解決方案。
網路 網路 設定及管理 GKE 的網路連線。
網路 網路觀測能力 為 GKE 導入網路觀測能力、快訊和成本最佳化功能。
作業 升級叢集 瞭解如何順利可靠地升級 GKE 叢集。
作業 GKE 的 CI/CD 為 GKE 應用程式實作持續整合和持續推送軟體更新管道。
可靠性和擴充性 擴充性 瞭解在 GKE 擴充應用程式的原則和技術。
可靠性和擴充性 考量擴充性 瞭解如何設計可擴充的 GKE 環境。
可靠性和擴充性 規劃大型 GKE 叢集 瞭解如何架構及管理大規模 GKE 叢集。
可靠性和擴充性 ComputeClasses 的最佳做法 提升 ComputeClass 可靠性、擴充性、安全性和效能的最佳做法。
可靠性和擴充性 設計容量彈性和效率 瞭解硬體多元化、多系列備援和區域排程策略,提高 GKE 的資源可用性。
可靠性和擴充性 執行 HPC 工作負載的最佳做法 在 GKE 執行高效能運算 (HPC) 工作負載的最佳做法,可盡可能提高效益。
可靠性和擴充性 規劃大型工作負載 部署及管理需要大量資源的應用程式。
安全性 強化 GKE 叢集 強化 GKE 叢集的 GKE 安全防護機制。
安全性 規劃 RBAC 政策 定義角色式存取控管機制,管理權限。
安全性 企業多用戶群架構 在單一 GKE 叢集上安全地執行多個租戶。
安全性 在 GKE 執行 AI 工作負載的安全防護最佳做法 提升基礎架構、模型和 Kubernetes 應用程式的安全性,這些都是 AI 部署作業的組成要素。