本文件提供綜合總覽,說明在 Google Kubernetes Engine (GKE) 設計、建構及操作應用程式的最佳做法。遵循這些建議,有助於您在成本、效能、安全性和可靠性方面達到最佳效果。每個項目都會連結至特定主題的詳細說明文件。
選取最佳做法類別:
| 類別 | 最佳做法 | 摘要 |
|---|---|---|
| AI 和機器學習工作負載 | 提高 AI/機器學習工作負載效率 | 在 GKE 上盡可能提高 AI/機器學習工作的資源效率。 |
| AI 和機器學習工作負載 | 推論工作負載 | 在 GKE 執行機器學習推論工作負載。 |
|
AI 和機器學習工作負載 可靠性和擴充性 |
使用 GPU 自動調度 LLM 推論資源 | 在 GKE 上使用 GPU,自動調度大型語言模型 (LLM) 推論資源。 |
|
AI 和機器學習工作負載 可靠性和擴充性 |
使用 TPU 自動調度 LLM 推論資源 | 在 GKE 上使用 TPU,自動調整大型語言模型 (LLM) 推論資源。 |
| AI 和機器學習工作負載 | 使用 GPU 最佳化 LLM 推論 | 在 GKE 使用 GPU 最佳化 LLM 推論。 |
| AI 和機器學習工作負載 | 批次處理平台 | 在 GKE 上建構及操作批次處理平台。 |
| 成本最佳化 | 設計及設定叢集,以達到最佳成本效益 | 實作高價值設定和策略,操作資源效率高的叢集。 |
| 資料庫 | 資料庫選項 | 選擇及管理 GKE 應用程式的資料庫解決方案。 |
| 網路 | 網路 | 設定及管理 GKE 的網路連線。 |
| 網路 | 網路觀測能力 | 為 GKE 導入網路觀測能力、快訊和成本最佳化功能。 |
| 作業 | 升級叢集 | 瞭解如何順利可靠地升級 GKE 叢集。 |
| 作業 | GKE 的 CI/CD | 為 GKE 應用程式實作持續整合和持續推送軟體更新管道。 |
| 可靠性和擴充性 | 擴充性 | 瞭解在 GKE 擴充應用程式的原則和技術。 |
| 可靠性和擴充性 | 考量擴充性 | 瞭解如何設計可擴充的 GKE 環境。 |
| 可靠性和擴充性 | 規劃大型 GKE 叢集 | 瞭解如何架構及管理大規模 GKE 叢集。 |
| 可靠性和擴充性 | ComputeClasses 的最佳做法 | 提升 ComputeClass 可靠性、擴充性、安全性和效能的最佳做法。 |
| 可靠性和擴充性 | 設計容量彈性和效率 | 瞭解硬體多元化、多系列備援和區域排程策略,提高 GKE 的資源可用性。 |
| 可靠性和擴充性 | 執行 HPC 工作負載的最佳做法 | 在 GKE 執行高效能運算 (HPC) 工作負載的最佳做法,可盡可能提高效益。 |
| 可靠性和擴充性 | 規劃大型工作負載 | 部署及管理需要大量資源的應用程式。 |
| 安全性 | 強化 GKE 叢集 | 強化 GKE 叢集的 GKE 安全防護機制。 |
| 安全性 | 規劃 RBAC 政策 | 定義角色式存取控管機制,管理權限。 |
| 安全性 | 企業多用戶群架構 | 在單一 GKE 叢集上安全地執行多個租戶。 |
| 安全性 | 在 GKE 執行 AI 工作負載的安全防護最佳做法 | 提升基礎架構、模型和 Kubernetes 應用程式的安全性,這些都是 AI 部署作業的組成要素。 |