Vertex AI 持續性資源是長期執行的叢集,您可以建立這類叢集來執行 Vertex AI 無伺服器訓練工作。訓練工作完成後,只要您未刪除持續性資源,該資源就能繼續執行其他訓練工作。您可以使用永久資源確保運算資源可用性,並縮短工作啟動時間。如要建立運算資源,就會需要花時間啟動工作。永久資源支援無伺服器訓練工作支援的所有 VM 和 GPU。本頁說明何時該使用持續性資源,並提供帳單和配額相關資訊。
使用持續性資源的時機
建議您在下列情況使用持續性資源:
- 您想確保重要機器學習工作負載或尖峰季節的容量可用性。與自訂工作不同,訓練服務會在工作完成後釋出資源,但永久資源會持續可用,直到刪除為止。
- 您多次提交相同工作,且在相同持續性資源上執行工作,可從資料和圖片快取獲益。
- 您執行許多短期訓練工作,但實際訓練時間比工作啟動時間短。
如要進一步瞭解何時及為何使用持續性資源,請參閱「Bringing capacity assurance and faster startup times to Vertex AI Training」網誌文章。
帳單明細
無論永久資源上是否正在執行工作,只要永久資源處於執行狀態,系統就會收取整個期間的費用。系統會以核心時數向您收取持續性資源集區中每個執行個體的費用。在永久資源上執行的所有工作都不會另外收費。系統只會針對持續性資源向您收費。
如果您為永久資源設定自動調整資源配置,則只需支付佈建執行個體的費用。舉例來說,如果 min-replica-count 設為 4,系統一律會佈建 4 個執行個體,而這也是您需要支付的最低費用。工作負載增加時,資源集區可能會擴充至 6,以因應需求。然後,系統會針對6佈建的執行個體計費,直到資源集區再次縮減為止。為避免支付閒置節點的費用,請為永久資源啟用自動調度資源功能,或在不需要時刪除資源。如要進一步瞭解定價,請參閱 Vertex AI 定價頁面的「自訂訓練模型」一節。
配額
永久資源會使用訓練配額,因此請確認您有足夠的配額可建立永久資源。如要進一步瞭解配額,請參閱「訓練配額與限制」。