使用 Cloud Run 代管 AI 代理程式的主要優點,在於 Cloud Run 會使用安全執行環境隔離程式碼。在 Cloud Run 中建構程式碼沙箱工具,並在容器中執行,即可使用您選擇的任何程式設計語言執行應用程式程式碼。
安全的雙層沙箱
Cloud Run 會使用雙層沙箱隔離所有執行個體,這兩層沙箱分別是相當於個別 VM 的硬體支援層 (x86 虛擬化),以及軟體核心層。詳情請參閱「安全性設計總覽」。
部署程式碼時,Cloud Run 會將程式碼限制在沙箱環境中。這種隔離機制可讓您以更高的安全性執行不受信任的程式碼,例如大型語言模型 (LLM) 生成的程式碼。執行不受信任的程式碼時,請限制 Cloud Run 服務的 IAM 權限,並使用 VPC 防火牆規則,防止程式碼呼叫網際網路。
程式碼執行模式
Cloud Run 提供下列程式碼執行模式:
非同步執行:為避免中斷主要應用程式流程,請使用 Cloud Run 工作,以非同步方式執行長時間執行或背景工作。舉例來說,您可以執行 Cloud Run 工作,將程式碼上傳至 Cloud Storage、安裝必要依附元件,然後處理結果並儲存回 Cloud Storage。
同步執行:如需立即回應的程序,請使用 Cloud Run 服務。Cloud Run 服務的逾時時間上限為一小時,因此程式碼有充足的時間執行。如要限制執行個體一次處理一個要求,請將並行值設為
1
。您也可以擷取要執行的程式碼 (做為要求主體的一部分)、在回應中傳回結果,然後終止容器例項。下圖顯示兩種程式碼執行模式:
圖 1:Cloud Run 中的程式碼執行模式
後續步驟
- 請參閱「50% faster merge and 50% fewer bugs: How CodeRabbit built its AI code review agent with Cloud Run」。