防範獎勵遭盜用

獎勵駭客行為會帶來多項風險。請參閱下文,瞭解風險和相應的緩解策略。

風險 1:

貪婪獎勵駭客攻擊。如果 Obj = w1*S1 + w2*S2 + w3*S3,AlphaEvolve 可能會發現 S2 能夠提高,並完全專注於 S2,忽略 S1 和 S3。

緩解措施:

降低子分數的權重。可能需要試跑 2 到 3 次,才能校正權重。初步基準模擬有助於瞭解幾種評分結果。

風險 2:

忽略限制處分。如果軟限制是懲罰 (Obj = Score - w*Penalty),AlphaEvolve 可能會發現忽略限制 會產生更高的 Obj。

緩解措施:

大幅提高懲罰權重。如果問題持續發生,請在問題說明中加入明確指示,例如「無論分數高低,違反限制 X 的解決方案皆無效」。

風險 3:

濫用評估函式。AlphaEvolve 可能會找到導致評估器傳回不自然高分的輸入內容 (浮點邊緣案例、測試資料外洩)。

緩解措施:

使用固定隨機種子進行確定性評估。實驗結束後,使用保留資料驗證勝出者。

為防止獎勵遭駭,請實作下列一般技術:

  • 使用 AST 檢查禁止的原語 (sys、os、inspect、eval、exec、getattr、setattr),如果找到,則傳回 None。

  • 確認 EVOLVE-BLOCK 以外的程式碼未變更 (文字差異或 AST)。

  • 使用相同輸入內容執行演化函式兩次,並確認輸出內容相同 (可偵測隨機性駭客攻擊)。

  • 請檢查評估時間。如果幾微秒內就完成,可能是硬式編碼的答案。

  • 將評分邏輯放在 LLM 看不到的獨立檔案中。