同時実行と並列処理

concurrency パラメータは、同時に生成および評価されるプログラムの数を制御します。このパラメータは、ランタイム ハイパーパラメータの中で最も影響力が大きいものです。

  • n = 1 （シーケンシャル チェーン）: 1 つのプログラムを生成して評価を待ってから、次のプログラムを生成します。各生成では前の結果が確認され、ローカル最適にズームインする増分改善のチェーンが作成されます。このアプローチでは、スループットは最も遅くなりますが、最も集中的な活用が可能です。特定の地域に意図的に収束させるには、このモードを使用します。

  • n = 3-12（スイート スポット）: これは、探索と活用のバランスを取るために、 実際に最も広く使用されている範囲です。複数のプログラムが同時に実行されるため、一部の生成では最新の結果が確認されず、自然な多様性が生まれます。進化型データベースは、健全な母集団のダイナミクスに十分なスループットを維持します。

  • n = 13-30（探索重視）: 多くのプログラムが並行して実行されます。 ほとんどの生成では、互いの結果が確認されません。このモードは、深い活用よりも幅広い探索が重要な、多くのローカル最適を持つ高度な非凸問題に役立ちます。

  • n = 23-30（スロットルあり、避ける）: 30 個を超える並列ジェネレータを使用すると、LLM バックエンドがスロットルされます。リクエストがキューに登録され、生成ごとのレイテンシが増加します。専用の割り当てがない限り、30 未満にしてください。

推奨事項

次の推奨事項は、AlphaEvolve の同時実行と並列処理を構成する際の出発点として使用してください。

問題のタイプ 同時実行 根拠
よく理解されており、既知のアプローチを調整している 3 ～ 5 集中的な活用
一般的な最適化、不明な状況 8 ～ 12 探索と活用のバランス
高度な非凸、多くのローカル最適 15 ～ 25 幅広い探索
意図的なローカル最適のズームイン 1 シーケンシャル チェーン

concurrency=10 から始めて、次の指標に基づいて調整します。

  • スコアの停滞: 同時実行を増やして、ローカル最適から抜け出します。

  • 評価の失敗が多い: 同時実行を減らして、無駄なコンピューティングを削減します。

  • 評価が遅い（5 分以上）: 同時実行を増やすと、評価パイプラインがビジー状態になります。

  • 評価が速い（10 秒未満）: 同時実行を減らすと、後続の生成で互いの結果を直接利用できるようになります。