Konkurensi dan paralelisme

Parameter concurrency mengontrol jumlah program yang dibuat dan dievaluasi secara bersamaan. Parameter ini adalah hyperparameter runtime yang paling berdampak.

  • n = 1 (Rantai berurutan): Buat satu program, tunggu evaluasi, lalu buat program berikutnya. Setiap generasi melihat hasil sebelumnya, sehingga menciptakan serangkaian peningkatan inkremental yang memperbesar optimum lokal. Pendekatan ini menghasilkan throughput paling lambat, tetapi eksploitasi yang paling terfokus. Gunakan mode ini untuk secara sengaja menyatukan wilayah tertentu.

  • n = 3-12 (Titik optimal): Ini adalah rentang yang paling banyak digunakan dalam praktiknya, yang menyeimbangkan eksplorasi dan eksploitasi. Beberapa program berjalan secara bersamaan, sehingga beberapa generasi tidak melihat hasil terbaru, yang memperkenalkan keberagaman alami. Database evolusioner mempertahankan throughput yang cukup untuk dinamika populasi yang sehat.

  • n = 13-30 (Eksplorasi tinggi): Banyak program berjalan secara paralel. Sebagian besar generasi tidak melihat hasil generasi lainnya. Mode ini berguna untuk masalah yang sangat non-konveks dengan banyak optima lokal yang memerlukan eksplorasi luas daripada eksploitasi mendalam.

  • n = 23-30 (Dibatasi; hindari): Melebihi 30 generator paralel akan membatasi backend LLM. Permintaan diantrekan, sehingga meningkatkan latensi per generasi. Kecuali jika Anda memiliki kuota khusus, tetaplah di bawah 30.

Rekomendasi

Rekomendasi berikut berfungsi sebagai titik awal untuk mengonfigurasi konkurensi dan paralelisme untuk AlphaEvolve.

Jenis Masalah Serentak Alasan
Dipahami dengan baik, pendekatan penyesuaian yang diketahui 3–5 Eksploitasi terfokus
Pengoptimalan umum, lanskap tidak diketahui 8–12 Eksplorasi/pemanfaatan yang seimbang
Sangat non-cembung, banyak optimum lokal 15–25 Eksplorasi luas
Zoom-in optimum lokal yang disengaja 1 Rantai berurutan

Mulai dengan concurrency=10 dan sesuaikan berdasarkan indikator berikut:

  • Dataran skor: Tingkatkan konkurensi untuk menghindari optima lokal.

  • Banyak evaluasi yang gagal: Kurangi serentak untuk mengurangi komputasi yang terbuang.

  • Evaluasi lambat (lebih dari 5 menit): Konkurensi yang lebih tinggi membuat pipeline evaluasi sibuk.

  • Evaluasi cepat (kurang dari 10 detik): Konkurensi yang lebih rendah memungkinkan generasi yang berurutan untuk membangun langsung hasil satu sama lain.