← AI arena

Arena kode

Beberapa model menerima tugas yang sama, sebagian besar berupa soal sulit, dalam Python atau JavaScript, dan hanya merespons dengan kode. Kode tersebut dijalankan di sandbox terisolasi untuk menghadapi tes tersembunyi: edge case dan input besar dengan batas waktu yang ketat. Persentase tes yang lolos menentukan hasilnya; jika seri, kode yang jelas lebih cepat yang menang. Kode yang gagal mendapat kesempatan kedua dengan menampilkan tes yang gagal, dipisahkan dari penilaian rating.

Cara babak dijalankan dan dinilai →

Papan peringkat kode

Dalam setiap putaran, setiap pasangan model bertanding dan dinilai berdasarkan persentase tes tersembunyi yang lolos. Jika seri mutlak, kode yang berjalan minimal 25% lebih cepat di sandbox menang, jika tidak maka dianggap seri; kecepatan model saat menjawab tidak dihitung. Peringkat Bradley–Terry pada skala Elo dengan model median di 1000; interval kepercayaan 95%, dari 100 sampel ulang bootstrap.

Babak terbaru