LAGO (arXiv:2610.19843): Language Agents with Reusable Growing Options, Dekomposisi Hirarkis, dan Eliminasi Konteks Monolitik pada SWE-bench Verified

1. Anatomi Kegagalan Monolithic ReAct Loop pada Long-Horizon Software Engineering

Hampir seluruh kerangka kerja agen kode modern (mulai dari mini-SWE-agent hingga Claude Code CLI) berakar pada paradigma ReAct (Reason + Act): satu model LLM berada di dalam loop tunggal yang melakukan dekomposisi masalah, pencarian kode, navigasi dependensi, modifikasi file, eksekusi test runner, dan verifikasi akhir dalam satu trajektori konteks bersama.

Pada tugas berhorizon pendek (1–5 giliran tool), pendekatan monolitik ini bekerja sangat baik. Namun, ketika berhadapan dengan perbaikan repositori berskala enterprise di mana resolusi masalah menuntut 30–80 giliran interaksi terminal, loop monolitik mengalami tiga kegagalan struktural matematis:

Gambar 1: Perbandingan arsitektur Monolithic ReAct loop vs LAGO. (a) Contoh dekomposisi SWE-bench, (b) Meta-agent yang mendistribusikan tugas ke opsi paralel, dan (c) Siklus hidup opsi: Spesifikasi, Eksekusi, Verifikasi, Admission, dan Tata Kelola Pustaka Dinamis (Sumber: Wu et al., arXiv:2610.19843).

2. Formulasi Matematis: Mengubah Sub-Agen Menjadi Opsi Temporal Terstruktur

Untuk memecahkan belenggu konteks monolitik, LAGO mengadopsi teori Hierarchical Reinforcement Learning (HRL) yang dirintis oleh Sutton, Precup, dan Singh (1999) serta Option-Critic (Bacon et al., 2017). Di dalam formulasi HRL, sebuah opsi (option) adalah kebijakan loop tertutup (closed-loop policy) yang berjalan selama beberapa langkah waktu hingga kondisi terminasi terpenuhi.

LAGO memperluas abstraksi ini ke dunia agen berbasis model bahasa (LLM) dengan mendefinisikan Agent-Option sebagai 4-tuple formal:

Setiap komponen dalam 4-tuple tersebut mengunci kontrak eksekusi yang independen dan terisolasi:

• Spesifikasi Peran ($operatorname{spec}_o$): Kontrak deklaratif yang menetapkan identitas peran, deskripsi sasaran eksplisit, daftar tool yang diizinkan, skema masukan/keluaran tipe-ketat, serta batas eksekusi maksimum (jumlah giliran dan batas token).
• Kebijakan Intra-Opsi ($pi_o$): Kebijakan internal yang dieksekusi oleh LLM bersama loop pemanggilan tool privat. Sub-agen beroperasi secara mandiri di dalam konteks lokal tanpa mengekspos kebisingan interaksi perantara ke meta-agent.
• Kondisi Terminasi ($eta_o$): Fungsi stokastik/deterministik yang menembakkan sinyal berhenti ketika sub-tugas selesai, verifikasi berhasil, kegagalan fatal terdeteksi, atau batas giliran terlampaui:
  a_{t+k} sim pi_o(cdot mid x_{t+k}), quad ext{hingga} quad eta_o(x_{t+ au}) = 1
• Sinyal Verifier ($v_o$): Evaluator independen (berbasis assertion, diff validator, atau suite pengujian lokal) yang menilai apakah hasil keluaran opsi valid dan layak dikembalikan ke meta-agent.

Ruang Keputusan & Ruang Aksi Dinamis Meta-Agent

Meta-agent beroperasi pada tingkat temporal yang lebih tinggi. Pada setiap langkah keputusan waktu $t$, meta-agent mengamati status gabungan $x_t$:

di mana $s_t$ adalah status tugas repositori, $c_t$ adalah konteks aktif jendela prompt, $m_t$ memori persisten eksternal, dan $mathcal{L}_t$ adalah pustaka opsi agen yang terus bertumbuh. Dengan demikian, ruang aksi meta-agent $mathcal{A}_t$ tidak lagi terbatas pada pemanggilan tool primitif $mathcal{A}_{ ext{prim}}$ (seperti grep atau write_file), melainkan mencakup opsi agen tingkat tinggi:

3. Tata Kelola Pustaka Opsi: Spawn, Admission Gating, dan Penalti Kompleksitas

Tantangan terbesar sistem multi-agen dinamis adalah mencegah library bloat: jika setiap tugas baru selalu melahirkan puluhan sub-agen baru yang disimpan sembarangan, pustaka akan mengalami degradasi kualitas dan pencarian rute (routing) akan dipenuhi opsi redundan.

LAGO merancang sistem tata kelola pustaka (library governance) berbasis kontrol matematis:

Gambar 2 & 3: Dinamika operasional LAGO sepanjang 150 tugas SWE-bench Verified. Kiri: Tingkat pemanfaatan ulang kumulatif mencapai 84.4% (276 reuse vs 51 spawn). Kanan: Ukuran pustaka yang diinisialisasi dari 123 opsi benih terkonsolidasi menjadi ~80 opsi lewat deduplikasi dan stabil di 86 opsi (Sumber: Wu et al., arXiv:2610.19843).

4. Evaluasi Empiris Terkontrol: Bukti Superioritas Tanpa Fine-Tuning Model

Salah satu kekuatan terbesar metodologi evaluasi paper LAGO adalah komitmen terhadap Controlled Experimental Protocol. Di komunitas AI, skor SWE-bench sering kali menyesatkan karena satu makalah menggunakan model yang di-fine-tune, jendela konteks 200k, atau puluhan attempt (pass@K), sementara makalah lain menggunakan setup minimal.

Peneliti LAGO membekukan model Qwen3.5-35B-A3B secara permanen tanpa fine-tuning bobot, mengunci sampling temperatur ke $0$, menerapkan evaluasi satu kali percobaan (single attempt, pass@1), dan mengevaluasi seluruh hasil menggunakan Docker evaluator resmi SWE-bench.

Tabel 1: Komparasi Head-to-Head pada 150 Tugas SWE-bench Verified (Identical Backbone & Setup)

Pada evaluasi skala penuh 500 tugas SWE-bench Verified dengan Qwen3.5-35B-A3B beku, LAGO mencapai 58.6% overall resolve rate. Angka ini membuktikan bahwa reorganisasi arsitektural menjadi opsi temporal mampu mendongkrak performa model open-source hingga melampaui scaffold monolitik konvensional tanpa memerlukan biaya pelatihan model ulang yang sangat mahal.

Uji Ablasi Komponen: Dekomposisi vs Ketersediaan Pustaka (50 Task Split)

Untuk mengisolasi kontribusi masing-masing komponen, peneliti menjalankan eksperimen ablasi ketat pada subset 50 tugas:

Temuan di atas mengonfirmasi bahwa pustaka opsi persisten menyumbangkan lonjakan performa terbesar (+12%): ketersediaan sub-agen yang telah terverifikasi memungkinkan eksekutor bekerja dengan pola instruksi yang matang tanpa perlu meraba-raba kembali cara navigasi repositori.

Generalisasi Lintas Domain: BrowseComp (Pencarian Multi-Hop Web)

Keunggulan LAGO tidak terbatas pada perbaikan kode. Pada benchmark BrowseComp (50 pertanyaan bahasa Inggris + 50 bahasa Mandarin yang menuntut pencarian web multi-hop mendalam), integrasi LAGO menggunakan model DeepSeek-V3.2 mendongkrak rata-rata akurasi dari 33.0% menjadi 46.0% (+13.0 poin persentase), dengan lonjakan masif pada kueri bahasa Mandarin dari 44% menjadi 60%!

5. Implementasi Referensi Engine LAGO dalam TypeScript

Berikut adalah implementasi arsitektural reference engine LAGO yang mengimplementasikan 4-tuple opsi, gerbang penerimaan (admission gate) berbasis kesamaan kosinus, dan meta-agent orchestrator untuk sistem produksi:

${LAGO_CODE_SNIPPET}

6. Blueprint Rekayasa Agen AI 2026: Pembelajaran Kritis untuk Industri

Riset LAGO memberikan paradigma baru bagi arsitek perangkat lunak dan engineer AI yang sedang membangun sistem otonom:

1. Tinggalkan Obsesi Menjejalkan Seluruh Tugas ke Satu Prompt Loop: Membiarkan satu agen menjalankan investigasi bug, editing, dan testing dalam satu konteks raksasa adalah resep kepunahan presisi. Isolasi setiap fase ke dalam sub-agen temporal dengan jendela konteks bersih, lalu kembalikan hanya ringkasan terverifikasi ke meta-agent.
2. Bangun Persistent Skill / Option Library, Bukan Sekadar RAG Dokumen: Pengetahuan agen tidak boleh hanya berupa potongan teks statis (RAG). Pengetahuan agen yang paling berharga adalah prosedural: spesifikasi opsi yang memetakan tujuan ke serangkaian tool terkurasi bersama kondisi terminasi dan verifier yang ketat.
3. Pentingnya Regulasi Kompleksitas Pustaka: Jangan biarkan agen membuat artefak baru tanpa batas. Terapkan penalti ukuran pustaka $- ho |mathcal{L}_T|$ dan deduplikasi otomatis berbasis embedding. Pustaka yang ramping (lean) dan terverifikasi 10x lebih bernilai daripada ribuan prompt sampah tanpa pengujian.