EvoUndo: Arsitektur Recoverability-Constrained Self-Evolution & State Grounding pada Autonomous AI Agent Harness 2026

Dalam lanskap rekayasa sistem autonomous AI agents modern 2026, paradigma arsitektur telah melompat jauh melampaui agen statis berpagar prompt. Agent tingkat lanjut masa kini memiliki kemampuan untuk melakukan runtime self-evolution: secara mandiri memodifikasi instruksi sistem, memperbarui konfigurasi tool, menyusun middleware baru, hingga mengubah alur kerja pada execution harness mereka demi menuntaskan tugas-tugas rekayasa yang sangat kompleks.

1. Bahaya Tersembunyi di Balik Runtime Self-Evolution pada AI Agents

Ketika autonomous agent beroperasi dalam lingkungan berhorizon panjang (long-horizon workflows), modifikasi dinamis terhadap prompt internal, environment variables, maupun handler eksekusi CLI seringkali menghasilkan efek samping persisten (side-effects). Agent mungkin sukses menyelesaikan task lokal pada langkah ke-5, namun perubahan konfigurasi tersebut meninggalkan "racun" dependensi atau state harness yang tidak dapat dibatalkan (non-recoverable) pada langkah ke-15.

Dalam eksperimen empiris terhadap 600 task one-shot self-evolution yang belum pernah dilihat sebelumnya (unseen tasks), para peneliti menemukan 197 mutasi yang tampak meningkatkan performa lokal namun gagal total dalam verifikasi pemulihan (recoverability verification).

• Blind Spot Prompt-Based Repair: Strategi mitigasi konvensional yang meminta agent "memperbaiki atau membatalkan perubahannya sendiri" melalui prompt iteratif menghasilkan rasio pemulihan 0% (0/197). LLM tidak memiliki visibilitas ground-truth terhadap alamat memori dan mutasi file sistem yang telah dirusak.
• State Address Drift: Agent cenderung melakukan modifikasi berbasis deskripsi semantik bebas, bukan pada alamat lokasi (exact state address) yang terisolasi, sehingga menghasilkan efek domino ke subsistem lain.
• Recovery Language Deficiency: Bahasa pemulihan dasar ($L_0$) hanya mencakup rollback primitif (seperti git checkout lokal) yang tidak mampu membatalkan mutasi middleware runtime, daemon proses, atau state memory volatil.

Gambar 1: Arsitektur Top-Level Counterfactual State Graphs & Deterministic Rollback Calculus pada Agent Harness FIGURE 01

2. Arsitektur EvoUndo: State Grounding, Witness Semantics & Extended Calculus

Framework EvoUndo merombak total cara agent harness memproses mutasi runtime. Alih-alih mempercayakan integritas pada penalaran semantik agent, EvoUndo menerapkan 4 pilar arsitektur formal:

3. Implementasi Kode: Supervisor Rollback Deterministik

Berikut adalah implementasi referensi TypeScript dari EvoUndo Recovery Supervisor yang memadukan State-Address Grounding dan penanganan operasi pemulihan stratum $S_1$:

// EvoUndo Deterministic Recovery Calculus & State-Address Grounding Harness
export interface MutationWitness {
  mutationId: string;
  targetAddress: string; // Exact AST / State Slot Address (misal: 'harness.tools[bash].timeout')
  preStateHash: string;
  postStateHash: string;
  recoveryOp: 'INVERSE_PATCH' | 'STATE_SLOT_RELOAD' | 'CALCULUS_S1_UNROLL';
  inversePayload: Record;
}

export class EvoUndoRecoverySupervisor {
  private witnessLog: MutationWitness[] = [];

  // Mencegah Irreversible State Corruption dengan State-Address Grounding
  public async verifyAndApplyMutation(
    targetAddress: string,
    mutationFn: () => Promise,
    currentHarnessState: Record
  ): Promise<{ success: boolean; witnessId?: string; error?: string }> {
    const preHash = this.computeStateHash(currentHarnessState, targetAddress);
    const witnessId = `witness-${Date.now()}`;

    try {
      // 1. Eksekusi mutasi runtime dalam sandbox berpagar
      await mutationFn();
      const postHash = this.computeStateHash(currentHarnessState, targetAddress);

      // 2. Synthesize Deterministic Recovery Calculus (L0 -> S1 Stratum)
      const witness: MutationWitness = {
        mutationId: witnessId,
        targetAddress,
        preStateHash: preHash,
        postStateHash: postHash,
        recoveryOp: 'CALCULUS_S1_UNROLL',
        inversePayload: { previousValue: currentHarnessState[targetAddress] },
      };

      this.witnessLog.push(witness);
      return { success: true, witnessId };
    } catch (err) {
      // 3. Rollback deterministik jika verifikasi recoverability gagal
      await this.rollbackCounterfactual(witnessId, currentHarnessState);
      return { success: false, error: (err as Error).message };
    }
  }

  private computeStateHash(state: Record, address: string): string {
    return Buffer.from(JSON.stringify(state[address] || '')).toString('base64');
  }

  public async rollbackCounterfactual(witnessId: string, state: Record): Promise {
    const witness = this.witnessLog.find((w) => w.mutationId === witnessId);
    if (witness && witness.recoveryOp === 'CALCULUS_S1_UNROLL') {
      state[witness.targetAddress] = witness.inversePayload.previousValue;
    }
  }
}

4. Benchmark Empiris & Evaluasi Model Backbone

Riset EvoUndo melakukan benchmark komparatif komprehensif pada berbagai backbone model frontier (termasuk gpt-oss-120b dan Qwen3.8-27B) di bawah skema intervensi 2x2 (Grounding vs Expressivity):

5. Implikasi Praktis bagi Arsitektur Agentic 2026

Bagi para AI systems architects dan developer yang membangun platform autonomous agent (seperti Hermes Agent, OpenCode, atau Claude Code harnesses), temuan dari EvoUndo membawa 3 prinsip rekayasa mendasar:

1. Tinggalkan Perbaikan Berbasis Prompt untuk State Harness: Jangan mengandalkan prompting "coba batalkan perubahan Anda" ketika terjadi error runtime. Bangun sistem deterministic state-machine tracking pada level harness.
2. Terapkan Isolasi Mutasi Berbasis Witness: Setiap kali agen menambahkan skill, memodifikasi prompt template, atau menginstal package, cetak cryptographic witness dari state sebelumnya beserta perintah pembatalannya secara atomik.
3. Validasi Counterfactual Sebelum Finalisasi Task: Jalankan suite pengujian regresi cepat di counterfactual branch untuk memastikan bahwa perbaikan lokal yang dilakukan agen tidak memecahkan modul dan kapabilitas inti lainnya.