Heron — Observabilitas Agent dari Jaringan Wire
Heron adalah platform observabilitas pasif yang merekonstruksi aktivitas agent LLM secara langsung dari traffic jaringan. Tanpa memerlukan SDK, proxy, atau modifikasi kode, Heron menganalisis paket data pada wire untuk memvisualisasikan tool calls, multi-step plans, bottleneck waktu, dan loop dalam eksekusi agent — memberikan visibilitas penuh terhadap perilaku agent di produksi.
Keunggulan Produk
- Observabilitas Pasif: Memantau traffic LLM tanpa berada di request path, memastikan zero overhead dan zero risk of failure
- Rekonstruksi Agent Turn: Menyusun ulang interaksi multi-call (planner → tool → planner) menjadi satu unit yang dapat dianalisis
- Dukungan Multi-Provider: Kompatibel dengan Claude Code, OpenAI Codex, Hermes, OpenClaw, serta agent custom
- Metrik Real-Time: Delapan metrik kunci termasuk TTFT, E2E latency, TPOT, token throughput, dan cache hit ratio
- Deployment Fleksibel: Mendukung live capture, replay PCAP, cloud-probe ZMQ, maupun eBPF SSL uprobes
Kasus Penggunaan
- Debugging Produksi: Mengidentifikasi tool call yang stall, planner yang loop antar state, dan retry berlebihan yang tidak terlihat di log HTTP 200 OK
- Optimasi Performa: Menganalisis time-to-first-token dan end-to-end latency untuk mengoptimalkan respons agent
- Training Data Pipeline: Mengekspor trajectory SFT dalam format JSONL untuk fine-tuning model berdasarkan perilaku agent nyata
- Audit dan Compliance: Membangun evidence chain pasif yang tidak dapat dimodifikasi oleh client maupun server
Target Audiens
Heron ditujukan untuk platform engineer, ML engineer, dan tim operasional yang menjalankan agent LLM di skala produksi dan memerlukan visibilitas mendalam tanpa membebani sistem atau mengubah arsitektur yang ada.