Heron .

Heron

Heron, LLM trafiğini ağ kablosundan pasif olarak izleyen ve ajanlarınızın gerçekte ne yaptığını yeniden yapılandıran güçlü bir gözlemlenebilirlik aracıdır. SDK kurulumu, yan konteyner veya istek yolunda proxy gerektirmeden, araç çağrıları, çok adımlı planlar, zaman kayıpları ve döngüler hakkında derinlemesine bilgi sunar. Üretim ortamında kağıt üzerinde iyi görünen ajan kodunun neden çöktüğünü anlamanıza yardımcı olur.

Ürün Öne Çıkanları

• Pasif Ağ Analizi: TLS sonrası düz metin HTTP trafiğini libpcap, eBPF veya cloud-probe üzerinden yakalar; istek yolunda asla bulunmaz
• Ajan Dönüşü Birleştirme: Planlayıcı → araç → planlayıcı → araç gibi çok çağrılı etkileşimleri tek bir adreslenebilir dönüşe diker
• Çerçeveden Bağımsız: Claude Code, OpenAI Codex, Hermes, OpenClaw veya özel ajanlar — tüm LLM API trafiğini aynı şekilde okur
• Rust ile Yazılmış: Sıfır kopya yakalama, kilitsiz yerel ayrıştırma ve yüksek performanslı çok iş parçacıklı işlem
• DuckDB/PostgreSQL/ClickHouse: Gömülü dosyadan kurumsal sütarsal depolamaya kadar esnek veri saklama seçenekleri

Kullanım Alanları

• Üretim Hata Ayıklama: Araç çağrısı takıldığında, planlayıcı iki durum arasında döngüye girdiğinde veya downstream servis sessizce farklı model kullandığında davranışı yeniden yapılandırma
• Performans Optimizasyonu: TTFT, E2E gecikme, TPOT, token/s ve önbellek isabet oranı gibi sekiz kritik metrikle model ve rotaya göre analiz
• Eğitim Verisi Üretimi: SFT yörünge dışa aktarımı ile dönüşler/oturumları messages JSONL formatına dönüştürme; araç çağrıları ve sonuçları yeniden canlandırılmış nesnelere dönüştürülür
• Güvenlik ve Uyumluluk: Tam istek ve yanıt gövdelerini pasif olarak kaydederek denetim izi oluşturma; gözlemci arızalandığında çağrıları bozmaz

Hedef Kitle

Heron, üretimde çalışan LLM ajanlarının davranışını görünür kılmak isteyen platform mühendisleri, DevOps ekipleri, AI/ML operasyon uzmanları ve ajan tabanlı sistemleri izlemek zorunda olan güvenlik profesyonelleri için tasarlanmıştır.