Heron — Пассивная наблюдаемость агентов на уровне сетевого трафика
Heron — это инструмент пассивного анализа, который перехватывает LLM-трафик непосредственно из сетевого потока и восстанавливает полную картину действий ваших агентов: вызовы инструментов, многошаговые планирования, узкие места производительности, бесконечные циклы и взаимосвязи между компонентами. Никаких SDK, никаких сайдкаров, никаких прокси на пути запроса — только чистая видимость того, что происходит в продакшене.
Ключевые особенности
- Пассивный захват трафика: Анализ пакетов без вмешательства в запросы — Heron никогда не находится на пути запроса и не может сломать то, что наблюдает
- Сборка ходов агента: Автоматическая склейка многошаговых взаимодействий planner → tool → planner в единый адресуемый ход вместо разрозненных HTTP-вызовов
- Полная видимость тел запросов: Доступ ко всем телам запросов и ответов после TLS-терминации — никакой потери контекста
- Мультипровайдерная поддержка: Работа с Claude Code, OpenAI Codex, Hermes, OpenClaw и любыми другими агентами через единый универсальный механизм
- Восемь ключевых метрик: TTFT, E2E, TPOT, RATE, TOK/s, ACTIVE, ERR, CACHE — всё, что нужно для мониторинга LLM-операций
- Нулевое сотрудничество клиентов: Не требует модификации кода приложений, установки SDK или перенастройки инфраструктуры
- Написано на Rust: Высокопроизводительная обработка с zero-copy захватом и lock-free парсингом
Сценарии применения
- Отладка агентов в продакшене: Выявление зацикливаний планировщика, зависающих вызовов инструментов и неожиданных подмен моделей, которые не видны в логах 200 OK
- Оптимизация затрат и производительности: Анализ TTFT, E2E-латентности и cache hit ratio для принятия решений об инфраструктуре и кэшировании
- Создание обучающих датасетов: Экспорт траекторий SFT в формат JSONL — ходы, сессии, вызовы инструментов и результаты готовы к дообучению
- Ретроспективный анализ инцидентов: Воспроизводимый replay захватов .pcap для расследования проблем без риска повторения в живой системе
- Наблюдение за мультиагентными системами: Понимание того, кто кого вызывает, как распределяется время и где образуются узкие места в сложных цепочках взаимодействий
Целевая аудитория
Heron создан для платформенных команд, инженеров по надёжности и разработчиков агентных систем, которым нужна истинная наблюдаемость без компромиссов — без изменения кода, без точек отказа на пути запроса и без слепых зон в понимании поведения LLM-агентов в продакшене.