Heron  logo

Heron .

Видьте скрытые вызовы LLM без внедрения кода

Пассивный анализатор сети для AI-агентов. Расшифровка TLS-вызовов LLM через eBPF. Без SDK и прокси. Узнайте, что делают ваши агенты.

Недельный ранг
▲ #74
Голоса
111
Платформа
Web / Mobile
Запущено
Recently
Heron  screenshot

Подробнее о Heron

Heron — Пассивная наблюдаемость агентов на уровне сетевого трафика

Heron — это инструмент пассивного анализа, который перехватывает LLM-трафик непосредственно из сетевого потока и восстанавливает полную картину действий ваших агентов: вызовы инструментов, многошаговые планирования, узкие места производительности, бесконечные циклы и взаимосвязи между компонентами. Никаких SDK, никаких сайдкаров, никаких прокси на пути запроса — только чистая видимость того, что происходит в продакшене.

Ключевые особенности

  • Пассивный захват трафика: Анализ пакетов без вмешательства в запросы — Heron никогда не находится на пути запроса и не может сломать то, что наблюдает
  • Сборка ходов агента: Автоматическая склейка многошаговых взаимодействий planner → tool → planner в единый адресуемый ход вместо разрозненных HTTP-вызовов
  • Полная видимость тел запросов: Доступ ко всем телам запросов и ответов после TLS-терминации — никакой потери контекста
  • Мультипровайдерная поддержка: Работа с Claude Code, OpenAI Codex, Hermes, OpenClaw и любыми другими агентами через единый универсальный механизм
  • Восемь ключевых метрик: TTFT, E2E, TPOT, RATE, TOK/s, ACTIVE, ERR, CACHE — всё, что нужно для мониторинга LLM-операций
  • Нулевое сотрудничество клиентов: Не требует модификации кода приложений, установки SDK или перенастройки инфраструктуры
  • Написано на Rust: Высокопроизводительная обработка с zero-copy захватом и lock-free парсингом

Сценарии применения

  • Отладка агентов в продакшене: Выявление зацикливаний планировщика, зависающих вызовов инструментов и неожиданных подмен моделей, которые не видны в логах 200 OK
  • Оптимизация затрат и производительности: Анализ TTFT, E2E-латентности и cache hit ratio для принятия решений об инфраструктуре и кэшировании
  • Создание обучающих датасетов: Экспорт траекторий SFT в формат JSONL — ходы, сессии, вызовы инструментов и результаты готовы к дообучению
  • Ретроспективный анализ инцидентов: Воспроизводимый replay захватов .pcap для расследования проблем без риска повторения в живой системе
  • Наблюдение за мультиагентными системами: Понимание того, кто кого вызывает, как распределяется время и где образуются узкие места в сложных цепочках взаимодействий

Целевая аудитория

Heron создан для платформенных команд, инженеров по надёжности и разработчиков агентных систем, которым нужна истинная наблюдаемость без компромиссов — без изменения кода, без точек отказа на пути запроса и без слепых зон в понимании поведения LLM-агентов в продакшене.