هيرون — مراقبة الذكاء الاصطناعي من مصدر البيانات نفسه
هيرون هو أداة تحليل سلبي تُراقب حركة بيانات نماذج اللغة الكبيرة (LLM) مباشرةً من مصدرها، وتُعيد بناء ما تفعله الوكلاء الذكية فعلياً — من استدعاءات الأدوات والخطط متعددة الخطوات، إلى تحديد أماكن الاستهلاك الزمني والحلقات التكرارية وعلاقات الاستدعاء بين الوكلاء. لا حاجة لأي SDK، ولا خادم جانبي، ولا وكيل وسيط في مسار الطلب.
أبرز ميزات المنتج
- مراقبة سلبية كاملة: تحليل حركة البيانات من مصدرها دون التدخل في مسار الطلب، مما يضمن عدم تأثر أداء النظام
- إعادة بناء جلسات الوكلاء: تحويل المكالمات المتعددة (مخطط → أداة → مخطط → أداة) إلى جلسات متكاملة قابلة للتتبع
- دعم متعدد المنصات: يعمل على Linux وmacOS مع دعم OpenAI وAnthropic وAzure وvLLM وOllama
- تخزين مرن: خيارات متعددة تشمل DuckDB المدمج، PostgreSQL مع TimescaleDB، وClickHouse للأحجام الكبيرة
- تصدير بيانات التدريب: استخراج مسارات التعلم الخاضع للإشراف (SFT) بتنسيق JSONL جاهز للاستخدام
- مقاييس تشغيلية متقدمة: ثمانية مؤشرات رئيسية تشمل TTFT وE2E وTPOT ومعدل الاستدعاءات ونسبة ذاكرة التخزين المؤقت
- تقنية Rust عالية الأداء: بنية أساسية مكتوبة بلغة Rust تضمن الكفاءة والسرعة
حالات الاستخدام
- تشخيص مشاكل الإنتاج: اكتشاف الحلقات التكرارية في المخططات والاستدعاءات المتوقفة غير المرئية في السجلات التقليدية
- مراقبة الأداء الفعلي: قياس زمن الاستجابة الحقيقي من البداية للنهاية، وليس فقط رمز الحالة 200
- تحليل تكلفة النماذج: تتبع استهلاك الرموز المميزة ونسبة ذاكرة التخزين المؤقت لكل نموذج ومسار
- تدقيق سلوك الوكلاء: فهم من يستدعي من، وكيف تتطور الجلسات متعددة الخطوات
- إعداد بيانات التدريب: استخراج مسارات تفاعل الوكلاء لتدريب نماذج محسّنة
الجمهور المستهدف
يُوجه هيرون لفِرق الهندسة والعمليات التقنية التي تعتمد على وكلاء ذكية في بيئات الإنتاج، وخاصة المهندسين الذين يحتاجون إلى رؤية شاملة لسلوك النماذج دون تعديل التعليمات البرمجية أو إضافة نقاط فشل جديدة للنظام.