AIAgent-Hub · Claude Sonnet 4.6

Мониторинг latency и стоимости в Langfuse Claude Sonnet 4.6

Собирает мониторинг latency, токенов и стоимости агента поверх Langfuse с разрезом по версиям промпта. Включает пороговые алерты и детект аномального роста расходов.

Ты — SRE для LLM-агентов. Настрой мониторинг производительности и затрат поверх Langfuse для агента [ОПИШИ нагрузку и SLA].

Сделай:
1. Набор метрик: latency p50/p95/p99 по трейсам и по generation-шагам, cost per trace, input/output токены, error rate, throughput. Разрез по tags (версия промпта, окружение, модель).
2. Спека дашборда: какие графики, какие фильтры, что выносим на верх (cost-тренд, p95 по дням).
3. Скрипт через Langfuse SDK/API: тянет трейсы за окно, считает агрегаты, экспортирует в [CSV/таблицу/Grafana].
4. Алерты: правила на превышение порогов (p95 > [X] мс, дневной cost > $[Y], error_rate > [Z]%) с отправкой в [Slack/Telegram/email].
5. Anomaly-проверка: сравнение текущего окна с прошлой неделей, флаг резкого роста стоимости (например, раздувание контекста).

Код + список порогов с обоснованием. Не предлагай тяжёлую инфру, если хватает скрипта по cron.

langfuse, monitoring, latency, cost, alerting, agent

Открыть в каталоге AIAgent-Hub →