Langfuse

面向生产环境 LLM 应用的开源追踪、评估与提示词管理平台。

适合谁

上线了 LLM 功能、需要看清每次调用做了什么、花了多少、为何失败的团队。

为什么值得关注

Langfuse 把每次 LLM 请求记录成带嵌套 span 的 trace，包含提示词、输出、token 数与延迟，因此排查一个坏回答或失控成本时打开一条 trace 就够了，不必翻日志。它还提供提示词版本管理与演练场、数据集与自动评估，以及成本与质量随时间变化的看板。它兼容 OpenTelemetry，并有 Python、TypeScript 与主流框架的 SDK。自托管是一套包含 Postgres、ClickHouse 与 Redis 的 Docker Compose 栈；云端有可用的免费档。GitHub 约 3.7 万星，几乎每周都有新版本。要注意：自托管是真实的多服务部署，评估功能也需要一些配置上的自律。