什么是 Helicone?
开源 LLM 可观测性平台,代理模式一行集成。请求日志、成本追踪、缓存、限流和提示词版本管理。
一句话总结:开源 LLM 可观测性平台,一行代理集成(改 base URL),日志、成本、缓存、限流全覆盖,5k+ GitHub stars。
适合人群:生产环境运行 LLM 应用需要无侵入可观测性的团队。
核心功能
1. 零 SDK 集成
只改 base URL,支持 OpenAI、Anthropic、Azure。
2. 实时仪表盘
请求、延迟、成本、错误率一览。
3. 缓存和限流
Header 开启,无需代码修改。
4. 可自托管
Docker Compose 一键部署。
常见问题
Q: 延迟开销? A: 代理增加 < 50ms,异步日志。
Q: 支持 Claude?
A: 支持,base URL 改为 anthropic.helicone.ai。
来源与致谢
Helicone/helicone — 5k+ stars, Apache 2.0