Manifest — Smart LLM Router That Cuts Costs 70%

简介

Manifest 是一个智能 LLM 路由器，GitHub 4,200+ star。在你的应用和 LLM 提供商之间工作，对每个请求进行 23 维评分（<2ms），自动路由到最便宜且能胜任的模型 — 最多节省 70% 成本。支持 13+ 提供商的 300+ 模型，自动故障转移和预算控制。适合运行生产级 LLM 应用、想自动优化 API 开支的团队。

Manifest — 智能 LLM 成本优化

工作原理

1. 请求到达 → 23 维复杂度评分（<2ms）
2. 选择最便宜且能力足够的模型
3. 路由到选定的提供商
4. 失败自动切换到备选模型

核心功能

• 300+ 模型，13+ 提供商
• 23 维评分，<2ms 延迟
• 最高 70% 成本节省
• 自动故障转移
• 预算控制
• 透明决策仪表盘

FAQ

Q: Manifest 是什么？ A: 智能 LLM 路由器，23 维评分后路由到最便宜且能胜任的模型，最多节省 70% API 成本。

Q: 免费吗？ A: 核心路由器开源（MIT），可自托管。