什么是 Llama Stack?
Llama Stack 是 Meta 官方 AI 代理开发平台,提供推理、工具调用、RAG、安全护栏、记忆和评估的统一 API。
一句话总结:Llama Stack 是 Meta 官方平台,为 Llama 模型提供推理、工具调用、RAG、安全护栏、记忆和评估 API。
适合人群:使用 Llama 模型构建 AI 代理的团队。支持:Llama 3.3(8B/70B)、Llama 3.1 405B。
核心功能
1. 统一 API
推理、工具调用、RAG、安全、记忆、评估一站式。
2. 代理工作流
内置代理框架,支持多步推理和工具使用。
3. 安全护栏
Llama Guard 内容安全检测。
4. 多后端支持
本地、云端、企业部署统一 API。
5. 评估
内置基准测试和自定义评估。
常见问题
Q: 只支持 Llama 模型吗? A: 主要为 Llama 设计,API 模型无关,社区可扩展。
Q: 生产就绪? A: 是,Meta 内部使用,合作伙伴支持生产部署。
来源与致谢
meta-llama/llama-stack — 12k+ stars, MIT