Configs2026年4月7日·1 分钟阅读

Llama Stack — Meta AI Agent Development Platform

Meta's official framework for building AI agents with Llama models. Includes tool calling, RAG, safety guardrails, memory, and evaluation in a unified API.

AI
AI Open Source · Community
快速使用

先拿来用,再决定要不要深挖

这里应该同时让用户和 Agent 知道第一步该复制什么、安装什么、落到哪里。

pip install llama-stack
llama stack build --template local --name my-stack
llama stack run my-stack

三步启动 Llama Stack 本地服务器。

什么是 Llama Stack?

Llama Stack 是 Meta 官方 AI 代理开发平台,提供推理、工具调用、RAG、安全护栏、记忆和评估的统一 API。

一句话总结:Llama Stack 是 Meta 官方平台,为 Llama 模型提供推理、工具调用、RAG、安全护栏、记忆和评估 API。

适合人群:使用 Llama 模型构建 AI 代理的团队。支持:Llama 3.3(8B/70B)、Llama 3.1 405B。

核心功能

1. 统一 API

推理、工具调用、RAG、安全、记忆、评估一站式。

2. 代理工作流

内置代理框架,支持多步推理和工具使用。

3. 安全护栏

Llama Guard 内容安全检测。

4. 多后端支持

本地、云端、企业部署统一 API。

5. 评估

内置基准测试和自定义评估。

常见问题

Q: 只支持 Llama 模型吗? A: 主要为 Llama 设计,API 模型无关,社区可扩展。

Q: 生产就绪? A: 是,Meta 内部使用,合作伙伴支持生产部署。

来源与致谢

meta-llama/llama-stack — 12k+ stars, MIT

讨论

登录后参与讨论。
还没有评论,来写第一条吧。