Pydantic AI Shields — Guardrails for Pydantic AI

Main

• 先把预算控住：用 CostTracking(budget_usd=...) 记录 tokens/成本，并在超预算时中止，避免 agent 死循环烧钱。

• 工具权限最关键：ToolGuard(blocked=[...], require_approval=[...]) 让危险工具“根本不出现在模型视野里”或强制审批。

• 输入/输出护栏：InputGuard 提前拦截高风险提示词；OutputGuard 在输出阶段做敏感信息/策略检查。

• 建议分阶段接入：先成本 + 工具白名单，再逐步加输入/输出护栏覆盖最危险的入口。

Source-backed notes

• README 给出 pip install pydantic-ai-shields，并在 Quick Start 中演示 CostTracking、ToolGuard、InputGuard。
• README 说明 CostTracking 可统计 tokens/成本并在超预算时触发 BudgetExceededError。
• README 解释 ToolGuard 可彻底隐藏被 block 的工具，或在调用前通过回调执行审批。

FAQ

• 这是完整的 agent 框架吗？：不是；README 把它定位为 Pydantic AI 的可插拔 capabilities，而不是另起一套 runtime。
• 能彻底禁用某些工具吗？：可以；README 展示 ToolGuard(blocked=[...]) 会把工具从模型工具列表中移除。
• 第一步该加什么护栏？：先加成本统计/预算与工具权限控制，再按风险逐步加输入/输出护栏。