简介
LiteLLM 是一个统一的 Python SDK 和代理服务器,为 100+ LLM 提供商提供单一 OpenAI 兼容 API,GitHub 18,000+ stars。在 OpenAI、Anthropic、Azure、Bedrock 等之间无缝切换,无需修改代码。适合运行多模型策略的团队。
Unified API proxy for 100+ LLM providers including OpenAI, Anthropic, Bedrock, Azure, and Vertex AI. Drop-in OpenAI replacement with load balancing and spend tracking. 18,000+ GitHub stars.
这里应该同时让用户和 Agent 知道第一步该复制什么、安装什么、落到哪里。
pip install litellmexport ANTHROPIC_API_KEY=sk-ant-...from litellm import completion
response = completion(model="claude-sonnet-4-20250514", messages=[{"role": "user", "content": "你好"}])LiteLLM 是一个统一的 Python SDK 和代理服务器,为 100+ LLM 提供商提供单一 OpenAI 兼容 API,GitHub 18,000+ stars。在 OpenAI、Anthropic、Azure、Bedrock 等之间无缝切换,无需修改代码。适合运行多模型策略的团队。