Configs2026年4月6日·1 分钟阅读

Cloudflare AI Gateway — LLM Proxy, Cache & Analytics

Free proxy gateway for LLM API calls with caching, rate limiting, cost tracking, and fallback routing across providers. Reduce costs up to 95% with response caching. 7,000+ stars.

AI
AI Open Source · Community
快速使用

先拿来用,再决定要不要深挖

这里应该同时让用户和 Agent 知道第一步该复制什么、安装什么、落到哪里。

  1. 在 Cloudflare 控制台创建 AI Gateway
  2. 替换 API base URL:
client = OpenAI(
    base_url="https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway}/openai"
)

简介

Cloudflare AI Gateway 是一个免费的 LLM API 代理网关,GitHub 7,000+ stars。提供缓存、限流、成本分析和故障转移路由。缓存响应可降低最高 95% 的 LLM 成本。适合在生产环境运行 LLM 应用需要成本控制的团队。


🙏

来源与感谢

Created by Cloudflare. Licensed under Apache 2.0.

ai-gateway — ⭐ 7,000+

讨论

登录后参与讨论。
还没有评论,来写第一条吧。

相关资产