什么是 LitGPT?
Lightning AI 的 LLM 微调和部署框架,支持 20+ 模型族,LoRA/QLoRA/全量微调,消费级 GPU 可用。
一句话总结:LLM 微调框架,20+ 模型族,LoRA/QLoRA 消费级 GPU 可训练,一键下载/微调/部署,Lightning AI 出品,10k+ stars。
适合人群:在自有硬件上微调开源模型的 ML 工程师。
核心功能
1. 一键工作流
download/chat/finetune/serve 四步搞定。
2. 消费级可用
QLoRA 仅需 6GB VRAM,RTX 3060 可训练 7B 模型。
常见问题
Q: 和 Unsloth 比? A: Unsloth 单卡 LoRA 更快,LitGPT 模型族更多且支持多卡和预训练。
来源与致谢
Lightning-AI/litgpt — 10k+ stars, Apache 2.0