Scripts2026年4月8日·1 分钟阅读

Modal — Serverless GPU Cloud for AI Workloads

Run GPU workloads in the cloud with Python decorators. Modal provides serverless A100/H100 GPUs for model inference, fine-tuning, and batch jobs with zero infrastructure.

AI
AI Open Source · Community
快速使用

先拿来用,再决定要不要深挖

这里应该同时让用户和 Agent 知道第一步该复制什么、安装什么、落到哪里。

pip install modal && modal setup

Python 装饰器把本地函数变成云端 GPU 任务。

什么是 Modal?

Serverless GPU 云平台,Python 装饰器定义云函数,自动 GPU 分配/扩缩/计费。

一句话总结:Serverless GPU 云,Python 装饰器 → 云端 A100/H100,自动扩缩按秒计费,无 Docker/K8s,推理/微调/批处理最简路径。

适合人群:需要云 GPU 但不想管基础设施的 ML 工程师。

核心功能

1. GPU 选择 — T4/A10G/A100/H100,多卡支持

2. 无 Dockerfile — Python 代码定义容器

3. Web 端点 — 一行部署 API

4. 按秒计费 — 无最低消费

常见问题

Q: 冷启动? A: ~30 秒首次,预热容器 <1 秒。

来源与致谢

modal.com — Serverless GPU 云

讨论

登录后参与讨论。
还没有评论,来写第一条吧。

相关资产