RunPod

RunPod 的自我定位是「The AI Developer Cloud」，首页大标题写着「Experiment, train, fine-tune, deploy, scale on one platform」。它把云算力拆成四块产品：Pods 是按需 GPU，官网标注分布在 31 个全球区域；Serverless 用 API 跑 AI 工作负载；Clusters 跑多节点分布式任务；Hub 直接部署开源模型与模板。官网首页还把这个平台描述成「1M+ developers on Runpod」，并列出 Inference、Agents、Fine-Tuning、Compute-Heavy Tasks 四类用例。

核心能力

• Pods（按需 GPU）：独立实例按需拉起，官网定价页公开了各型号单价，例如 B300 为 8.99 美元/小时、H200 5.29、H100 SXM 3.99、A100 SXM 1.79、RTX 5090 1.19、A40 与 A6000 均为 0.59 美元/小时。
• Serverless：官网称按 API 计费的 GPU 端点，冷启动无预热税，适合流量不定的推理服务。
• Global Volumes（Beta）：官网公告显示可把全局卷挂到 Serverless 端点上，worker 在任意数据中心启动，模型权重只存一份随处可读。
• Clusters：多节点 GPU 集群，用于分布式训练等大规模作业。
• Hub：官网提供开源模型与模板的部署入口，另有统一控制台管理自有与平台算力的 Deployments 与 Models。
• 企业级可用性：官网列出托管编排、实时日志与企业级可用性。
• 官方报告与教程：站内提供 State of AI Compute 等数据报告，以及把 27B 决策模型部署到 Serverless 端点的教程。

适合谁

• 要把模型部署成对外 API、且流量时高时低的算法与工程团队，Serverless 尤其合适。
• 需要多区域就近访问、把数据放在特定地区以满足合规要求的团队。
• 做微调与分布式训练、需要多节点互联的研究团队。

使用建议

• 选实例按显存倒推，别只看单价；官网定价页把 Community Cloud 与 Secure Cloud、按时与按秒两种口径分开列，先确认落在哪一档。
• Serverless 的按量计费适合不稳定流量，但要设好并发与超时上限，否则突发请求会直接把账单拉高。
• 上传的数据与模型权重在多区域间的分布规则，是合规评估里最容易被忽略的一环，务必查官方文档确认。
• 用 Global Volumes 时确认挂载与读写权限设置，避免出现跨区读取异常。
• 官网标注价格与新特性（如 Global Volumes 处于 Beta）都可能变动，扩容前再核一次价格页。