Fireworks AI

Fireworks AI 是一个把开源模型跑成生产级服务的推理与训练平台，口号是「拥有你自己的专用智能」。它服务的是要把模型接进业务系统的工程团队，而不是只想试试聊天框的人。

核心能力

• 按量推理：一个端点调用 Kimi、DeepSeek、GLM、Qwen 等主流开源模型，按 token 计费，输入最低 $0.05/1M
• 模型编排：按每一轮任务在多个模型间智能路由，用便宜模型处理常规请求，把贵模型留给关键回合
• 托管训练：上传数据集即可跑 SFT、DPO 与 LoRA 微调，不必自己搭训练集群
• 预留吞吐与私有部署：预留容量带 SLA，Sovereign 可把推理放进你自己的云账号或机房
• 性能工程：官方称吞吐可达封装 vLLM 方案的 4 倍，长任务缓存命中率最高 99.6%
• Nexus 协作端：面向个人与团队的 AI 工作台，月付 $8 起

适用场景 把开源模型接进产品的后端团队、需要压 token 成本的 Agent 与 RAG 项目、要做领域微调的行业团队，以及有数据驻留要求的企业。

独特优势 它和只做 API 转售的聚合层不是一回事：自己改内核、做量化与缓存，还公开对照实验室参考实现的质量校验。模型目录里既有 Kimi、GLM 这类通用模型，也有 Nemotron、gpt-oss 这些开放权重，一家能把推理、编排、训练串成一条线。

编辑评价 适合调用量明确、把成本与质量当工程指标管的团队；个人尝鲜会嫌它太基础设施。没有长期免费额度，先用别家免费额度验证需求更划算。团队采购建议先跑几周按量再谈预留，比一上来签年度合同稳妥。