Cerebras

Cerebras 是把「速度」当卖点的 AI 基础设施公司：自研晶圆级引擎 WSE-3 与 CS-4 机架系统，用整片晶圆加片上 SRAM 绕开 GPU 的显存带宽瓶颈。它不训练自己的基础模型，托管的是 GPT OSS、Qwen 等第三方开源权重，以 OpenAI 兼容 API 提供每秒数千 token 的推理。

核心能力

• 晶圆级自研硬件：WSE-3 Turbo 单芯片 4 万亿晶体管、90 万核心，整片晶圆替代 GPU 集群
• 极限推理速度：GPT OSS 120B 标称约 3000 tokens/s，Qwen 3.8 27B 约 1850 tokens/s
• 两行代码迁移：完全兼容 OpenAI 接口，改 base_url 与 api_key 即可切换对比
• 第三方开源模型托管：公共 API 提供 gpt-oss-120b 与 qwen-3.8-27b，企业专属档可扩至 Llama、Kimi、GLM、DeepSeek 等大目录
• 企业级部署形态：专属预留容量、自定义权重、本地机房部署与训练云，支持数据驻留

适用场景 实时语音对话、生成式 UI、多轮 Agent 工具循环等延迟会被放大的场景；也适合开源模型的高吞吐批量推理，以及需要本地部署与数据驻留的政企项目。需要超大闭源模型或自助微调的团队不适合。

独特优势 同模型对比下，持续吞吐约为 GPU 方案的 10–30 倍（厂商口径 30 倍，第三方评测 10–20 倍、最大模型可达 75 倍），且保持全精度、不蒸馏。竞品 Groq 更便宜、模型目录更宽，Cerebras 胜在把延迟压到极限。

编辑评价 速度优势真实且可被第三方复现，$0.35/M 的起步单价配 OpenAI 兼容，试错成本极低，是延迟敏感产品的首选推理底座。但要接受三点：没有永久免费档（$5 赠金 30 天过期）、公共 API 仅两个模型、生产级配额需谈企业合同。