Cerebras

Cerebras は「速さ」を売りにする AI インフラ企業です。自社開発のウェハスケールエンジン WSE-3 と CS-4 ラックシステムを持ち、ウェハー全体とオンチップ SRAM によって GPU のメモリ帯域のボトルネックを回避します。自社で基盤モデルを学習することはなく、GPT OSS や Qwen といったサードパーティのオープンウェイトをホストし、OpenAI 互換 API で毎秒 1000 トークン超の推論を提供しています。

主な機能

• ウェハスケールの自社ハードウェア：WSE-3 Turbo は 4,000 billion トランジスタと 90 万コアを単一のシリコンに集積し、ウェハー全体で GPU クラスタを置き換えます
• 圧倒的な推論速度：GPT OSS 120B は約 3000 tokens/s、Qwen 3.8 27B は約 1850 tokens/s とされています
• ごくわずかなコード変更で移行：OpenAI と完全互換で、base_url と api_key を書き換えるだけで切り替えて比較できます
• サードパーティ製オープンモデルのホスティング：公開 API は gpt-oss-120b と qwen-3.8-27b を提供し、企業専用プランでは Llama、Kimi、GLM、DeepSeek などの大きなカタログまで拡張できます
• エンタープライズ向けの提供形態：専用の予約容量、カスタムウェイト、オンプレミス導入、トレーニングクラウドに対応し、データレジデンシーもサポートします

利用シーン リアルタイム音声対話、生成 UI、マルチターンのエージェントツールループなど、レイテンシが増幅される場面に向いています。オープンモデルによる高スループットのバッチ推論や、オンプレミス導入とデータレジデンシーが必要な官公庁・企業のプロジェクトにも適しています。非常に大きなクローズドモデルやセルフサービスでのファインチューニングを必要とするチームには向きません。

独自の強み 同一モデルで比べると、持続スループットは GPU 構成の約 10〜30 倍（ベンダー公称は 30 倍、第三者評価では 10〜20 倍、最大モデルでは 75 倍）で、しかも全精度を維持し蒸留は行いません。競合の Groq はより安価でモデルカタログも広く、Cerebras はレイテンシを極限まで下げる点で優れています。

編集部の評価 速度の優位性は本物で第三者も再現でき、$0.35/M という入口価格と OpenAI 互換性によって試行錯誤のコストはごく低く、レイテンシに敏感な製品にとって第一候補の推論基盤になります。ただし次の三点は受け入れる必要があります。永久無料のプランがないこと（$5 のクレジットは 30 日後に失効します）、公開 API のモデルがふたつだけであること、そして本番グレードの割り当てにはエンタープライズ契約が必要なことです。