Together AI

Together AI は 2022 年にサンフランシスコで設立された AI Native Cloud で、オープンウェイトモデルを本番運用でき、ファインチューニングも可能なインフラに仕上げます。基盤モデルは自社開発せず、38 社のモデルラボの 200+ のオープンウェイトをホストし、推論エンジン、カーネル、GPU スケジューリングを自社で研究開発して、単位コストに責任を持つ開発者とチームに提供します。

コア機能

• Serverless 推論：OpenAI 互換で、base_url を差し替えるだけで 200+ モデルを実行でき、移行コストはゼロです
• Batch バッチ推論：オフライン処理を非同期で投入でき、料金はおよそ半額。評価やデータ生成に向いています
• プロビジョンドスループット（PTU）：$0.05 / PTU / 分、最低契約期間は 1 か月で、最低スループットと 99% SLA を確保します
• 専用インスタンスと GPU クラスタ：シングルテナントの H100/B200 からベアメタルまで、プリエンプティブの H100 は $1.99/GPU 時間から
• ファインチューニングとポストトレーニング：SFT、DPO、独自の強化学習をワンストップで提供し、SFT は 1M 学習 tokens あたり $0.34 から
• システム層の自社開発：FlashAttention-4、ThunderKittens、ATLAS が製品に組み込まれ、同じモデルがより速く安くなります

向いている場面 本番環境で DeepSeek、Qwen、GLM、Kimi、Llama を動かすプロダクトチーム。月額請求が数千から数万ドル規模で、単位コストを精査する必要があるエンジニアリング責任者。ファインチューニングからデプロイまでの閉ループとデータコンプライアンスを求める規制業界。短期間に大量の GPU を訓練や RL rollout に使いたいチーム。

独自の強み OpenRouter は再販レイヤーで自前の GPU を持ちません。Fireworks はレイテンシが低い代わりに割高で、Groq は速いもののモデル数は十数個にとどまります。Together AI の違いは自前の計算資源と自社カーネルにあり、推論、ファインチューニング、クラスタをひとつの請求にまとめ、価格は公開されて計算でき、$1.15B の bookings と IBM との $240M の長期契約が裏付けになっています。

編集部の評価 オープンモデルのホスティングでは、主力ベンダーとして挙げる価値のある二、三社のうちの一社です。コミュニティの評価は「速い、安い、安心して tokens を流せる」で、減点はすべてガバナンス面にあります。無料トライアルがなく最初に $15 をチャージする必要があり、モデルの提供終了は予告なし、レート制限と返金には繰り返し不満が出ており、フラッグシップモデルの初回トークン遅延も Groq や Fireworks に後れを取っています。