DeepInfra

DeepInfra は「オープンモデルを速く安く動かす」ことだけを担うサービスです。自前の GPU、自前のデータセンター、自前の推論スタックを持ち、DeepSeek、Qwen、Llama、Kimi、Flux などを OpenAI 互換のエンドポイントで提供します。移行は base_url の変更で済むことが多く、対象はモデルを本番システムへ組み込む開発チームです。

主な機能

• OpenAI 互換 API：150+ のオープンモデルが同じ呼び出し方に従うため、既存の SDK とクライアントはほぼ改修なしで移行できます。
• token 課金：主要モデルの単価は同業の下限にあり、キャッシュに当たった入力は通常の 0.2 から 0.5 倍で済みます。
• 三段階のサービス層：Standard は基準価格、Priority は 1.5 倍で初回 token を速く、Flex は 0.8 倍で非本番処理向けです。
• 専用 GPU：A100 から B300 まで分単位で課金し週次で精算。80 GB を超えるモデルや占有カードが必要な場合に使います。
• DeepCluster：256 から 5000 枚の GPU を完全托管。設計、調達、導入、7x24 の運用まで一括で請けます。
• 企業向けの標準装備：データ無保持、SOC 2 と ISO 27001、米国内に自前で持つ八つのデータセンター。

向いている用途 エージェント製品の大量 token 処理、モデルを専用ホストしたい SaaS、画像や音声の一括推論、パブリッククラウドを自前クラスタで置き換えたい重量級チーム。文章チャットだけなら Web 版で足ります。

際立つ点 価格は補助金ではなく、データセンターと推論スタックを自前で持つことで実現しています。三年契約のクラスタは GPU 時間あたり 3 ドル未満まで下がり、公式の試算ではパブリッククラウドのおよそ半額です。imo のバックエンドを担ったチームでもあり、大規模運用は得意分野です。

編集部の評価 オープンモデルの推論では、価格と安定性の両面で有力な選択肢です。2026 年 5 月の 107,000,000 ドルのシリーズ B に NVIDIA が加わったことも供給の安心材料になります。弱点は汎用の無料枠がないことで、個人開発者は検証費用を自分で負担します。データセンターは米国中心なので、米国以外のトラフィックは遅延を見込む必要があります。