RunPod

RunPod は自らを「The AI Developer Cloud」と称し、AI/ML チーム向けにオンデマンドの GPU 計算資源とマネージド Serverless 推論を提供し、開発者が訓練・微調整・デプロイを一か所で完結できるようにする。基盤モデルは自社開発せず、計算基盤とランタイムのスケジューリングに専念している。

主な機能

• Pods（GPU クラウドインスタンス）: 30+ 種類の GPU SKU を用意し、RTX 4090 から B300 まで 31 リージョンに展開、秒単位課金
• Serverless: API 経由で推論ワークロードを実行し、scale-to-zero と自動スケーリングに対応、FlashBoot のコールドスタートは 200ms 未満
• Clusters: 分散訓練向けのマルチノード GPU クラスタ。64 GPU まで拡張でき、InfiniBand/RoCE 相互接続を備える
• Hub / Public Endpoints: オープンソースモデルとテンプレートをワンクリックでデプロイし、サードパーティモデルの事前デプロイ済み API もホスト
• 二つのクラウド層: Secure Cloud（エンタープライズ向け T3/T4）と Community Cloud（より低価格）を選択可能
• 自社開発ランタイム: 独自の Serverless オーケストレーションとキュースケジューリング、Flash SDK、Instant Clusters、リージョン間フェイルオーバー

想定用途 ML エンジニア、AI 研究者、生成 AI スタートアップ、柔軟な GPU 計算資源を必要とする B2B チームに適しており、特に突発的な推論、モデルの微調整、マルチノード訓練に向く。ゼロ運用のフルマネージド ML プラットフォームを求めるチームには向かない。

独自の強み Vast.ai よりも信頼性が高く Serverless を標準搭載し、Lambda Labs や Modal よりも計算資源と二つのクラウド層の柔軟性で優れる。秒単位課金で ingress/egress 費用はなく、FlashBoot によりリクエスト単位の推論が本番運用に耐える。

編集部評価 高いコストパフォーマンス、秒単位課金、ライフサイクル全体のカバーによって GPU クラウド市場での地位を確立し、OpenAI Model Craft の計算パートナーであり、ISO 27001、SOC 2、HIPAA、GDPR の裏付けもある。減点要素は Community 層の安定性と課金の透明性をめぐる議論で、「フルスタック ML プラットフォーム」ではなく「裸の計算基盤」と捉えるべきだ。