MiniCPM-o 4.5:コンシューマーGPUで動く全二重オールモーダルAIアシスタント

·Toolin 編集部

ModelBestがオープンソース化した9Bパラメータの全二重オールモーダルモデル。12GBのVRAMでローカル実行が可能で、見ながら聞いて話すことに対応。オンラインDemoとワンクリックインストーラー付きです。

MiniCPM-o 4.5:コンシューマーGPUで動く全二重オールモーダルAIアシスタント

ネット接続不要、コンシューマー向けグラフィックボード1枚だけで、パソコン上に「見ながら・聞きながら・話し、さらに能動的にリマインドもする」人間のようなAIアシスタントを持てます。これは絵空事ではなく、MiniCPM-o 4.5がすでに、あなたのパソコンで直接動かせるものにしています。

MiniCPM-o 4.5は、ModelBestが清華大学と共同で発表した、業界初のエンドツーエンド全二重・オールモーダル大規模モデルです。わずか9Bのパラメータ規模でありながら、マルチモーダル知覚+ストリーミング音声対話の完全なクローズドループを実現しました。Hugging Faceでのモデルのダウンロード数はすでに25万+に達しています。

MiniCPM-o 4.5とは

簡単に言えば、同時に「動画を見る、音を聞く、話して返答する、能動的にリマインドする」ができるAIアシスタントモデルです。従来の大規模モデルとの最大の違いは次のとおりです。

  • 全二重対話:相手が話し終わるのを待つ必要がなく、いつでも割り込んで話しかけられ、それをリアルタイムに感知します
  • オールモーダル:動画、音声、テキストの入力+テキスト、音声の出力を、1つのモデルで全部こなします
  • オフラインで利用可能:すべてローカルで動き、データはあなたのパソコンの外に出ません

体験方法

方法1:オンラインDemo(ハードルゼロ)

登録もダウンロードも不要で、ブラウザを開くだけで体験できます。

Demoは3つの対話モード——従来のターン制対話、音声全二重対話、動画全二重対話——を紹介しており、Promptや参照音声などのパラメータも完全に調整できます。

方法2:ワンクリックインストーラーComni(推奨)

ModelBestはWindows/macOSのデスクトップインストーラーを提供しており、モデルのダウンロード、環境のインストール、Demoの実行機能が統合されています。

Windows版:

macOS版:

方法3:無料API

APIエンドポイント:https://api.modelbest.cn/minicpmo45/v1/

現在は無料で公開されており、オールモーダル・全二重のリアルタイム対話に対応しています。対話ターンの制御にVAD機構は不要です。APIドキュメント:https://api.modelbest.cn/minicpmo45/docs

方法4:オープンソースコードで自前デプロイ

Demoのフロントエンド・バックエンドコードは完全にオープンソース化されています:https://github.com/OpenBMB/MiniCPM-o-Demo

Linuxユーザーはコードリポジトリをクローンして完全なDemoサービスをデプロイできます。これは、ローカルにデプロイ可能な全二重・オールモーダル対話デモプロジェクトの最初期の1つです。

中核技術:Omni-Flowストリーミング・オールモーダルフレームワーク

MiniCPM-o 4.5の中核的な突破は、Omni-Flowストリーミング・オールモーダルフレームワークです。共有されるミリ秒単位のタイムラインを作り出し、視覚、音声、言語などのすべての情報ストリームをタイムスライスへ正確に整列させます。モデルは毎秒1回という高頻度で環境認知を更新し続け、いつ話すか、いつリマインドするかを自律的に判断します。

モデルアーキテクチャは4つの大きなモジュールで構成されます。

  • 視覚エンコーダー(0.4B):SigLIP-ViT。「見る」を担当
  • 音声エンコーダー(0.3B):Whisper-Medium。「聞く」を担当
  • LLMベース(8B):Qwen3-8B。「考える」を担当
  • 音声Tokenデコーダー(~0.3B):軽量なLlamaアーキテクチャ。テキストから音声への変換を担当

パフォーマンス

9Bパラメータと侮ってはいけません。MiniCPM-o 4.5は複数の次元で際立った成績を収めています。

  • 視覚能力:OpenCompass総合スコア77.6、MMBench英語スコア87.6で、Gemini 2.5 Flashに匹敵
  • オールモーダル対話:Daily-Omni、Video-Holmesなどの評価でGemini 2.5 FlashとQwen3-Omniを全面的に上回る
  • 推論効率:INT4量子化版はVRAM 12GBだけで動き、デコード速度は212 tokens/sに達し、Qwen3より40%+速い
  • 音声生成:中国語・英語の音声生成品質と感情表現力はいずれもCosyVoice2を上回る

活用シーン

MiniCPM-o 4.5の全二重能力は、従来のターン制対話モデルでは務まらない一連のシーンを解放します。

  • 能動的なパートナー:料理、修理、運動中にリアルタイムで指導とリマインド
  • バリアフリー支援:視覚障害者の「目」となり、環境を観察し続け、重要な情報を能動的に読み上げる
  • スマートコックピット:道路状況とドライバーの状態を継続的に監視し、安全警報を能動的に発する
  • 身体性知能:ロボットの「脳」として、動的な環境を捉え続け、自律的に意思決定する

関連リンク

関連記事

Loop Engineering 実践ガイド:32ページのオレンジブックが無料でオープンソース化
AIチュートリアル

Loop Engineering 実践ガイド:32ページのオレンジブックが無料でオープンソース化

『Loop Engineeringオレンジブック』が発表。ループエンジニアリングの概念、5ステップのワークフロー、6つの核心パーツを体系的に解説し、Claude Codeの実践コマンドも付属。GitHubと微信読書(WeRead)で無料で読めます。

Toolin 編集部
UniRL:Tencent Hunyuanがオープンソース化するマルチモーダルRL訓練フレームワーク
AI製品

UniRL:Tencent Hunyuanがオープンソース化するマルチモーダルRL訓練フレームワーク

Tencent Hunyuanの龐天宇チームがUniRLをオープンソース化。1つのフレームワークで画像、動画、LLMなどマルチモーダル生成モデルの強化学習訓練を統一し、SD3、HunyuanVideo、Qwenなどの主要モデルに対応します。

Toolin 編集部
Codex /goal 自律タスクスケジューリング完全ガイド
AIチュートリアル

Codex /goal 自律タスクスケジューリング完全ガイド

一言の意図で Codex がタスクを自律的に分解し、サブエージェントを派生。18時間で14個の機能開発を完了させる使い方と、設定チュートリアル・落とし穴回避ガイド付き

Toolin 編集部
Cursor:VS Code 挑戦者から 40 億ドル規模の AI コーディング巨人へ
AI製品

Cursor:VS Code 挑戦者から 40 億ドル規模の AI コーディング巨人へ

Cursor のコア機能、自社開発モデル Composer 2.5、SpaceX とのコンピューティングリソース提携、そして Fortune 500 企業の 60% への普及ぶりを深く解説

Toolin 編集部
AgentDoG 1.5:オープンソースの AI Agent セキュリティ診断・ガードレールフレームワーク
AI製品

AgentDoG 1.5:オープンソースの AI Agent セキュリティ診断・ガードレールフレームワーク

上海AI実験室がオープンソース公開した軽量 Agent セキュリティツール。3 次元診断で実行軌跡のリスクを分析し、オンラインガードレールとしてのデプロイをサポート

Toolin 編集部
AI Agent に自動で案件を受注させて稼がせる:ClawHunt 実践ガイド
AIチュートリアル

AI Agent に自動で案件を受注させて稼がせる:ClawHunt 実践ガイド

Agent のデプロイからタスクへの自動入札まで、ClawHunt プラットフォームで AI Agent が仕事を受けて稼ぐ全フローを完全分解

Toolin 編集部