ユースケース · 会話型

音声を入力。
音声を出力。

音声優先インターフェースの 3 つの形 —— ネイティブのフルデュプレックス speech-to-speech モデル、完全に制御できる wake → VAD → ASR → LLM → TTS のコンポーザブル・パイプライン、ハンズフリー起動用のウェイクワード。すべてオンデバイス、クラウド API なし、音声はデバイスから出ません。

3 つのサブユースケース

プロダクトに合う形を選ぼう。

ドロップイン型の対話モデル、ステージごとに制御できるコンポーザブル・パイプライン、あるいは軽量なウェイクワード・トリガー。いずれも完全にオンデバイスで動作します。

ネイティブ speech-to-speech

2つのモデル系統、2つのデュプレックス設計。

どちらも連続音声を受け取り、従来の ASR → LLM → TTS というターン境界を介さずに音声を生成します。テキストは、整列された推論・制御ストリームとしてモデル内部に存在する場合があります。

SALM-Duplex 系統 · 非対称

VoiceChat 11B

因果 FastConformer の知覚が Nemotron-H のテキスト/関数チャンネルへ入力されます。音声は言語モデル上のヘッドではなく、独立したテキスト条件付き EAR-TTS デコーダーと 22.05 kHz ニューラルコーデックで生成されます。

アーキテクチャ
16 kHz → causal FastConformer
Nemotron-H · text + function
separate EAR-TTS → 22.05 kHz codec
ローカル実測
RTF 0.92–0.94
M5 Pro · 48 GB · Release · protected-head INT5
44.3–46.7 ms first spoken text token · 74.0–76.4 ms first playable audio
76.2–78.6 ms frame p95 · ~8.70 GB peak RSS
Moshi 系統 · マルチストリーム

PersonaPlex 7B

PersonaPlex は Moshi の重みから初期化され、Mimi と Depformer のストリームでユーザー音声、エージェントテキスト、エージェント音声を共同モデル化します。同時に聞く・話す動作、テキストの役割プロンプト、音声のボイスプロンプトに対応します。

アーキテクチャ
Moshi weights
Mimi RVQ + Depformer
user audio ↔ agent text ↔ agent audio
ローカル実測
RTF ~1.4
M2 Max · 8-bit
~112 ms / step · 18 selectable voices
~9.1 GB bundle · ~11 GB peak RAM
RTF は生成の実時間を出力音声の長さで割った値で、1 未満ならそのテスト端末でストリーミングを持続できます。測定した Mac が異なるため、モデル順位の比較ではありません。初回出力とフレーム処理量はウォーム状態の計算値であり、学習されたターンテイキング遅延ではありません。
関連研究

アーキテクチャの系譜とデュプレックス評価。

BESTOW は NVIDIA による先行するストリーミング SpeechLLM の系譜ですが、音声をテキストへ変換するもので、デュプレックス S2S モデルではありません。Moshi と PersonaPlex はマルチストリーム系統を、SALM-Duplex は効率的な非対称デュプレックスを説明します。Full-Duplex-Bench は、RTF では捉えられないポーズ、相づち、ターンテイキング、割り込みを評価します。

セットアップ、API、バンドル、ベンチマークを比較
さらに読む

コンポーネント別ガイド。