Benchmarks — Android
RTF(リアルタイム係数)が1.0未満の場合、リアルタイムより高速であることを意味します。
Android (ONNX Runtime)
Androidエミュレーター(arm64-v8a、NNAPIなし)で測定。NNAPIを備えた実機ハードウェアでは大幅に高速になります。
| モデル | タスク | 音声 | 推論 | RTF |
|---|---|---|---|---|
| Parakeet TDT v3 | STT (114言語) | 1.5s | 175ms | 0.12 |
| Kokoro 82M | TTS (7言語) | 1.9s 出力 | 1,075ms | 0.58 |
| Silero VAD v5 | VAD | 32ms チャンク | <1ms | <0.01 |
| DeepFilterNet3 | ノイズキャンセリング | 32ms チャンク | 約5ms | 約0.15 |
| プラットフォーム | アクセラレーション | チップセット |
|---|---|---|
| Android | NNAPI | Snapdragon 8 Gen 1+、Exynos 2200+、Google Tensor G2+ |
| Embedded Linux | QNN (Hexagon DSP) | SA8295P、SA8255P |
| 任意 | CPU (XNNPACK) | すべての arm64-v8a / x86_64 |
注記
Androidベンチマークはハードウェアアクセラレーションなしのエミュレーターからのものです。NNAPIデリゲーションを備えた実際のSnapdragonハードウェアでは、2〜3倍高速な推論が期待できます。モデルの合計サイズ:約1.2 GB(INT8量子化ONNX)。