Benchmarks — Android

RTF(リアルタイム係数)が1.0未満の場合、リアルタイムより高速であることを意味します。

Android (ONNX Runtime)

Androidエミュレーター(arm64-v8a、NNAPIなし)で測定。NNAPIを備えた実機ハードウェアでは大幅に高速になります。

モデルタスク音声推論RTF
Parakeet TDT v3STT (114言語)1.5s175ms0.12
Kokoro 82MTTS (7言語)1.9s 出力1,075ms0.58
Silero VAD v5VAD32ms チャンク<1ms<0.01
DeepFilterNet3ノイズキャンセリング32ms チャンク約5ms約0.15
プラットフォームアクセラレーションチップセット
AndroidNNAPISnapdragon 8 Gen 1+、Exynos 2200+、Google Tensor G2+
Embedded LinuxQNN (Hexagon DSP)SA8295P、SA8255P
任意CPU (XNNPACK)すべての arm64-v8a / x86_64
注記

Androidベンチマークはハードウェアアクセラレーションなしのエミュレーターからのものです。NNAPIデリゲーションを備えた実際のSnapdragonハードウェアでは、2〜3倍高速な推論が期待できます。モデルの合計サイズ:約1.2 GB(INT8量子化ONNX)。