Strojový překlad · Anglický originál
Referenční hodnoty - Android
RTF (faktor reálného času) pod 1.0 znamená rychlejší než reálný čas.
Android (ONNX Runtime)
Měřeno na Android emulátor (arm64-v8a, no NNAPI). Skutečný hardware s NNAPI je výrazně rychlejší.
| Vzor | Úkol | Audio | Důsledky | RTF |
|---|---|---|---|---|
| Parakeet TDT v3 | STT (114 jazyků) | 1.5s | 175ms | 0.12 |
| Kokoro 82M | TTS (jazyky 8) | Výstup 1.9s | 1,075ms | 0.58 |
| Silero VAD v5 | VAD | 32ms kus | & lt; 1ms | <0.01 |
| DeepFilterNet3 | Zrušení hluku | 32ms kus | ~ 5ms | ~0.15 |
| Platforma | Zrychlení | Chipsety |
|---|---|---|
| Android | NNAPI | Snapdragon 8 Gen 1+, Exynos 2200+, Google Tensor G2+ |
| Vložený Linux | QNN (Hexagon DSP) | SA8295P, SA8255P |
| Jakékoliv | CPU (XNPACK) | Všechny arm64-v8a / x86_64 |
Poznámka
Referenční hodnoty Android jsou z emulátoru bez hardwarového zrychlení. Na reálném Snapdragon hardwaru s NNAPI delegátem, očekávejte 2-3x rychlejší inference. Celková velikost modelu: ~ 1.2 GB (INT8 kvantifikovaný ONNX).