Maskinoversættelse · Engelsk original
Benchmarks - Android
RTF (realtidsfaktor) under 1.0 betyder hurtigere end realtid.
Android (ONNX Runtime)
Målt den Android emulator (arm64-v8a, no NNAPI). Real hardware med NNAPI er betydeligt hurtigere.
| Model | Opgave | Lyd | Inferens | RTF |
|---|---|---|---|---|
| Parakeet TDT v3 | STT (114 sprog) | 1.5s | 175ms | 0.12 |
| Kokoro 82M | TTS (8 sprog) | 1.9s output | 1,075ms | 0.58 |
| Silero VAD v5 | VAD | 32ms stk. | & lt; 1ms | <0.01 |
| DeepFilterNet3 | Støjaflysning | 32ms stk. | ~ 5ms | ~0.15 |
| Platform | Acceleration | Chipsets |
|---|---|---|
| Android | NNAPI | Snapdragon 8 Gen 1+, Exynos 2200+ og Google Tensor G2 + |
| Indlejret Linux | QNN (hexagon DSP) | SA8295P, SA8255P |
| Alle | CPU (XNNPACK) | Alle arm64-v8a / x86_64 |
Bemærkning
Android benchmarks er fra emulator uden hardware acceleration. På ægte Snapdragon hardware med NNAPI delegation, forvente 2- 3x hurtigere inferens. Total modelstørrelse: ~ 1.2 GB (INT8 kvantiseret ONNX).