Traduzione automatica · Originale inglese
Benchmarks — Android
RTF (fattore in tempo reale) inferiore a 1,0 significa più veloce del tempo reale.
Android (ONNX Runtime)
Misurato su Android emulatore (arm64-v8a, no NNAPI) . L'hardware reale con NNAPI è significativamente più veloce.
| Modello | Compiti | Audio audio | Inferenza | RTF |
|---|---|---|---|---|
| Parakeet TDT v3 | STT (114 lingue) | 1.5 | 175ms | 0.12 |
| Kokoro 82 | TTS (8 lingue) | 1,9 uscite | 1,075m | 0.58 |
| Silero VAD v5 | VAD | 32ms chunk | < 1ms | <0.01 |
| DeepFilterNet3 | Cancellazione del rumore | 32ms chunk | - 5ms. | ~0.15 |
| Piattaforma | Accelerazione | I set di chip |
|---|---|---|
| Android | NNAPI | Snapdragon 8 Gen 1+, Exynos 2200+, Google Tensor G2+ |
| Escluso Linux | QNN (Hexagon DSP) | SA8295P, SA8255P |
| Qualsiasi | CPU (XNNPACK) | Tutti arm64-v8a / x86_64 |
Nota
I benchmark Android sono di emulatore senza accelerazione hardware. Sul reale hardware Snapdragon con la delegazione NNAPI, aspetta l'inferenza più rapida 2–3x. Dimensione del modello totale: ~1.2 GB (INT8 quantized ONNX).